H. Groß, In der Altstadt