Schüler der Berliner Akademie unter Eduard Daege, Otto Knille und Karl Gussow. 1880 ging Herrmann auf die Akademie nach Düsseldorf zu Eugen Dücker. Alljährliche Studienwanderungen nach Holland, was auch sein ihm eigenes Gebiet blieb: Holland mit seiner dunstigen Luftstimmung und dem malerischen Volksleben seiner Hafenstädte. Erster großer Erfolg 1886 auf der Internationalen Ausstellung in Berlin. 1892 fand er sich mit Liebermann, Leistikow, L.v.Hofmann, Müller-Kurzwelly u.a. zur Gruppe der "Elf" zusammen. 1896 Mitglied der Berliner Akademie, mehrmals durch Medaillen ausgezeichnet. Der sehr fruchtbare Künstler hat in vielen hundert Gemälden und Aquarellen die holländischen Straßenszene und Landschaft gepflegt. Er erstrebte den Gesamteindruck im Sinne eines gemäßigten Impressionismus und bindet das Vielerlei der Erscheinung gern durch die holländische feuchte atmosphärische Stimmung, um seine häufig wiederkehrenden Farbenstellungen, Gelb, Blau, ein fahles Rot daraus hervorleuchten zu lassen. 1918 gab Hermanns 60. Geburtstag mit einer Sonderausstellung im Berliner Künstlerhaus Anlaß zu einer umfassenden Würdigung seines Werkes.  Herrmann war in zahlreichen großen nationalen und internationalen Kunstausstellungen vertreten.