Herman werd op 6 augustus 1081 door de edelen van Zwaben en Saksen tot Duits tegenkoning verkozen, in opvolging van Rudolf van Rheinfelden. Deze Rudolf was op 15 maart 1077 tot (eerste) tegenkoning gekozen tegen Hendrik IV (koning van Duitsland vanaf 1956, Rooms-Duis Keizer vanaf 1084). In tegenstelling tot deze Rudolf was Herman I een compromisfiguur die naar voren kwam in de machtsstrijd tussen de verschillende fracties van de opstandelingen.
Vijf dagen later versloeg Herman hertog Frederik I van Zwaben bij Höchstädt an der Donau. Herman belegerde daarna de stad Augsburg maar moest dat beleg na drie weken opgeven. Hij trok naar Saksen en werd in Eisleben als koning gehuldigd. Op 26 december 1081 werd hij in Goslar gekroond door de bisschop van Mainz.
In 1083 maakte Herman plannen voor een veldtocht naar Italië. Hij verzamelde een leger aan de Donau maar zag zijn van zijn plannen af nadat Otto I van Northeim, zijn belangrijkste veldheer, overleed. Hendrik IV kwam in 1084 terug uit Italië, waar hij tijdesn Herman's verkiezing tot tegenkoning verbleef. Herman moest voor hem wijken en vluchtte naar Denemarken. Herman keerde in 1086 terug en belegerde, samen met Welf IV van Beieren, de stad Würzburg (stad). Op 11 augustus versloeg hij Hendrik die de stad wilde ontzetten. Herman en Welf veroverden Würzburg. Toen Hendrik met een groot leger terugkwam, verlieten ze de stad. Herman en Welf trokken ongehinderd door Beieren en veroverden Augsburg.
Herman kreeg er uiteindelijk genoeg van om als tegenkoning een speelbal in de handen van de grote Zwabische en Saksische edelen te zijn. Hij werd door hen niet als koning en niet eens als gelijke behandeld, alle beslissingen werden zonder hem genomen. Herman trok zich in 1086 terug op zijn eigen bezittingen en bemoeide zich alleen nog maar met zijn eigen zaken. Op 28 september 1088 werd hij, bij de bestorming van de burcht van Cochem, getroffen door een steen en kwam daarbij om het leven.
