1962 fing Herbert Ulonska mit 13 Jahren beim Norddeutschen und Flottbeker Reiterverein in Hamburg, dem Veranstalter des jährlichen Springderbys, auf Schulpferden an zu reiten. 1965 stellte ihm sein Großvater ein dreijähriges Pferd zur Verfügung, dass er bis 1970 erfolgreich im Turniersport vorstellte. Es folgte eine 11jährige Reit-und Turnierpause zugunsten der beruflichen Ausbildung, des Fachstudiums und der Firmengründung. 1982 ging es mit dem Reiten und dem Turniersport weiter. Ab 1990 betrieb Ulonska 18 Jahre lang einen eigenen Springstall auf der Anlage von Achaz von Buchwaldt in Hamburg-Falkenstein. Bereits 1990 gründete der Inhaber einer Immobilien- und Vermögensverwaltungsfirma die Turnierveranstaltungsagentur Equestrian Sports Events (ESE). Im selben Jahr – noch vor der Währungsumstellung – richtete er in Rostock-Dummersdorf ein internationales Turnier aus. 2011 kaufte er von Magdalene Hell, Witwe des Gestütsgründers Maas J. Hell,  die Hengststation Maas J. Hell, eine der erfolgreichsten und bedeutendsten im Holsteiner Zuchtgebiet.
Den ersten Erfolg in der schweren Klasse S feierte Ulonska 1993 auf dem CSI Rostock. In Klasse S folgten bis heute 280 Platzierungen, darunter 13 Siege, u.a. mit den Pferden Landsturm, Class de Luxe, Zanzibar und Evolution. Ein ganz besonders Pferd ist für den 73jährigen der Hengst Fantasio, den er 2010 siebenjährig über Holger Wulschner kaufte und mit dem er allein in Klasse S  91 Platzierungen und Siege erreiten konnte.
Über 1100 Platzierungen konnte Herbert Ulonska in seiner reiterlichen Karriere verzeichnen. 2020 verlieh FN-Präsident Breido Graf zu Rantzau ihm das Deutsche Reiterkreuz in Silber der Deutschen Reiterlichen Vereinigung (FN). Nun, am 14.1.2023, überreichte ihm der Präsident des Landesverband der Reit- und Fahrvereine Hamburg e.V., Franz Peter Bockholt, das Goldene Reitabzeichen. Und natürlich drehte Herbert Ulonska in der Graf von Lindenau-Halle mit seinem jetzt 19 Jahre alten Hengst Fantasio, der auch für die Zucht anerkannt ist, eine bejubelte Ehrenrunde.