Horst Kowalak wurde am 1. September 1939 in Bitterfeld geboren. Nach der Flucht seiner Eltern und Geschwister 1950 über Westberlin nach Xanten folgte er ihnen wenig später an den Niederrhein und beendete dort die Volksschule. Danach besuchte er die Handelsschule in Moers und absolvierte bis 1958 eine Ausbildung zum Industriekaufmann im Hüttenwerk Rheinhausen. Hier war er anschließend bis 1965 im Einkauf tätig.
Seit 1952 engagierte sich Kowalak in der katholischen Jugend, für die er Seminare besuchte und Gruppen leitete. Nach dem Bundestagswahlkampf 1957 trat er in die CDU ein, wenig später in die Christlich-Demokratische Arbeitnehmerschaft (CDA). Noch während der Ausbildung wurde er zudem Mitglied der IG Metall.
1965 begann Kowalak eine hauptamtliche Tätigkeit als Angestelltensekretär des Deutschen Gewerkschaftsbundes (DGB) in Essen, ab 1967 war er in Düsseldorf tätig. 1969 wechselte er als Referatsleiter der Abteilung Berufliche Bildung zur DGB-Bundesvorstandsverwaltung. Von 1974 bis 2000 war Kowalak schließlich Leiter der Abteilung Bildung. Zwischenzeitlich war er auch als Vorstandssekretär tätig.