Gerling wurde am 8. Oktober 1922 in Magdeburg geboren und besuchte die erste Wilhelmstädter Volksschule und später das Wilhelm-Raabe-Gymnasium. Nach dem Abitur wurde er zum Wehrdienst eingezogen und konnte erst nach dem Zweiten Weltkrieg seine berufliche Ausbildung als Maurer beginnen. 1949 schloss Gerling das Studium als Ingenieur für Bauwesen ab. 1951 heiratete er seine Ehefrau Inge Müller. Er arbeitete unter anderem als Hochbauingenieur in der väterlichen Firma „Gerling & Rausch OHG“, bei dem Industrieofenbau VULKAN in Berlin, eröffnete hierzu ein Zweigbüro in Magdeburg, gründete einen eigenen Handwerksbetrieb und übernahm später die Firma „Gerling & Rausch“.

Am 19. Mai 2001 verstarb Heinz Gerling im Alter von 79 Jahren in Magdeburg. Sein Ehrenbürgergrab befindet sich auf dem Westfriedhof.