Pracując w Bytomiu wybrał się na trening sekcji podnoszenia ciężarów w klubie LZS Wieszowa. Warunki były bardzo trudne, wręcz spartańskie, zawodnicy ćwiczyli w cegielni, w powietrzu unosił się bez przerwy pył. Los zadecydował, że trafił potem do Tarnowskich Gór, a z nich do Nysy, dokąd wysłała go „matka armia”, stamtąd do Oficerskiej Szkoły Inżynieryjnej we Wrocławiu, tak trafił do stolicy Dolnego Śląska, co zdeterminowało jego dalsze losy, także te sportowe. Decydujące dla jego dalszej sportowej kariery stało się spotkanie z legendarnym trenerem Klemensem Roguskim prowadzącym kadrę narodową. Zobaczył nieznanego mu wcześniej atletę podczas zawodów, a od razu zaprosił na zgrupowanie reprezentacji Polski! Tak rozpoczęła się wielka przygoda z podnoszeniem ciężarów chłopaka z Zakliczyna.
W swoim bogatym sportowym CV mógł się pochwalić między innymi brązowymi medalami mistrzostw świata oraz Europy, był też rekordzistą świata w nierozgrywanej już od dawna konkurencji – tzw. wyciskaniu. Ale największym sukcesem był olimpijski „brąz” wywalczony w Meksyku w 1968 roku. Główną przeszkodą był… kolega z reprezentacji, doskonały zawodnik, mistrz olimpijski z Rzymu Ireneusz Paliński. Dźwigali w tej samej kategorii wagowej. Po wielu latach opowiadał dziennikarzowi Gazety Wrocławskiej: – W 1967 nastąpił przełom mojej walki z Palińskim. W Lublinie były MP, generalna przymiarka przed igrzyskami. Ja je wygrałem, zostałem zresztą najlepszym zawodnikiem imprezy. Na późniejszy turniej przedolimpijski pojechaliśmy razem, a prezes Przedpełski powiedział, że który wygra, poleci do Meksyku. I również zwyciężyłem. Rywal był niepocieszony, naubliżał prezesowi. Ale Palińskiego też wspominam jako wspaniałego człowieka.
W Meksyku polskie ciężary odniosły wielki triumf. Na startujących siedmiu zawodników aż pięciu zdobyło medale. Złoty Waldemar Baszanowski, brązowe: Henryk Trębicki, Marian Zieliński, Norbert Ozimek i właśnie Marek Gołąb w kategorii wagowej 90 kg. Olimpijskie boje zakończył dźwigając w sumie 495 kg. Cztery lata później na kolejne igrzyska do Monachium już nie pojechał. Pojawiły się problemy ze zdrowiem, olbrzymich obciążeń nie wytrzymywały kolana.
