A magyar labdarúgó–válogatott későbbi kiválósága Budafokon látta meg a napvilágot, és itt is kezdett el focizni. 1941-től a Kábelgyár játékosa volt három éven át.

Zakariás József születési anyakönyvi kivonatának hiteles másolata (Zakariás-hagyaték/ Puskás Intézet)

1944-ben több klub is el akarta csábítani magához: a Honvéd mellett a budafoki Gamma és a Szegedi AK is mindenáron meg akarta szerezni a tehetséges fiút. A szegediek csábító ajánlata ellenére, Zakariás mégis „hazatért” a Gammához. Hat év után következett az MTK, ahol kétszer nyert bajnokságot.

Zakariás Szegedről kapott ajánlata 1944-ből (Zakariás-hagyaték/ Puskás Intézet)

Zakariás József kissé megkopott bajnoki aranyérme, 1951. (Zakariás-hagyaték/ Puskás Intézet)

1947 és 1954 között az Aranycsapat alapembereként olimpiai, majd Európa Kupa-győzelmet ünnepelhetett, továbbá játszott Londonban a 6–3-as mérkőzésen. Az 1954-es berni vereség után azonban már nem lett többet válogatott. Összesen harmincötször ölthette magára a címeres mezt. 1959 és 1960 között a Szigetszentmiklósi SE edzőjeként tevékenykedett, majd 1961-től hat évig Guineában dolgozott. 1967-ben hazatért és a Medosz Erdért SE-t irányította 1971-ig.
A klasszikus Aranycsapat-tagok közül elsőként Zakariás József távozott 1971. november 22-én, alig negyvenhét évesen.