Csernai a Csepelben lett élvonalbeli labdarúgó, majd 1956-ban emigrált Németországba, s a Karlsruhéhoz került. Később játszott Stuttgartban, a Kickersnél és Svájcban is.

Edzői pályafutását a Wacker 04 Berlinnél kezdte, majd a Bayern után megfordult a görög PAOK Szalonikinél, a török Fenerbahcénél, a svájci Young Boysnál, Portugál-kupát nyert a Benficával, irányította a Borussia Dortmundot, az Eintracht Frankfurtot és a Hertha Berlint.

1993–1994-ben az észak-koreai válogatott szövetségi kapitánya volt, pályafutása végén pedig a Sopron kispadját foglalta el (1994–1995).