1933. október 24-én született Ercsiben. Már hat évesen sokszor átúszta a Dunát, ami egy felnőtt úszó számára sem kis teljesítmény. Tehetségét Bárány István Európa-bajnok és olimpiai ezüstérmes úszó fedezte fel. 

Kiváló úszóként került a 27. számú Ipari Tanulóintézetbe, ahol géplakatos szakmát szerzett. 1953-ban országos csúccsal győzött 100 méter gyorson a Császár Uszodában rendezett Budapest Bajnokságon. Az akkoriban kötelező három éves katonai szolgálat alatt háromtusában hadseregbajnokságot nyert. 1956 után a Budapesti Spartacus versenyzőjeként újabb bajnoki címeket szerzett, 1958-1959-ben folyamatosan nyerte a folyamúszó bajnokságokat. Egészen kivételes teljesítményt nyújtva 1959-től 1963-ig minden évben első lett a Balaton-átúszáson. A korszak legnagyobb szabadvízi úszója volt, rekordját azóta sem tudták megdönteni. 

1962-ben megnősült, felesége Fülöp Margit, két fiúgyermekük született, János és Attila. 

1965-ben az akkori DKV-ban kezdett dolgozni, és akár a sportban, a munkában is mindig a legjobbra, a tökéletesre törekedett. 1984-ben mestervizsgát tett, kiváló munkáját számos érdemrenddel, kitüntetéssel díjazták. 1972-ben a Nehézipar Kiváló Dolgozója, 1976-ban a Munka Érdemrend bronz fokozata, 1979-ben Kiváló Újító ezüst fokozat, 1986-ban Kiváló Dolgozó kitüntetést kapott. 

A kemény munka egy percig nem távolította el a sporttól, az töltötte ki minden szabadidejét. Az edzői képesítés megszerzése után, 1972-től a DKV sportkör tagja és trénere lett, több ezer gyermeket tanított meg úszni. Oktatott felnőtteket és mozgássérült gyerekeket is, az ő ötlete volt a gyógyúszás megszervezése a városban. 

Foglalkozásai alatt soha nem történt baleset az uszodában. Nem a medence széléről oktatott, ha kellett, több órán keresztül a vízben tartózkodott. Tudta, hogy a gyerekeket nem elegendő megtanítani úszni, sikerélményre van szükségük, ennek érdekében folyamatosan szervezte a különböző versenyeket. Nemcsak a tanítványoknak, hanem számára is nagy élményt jelentettek az évente megrendezett edzőtáborok. Kezei közül kitűnő úszók, mai szakosztályvezetők, edzők, testnevelő tanárok, vagy éppenséggel az élet más területein kiváló szakemberek kerültek ki. 

1990 novemberében súlyos betegsége miatt műtéten esett át. Borzasztó szenvedést okozott számára, hogy többé nem mehetett vízbe. 1997. február 5-én végleg befejeződött földi pályája. Munkásságát, tevékenységét szülővárosa is folyamatosan figyelemmel kísérte, Ercsi díszpolgára volt, halálakor pedig így írt az Ercsi Hírmondó: „Szomorúan töprengünk, hogy terem-e még ebben a városban és szülőfalujában, Ercsiben egy Szalai János. Mert ő most végleg hazatért.”

Munkájával maradandót alkotott, Százhalombatta azóta is a hazai úszósport egyik fellegvárának számít. A város felújított uszodáját róla nevezték el 1997. október 2-án, 2001-ben Százhalombatta díszpolgárává avatták.