A parkett ördöge
Kovács József 1949. április 8-án született Balatonlellén. Egykeként cseperedett fel. Gyermekkora meghatározó (futball)élménye volt, hogy 1954 májusában ötéves kissrácként testközelből látta a magyarok elleni mérkőzés előtt egy héten át a Balatonnál készülő angol futballistákat. A lellei pályán ő volt az egyik labdaszedő. Jó tanuló lévén erős középiskolába, a székesfehérvári Ságváriba került – egy kicsit nagybátyja felügyelete alá is. Bognár Ferenc (édesanyja öccse) a Videoton elődjének, a VT Vasasnak a kulcsjátékosa volt. 1968-ban, a Vidi élvonalbeli újoncévében együtt játszhattak néhány mérkőzést a csapatban. A nagybáty is pályán volt, amikor az unokaöcs 1968. április 21-én bemutatkozott az élvonalban. Kovács József a székesfehérvári klubbal a következő évben (1969) a második osztályban játszott, de a visszatérés után, 1970 elejétől pályafutása végéig az élvonalban szerepelt. 1980-ig játszott a Videotonban, 1975–1976-ban bajnoki ezüstérmes lett. Népszerű és gyakran főszereplője volt a hetvenes években nagyon népszerű, a televízió által is közvetített teremlabdarúgó-tornáknak. Háromszor is a legjobb játékosnak választották, igazán ő volt a karkett ördöge. 1980-ban az Újpesti Dózsához igazolt, mellyel 1982-ben és 1983-ban is megnyerte a Magyar Népköztársasági Kupát. Mindösszesen 395 élvonalbeli mérkőzésen játszott, 17 gólt szerzett.
Olimpiai ezüstérmes Münchenben
Az A-válogatottban 1971. november 14-én, Máltán mutatkozott be. Nem játszó tartalék volt az 1972-es Európa-bajnokság négyes döntőjében szerepelt válogatottban. Abban az esztendőben ezüstérmes lett a müncheni olimpián. A döntőben nem játszott. 1979. október 26-án, az Egyesült Államok ellen játszott utoljára a nemzeti tizenegyben, az volt a 18. válogatottsága.
Nyugdíjasként tért vissza a futballhoz
Mindig nagy gondot fordított a tanulmányaira. 1967-ben a székesfehérvári Ságvári Endre Gépipari Technikumban érettségizett. 1977-ben a Testnevelési Főiskolán edzői képesítést, 1981-ben a Kandó Kálmán Villamosipari Műszaki Főiskola Székesfehérvári Kihelyezett Tagozatán üzemmérnöki oklevelet szerzett. Visszavonulása után két esztendeig az újpesti juniorok technikai vezetője volt, majd 1987-ben hátat fordított a sportágnak, és a Dél-Budai Vendéglátóipari Vállalatnál helyezkedett el. Az utóbbi években tagja a Magyar Labdarúgó Szövetség Fegyelmi Bizottságának.