Nógrádi kezdetek
Kardos József 1960. március 29-én született Nagybátonyban. A helyi Bányász igazolt játékosa volt 1974-től, majd három évvel később átkerült a megyeszékhelyre, a Salgótarjáni TC-be. A legendás edző, dr. Lakat Károly keze alatt játszott az NB II-es csapatban 1978 tavaszán, elképesztően mutatkozott be, az első két hazai mérkőzésén egyaránt gólt szerzett. 1978 nyarán az Újpesti Dózsa jelentkezett érte, s igazolta át. (Nem kis huzavona után.) Addigra már bemutatkozott az ifjúsági válogatottban.
Későbbi világsztárok társaságában a góllövőlistán
Első élvonalbeli idényében bajnoki címet nyert a lila-fehérekkel, közben 1979 őszén részt vett Japánban a junior-világbajnokságon. Ő volt a csapatkapitány egy olyan erős keretben, amelynek aztán hat tagja (Kardoson kívül Disztl Péter, Sallai Sándor, Róth Antal, Nagy József és Pölöskei Gábor) is eljutott a nyolcvanas években felnőtt világbajnokságra. Japánban a Rákosi Gyula által irányított magyar válogatott „csak” harmadik lett a csoportjában a szovjetek és az uruguayiak mögött, de az első meccs kilencedik percében a kapuba találó Kardos neve olyan játékosoké mellé került fel a torna összesített góllövőlistájára, mint Diego Maradona, Ramón Diaz, Gabriel Calderón, Alekszandr Zavarov, Rubén Paz, Roberto Cabañas és Julio César Romero.
Az Év játékosa volt 1983-ban
Az Újpesttel egyszer szerzett bajnoki aranyat (1978–1979) és kétszer ezüstöt (1979–1980, 1986–1987). Nyert három Magyar Népköztársasági Kupát is (1982, 1983, 1987). Az 1983-as fináléban nem szerepelt, ellenben az 1987-esen gólt rúgott a Pécsi MSC ellen. Az Újpesti Dózsában 1979 és 1987 között 229 NB I-es bajnokin 37 gólt jegyzett. 1983-ban a szövetség az Év játékosának választotta. 1984-ben szívesen szerződött volna a Rába ETO-hoz, már lent is edzett Győrben, de a sporthivatal, illetve az MLSZ nem járult hozzá az átigazolásához. 1987 és 1988 vége között a Vasasban futballozott, majd kiment Görögországba, egy fénykorában látott képességeihez mérten szerény tudású csapatba, az Apollon Kalamariászba. Miután hazatért Görögországból, 1989-ben a Dunakeszi VSE-hez szerződött, 1990-ben az NB I-es Váci Izzó MTE-t szolgálta.
Bombagól az osztrákok ellen
A felnőtt válogatottban 1980. október 8-án, Bécsben az osztrákok ellen mutatkozott be. 1987. április 29-ig 33-szor viselte a nemzeti tizenegy szerelését, három góljából a legemlékezetesebbet jó 25 méterről lőtte Friedrich Koncilia kapujába 1984. szeptember 26-án, a Népstadionban megrendezett magyar–osztrák világbajnoki selejtezőn. Mindhárom mérkőzésen szerepelt a mexikói világbajnokságon.
Nagyon sok csapat, nagyon kevés siker
Játékos-pályafutása befejezését követően évtizedeken át edzőként dolgozott, az elején még az is előfordult, hogy be-beszállt játszani. Dabason (1993–1994), Fajszon (1994), Pásztón (1995), Nagykátán (1996), Komáromban (1997–1999), Kiskunfélegyházán, a KTK Hungary Meatnél (1999), ismét a Komárom FC-nél (2000), az Újpest korosztályos csapatainál (2000–2001), Csomádon (2001), Tarnaörsön (2002), Petőfibányán (2002), Ózdon (2002), Budakalászon (2004), a Tököli VSK ifjúsági csapatánál (2010–2011), párhuzamosan a Kőbányai ISE (2010–2011) gárdájánál, a Szent Pál Akadémia csapatánál (2011–2014), végül a Csepel Utánpótlás Sportegyesület edzőjeként (2021-2022) dolgozott. Élete utolsó éveiben az MLSZ ellenőreként is tevékenykedett.