Sport közösségformáló ereje
A Vakok és Gyengénlátók Iskolájában tanult, életében hamar megjelent a sport, társaival együtt járt atlétikai edzésekre a Vakok és Csökkentlátók Wesselényi Miklós Sportegyesületébe, ahol Tóth István és Dosek Ágostonné voltak az edzői az évek során. Nagyon összetartó csapat voltak, feltétel nélkül örültek egymás sikereinek. A nemzetközi versenyekre is együtt jártak, többek közt Varsóba, Prágába, vagy Moszkvába. Mindig is gyorsnak számított, de az ugrószámokat jobban kedvelte, a klasszifikációt követően a B3-as kategóriába sorolták, ami a látássérültek esetén a legenyhébb sérültségnek számít.
Az el nem ismert paralimpiai érem
Az 1976-os Torontóban megrendezett paralimpián 100 méteres síkfutásban állt rajthoz és végül a harmadik helyen ért célba a döntő során. Ezzel pedig megszerezte az első magyar látássérült paralimpiai érmet. Rajta kívül egyetlen látássérült sportoló tudta kvalifikálni magát abban az évben, Czuth Gábor, azonban ő már nem tudott rajthoz állni, mivel nem sokkal a verseny kezdete után a mayar delegációt hazarendelték. A szocialista országok ugyanis nem értettek egyet azzal, hogy dél-afrikai versenyzők is elindulhattak a paralimpián és táviratban hazaparancsolták sportolóikat. Érmet sem kaphatott emiatt, eredményét pedig évekig nem ismerték el. A torontói események nem szegte kedvét Oláh Józsefnek, folyamatosan edzett és készült a további megmérettetésekre. Az eredetileg Moszkvában tervezett 1980-as paralimpiát a Szovjet Unió politikusai elitélték, lemondtak a rendezés jogáról, sőt kijelentették: a nemzetükben nem élnek fogyatékossággal élők. E döntésük egyértelműsítésének céljából megtiltották a keleti blokk országainak a részvételt a soron következő paralimpián, amelyre végül Armhemben, Hollandiában került sor.
New York-i Fáklya Világjátékok
A hosszas várakozás és felkészülés meghozta gyümölcsét, az 1984-es New York-i Fáklya Világjátékon a népes magyar csapat nagyszerű eredményeket ért el. A paralimpia megnyitóján Ronald Reagan, az Amerikai Egyesült Államok elnök is köszöntőt mondott, hazánk csapatát pedig külön, magyarul üdvözölte. József első versenyszáma a magasugrás volt, amit szenzációs 180 cm-es egyéni csúccsal megnyert, 5 centimétert verve a második helyezettre. Azonban az utolsó ugrásában meghúzódott, emiatt pedig nem tudta teljesíteni sem a távol-, sem a hármasugrást. Eredménye így is büszkeségre ad okot, hisz tagja volt annak a magyar csapatnak, akik minden idők legsikeresebb szereplését érték el paralimpián.
Atlétikán kívül
Mivel több paralimpián már nem indult, távolugró és hármasugró egyéni csúcsait más-más nemzetközi versenyeken szerezte, előbbiben egészen 640 centiméterest eredményt, utóbbi esetén pedig az 1991-es Európa-bajnokságon 12,99 m-t tudott elérni.
Nem csupán csak atlétikában volt sikeres, ugyanis nemzetközileg eredményeket, sőt Európa-bajnok címet is szerzett torball sportágban, mely egy látássérültek által játszott csapatsport. A labdajátékot három- a három ellen játsszák, letakart szemmel. A mérkőzések egy röplabda méretű pályán történnek, amelynek vége egy-egy kaput helyeznek el. A játékosok egy speciális labdával játszanak, amit az ellenfél kapujába kell begurítaniuk. A sportág igazán sajátos, még is hasonló egy paralimpiai versenyszámhoz, a csörgőlabdához.
Ünnepélyes eskütétel
Oláh József 2012. június 27-én hunyt el, így azt már nem élte meg, hogy elismerjék a paralimpiai bronzérmét. A Magyar Paralimpiai Bizottság 2016-ban, a Rio de Janeiro-i Magyar Paralimpiai Csapat ünnepélyes eskütételén rehabilitálta a torontóban medált szerző Tauber Zoltán és Oláh József eredményét. Özvegye, Oláhné Szekeres Margit, és a szintén atléta fia, Oláh Dániel átvették az érmét és őrizik emlékét.