Labdarúgóból lett gerelyhajító
Várszegi József sportpályafutását a Győri ETO labdarúgójaként kezdte. Csak 19 évesen tért át az atlétikára. Kezdetben a Győri Atlétikai Club és a Dunántúli Atlétikai Club színeiben versenyzett. 1930-ban KISOK-bajnok lett gerelyhajításban, és még ebben az évben felvették a Testnevelési Főiskolára. Onnantól kezdve előbb a TFSC, 1934-től a MAC, 1945-ben a Toldi Miklós SE, 1946-tól a Goldberger SE, majd 1950-től a Vasas dobóatlétája volt. Diszkosz- és kalapácsvetésben is versenyzett, de kiemelkedő eredményeket gerelyhajításban ért el. Ebben a versenyszámban 1932 és 1952 között – az 1944-es év kivételével – valamennyi magyar bajnokságot ő nyerte meg. Pályafutása alatt összesen hatszor javított magyar rekordot, ő volt az első magyar férfi gerelyhajító, aki túldobta a hetven métert. Huszonkét éven keresztül (1933–1955) Várszegi József tartotta a gerelyhajítás magyar csúcsát. Utolsó rekordját (72,78 m) 17 évig nem tudták megdönteni.
Olimpiai bronzérem 38 évesen
1932-től 1952-ig negyvenkét alkalommal szerepelt a magyar válogatottban. Három olimpián volt a magyar csapat tagja. 1936-ban Berlinben a selejtezőben ugyan ő érte el a legjobb eredményt, a döntőben már nem ment ilyen jól neki, és végül a nyolcadik helyen zárta a versenyt. 1948-ban Londonban 38 évesen kellemes meglepetést szerezve a harmadik helyen végzett. Korrekordját a mai napig nem sikerült megdönteni senkinek, ő a legidősebb korban olimpiai érmet nyert magyar atléta. Harmadik olimpiáján, 1952-ben Helsinkiben 42 esztendősen nem jutott a döntőbe. Az Európa-bajnokságokon 1934-ben Torinóban az ötödik, 1938-ban Párizsban a harmadik helyen végzett. A főiskolai világbajnokságokon kétszer lett első (1933, 1947) és egyszer második (1937). Az aktív sportolástól 1952-ben vonult vissza.
Edzőként is sikeres volt
1934-ben a Testnevelési Főiskolán testnevelő tanári oklevelet szerzett. Még aktív pályafutása alatt testnevelő tanárként és a Goldberger gyár sportvezetőjeként is tevékenykedett. 1943-tól a Mester utcai Szent István Kereskedelmi Középiskola ideiglenes tanáraként, 1952-től pedig a tatai edzőtábor vezetőjeként dolgozott. Az 1950-es évek elejétől a Vasasban, majd a Bp. Honvédban edzőként tevékenykedett. Az élvonalba került gerelyhajítók egész sorát nevelte, ő indította el az első sikerek felé Németh Miklóst, és végig tanítványa volt Rudasné Antal Márta. Alapos ismerője volt versenyágának, még aktív korában, 1940-ben könyvet írt a gerelyhajításról. Felesége, Pathó Emma a BEAC kiváló teniszezője volt.