Sokoldalú sportoló
Kunszt Gyula atlétaként, azon belül is rúdugróként kezdte sportpályafutását, de birkózásban is szerepelt a válogatottban, repülőgép vezetői jogosítvánnyal is rendelkezett, ejtőernyőzött, síelt és öttusázott. Legnagyobb sikereit azonban tornában érte el.
Olimpiai részvétel
A BBTE tornászaként az 1925 és az 1926-as magyar bajnokságon korlát csapatban bajnoki címet szerzett. Egyéniben 1926-ban négy szeren és egyéni összetettben is második helyezést ért el, valamennyi alkalommal Szalai József mögött.
Részt vett az 1928-as amszterdami olimpián, ahol a magyar csapat tagjaként a 10. helyen végzett.
1933-ban egy birkózóversenyen szerzett sérülés miatt fejezte be aktív sportpályafutását.
A versenyszerű sportolás mellett több különleges túrát is tett. 1922-ben társaival együtt kerékpárral egészen Észak Afrikáig tekert, két évvel később egy gumikajakkal végigevezett a Dunán.
Tanérként is kiemelkedő volt
Sportpályafutása befejezése után az NTE edzőjeként és tanárként dolgozott. A Testnevelési Főiskolán testnevelő tanári diplomát szerzett. Előbb a Budapesti Bencés Gimnáziumban, majd - 42 évig - a Toldy Ferenc Gimnáziumban végzett kiemelkedő munkát. A Testnevelési Főiskolán címzetes tanárként oktatott. 1933-ban Kaposira magyarosította a nevét.
Tanítványai még emlékeznek arra, hogy 75 éves korában még hátra szaltót ugrott. A Népszava 1988. februárban hírül adta, hogy a Magyar Öttusa Szövetség Old Boy versenyt rendezett, amelyen a legidősebb résztvevő a 85 éves Kaposi Gyula volt.
Emlékezete
Emlékének megőrzésére a budapesti Bencés öregdiákok, volt tanítványai és a MAC 1992-ben Kaposi Gyula Sportalapítványt létesített, amit a kuratórium döntése alapján, minden évben az arra érdemes diáksportoló, illetve testnevelő tanár kap meg. Életéről Miklauzič István A kakas ura címmel 2016-ban könyvet jelentetett meg.