Nagyon fiatalon edző lett
Még 20 éves sem volt, amikor megkapta az edzősködésre a lehetőséget a Tungsramban. 1976-tól 1988-ig Magyarországon dolgozott, Bernáth Zoltánt és Kajtor Zoltánt a válogatottságig juttatta el. 1988-ban kapott egy lehetőséget Görögországban, amit elfogadott. 1992-ben tért haza, a KSI-hez szerződött, ahol mindjárt az első csoportjában meglátta a hétéves Berki Krisztiánt, akit 9 éves korától ő készített fel. Összefonódott a sorsuk, és amit a sportban el lehet érni, azt együtt elérték.
Az első éremtől a legmagasabb csúcsig
Berki 2002-ben a junior Európa-bajnokságon nyert egy ezüstérmet a görögországi Patraszban, ez volt az első visszajelzés a tehetségéről. Ezt az érmét már lólengésben nyerte, de ekkor még összetett tornásznak számított. Bokasérülései miatt favorizálta egy idő után a lovat. 2004-ben Eb-bronzérmes, 2005-ben Debrecenben már Európa-bajnok ezen a szeren. Kovács 2008-tól mint kapitány is kísérte a tanítványát. A 2008-as pekingi olimpián ugyan éremesélyes lehetett volna Berki, nem sikerült kijutnia, a furcsa szabályozás miatt egy vb-ezüst nem volt elég ehhez. 2010-ben és 2011-ben világbajnok - ekkor Kovácsot az év edzőjének választották -, majd az olimpián ugyan a selejtezőben rontott a tanítványa, a döntőben nem, és megverte a két hazai pályán szereplő brit versenyzőt. Utolsó nagy sikerüket 2017-ben érték el. Sikerük titkáról így vallott a Nemzeti Sportban:
„Hogy Krisztián tényleg képes lehet az olimpiai bajnoki címre is, csak akkor vált nyilvánvalóvá, amikor megszűnt köztünk az alá-fölérendeltségi viszony, amikor partnerré váltunk, amikor már ő is többes számban kezdett el beszélni. Ha rontott, azt mondta: rontottunk. Ha megcsinálta a gyakorlatát, azt, megcsináltuk. Nem harcolt ellenem sohasem, de innentől együtt dolgoztunk, függőségi viszony nélkül
“„
2020-tól ismét kapitány
Kovácsot három év kihagyás után 2020-tól ismét a férfi válogatott kapitányának nevezték ki. A férfi válogatottnak van esélye, hogy 1992 után újra ott lehessen az olimpián.