A korszak addigra már ismert, idősebb táncdalénekeseivel (mint Németh Lehel vagy Vámosi János) szemben Koós János már a legfiatalabb hallgatókat is meg tudta szólítani, pedig úgyszólván véletlenül került a pályára, hiszen ő zenésznek készült (a pénzügyőr zenekarban játszott oboán), csak a Zeneakadémia gólyabálján olyan sikerrel utánozta az akkor nálunk is rendkívül népszerű Vico Torrianit, hogy onnantól nem volt megállás:
Marton Frigyes a gólyabálos produkciót hallva kért meg, hogy lépjek fel a Zeneakadémia karácsonyi műsorában, de én mondtam neki, hogy nem akarok, hiszen nagyon jó oboás vagyok, és engem ez érdekel, nem az éneklés. Még azzal se tudott meggyőzni, hogy Bilicsi Tivadarral, Honthy Hannával, Márkus Lászlóval és Psota Irénnel léphetek fel, mert nem sokat mondott a nevük – én leginkább Cziffra György koncertjeire jártam. Végül akkor mondtam igent, amikor megtudtam, hogy fellépésenként 150 forintot kapnék, márpedig ez összesen négy előadást jelentett, és a 600 forint annyi volt, mint a félhavi fizetésem a pénzügyőr zenekarnál. És amikor megyek be, akkor látom, hogy a nevem nincs kiírva, csak valami Koós Jánosé. Marton Frigyes erre mondta, hogy ez pedig én vagyok, hiszen azzal a névvel, hogy Kupsa, nem lehet senki táncdalénekes
– mesélte a 2017-ben készült interjúnkban.
Maga Koós a Micsoda nagyszerű dolog című dalt tekintette vízválasztónak, ez 1961-ben jelent meg, és annak sikerétől kezdve nem lehetett kétséges, hogy ezen a pályán marad. Ez a pár év előny is sokat számított később, amikor a táncdalénekesek újabb és újabb generáció jelentek meg a színen, Koós népszerűségén azonban sem ez, sem pedig a hatvanas évek közepén elsöprő erővel megjelenő beat nem változtatott, és továbbra is a legnépszerűbb férfi előadók között maradt, Aradszky László és Korda György társaságában. Nemcsak remekül énekelt, de a legkülönfélébb szerzők dalait képes volt sikerre vinni, legyen szó sanremói olasz slágerekről, hagyományos táncdalról vagy akár operettről és tvisztről.
Slágerei nem maradhatnak ki egyetlen nosztalgiaműsorból sem: Kapitány, Sír a telefon, Kislány a zongoránál, Annyi ember él a Földön, Nem vagyok teljesen őrült és még lehetne sorolni őket. Koós rendszeresen szerepelt az összes nagyobb hazai dalversenyen, nyert Táncdalfesztivált, továbbá a Tessék választani! és hasonló produkciók egyik állandó résztvevője volt. Népszerűsége egy idő után filmszerepeket is hozott magával, és humoristaként is közkedvelt volt, leginkább Hofi Géza partnereként, de évtizedeken keresztül állandó vendég volt a szórakoztató tévéműsorokban is. Bár a legnagyobb sikereit a Kádár-korszakban aratta, népszerűsége ugyanúgy kitartott az idősebb generáció körében évtizedekkel később is.
Az, hogy közkedvelt énekes volt, ugyanúgy volt köszönhető a slágereinek, mint a természetes humorú, joviális egyéniségének, így sokak számára Koós János nemcsak énekes volt, hanem egy életvidám, szókimondó, fradista fickó is, aki érthetően már kevésbé érezte otthon magát a 21. század Magyarországában. Többször mondogatta, hogy amint a humor meghal, ő is megy utána:
A világban biztos van (humor), ma Magyarországon nincs. Pedig ez az ország régen ettől volt jó: nekünk volt Latabárunk, Bilicsink, Kibédi Ervinünk, Alfonzónk, Hofi Gézánk, meg persze Rejtő Jenőnk, akinek az összes könyve megvan. Most meg mi van?
Majdnem haláláig rendszeresen fellépett („Mégis kit hívjanak idősek napi koncertre, ha nem engem?” – kérdezte az interjúnkban is), és a nyolcvanadik születésnapját is jubileumi koncerttel ünnepelte tavaly februárban. 2017 őszén ő mondott gyászbeszédet kollégája és barátja, Aradszky László temetésén, ahol úgy búcsúzott tőle: „Ne felejtsd el, nemsokára találkozunk”.
