Majd a Zeneakadémián tanult, de balesete miatt abba kellett hagynia a zenélést.1951-től a Magyar Rádió dramaturgjaként, majd 1957-től az Állami Hangverseny- és Műsorigazgatóság művészeti vezetőjeként dolgozott, 1960–1962 között pedig a Magyar Televízió szórakoztató rovatának művészeti vezetője volt. 1962-től haláláig a Rádió Zenei Főosztályának dramaturgjaként dolgozott.
Számos magyar opera szövegkönyve került ki tolla alól, így Sugár Rezső Hunyady című oratóriumának, Horusitzky Zoltán Báthory Zsigmond és Ránki György Muzsikus Péter című operájának szövegírója volt. Operalibrettókat és musicaleket fordított. Az utóbbiak közül legismertebb a Macskák. A Lúdas Matyi és a Hófehér forgatókönyvírója. A Színházi bemutatóinak száma körülbelül 210 felett van.
Igazán híressé viszont a számos rajzfilm szövege tette, aminek szerzője volt. Az ő nevéhez fűződik például A Mézga család, melynek három sorozatát dolgozta ki Nepp Józseffel együtt, a Kérem a következőt! (Dr. Bubó), a Mekk mester és a Frédi és Béni, avagy a két kőkorszaki szaki (Flintstone család) több mint negyven epizódjának szövege. Romhányi József a magyar nyelv kiváló ismerője volt, rendkívüli éleslátása és zenei érzéke segítségével fedezte fel a nyelvben rejlő játék lehetőségét, szellemes és ötletes, olykor bravúros rímei egyszerre írónikusak és nevetettik meg az embert.
Műveiben megnyilvánuló csodálatra méltó versíró tehetsége nyomán hamar elnyerte a „Romhányi, a rímhányó” nevet. A nagyközönség még játékos állatverseit szereti és ismeri is, ezeket halála után, Szamárfül néven adták ki. A kötet megjelenésének évében Romhányit Magyarország Érdemes művésze díjjal tüntetik ki, de sajnos az elismerésnek már nem örvendhetett sokáig, ugyanis 1983. május 7-én Budapesten meghalt. Sírja a Farkasréti temetőben található.
