Joseph Gungl wurde am 1. Dezember 1810 im ungarischen Zsámbék geboren. Sein erster Beruf war Schullehrer. In dieser Zeit hatte er Musikunterricht beim Leiter des Schulchores. Er zog später nach Graz und spielte dort in einem Orchester die erste Oboe. Mit 25 Jahren übernahm er das Amt als Kapellmeister des vierten österreichischen Artillerieregiments.
Seine erste Komposition im Jahre 1836, ein ungarischer Marsch, zog Aufmerksamkeit auf sich, und sieben Jahre später gründete er sein erstes Orchester in Berlin, wo er schon bald die Tanzsäle beherrschte. Nur verständlich, dass er alles andere als erfreut war, als Johann Strauss Vater mit seinem Orchester nach Berlin kam und mit seinen Klängen aus Wien die Hallen bis auf den letzten Platz füllte und ihm Konkurrenz machte. Gungl unternahm grosse Reisen mit seinem Orchester, unter anderem nach Russland und nach Amerika. Man sagt, dass Gungls Orchester das erste war, welches die Komplette Reihe von Mendelssohns Sommernachtsträumen als Ganzes aufgeführt hatte. Im Jahre 1853 wurde Gungl zum Kapellmeister des 23. Infanterieregiments in Brünn ernannt. Ab 1864 lebte er in München mit seiner 18 Mann starken Kapelle. Hier trat er fast jeden Abend im Englischen Café am Lenbachplatz auf, am heutigen Standort des Bernheimer Hauses. Sein Orchester fand bei der Bevölkerung den Übernamen „Die Gungl“. Ab 1876 lebte Gungl in Frankfurt, nachdem er mit grossem Erfolg zahlreiche Konzerte am Covent Garden in London gegeben hatte.Später zog er mit seiner Tochter, einer namhaften Opernsängerin, nach Weimar, wo er am 31. Januar 1889 verstarb.
Gungls Schaffen war mit rund 436 Werken sehr reichhaltig. Er schuf hauptsächlich Walzer, Polkas und Märsche. Sein bekanntestes Werk ist wohl der grosse Konzertwalzer „Träume auf dem Ozean“. Franz Liszt schrieb eine Transkription von Gungls genanntem ungarischen Marsch. In Gungls Kompositionen steckt eine Leichtigkeit und Beschwingtheit wie in denjenigen von Johann Strauss, was ihn mit Recht zu einem Vertreter der leichten wiener Klassik macht. Der Komponist ist leider fast gänzlich in Vergessenheit geraten.