Josef „Pepi“ Hellmesberger wurde am 9. April 1955 in Wien geboren. Er war der Sohn des Wiener Violinisten und Komponisten Josef Hellmesberger Sen. Sein Vater unterrichtete ihn in Musik und im Geigenspiel; bereits im Alter von 15 Jahren musizierte er im bekannten Quartett seines Vaters, in dem er die zweite Geige spielte. Drei Jahre später stiess er als Geiger zum Wiener Hofopernorchester. Um 1875 trat Hellmesberger den Militärdienst an als Streich-Konzertmeister der Kapelle des 4. Infanterie-Regiments. Doch unmittelbar danach wurde er Kapellmeister des Regiments Nr. 32. Ab 1878 war er Soloviolinist bei der Hofmusikkapelle und an der Hofoper selbst. Gleichzeitig unterrichtete Hellmesberger als Professor für Violine am Konservatorium der Wiener Gesellschaft der Musikfreunde.
Ab 1890 hatte er das hohe Amt als erster Hofkapellmeister und Kapellmeister am Ringtheater inne. Von 1901 bis 1903 war er Leiter der Philharmonischen Konzerte als Nachfolger von Gustav Mahler. Dann verliess er Wien, um am Stuttgarter Hoftheater die Stelle des Kapellmeisters zu besetzen. Doch nach weniger als einem Jahr kehrte Josef Hellmesberger nach Wien zurück. Dort erkrankte er und starb am 26 April 1907. Als Komponist hinterliess Joseph Hellmesberger Jun. die beachtliche Anzahl von 22 Operetten, drei Balletten und eine Vielzahl an Einzelkompositionen.