Leopold wurde 1371 als zweiter Sohn Leopolds III. und Viridis Visconti geboren. Ab 1391 verwaltete er die habsburgischen Vorlande und wurde nach dem Vertrag von Hollenburg um 1396 Graf von Tirol, zu dem damals auch die Gebiete westlich des Arlbergs gehörten. 1394 schloss er ein zwanzigjähriges Friedensbündnis mit den Eidgenossen. Ein weiteres Bündnis ging er mit Abt Kuno von Stoffeln in St. Gallen ein.
Ab 1404 wandte sich Leopold IV. weniger der Verwaltung der habsburgischen Länder zu, sondern unterstützte seinen Bruder Friedrich IV. in den Appenzellerkriegen. Um 1406 wurde er Vormund des erst neunjährigen Albrecht V., Sohn seines Cousins Albrecht IV. Dabei geriet er in einen Konflikt mit seinem Bruder Ernst dem Eisernen. Am 3. Juni 1411 starb Leopold IV. in Wien an einem Schlaganfall, kurz nachdem die Stände Albrecht V. für mündig erklärt hatten.