Albrecht IV. wurde am 19. September 1377 in Wien als einziger Sohn Herzog Albrechts III. und Beatrix’ von Zollern geboren. Nach dem Tod seines Vaters erhob sein Cousin Herzog Wilhelm, der Älteste seiner Generation, Anspruch auf das Gesamterbe. Der daraus entstandene Konflikt wurde durch den Vertrag von Hollenburg an der Donau vom 22. November 1395 beigelegt, der eine gemeinsame Regentschaft sowie die gerechte Teilung der Einkünfte festlegte. Albrecht galt als etwas weltfremd, weshalb Herzog Wilhelm innerhalb der Doppelregentschaft die maßgeblichere Rolle einnahm.
Um 1398 unternahm Albrecht eine Reise ins Heilige Land. Seine bevorzugten Aufenthaltsorte waren die Kartause Mauerbach sowie Schloss Laxenburg vor den Toren Wiens. Aufgrund seines ruhigen und ausgeglichenen Wesens erhielt er den Beinamen „der Geduldige“. Am 24. April 1390 heiratete er in Wien Prinzessin Johanna Sophie von Bayern, mit der er zwei Kinder hatte: Albrecht V. und Margarethe. Im Konflikt zwischen den Königreichen Böhmen und Ungarn stellte sich Albrecht IV., wie bereits sein Vater, auf die Seite Ungarns und beteiligte sich an mehreren Feldzügen gegen den gegnerischen König. Während eines dieser Feldzüge verstarb Albrecht IV. am 14. September 1404 in Klosterneuburg. Seine letzte Ruhestätte befindet sich in der Herzogsgruft unter dem Stephansdom in Wien.