Albrecht IV. wurde am 19. September 1377 als einziger Sohn von Albrecht III. und Beatrix von Zollern in Wien geboren. Nach dem Tod seines Vaters beanspruchte sein Cousin Herzog Wilhelm, der Älteste der Generation, das Gesamterbe. Der Konflikt wurde gelöst durch den Vertrag von Hollenburg an der Donau am 22. November 1395, welcher die gemeinsame Regentschaft und die gerechte Teilung der Einkünfte beschloss. Albrecht war etwas weltfremd, was dazu führte, dass bei dieser Doppelregentschaft Herzog Wilhelm die bedeutendere Rolle innehatte.
Um 1398 reiste Albrecht ins Heilige Land. am liebsten verbrachte er seine Zeit in der Kartause Mauerbach oder auf Schloss Laxenburg ausserhalb Wiens. Sein ruhiges Wesen brachte ihm den Beinamen „der Geduldige“ Am 24. April 1390 heiratete er in Wien Prinzessin Johanna Sophie von Bayern, welche ihm zwei Kinder gebar: Albrecht V. und Margarethe. Im Krieg der beiden Königreiche Böhmen und Ungarn stellte sich Albrecht IV. wie bereits sein Vater auf die Seite Ungarns und nahm an Feldzügen gegen den feindlichen König teil. Bei einem dieser Feldzüge starb Albrecht IV. am 14. September 1404 in Klosterneuburg. Er liegt in der Herzogsgruft unter dem Stephansdom bestattet.