Albert wafat di Klosterneuburg, Austria Hilir pada tahun 1404 dan ia dimakamkan di Ducal Crypt Stephansdom di Wina. Ia digantikan oleh putranya Albert. Melalui nenek maternalnya, Elisabeth dari Meissen, Albert IV adalah keturunan dari para adipati Babenberg, Austria.