Została sformowana na mocy rozkazu z dnia 1 kwietnia 1938 roku. Miejscem stacjonowania jej sztabu był Wiedeń. Była zmobilizowana w XVII Okręgu Wojskowym. W swej tradycji nawiązywała do cesarsko-królewskiego 4 pułku piechoty (niem. k.u.k. Infanterie-Regiment Hoch- und Deutschmeister Nr. 4). Podczas kampanii wrześniowej wchodziła w skład XVII Korpusu Armijnego z 14 Armii. Podczas walk w Polsce jej dowódcą (do dnia 1 października 1939 roku) był dowódca gen. leut. Albrecht Schubert, a oficerem operacyjnym (Ia) ppłk Paul Reinhold Herrmann.

    We wrześniu 1939 roku w jej skład wchodziły:

-  131 Pułk Piechoty (niem. Infanterie-Regiment 131) – dowódca płk dr Franz Beyer: miejsce postoju: sztabu – Mikulov, I i II batalionu oraz I rezerwowego batalionu – Lundenburg, III batalionu – Znojmo, II rezerwowego batalionu – Stockerau; nr poczty polowej sztabu pułku 10129

-  132 Pułk Piechoty (niem. Infanterie-Regiment 132) – dowódca gen. mjr Josef Brauner von Haydringen; miejsce postoju: sztabu, I i II batalionu – Brno, III batalionu – Igława; nr poczty polowej sztabu pułku 20666

-  134 Pułk Piechoty (niem. Infanterie-Regiment 134) – dowódca płk Werner Göritz; miejsce postoju: sztabu, I i II batalionu – Wiedeń Streberdorf, III batalionu – Engerau; nr poczty polowej sztabu pułku 18882

-  96 Pułk Artylerii (niem. Artillerie-Regiment 96) – dowódca ppłk Fritz Kistner: miejsce postoju: sztabu, I dywizjonu – Znojmo, II dywizjonu – Bruck an der Leitha; nr poczty polowej sztabu pułku 13031; w skład tego pułku wchodziły:

 

• I Dywizjon – dowódca ppłk Keusch
• II Dywizjon – dowódca ppłk Scholtz
• III Dywizjon – dowódca (prawdopodobnie) mjr Hermann Angerer
• IV Dywizjonu – dowódca nieznany

 

-  I dywizjon z 97 Pułku Artylerii Ciężkiej (niem. Schwere Artillerie-Regiment 97) – dowódca ppłk Wintzer; miejsce postoju – Stockerau; nr poczty polowej sztabu dywizjonu 02442

-  80 batalion pionierów (niem. Pionier-Bataillon 80): miejsce postoju – Klosterneuburg;

-  64 oddział przeciwpancerny (niem. Panzerabwehr-Abteilung 64): miejsce postoju – nie został sformowany

-  44 batalion zapasowy (niem. Feldersatz-Bataillon 44)

-  46 oddział przeciwpancerny (niem. Panzerabwehr-Abteilung 46)

-  64 oddział łączności (niem. Infanterie-Divisions-Nachrichten-Abteilung 64): miejsce postoju – Wiedeń

-  44 oddział obserwacyjny (niem. Aufklärungs-Abteilung 44): miejsce postoju – Stockerau

-  oddziały pomocnicze

 

   Dywizja po zakończeniu walk w Polsce została przerzucona na zachód Europy, gdzie w składzie 7 Armii brała udział w kampanii francuskiej. Do kwietnia 1941 roku stacjonowała na terenie Francji i następnie przerzucona na ziemie polskie (GG). Od czerwca 1941 roku w składzie 6 Armii brała udział w uderzeniu na ZSRR. Stała się częścią niemieckiej klęski pod Stalingradem, przestając istnieć w styczniu 1943 roku.

   Została w kwietniu 1943 roku odtworzona na terenie Belgii, ale wkrótce przemianowano ją na 44 Dywizję Grenadierów „Hoch und Deutschmeister”. Nowa nazwa odwoływała się do austriackich korzeni tej jednostki.