Została utworzona na krótko przed uderzeniem Niemców na Polskę w 1939 roku. Stworzono ją na bazie niemieckiego 12 Dowództwa Armijnego. Po zakończeniu walk w Polsce w dniu 8 października 1939 roku została przemianowana w „Naczelne Dowództwo Wschód". Następnie została przerzucona na zachód Europy, gdzie od końca października 1939 roku nazywano ją Grupą Armii „A”. Przez uderzeniem na ZSRR przemianowano ją na Grupę Armii „A” i zaraz potem na Grupę Armii „B”. W lutym 1943 roku stała się Grupą Armii „Don”, a w kwietniu 1944 roku Grupą Armii „Północna Ukraina”. Ostatecznie we wrześniu 1944 roku została przemianowana na Grupę Armii „Południowa Ukraina”.

     Podczas kampanii wrześniowej w 1939 roku jej dowódcą był gen. płk Gerd von Rundstedt, a szefem sztabu gen. leut. Erich von Manstein. We wrześniu 1939 roku jej skład wyglądał następująco:

• 8 Armia (dowódca gen. piechoty Johannes Blaskowitz)
• 10 Armia (dowódca gen. artylerii Walter von Reichenau)
• 14 Armia (dowódca gen. płk Wilhelm List)
• VII Korpus Armijny (dowódca gen. piechoty Eugen Ritter von Schobert) jako odwód grupy armii