Gerd von Rundstedt se narodil roku 1875 v Ascherslebenu poblíž Halle v rodině s vojenskou tradicí. Do armády vstoupil v roce 1892 v 17 letech. V době vypuknutí 1. světové války byl již kapitánem, studentem válečné akademie v Berlíně a měl za sebou službu důstojníka u pluku a v různých štábních funkcích včetně dvouletého působení na Velkoněmeckém generálním štábu. Do hodnosti majora byl Rundstedt povýšen 28. listopadu 1914 a v této hodnosti sloužil po celou 1. světovou válku. Během služby u poválečného Reischwehru zastával řadu funkcí jako štábní důstojník i velitel.

Nejnižší generálské hodnosti dosáhl 1. listopadu 1927 a generálské hodnosti 1. října 1932, tedy k témuž dni, kdy byl jmenován velitelem 1. armádní skupiny. Rundstedt byl hluboce spjat se zdokonalováním výstroje, výzbroje a taktiky pěchoty, tak aby se minimalizovaly ztráty v příští možné válce. Dne 1. března 1938 byl opět povýšen a to na generálplukovníka a 1. listopadu téhož roku odešel do výslužby. Dne 1. června 1939 byl ale povolán zpět a pověřen velením skupiny armád Jih určené pro polskou kampaň. Právě jeho skupina armád dobyla Varšavu.

Po úspěšném ukončení této první kampaně 2. světové války byl Rundstedt pro kampaň na Západě pověřen 20. října velením armádní skupině A. Po pádu Francie byl 19. července 1940 povýšen na polního maršála. Další funkcí, kterou převzal, bylo velení skupině armád Jih v ruském tažení, s níž postupoval ke Kavkazu. Když mu nebyl dovolen taktický ústup na linii na řece Mius, rezignoval na svou funkci a 3. prosince 1941 byl převelen do zálohy. Dne 1. března 1942 byl znovu povolán, tentokrát jako vrchní velitel vojsk na západě. Tato funkce byla potvrzena 1. května a Rundstedt ji zastával až téměř do konce války, s výjimkou jediného období mezi 7. červencem a 5. zářím 1944. K 1. březnu 1945 jej nahradil Albert Kesselring.