Otto Wöhler se narodil 12. července 1894 v Grassburgwedelu. Do německé císařské armády vstoupil 1. února 1913. Dne 20. května 1914 byl umístěn jako poručík ke 167. pěšímu pluku a za 1. světové války sloužil jako nižší důstojník. Po podpisu versailleské smlouvy mohl zůstat u Reichswehru ( jeho počet nesměl překročit 100 000 mužů ) a k 1. lednu 1938 dosáhl hodnosti plukovníka. Dne 1. dubna 1938 byl jmenován vrchním operačním důstojníkem nově zformovaného 5. gruppenkommanda ( velitelství armádní skupiny ).

Na počátku 2. světové války byl Wöhler vrchním operačním důstojníkem 14. armády pod velením generála Wilhelma Lista, dřívějšího velitele 5. gruppenkommanda. Tato armáda vedla útok na jižní Polsko. Wöhler obdržel 18. prosince 1939 funkci náčelníka štábu XVII. sboru a v této funkci sloužil během tažení na Západě v květnu a červnu 1940. Dále postoupil 1. října 1940 do funkce náčelníka štábu 11. armády a sloužil v Mansteinově armádě v počátečních fázích bojů v Sovětském svazu.

Dne 1. ledna 1942 byl povýšen na generálmajora a sloužil od 1. dubna 1942 do 1. března 1943 jako náčelník štábu polního maršála von Klugeho a jeho skupiny armád Střed. K 1. říjnu 1942 byl povýšen na generálporučíka. Poté, 1. dubna 1943, byl Wöhler pověřen bojovou velitelskou funkcí, velením 1. sboru. Ten byl ale později rozšířen na skupinu Wöhler, která bojovala s jistými úspěchy během léta 1943. Wöhler byl 1. června 1943 povýšen na generála a 15. srpna mu bylo svěřeno velení 8. armádě, právě včas, aby s ní obratně ustupoval před ruskou podzimní ofenzívou z předmostí na Dněpru do Rumunska. Jak vojska Osy ustupovala do Rumunska, byla 8. armáda a 4. rumunská armáda spojena do skupiny armád Wöhler, kterou její velitel skvěle zvládal i přesto, že v době kapitulace Rumunska, 23. srpna 1944, 4. armáda přešla k nepříteli. Když Němci ustoupili do Maďarska, převzal Wöhler 28. prosince 1944 velení nad skupinou armád Jih, kterou vedl až do 25. března 1945.