Karl Wolff se narodil v roce 1900 v Darmstadtu. Vystudoval gymnázium a ihned po maturitě v roce 1917 se přihlásil do armády. Bojoval pak na západní frontě, kde byl za statečnost vyznamenán Železným křížem 1. i 2. třídy. Po skončení 1. světové války se oženil a pak se s manželkou přestěhoval do Mnichova, kde pracoval jako bankovní úředník. Záhy si však založil svoji vlastní firmu. Vlivem hospodářské krize 30. let začal projevovat sympatie k radikálním stranám a tak v roce 1931 vstoupil do NSDAP a následně i do SS.

V roce 1940 doprovázel Hitlera do Říma. Když Itálie v září 1943 kapitulovala, byl Wolff jmenován vojenským guvernérem severní Itálie. Doprovázel pak Benita Mussoliniho při jeho návratu  z internace a pomohl mu obnovit fašistický režim. Sloužil jako styčný důstojník u Mussoliniho, organizoval přepravu italských jednotek do výcvikových táborů v Německu a vedl rovněž boj proti italským partyzánům. Během války se stal blízkým Himmlerovým přítelem, působil jako jeho náčelník štábu a do roku 1943 byl i Himmlerovým styčným důstojníkem s Hitlerovým hlavním stanem. V  březnu 1945 vedl tajná jednání se Spojenci o kapitulaci německých vojsk v Itálii.

V březnu 1945 začal ve Švýcarsku jednat s Allenem Dullesem z Výboru pro strategické operace o kapitulaci německých jednotek v Itálii. Na znamení dobré vůle propustil agenta OSS a partyzánské vůdce. Koncem dubna navštívil Švýcarsko dvakrát a jednání bylo prakticky u konce. V té době však Sověti začali vyvíjet na západní Spojence nátlak, protože byli z jednání vyloučeni. Celý projekt málem ztroskotal. Nakonec Wolff a velící generál von Vietinghoff souhlasili, že Berlín obejdou, zanechají odporu a dovolí partyzánům, aby převzali moc. 29. dubna 1945 podepsali kapitulaci, která vstoupila v platnost 2. května. Karl Wolff vystupoval v Norimberském procesu jako svědek obžaloby. Sám byl v roce 1949 uvězněn, ale již v roce 1953 byl na svobodě. Poté byl znovu uvězněn ( 1964 ) k 15 letům vězení za napomáhání k zavraždění 300 000 Židů, ale po 5 letech byl ze zdravotních důvodů propuštěn. Karl Wolff zemřel v roce 1984 v Rosenheimu.