Fegelein se narodil v roce 1906. V polovině 20. let nastoupil službu u 17. jízdního pluku. Stal se vojákem z povolání. Krátce sloužil u jednotky Freikorps Rossbach a také u bavorské státní policie. Dne 1. března 1933 vstoupil do jezdectva SS. Zúčastnil se profesionálních jezdeckých závodů, na olympiádě v roce 1936 v Berlíně byl členem německého jezdeckého týmu. Fegelein se stal poručíkem u jižního okresu SS, velel jezdecké škole SS v Mnichově. Z příslušníků rozšířeného útvaru SS – Totenkopfverbände ve Varšavě zorganizoval první jízdní jednotku SS. Kromě Polska v roce 1939 bojoval výlučně na východní frontě. Zapojil se do akcí proti partyzánům i jednotkám Rudé armády. Když v červnu 1941 Německo napadlo Sovětský svaz, tisíce sovětských vojáků rozprášených jednotek se zachránily útěkem do bažin a hustých lesů. Přepadové akce těchto uprchlíků začaly ohrožovat německé zásobovací trasy a brzy se staly vážnou překážkou německého bojového úsilí. Skupina armád Střed zorganizovala zvláštní jednotky pro boj proti partyzánům.

Patřily k nim jízdní brigáda SS, 1. a 2. pěchotní brigáda SS a několik menších armádních a policejních jednotek. Po několika měsících prudkých a krvavých bojů, kdy obě strany utrpěly těžké ztráty, se Němcům podařilo zajistit bezpečnost zásobovacích tras. Polní maršál Model vyslovil Fegeleinovi a jeho jednotce uznání za operace podporující válečné úsilí skupiny armád Střed. Fegelein za své úspěchy obdržel Rytířský kříž Železného kříže. V průběhu bojů byl ale hned třikrát raněn. Své nejproslulejší zranění utrpěl při pokusu o atentát na Adolfa Hitlera 20. července 1944, kdy sloužil jako Himmlerův osobní pobočník pro kontakt s Hitlerem. Ještě předtím se 3. června 1944 oženil se sestrou Evy Braunové Margaret. Poté se vrátil na východní frontu, kde velel 8. jízdní divizi SS Florian Geyer, ale pak byl znovu převelen jako pobočník SS v Hitlerově hlavním stanu.

Na konci války se spolu s dalšími blízkými vůdcovými spolupracovníky zdržoval v Hitlerově berlínském bunkru. 27. dubna 1945 Fegelein z bunkru zmizel. Hitler po něm nařídil pátrání. Gestapo jej zatklo v jednom berlínském domě. Byl oblečen v civilu a měl u sebe velké množství švýcarských franků a šperků. Fegeleina dopravili zpět do bunkru. Hitler již tehdy pochyboval o Himmlerově loajalitě a svůj hněv obrátil proti Fegeleinovi, který se urputně bránil, že je nevinen. Eva se za život svého švagra přimlouvala a připomněla Hitlerovi, že její sestra čeká dítě. Hitler přímluvám vyhověl a Fegeleina ušetřil, vytkl mu ovšem nedostatek odvahy. O několik hodin později agentura BBC informovala o tom, že Himmler nabídl Spojencům bezpodmínečnou kapitulaci německé armády. Hitler byl vzteky bez sebe. Fegeleina postavil před vojenský soud a za podíl na Himmlerově zradě ho odsoudil k trestu smrti. Jeho situaci navíc zhoršila skutečnost, že mezi šperky, které měl při svém zadržení u sebe, prý byly některé i z majetku Evy Braunové. Podruhé se ho už nezastala. Jednotka SS odvedla Fegeleina do zahrady kancléřství a tam ho popravila.