Müller se narodil v Mnichově v roce 1900. Za 1. světové války sloužil jako poddůstojník a pilot jednotky Fliegerabteilung 287A na západní frontě. Od roku 1919 do roku 1934 sloužil v bavorské policii, v úřadu mnichovské politické policie, jako odborník na politiku a sledování komunistů. V roce 1931, byla zastřelena Geli Raubalová, Hitlerova neteř. Bormann s pomocí fondu Adolfa Hitlera údajně uplatil Müllera, který záležitost vyšetřoval, aby na Hitlera nepadlo sebemenší podezření. Müller se zachoval, jak se od něj očekávalo a Bormann mu nabídl členství v NSDAP. Reinhard Heydrich si Müllera zvolil za zástupce Dielseho, Göringova muže na funkci velitele gestapa.

Jako vedoucí úřadu SS – RSAH Amt IV, kanceláře velitelství gestapa, řídil Müller oddělení zřízené Adolfem Eichmannem a svoji funkci si zachoval po celou 2. světovou válku. Povyšování a změny, které následovaly po Heydrichově smrti v roce 1942, se ho nikterak nedotkly. Ve své práci pokračoval i pod Heydrichovým nástupcem Kaltenbrunnerem. Müller vedl vyšetřovací komisi, která pátrala po spiklencích a pachatelích atentátu na Adolfa Hitlera z 20. července 1944. Za úspěšné vyšetřování byl vyznamenán Rytířským křížem Válečného kříže za zásluhy s meči. Odmítal publicitu, únik plánoval zřejmě již dlouho před definitivní porážkou Německa. Naposledy byl spatřen v Berlíně v posledních týdnech války, poté však zmizel. Jeho další osud zůstává záhadou i v současnosti. Podle některých údajů se mohl stát agentem CIA, která mu umožnila vycestovat do Ameriky.