Vojenská policie působila v celé oblasti týlu a okupovaných územích, avšak uplatňovala se také v těsné blízkosti frontové linie, jestliže to vyžadovaly její povinnosti. Jednotky vojenské policie byly rozděleny do dvou hlavních organizací. Hlavní skupina ( Feldgendarmerie ) se dále dělila na složky bezpečnostní, disciplinární a řízení dopravního provozu. Vojenská policie řídící dopravu ( Verkehrsregelungpolizei ) byla přímo zodpovědná za řízení dopravy, což byl klíčový úkol, protože včasný přesun techniky a nákladů po správných trasách byl vždy zásadní pro úspěch armádních operací na všech bojištích. Nezávislé strážní prapory vojenské policie ( Wachtruppen ) byly přidělovány k armádním skupinám a vojskům podle potřeby se zodpovědností a dozorování klíčových zařízení, stejně jako za střežení válečných zajatců a jejich eskortaci z válečné oblasti do sběrného místa armády v oblasti týlu.

Vojáci Feldgendarmerie byly rychle rozpoznatelní podle zvláštního odznaku policejních složek, titulu „Feldgendarmerie“ na manžetách a kovového půlměsíce nošeného na řetězu na hrudi v čase služby. Na tomto půlměsíci byl orel a symbol svastiky a nápis „Feldgendarmerie“ na černé stuze. Všechny tyto detaily a dvě stuhy nebo ozdobné knoflíky uzavírající řetízek na krku byly zvýrazněné svítivou oranžovou barvou k ulehčení identifikace v noci a v době, kdy se věnovali službě v dopravě.

( Rukávová nášivka příslušníků Feldgendarmerie )

Prapory Feldgendarmerie ze tří ( někdy čtyř rot ), každá ze tří čet, byly obvykle přiděleny k organizacím na všech úrovních armády s dílčími jednotkami rozmístěnými podle potřeby po celé armádě, avšak jednotky Feldgendarmerie byly stále na úrovni divize a výš. Obvykle se rota Feldgendarmerie skládala ze čtyř důstojníků, 90 poddůstojníků a 22 jiných hodností. Tito muži byli vycvičeni jako pěšáci a ještě k tomu podstupovali speciální policejní trénink a zodpovídali za širokou škálu běžných bezpečnostních, disciplinárních, výzvědných a přesuny řídících služeb včetně řízení přístavů a letišť. Rota měla 22 nákladních vozidel, 7 osobních vozů a 28 motocyklů. Během útočných operací následovala Feldgendarmerie hlavní jednotky, zabývala se opozdilci a uprchlíky, starala se o zbraně odhozené oběma stranami, hlídala majetek, předcházela drancování a ustanovovala okamžitou vojenskou kontrolu nad okupovanými městy a vesnicemi.

Administrativní povinnosti a uplatňování zákona v okupovaných oblastech zahrnovalo i řízení a dohled nad různými civilními záležitostmi, jako byly například lov, rybolov, nemoci dobytka, obchodní správa, lesnictví a zemědělství. Personál Feldgendarmerie úzce spolupracoval s operačními a oblastními veliteli a s armádními důstojníky ustanovenými veliteli posádkových měst. V rámci Německa samotného, včetně od roku 1938 tzv. širšího Německa, zodpovídala Feldgendarmerie za zadržení dezertérů a za věci ovlivňující disciplínu jednotek, stejně jako za řešení běžných úkolů vojenské dopravní kontroly a seřazování vlaků a odsun válečných zajatců a uprchlíků.

( Kontrola dokladů hlídkou polní policie )

Vojáci z Geheime Feldpolizei ( GPF ) bývali obvykle přiděleny k úzké spolupráci s pracovníky tajné informační služby. Jejich úkolem bylo předcházet sabotážím a špionáži a také vyšetřovat korupci nebo podrývání morálky v armádních jednotkách nebo útvarech, ke kterým byli přiřazeni. Pokud měli uniformu, byli členové GPF rychle rozpoznatelní díky zlatým nebo stříbrným písmenům GPF na náramenních popruzích. Někdy působili i v civilních šatech a obvykle bývali určeni jako skupiny zorganizované pro zvláštní úkoly. Skupiny GPF o síle roty podporovaly armádu nebo armádní skupinu, zatímco prapor GPF mohl podporovat okupantskou armádu. Kromě základních úloh, GPF také shromažďovala důkazy pro válečný soud a pomáhala jednotkám zapojeným do stíhání zběhů. Její členové úzce spolupracovali s Feldgendarmerie, aby prováděli opatření nařízená velitelstvím útvaru nebo armády ohledně obnovení, udržení nebo vštípení vojenské morálky. Pokud personál GPF fungoval v civilních šatech, nosil s sebou zvláštní světlezelený průkaz totožnosti a vojenský odznak, se kterými se mohl v případě potřeby prokázat, i když v tomto případě byly vyšetřovací možnosti a pravomoci pracovníků GPF omezenější, než pokud měli uniformu.