De Oberbefehlshaber des Heeres was niet verantwoordelijk voor de operationele planning. Dit werd gedaan door de Generale Staf of Generalstab des Heeres onder leiding van de Chef des Generalstab des Heeres (Chef GenStdH) die daarmee de totale leiding over het Heer en de Kriegsmarine had (alleen de Luftwaffe viel onder Hermann Göring zelf).

Een werkelijk gecoördineerde aanpak van de diverse Duitse strijdmacht onderdelen was er niet echt. Het Oberkommando der Wehrmacht (OKW) dat formeel boven het Oberkommando des Heeres stond was daar niet voor uitgerust. Hierdoor speelde veelal de Generalstab des Heeres een leidende rol in de planning van operaties. Ten tijde van de uitvoering van een operatie stond echter de Oberbefehlshaber des Heeres weer boven de troepen, zij het onder direct bevel van de Oberster Befehlshaber der Wehrmacht, Adolf Hitler.

De Generalstab des Heeres werd bij de mobilisatie verdeeld in twee afdelingen, een 1. Staffel (Feldstaffel), voor de operationele leiding in het veld, en een 2. Staffel (Heimatstaffel) die ten alle tijde in Berlijn verbleef. Zodra de 1. Staffel zich in Berlijn ophield, functioneerden beide afdelingen onder dezelfde Stab.

1. Staffel (Feldstaffel)

Onder de 1. Staffel ressorteerde de Chef des Generalstab des Heeres, de Stab Oberkommando des Heeres, de Chef Transportwesens, de Generalquartiermeister, de General der Artillerie, de General der Pioniere und Festungen, de General der Nebeltruppe, de General der Osttruppen, de Gruppe III, de General zur besonderen Verwendung IV, de Chef des Heeres Nachrichtenwesens, de Chef des Kriegskarten- und Vermessungswesens, de Einzeldienststellen und Verbindungsorgane beim Generalstab des Heeres, en diverse kleinere onderdelen.

2. Staffel (Heimatstaffel)

Onder de 2. Staffel ressorteerde de Oberquartiermeister V, Beauftragten für Militärischen Geschichtsschreibung, de Zentralabteilung des Generalstabs des Heeres, de Organistionsabteilung 2. Staffel, Chef des Transportwesens, de Heersfilmstelle en de Kriegsakademie Berlin.

De Chef des Generalstab des Heeres voerde formeel het bevel over de Heer en de Kriegsmarine. Vanaf december 1941 werd deze direct onder bevel gesteld van Adolf Hitler zelf. Bij de Chef des Generalstab des Heeres bevond zich tevens de Nationalsozialistischer Führungsoffizier (NSFO) beim Chef Generalstab des Heeres.