Narodil se v rodině židovského lékaře 24. července 1900 v městě Smela na Ukrajině. Po ukončení střední školy se v roce 1919 přihlásil jako dobrovolník do Rudé armády. Během občanské války byl postupně komisařem pluku, brigády a nakonec 46. střelecké divize, která bojovala v sestavě Jižního frontu.
V roce 1921 byl přidělen jako politruk pluku při štábu 3. střelecké divize a později 1. jízdního sboru. Roku 1923 pak ve funkci komisaře jízdní brigády Turkestánského frontu bojoval s basmači a krátce velel tzv. chorézmské skupině vojsk. Od června 1925 do února 1926 byl náčelníkem politického oddělení 7. jízdní divize. Po skončení bojů nastoupil na východní fakultu Vojenské akademie M. V. Frunze, kterou ukončil v roce 1929. Poté pracoval na lidovém komisariátu (ministerstvu) obrany s hodností divizního komisaře.
V letech 1937 – 38 pak G. M. Štern pod jménem Grigorovič působil jako vojenský poradce republikánské vlády během občanské války ve Španělsku. Po návratu v květnu 1938 byl jmenován do funkce náčelníka štábu Dálněvýchodního frontu. Zároveň 1. samostatné armádě v oblasti jezera Chasan. O rok později se stal hlavním koordinátorem vojenských operací Rudé armády a MoLRAv bojích s Japonci na řece Chalchyn-gol. Jeho hrdinství při plnění bojových úkolů a velitelské schopnosti byly oceněny udělením Zlaté hvězdy Hrdiny SSSR 29. srpna 1929.
Během sovětsko-finské války velel 8. armádě, která utrpěla těžké ztráty, aniž by dosáhla výrazných úspěchů. Od ledna 1940 do dubna 1941 pak v hodnosti general-polkovnika velel Dálněvýchodnímu frontu. Krátce před napadením SSSR Německem byl povolán do Moskvy, aby se ujal velení Protivzdušné obrany státu při Ministerstvu obrany SSSR. 15. května se německému nákladnímu letadlu podařilo proniknout přes protivzdušnou obranu a přistát u Moskvy. To se stalo příčinou vlny zatýkání na štábu sil PVO. 7. června byl zatčen a uvězněn v Ljubljance i G. M. Štern. Po mučení se přiznal ke spolupráci s německou a japonskou tajnou službou a 28. října byl spolu s dalšími dvaceti zatčenými na příkaz L. P. Beriji bez soudu zastřelen nedaleko od Kujbyševa.
