Narodil se 14. dubna 1902 v městečku Rakiški (židovské národnosti). Účastnil se občanské války zpočátku jako politruk roty, později jako komisař pluku. Poté byl převelen k letectvu RKKA a jmenován politrukem leteckého oddílu. Zastával funkci komisaře letky a v roce 1931 komisaře stíhací letecké brigády. Absolvoval letecký výcvik v Kačinské vojenské pilotní škole. Létal na několika typech letecké techniky a stal se velitelem stíhací letecké brigády.
V průběhu občanské války ve Španělsku komdiv (velitel divize) Smuškevič se stal hlavním poradcem letectva. Osobně vedl stíhače do bojových akcí a pod přezdívkou „generál Douglas“ se stal legendární osobou. Mimo to také velel protivzdušné obraně Madridu. K 21. červnu 1937 byl poprvé vyznamenán titulem Hrdiny Sovětského svazu.
Po návratu ze Španělska byl jmenován do funkce zástupce náčelníka VVS RKKA. V průběhu bojů na Chalchyn-golu ve funkci komkor (velitel sboru) velel bojovému nasazení letectva, které sehrálo podstatnou roli při likvidaci 6. japonské armády.
K 17. listopadu 1939 byl vyznamenán titulem Hrdiny Sovětského svazu podruhé. Kromě toho byl dekorován dvakrát Řádem Lenina a Medailí XX let výročí vzniku RKKA. Stal se náčelníkem VVS KA. V červnu 1940 byl ustanoven generálním inspektorem VVS, povýšen do hodnosti geněral-lejtěnant aviaciji a v prosinci 1940 jmenován pomocníkem náčelníka Generálního štábu pro letectvo.
Stal se obětí Stalinových čistek. Smuškevič byl zatčen 8. června 1941 přímo v nemocnici, kde se krátce před tím podrobil náročné operaci. Zastřelen byl 28.října 1941 bez soudu, na základě seznamů, které vypracovával Berija a parafoval Stalin. V roce 1954 byl rehabilitován.
Komkor Jakov Vladimírovič Smuškevič (úplne vľavo) pred jedným z troch lietadiel typu Douglas DC-3, na ktorých priletela na letisko v Mongolskom Ulanbátare skupina skúšobných pilotov pod jeho velením, Ulanbátár, Mongolsko, jún 1939.
Okrem neho sú na fotografii aj stíhací pilot plukovník Ivan Alexejevič Lakejev (Иван Алексеевич Лакеев) (druhý zľava) a letecký inžinier 1. stupňa Ivan Andrejevič Pračik (Иван Андревич Прачик) (úplne vpravo).
