Do wojska trafił w 1903 r., służył w wojnie rosyjsko japońskiej, podczas I wojny światowej brał udział m. in. w Operacji Łódzkiej. Po rewolucji w 1917 r. wybrany w Mińsku na przedstawiciela komitetu żołnierskiego pułku. W 1919 r. udał się do Odessy, gdzie został wybrany na członka miejscowego Komitetu Rad. Twórca konnego oddziału Armii Czerwonej (1919), który został przemianowany na 1. Konną Armię. Jego oddziały zanano z okrucieństwa, grabieży oraz pogromów Żydów. Po wybuchu wojny polsko-bolszewickiej walczył na Froncie Południowo-Zachodnim, próbując zdobyć Lwów, lecz został powstrzymany przez Wojsko Polskie. Opis działań 1. Armii został opisany w książce Isaaka Babla Armia Konna (1926). Po wojnie, mimo iż był oficerem carskim, nie utracił zaufania władz sowieckich. W 1935 r. awansowany na stopień marszałka Związku Sowieckiego. W czasie II wojny światowej uczestniczył w obronie Moskwy, a od 1943 r. był dowódca kawalerii. Zmarł w 1973 r., pochowano go w murach Kremla.