Nakon napuštanja ukrajinske vlade, avgusta
1918. priključio se antiboljševičkoj Dobrovoljačkoj armiji, sa štabom u Jekaterinodaru (danas
Krasnodar), gde dobija komandu nad Prvom konjičkom divizijom i čin general-majora. Posle Druge kubanske ofanzive krajem 1918, biva unapređen u general-potpukovnika, a njegova divizija prerasta u korpus. Kao agresivni komandant, postigao je veliki broj pobeda na severnom Kavkazu. Od januara 1919. njegova vojska menja ime u „Kavkaska dobrovoljačka armija“. Veoma brzo je stekao reputaciju veštog vođe i pravednog administratora. Nije tolerisao bezakonje ili pljačku među svojim jedinicama i uživao je veliki ugled među narodom.
Vrangel se uskoro sukobio sa komandantom sektora Južne Rusije, generalom
Antonom Denjikinom, koji je insistirao na brzom maršu na Moskvu. Vrangel je umesto toga zahtevao da se prvo izvrši prodor ka Caricinu, (danas
Volgograd) radi spajanja sa armijom admirala
Aleksandra Kolčaka, koji je i izvršio 30. juna 1919, nakon tri neuspela pokušaja kozačkog atamana Petra Krasnova iz 1918. U Caricin je stigao neposredno pre nego što je Denjikin potpisao „Moskovsku direktivu“ koja je po Vrangelovim rečima: „predstavljala smrtnu presudu jedinicama Juga Rusije“. Ipak, na insistiranje Denjikina, nije mu omogućeno da spoji svoje jedinice sa jedinicama admirala Kolčaka, pa je u novembru 1919. poveo vojsku ka severu, umesto ka Moskvi. Nastavak neslaganja sa Denjikinom je doveo do toga da Vrangelu bude oduzeta komanda, nakon čega je 8. februara 1920. otišao u izgnanstvo u
Istanbul.
[2]
Kada je 20. marta
1920, Denjikin bio prinuđen da napusti mesto glavnokomandujućeg, vojni komitet koji je predvodio general Abram Dragomirov u
Sevastopolju, zamolio je Vrangela da se vrati u zemlju i preuzme dužnost vrhovnog komandanta snaga Belih na Krimu. Vrangel je prihvatio poziv i preuzeo dužnost 4. aprila 1920. Smesta je formirao koalicionu vladu koja je pokušala da sprovede radikalne reforme, uključujući i agrarnu reformu. Priznao je novostvorene antiboljševičke republike, među kojima su, između ostalih, bile
Ukrajina i
Gruzija i uspostavio je odnose sa njima. Ipak, u ovoj fazi
Ruskog građanskog rata, bilo je prekasno za ovakve mere, jer je pokret Belih ubrzano gubio podršku kako u zemlji, tako i u inostranstvu.