U jesen 1935. godine, Edit Pjaf je otkrivena na uglu Avenije Mac-Mahon i ulice Troian od strane Luja Leplea, menadžera kabarea „Le Gerny’s“, koji se nalazio na Jelisejskim poljima. Leple postaje njen mentor i staratelj koji je angažuje da peva u njegovom noćnom klubu, uprkos njenoj tremi i nervozi. Zbog njene visine od samo 142 santimetra, daje joj umetničko koje će je pratiti celog života – Mali vrabac (La Môme Piaf). Radila je svake večeri i imala je smeštaj.
Prve večeri niko nije verovao da će jedna stidljiva devojka osvojiti ceo kabare, a onda Pariz, celu Francusku i svet. Tragični let malog vrapca je počeo. Nedugo zatim, Leple je ubijen, a Edit optužuju da je bila saučesnik u njegovom ubistvu. Ipak, oslobođena je optužbe. Jedne večeri upoznaje čuvenog muzičara Žaka Kanetija koji joj predlaže da joj pomogne oko karijere. 1936. Edit snima svoju prvu pesmu “Les Mômes de la cloche“, koja je postala toliko popularna da je skoro šest meseci bila na svim top listama. 1940. godine, Žan Kokto piše uspešan komad „Le Bel Indifférent“ u kome Edit igra glavnu ulogu. Sama je pisala tekstove za većinu svojih pesama.
Pesma koja postaje njen zaštitni znak, „La Vie en rose“ pisana je usred nemačke okupacije Pariza tokom Drugog svetskog rata. U to vreme, Pjaf postaje sve uspešnija i popularnija. Bila je usko povezana sa Francuskim pokretom otpora. Pevajući za visoke nemačke oficire u nekoliko klubova, uspela je da stekne pravo da se slika sa francuskim ratnim zarobljenicima, pod izgovorom da bi im digla moral. Kada bi te slike došle do zatvorenika, oni bi sekli svoje likove na fotografijama i koristili ih da naprave lažna dokumenta za beg iz zatvora.
Mnogi joj i danas duguju život. Posle rata putovala je na turneje po Evropi i Americi i stekla svetsku slavu. Njena popuralnost u SAD je bila tolika da se osam puta pojavila u emisiji „Šou Eda Salivana“ i dva puta u Karnegi holu (1956 i 1957). Doprinela je usponu karijere Šarla Aznavura, vodeći ga na svoje turneje po Francuskoj i Sjedinjenim Državama, a zaslužna je i za uspeh Iv Montana, Pola Merisa i Šarla Dimona.