Sa Izom Kolečićem, Pjerom Žalicom, Zoranom Kesićem i Edom Mulahalilovićem je u septembru 1985. godine pobedio na Festivalu „Nove nade, nove snage“. Nakon toga su osnovali grupu kojoj su dali ime Hari Mata Hari, te već sledeće godine objavili svoj prvi album pod naslovom „U tvojoj kosi“. Na toj ploči, pored pesama „U tvojoj kosi“, „Merjema“, „Polarna noć“ i drugih koje je Hari prethodno objavio sam, našle su se i numere „Gdje si sad“, „Kose oči“ i druge. U ulozi tekstopisaca, kompozitora i aranžera su se, osim članova grupe našli i Momčilo Bajagić Bajaga i Kornelije Bato Kovač.
Sledeće godine Žalica i Kesić su napustili bend, a na njihove pozicije su došli klavijaturista Adi Mulahaliliović i basista Neno Jeleč, koga je kasnije zamenio Željko Zuber. U novom sastavu objavili su album „Ne bi te odbranila ni cijela Jugoslavija“ koji je naišao na veoma dobre reakcije publike. Proglašen je najboljim pop albumom godine. Iste godine su nastupili na „Jugoviziji“ sa pesmom „U tvojoj kosi“ gde su osvojili peto mesto. Godine 1987. su ponovo učestvovali na „Jugoviziji“ sa numerom „Nebeska kraljica“ koja je, u veoma jakoj konkurenciji, zauzela 14. mesto.
Usledilo je snimanje novog albuma koji je „svetlost dana ugledao“ 1988. godine. Ploča je nazvana „Ja te volim najviše na svijetu“, a na njoj su bile pesme „Sedamnaest ti je godina“, „Hej, kako si“, „Zapleši“, te „Kad dođe oktobar“ i „Poslednji valcer s Dunava“ koje su postale veliki hitovi. Taj album je prodat u više od 300 000 primeraka. Diskografska kuća „Diskoton“ je 1989. godine izdala četvrti album Hari Mata Harija pod naslovom „Volio bi` da te ne volim“. Osim naslovne, veliku popularnost stekle su pesme „Šta je bilo, bilo je“, „Ti znaš sve“, „Spavaj mi, spavaj“ i druge. Mlade Sarajlije stekle su veliku naklonost publike, što pokazuje tiraž od pola miliona prodatih nosača zvuka.