Mihai Scarlat is van Roemeense afkomst en groeide op in Rîmnicu Sarat (De Zoute Rivier). Zijn vader, trompettist en dirigent van de plaatselijke fanfare, gaf hem zijn eerste muzieklessen. Daarna kreeg hij vioolles van zijn oom. Toen Mihai 12 jaar was, stapte hij over op de contrabas en werd toegelaten tot het Muzieklyceum George Enescu in Boekarest. Nadat hij cum laude was afgestudeerd, werd hij in 1975 aangenomen bij het grootste volksmuziekensemble van Boekarest - Ciocirlia.

In 1979 verbond hij zich aan het ensemble van Benone Damian, waarmee hij in het binnen- en buitenland veel tournees heeft gemaakt. In 1986 werd hij vaste bassist bij het ensemble van Andrei Serban. Tijdens een muziekfestival in Scheveningen besloten hij en enkele Roemeense collega's in Nederland te blijven.

Hij behaalde vervolgens zijn diploma Docerend en Uitvoerend Musicus aan de conservatoria van Hilversum, Utrecht en Amsterdam bij Peter Jansen en Peter Stotijn. Sinds 1997 is hij bassist bij het Nederlands Balletorkest, het huidige Holland Symfonia.
   

Mihai geeft daarnaast contrabasles en leidt het Balkanensemble aan de Muziekschool Koorenhuis te Den Haag. Verder geeft hij workshops en cursussen in volks- en zigeunermuziek aan verschillende amateur-orkesten in Nederland. Sinds 2002 studeert hij orkest- en koordirectie bij dirigent Gerrit Fokkema. Heimwee naar Roemenië en de Roemeense muziek waren de basis voor de oprichting van het "Ensemble Mihai Scarlat".

Over zijn muzikale achtergrond zegt hij:
"Mijn moeder komt uit een gezin met veertien kinderen van wie er twaalf musicus zijn geworden. Mijn vader was professioneel trompettist in een militaire kapel. Hij dirigeerde daarnaast zijn eigen fanfare waarvan de repetities in onze tuin plaatsvonden. Mijn speelgoed bestond uit het mondstuk van een tuba, de coulise van een trombone en de strijkstok van een viool. Mijn leven wás muziek."