Narozen v Ostřihomi (Maďarsko), zemřel v Praze. Výtvarné nadání ho přivedlo na Umělecko-průmyslovou školu a na Akademii výtvarných umění v Praze (1893–1898). Na popud ředitele Národního divadla F. A. Šuberta vstoupil v roce 1896 do pěvecké školy O. Paršové-Zikešové. V roce 1899 hostoval v Národním divadle v Brně v úloze Fausta (Gounod: Faust a Markétka) a téhož roku zpíval v Národním divadle Tamina (Kouzelná flétna). V průběhu roku 1899 ještě několikrát pohostinsky vystoupil v ND. Řádným členem ND byl od 1. 9. 1899 do září 1901, potom od března 1903 do listopadu 1907.

V roce 1907 odjel do Paříže, aby tam pokračoval v pěveckém školení. V letech 1909–1934 vystupoval v ND jako stálý host, naposledy 21. 6. 1934 v úloze Alfréda Germonta (La traviata). Rychlý umělecký růst a úspěchy, bohémské založení a příklad K. Buriana způsobily, že se Mařák záhy snažil proniknout do ciziny. Činil to však způsobem, který vedl ke konfliktům se správou ND. Odmítal role, svévolně si prodlužoval dovolené v cizině a uzavíral nezákonné smlouvy, např. ve Vídni (Hofoper).

Jeho hostování v jiných českých divadlech, především pražských, bylo podmíněno nejrůznějšími důvody: opozičními (Divadlo na Vinohradech 1910–1912), sociálními (v roce 1919 po likvidaci opery Divadla na Vinohradech vystupoval ve svépomocných akcích členů rozpuštěného souboru), i nutností splatit nahromaděné dluhy (proto koncem roku 1929 a začátkem roku 1930 vystupoval denně v operetě Arény na Smíchově).

Po válce přijal americké občanství a v roce 1924 získal výhradní právo rozšiřovat v Evropě vynález tzv. fonofilmu. Jeho podnikání však bylo finančně zcela neúspěšné. Do USA odjel znovu v roce 1934, ale po počátečních úspěších zpíval už jen v rozhlase a dával soukromé hodiny zpěvu. V roce 1937 byl raněn mozkovou mrtvicí a jen pomoc krajanů mu umožnila návrat do Prahy.

Manžel zpěvačky ND Anny Adamcové-Olivové, podruhé se oženil s americkou zpěvačkou Mary Cavanovou. Synovec malíře Julia Mařáka, bratr koncertního mistra ND Jana Mařáka a harfenistky Jiřiny Mařákové. Pohřben je v Praze na Vyšehradském hřbitově (Slavín).