Narozen v Ivančicích, zemřel v Praze. Psán též Jožka Charvát. Na varhanické škole v Brně byl v letech 1901–1903 žákem L. Janáčka, na housle se učil u R. Reissiga. V sezoně 1905/1906 byl druhým kapelníkem a 1911/1912 prvním kapelníkem Státního divadla Brno. Jako dirigent působil u Východočeského divadla (1909/1910 a 1912/1913), s jehož malým souborem provedl 6. 2. 1913 v Chrudimi vlastní operu Tragédie florentská na text O. Wildea. V roce 1910 krátce pracoval jako dirigent Švandova divadla na Smíchově, 1911 byl členem správy divadla Deklarace na Žižkově, 1919 krátce v Divadle na Vinohradech a ještě téhož roku šéf opery v Českých Budějovicích (do roku 1922).

Ve 20. letech řídil orchestr Bio Lucerna a orchestr Radiojournalu v Praze. O dirigentské místo v Národním divadle se ucházel již v roce 1911 a potom znovu po smrti dirigenta F. Picky (1918), ale bezúspěšně, třebaže za něho intervenovala E. Destinnová. Od roku 1918 řídil mnoho představení v ND pohostinsky. O. Ostrčil podal od roku 1923 intendanci několik návrhů na jeho angažování. Přijat byl však teprve 1. 2. 1928 a setrval v ND až do své smrti.

Manžel zpěvačky Marie Kašparové, otec herečky Julie Charvátové.