Narozen v Praze, zemřel v Praze. Pocházel z muzikantské rodiny a ještě jako student gymnázia se stal jediným soukromým žákem O. Ostrčila (1934/1935), který ho zasvěcoval do estetických i praktických problémů hudby. Po maturitě na reálném gymnáziu v Mělníce v roce 1937 studoval na Konzervatoři Praha kompozici u O. Šína a na mistrovské škole u V. Nováka (1937-1940), dirigování u P. Dědečka (1938-1940) a na mistrovské škole u V. Talicha (1940-1942). Současně též navštěvoval čtvrttónové a šestitónové oddělení u A. Háby (1940-1942). V letech 1937-1939 (až do uzavření českých vysokých škol) studoval ještě němčinu a francouzštinu na Filozofické fakultě Univerzity Karlovy a zároveň navštěvoval přednášky hudební vědy u Z. Nejedlého. Začínal jako nadaný skladatel, výborný klavírista, komponoval symfonická a komorní díla, ale brzy dal přednost dirigování.

Jako dirigent a skladatel spolupracoval s Divadlem E. F. Buriana (1939/1940). Během studií ho Z. Chalabala v roce 1940 přizval ke korepetování do ND, kde byl od 1. 4. 1940 do 30. 12. 1943 angažován. Za několik měsíců zde již dirigoval, pohostinsky též v České filharmonii. Vedle své dirigentské činnosti v ND působil současně jako šéf opery Státního divadla Ostrava, kde před uzavřením divadel (1. 9. 1944) nastudoval Foerstrovu Evu (1944) a Smetanovu Hubičku (1944). 11. 6. 1945 byl spolu s O. Jeremiášem a K. Nedbalem jmenován do kolektivního vedení opery ND. V prosinci 1948 byl opět jmenován členem umělecké správy opery s O. Jeremiášem a R. Brockem. Od září 1949, kdy se stal šéfem opery O. Jeremiáš, působil Krombholc v ND až do 15. 9. 1975 střídavě ve funkcích dirigenta, hlavního dirigenta a šéfa opery (1968-1970). I po svém odchodu na místo šéfa Symfonického orchestru Čs. rozhlasu (1975-1978) dirigoval v ND pohostinsky.

Nahrál množství rozhlasových a gramofonových snímků doma i v zahraničí. Zúčastnil se zájezdů opery ND do Moskvy (1955), Berlína (1956) a do Bruselu (1958). Nastudoval např. ve Vídni Její pastorkyňu (1947) a Prodanou nevěstu (1947, 1948, 1958, 1959). Jako první český dirigent vystoupil po válce v Covent Garden v Londýně při nastudování Musorgského Borise Godunova (1959). Pro Holland Festival připravil hudebně Káťu Kabanovou (1959), Její pastorkyňu (1960), Rusalku (1962) atd.

Manžel zpěvačky ND Marie Tauberové. Je pohřben v rodinné hrobce na Hřbitově sv. Václava (H) v Mělníku.