Narozena v Praze, zemřela v New Yorku. Zpěvu a divadlu se věnovala od mládí a již v dívčích letech se objevila na scéně Vinohradského divadla jako statistka. Na doporučení herečky Zdeňky Baldové se přihlásila do konkurzu na elévky do Činohry Národního divadla, kde později ztvárnila řadu drobných rolí (např. ve hrách Svatá Johanka, Procitnutí jara, Šest postav hledá autora). V roce 1923 začala studovat zpěv u Emy Destinnové a Hilberta Vávry a o dva roky později – v necelých osmnácti letech – poprvé vystoupila v Opeře Národního divadla jako Mařenka v Prodané nevěstě.

Od ledna 1926 se stala sólistkou Opery ND (v angažmá byla do r. 1927) a obohatila svůj repertoár mimo jiné o Violettu (La traviata), Taťánu (Evžen Oněgin), Královnu noci (Kouzelná flétna), Mimi (Bohéma), Jitku (Dalibor), Karolínu (Dvě vdovy), Frasquitu (Carmen), Aničku (Čarostřelec), Rosinu (Lazebník sevillský) a další. O rok později se rozhodla pro další studia zpěvu v Itálii, která završila úspěšným vystoupením v roli Gildy (Rigoletto) ve slavné Veronské aréně.

Dalším mezníkem v její kariéře bylo v roce 1929 angažmá v Krollově opeře v Berlíně, kam ji pozval dirigent Otto Klemperer a kde se představila např. jako Concepión (Španělská hodinka), Mařenka, Gilda, Madama Butterfly, Pamina (Kouzelná flétna) nebo Cherubín (Figarova svatba). V Berlíně dále vystoupila v opeře Unter den Linden v titulní roli Pucciniho Manon Lescaut nebo v Divadle na Kurfürstendammu v titulní roli Krásné Heleny v režii legendárního divadelního režiséra Maxe Reinhardta. Změny politické situace v Německu počátkem 30. let se nepříjemně dotkly i působení české umělkyně na německých scénách, a tak Novotná kromě četných hostování v pražském Národním divadle a koncertních vystoupení směřovala svou činnost do vídeňské Státní opery. K rolím, které zde nastudovala patří mimo jiné titulní úloha ve světové premiéře operety Franze Lehára Giuditta, opět Mařenka, Fiordiligi (Cosi fan tutte), Hraběnka (Figarova svatba), Oktavián (Růžový kavalír) nebo všechny tři hlavní ženské role v Hoffmannových povídkách pod vedením dirigenta Felixe Weingartnera. Vídeňská Státní opera ji poctila za její vynikající umění titulem „komorní pěvkyně“.

Významnou osobností, která dále ovlivnila její umělecký život, byl slavný italský dirigent Arturo Toscanini. Pod jeho taktovkou vystoupila v roce 1937 na Salcburském festivalu jako Pamina. Toscanini Novotnou představil na americké půdě a v roce 1939 ji na základě jeho doporučení angažovala Metropolitní opera. Vlivem následného vývoje válečné situace v Evropě, opustila Novotná i s manželem a dvěma dětmi na začátku sezony 1939/1940 nejen Prahu, ale i Evropu, a zůstala v USA až do července roku 1946. V Metropolitní opeře se stala na dlouhou dobu oblíbenou Violettou, Mimi, Mařenkou, Cherubínem, Gluckovou Eurydikou, Oktaviánem, Massenetovou Manon, Debussyho Mélisandou, Antonií nebo Princem Orlofským. Kromě dlouhé řady koncertních vystoupení nejen v New Yorku, ale i v mnoha dalších městech zemí Severní i Jižní Ameriky, úspěšně vystupovala také na muzikálové scéně na Broadwayi.

Za války se silně angažovala v šíření české kultury a v účasti na mnoha akcích ve prospěch své vlasti. Nejznámější se stala nahrávka Lidických písní, které natočila za klavírního doprovodu Jana Masaryka ve dnech heydrichiády v roce 1942. Po návratu do Československa v roce 1947 účinkovala opět v Národním divadle a zopakovala zde své dvě slavné role – Mařenku a Taťánu. Další změna politické situace ji však opět donutila Československo opustit. I nadále byla žádaným hostem světových operních scén a koncertních pódií, ale i filmových společností. Z její filmografie se nejvíce proslavily dva poválečné filmy – Oscarový film The Search (Poznamenaní) a The Great Caruso (Velký Caruso), ve kterém hrála a zpívala po boku populárního tenoristy Maria Lanzy.

Svou aktivní pěveckou dráhu ukončila z rodinných důvodů poměrně brzy – již v roce 1956, nicméně příležitostně se věnovala činoherním představením, přednáškám spojeným s pěveckými ukázkami a v 70. letech působila jako hlasová poradkyně v Metropolitní opeře. Po roce 1989 se dočkala mnoha uznání také ve své vlasti a kromě několika dokumentárních filmů byla vydána kniha jejích vzpomínek Byla jsem šťastná (Melantrich, Praha 1991, 1997). V roce 2015 vyšla publikace Pavla Kosatíka Baronka v opeře, život a zpívání Jarmily Novotné.

Pohřbena je v hrobce rodiny Daubků v Litni (park v Nádražní ulici).