Narozen ve Svatém Kopečku, zemřel v Praze. Pocházel z rodiny, ve které se umělecké vlohy ve spojení s řemeslem uplatnily už v několika předchozích generacích. Dědeček Vavřinec Axman vytvořil pro svatokopecký chrám vyřezávaný betlém a v jeho stopách pokračoval rovněž syn Ferdinand Axman, malíř pokojů, hřbitovních nápisů a také zručný malíř autodidakt. Od roku 1910 do roku 1914 se Svolinský vyučil podle rodinných tradic řezbářem. Pro velké výtvarné nadání, které projevil, studoval na pražské Uměleckoprůmyslové škole u profesora Štěpána Zalešáka, Bohumila Kafky a Františka Kysely v letech 1919–1926. Již v roce 1925 dosáhl významných mezinárodních úspěchů jako knižní grafik a ilustrátor. Věnoval se i volné malbě a nástěnným technikám v architektuře (mozaiky, sgrafita, vitráže).
V letech 1946–1970 byl profesorem na Vysoké škole uměleckoprůmyslové v Praze. V rozmezí let 1928 a 1933 vytvořil dvoje vitrážová okna pro Schwarzenbergskou kapli a kapli Svatého hrobu ve Svatovítské katedrále. Úspěšné byly i Svolinského dekorace Československého domu /1935–1938/. První z mnoha Svolinského výstav se konala v Uměleckoprůmyslovém muzeu v Praze na přelomu let 1935 a 1936. Ve své malířské a ilustrační práci se často zabýval divadelní tematikou, k první scénické výpravě ho však pozval až v roce 1940 do Národního divadla dirigent V. Talich (Dvořák: Jakobín). Na základě inscenací v ND si rychle získal jméno smetanovského výtvarníka a rozšířil své působiště i do mimopražských divadel (Brno, Olomouc, Plzeň aj.). Významná byla i realizace výpravy pro Janáčkovu operu Její pastorkyňa (1946) a o dva roku později s touto pražskou scénickou výpravou uzpůsobenou pro vídeňskou scénu Státní opery (1948), zaznamenal výrazný mezinárodní úspěch. Nedílnou součástí jeho scénografické práce byly kostýmy.
Výraznou stopu zanechal ve spojitosti s návrhy na československé známky. V letech 1950–1955 realizoval výzdobu olomouckého orloje se svou manželkou, sochařkou Marii Svolinskou a sochařem Olbramem Zoubkem. Jako knižní ilustrátor mimo stovky kreseb určené pro dětské pohádkové knížky a mimořádně skvělé ilustrace pro čtyřdílný soubor písní a pořekadel autorů Karla Plicky a Františka Volfa (1947), byl autorem botanických ilustrací, patřících do zlatého fondu české botanické ilustrace.
Pohřben je na Vyšehradském hřbitově v Praze (5, 41).