Édesapja, id. Babits Mihály törvényszéki bíró volt (később a budapesti ítélőtáblához nevezték ki, majd a királyi tábla decentralizációja következtében, 1891-ben Pécsre helyezték), édesanyja Kelemen Auróra (művelt, versszerető – betéve tudta Puskin Anyeginjét, a Toldi szerelmét, A délibábok hősét). Rokonságban állt Buday Dezső jogásszal.
Az elemi iskolát Pesten, Pécsett végezte, 1893 szeptemberétől a ciszterciek gimnáziumába járt. Ötödikes gimnazista volt, amikor édesapja meghalt. Édesanyja a két gyermekével visszaköltözött az anyai nagypapa, Kelemen József szekszárdi házába. A nagymama, született Rácz Innocentia (Cenci néni a Halálfiaiból) fogta össze a családot. Érettségi után a Pázmány Péter Tudományegyetem Bölcsészettudományi Karán magyar–francia (az utóbbi helyett később latin) szakos hallgató lett. Négyesy László híres stílusgyakorlat-óráin ismerkedett meg Juhász Gyulával és Kosztolányi Dezsővel. Latin–magyar szakon szerzett diplomát. A századfordulótól írt verseket, de ezeket nem publikálta. Baján, Szekszárdon, Újpesten, Pesten, Szegeden (1906–1908) dolgozott gimnáziumi tanárként. Ezután Fogarason, majd 1911-1916 között az újpesti Könyves Kálmán Gimnázium, a budapesti tisztviselőtelepi, végül a Munkácsy Mihály utcai gimnáziumban tanított. Első művei a Nagyváradon kiadott A Holnap című antológiában jelentek meg (1908).
1909-ben jelent meg első kötete Levelek Iris koszorújából címmel. 1911 folyamán adta ki második kötetét (Herceg, hátha megjön a tél is). Ekkor még főállásban tanít az újpesti Könyves Kálmán Gimnáziumban. 1913-ban írja meg első regényét A gólyakalifa címmel (csak 1916-ban jelenik meg). Ebben az évben kezdi el lefordítani Dante Isteni színjátékát olaszról magyarra (1913-ban jelenik meg a Pokol, 1920-ban a Purgatórium, 1923-ban a Paradicsom). Fordításáért az olasz állam kitünteti, megkapja a San Remo-díjat (1940-ben utazik ki érte, Sanremóba). Játszottam a kezével című, 1915-ös szerelmes verse megjelenésekor hazafiatlansággal vádolták, s elvesztette tanári állását. Harmadik verseskötete, a Recitativ 1916-ban jelent meg.
1918-as megalakulásakor a Vörösmarty Akadémia alelnöke, 1925-ben elnöke. 1930-ban a Kisfaludy Társaság rendes tagja. 1920 februárjától kizárásáig rendes tagja volt a Petőfi Társaságnak. A Nyugat főmunkatársa, majd 1919-ben egyetemi tanár, de csak a tanácsköztársaság bukásáig.
1919–20-ban rövid ideig Ady özvegyével, Boncza Bertával, Csinszkával tartott fenn szerelmi viszonyt. Ezt követően a vele egy lakásban élő titkára, Szabó Lőrinc menyasszonyát, Tanner Ilonát (írói álnevén Török Sophie) kéri feleségül. 1921. január 15-én Budapesten, a Józsefvárosban házasodtak össze. 1924-ben az esztergomi Előhegyen vettek nyaralót, ahol a költő haláláig sokat időztek, Babits számos műve itt született, aki ettől kezdve a város kulturális életének meghatározó alakja lett. Alapító tagja volt a városban máig működő Balassa Társaságnak. Esztergomi házában több híres írót, költőt, művészt fogadott, akik mind aláírták az úgynevezett autogram-falat. A nyaraló ma Babits-múzeumként működik.
1927-től a Baumgarten-alapítvány kurátoraként dolgozott, így a magyar irodalmi életben nagy befolyásra tett szert. Munkatársa volt a Benedek Marcell főszerkesztésében, 1927-ben megjelent Irodalmi Lexikonnak is.
1933-ban írta utolsó regényét, az Elza pilóta vagy a tökéletes társadalom című antiutópiát egy állandó háborúban élő kilátástalan világról. Az események egy meghatározatlan társadalomban játszódnak, ahol a háborúban a férfiak zöme már meghalt, így a nők is katonai szolgálatot teljesítenek. Elza pilótaként fogságba esik, így saját szülővárosát kell bombáznia. 1929-től lett főszerkesztője a Nyugatnak, a kor legmeghatározóbb magyar irodalmi folyóiratának. Lírájára amúgy is jellemző pesszimizmusát tovább fokozta a diagnózis, hogy gégerákban szenved. 1938-ban gégeműtéten esett át, képtelen volt beszélni, ezért beszélgetőfüzetén keresztül érintkezett a külvilággal. 1938-ban jelent meg a Jónás könyve. 1941. augusztus 4-én halt meg.