Rođen je 21. svibnja 1986. u Slavonskom Brodu. Podrijetlom je iz Bosanske Posavine, točnije iz gradića Odžaka gdje je sve do početka 1990. živjela njegova obitelj. Otac Mato također je bio nogometaš, pa početkom devedesetih odlazi igrati u niželigaški njemački klub Ditzingen koji nosi ime po gradiću blizu Stuttgarta. U Njemačku sa ocem Matom odlazi cijela obitelj, pa i šestogodišnji Mario. Tako je Mario počeo nogomet igrati u Njemačkoj u klubu gdje je igrao njegov otac, a poslije rata obitelj se vraća u Slavonski Brod.
Nakon povratka u Hrvatsku, Mario se priključuje nogometnoj školi Marsonije za koju je igrao od 1997. do 2003. godine. Vidjevši da se neće naigrati u tada slavonskobrodskom prvoligašu, Mario jednu sezonu nastupa za gradskog niželigaša Željezničar. Dobre igre vratile su ga u Marsoniju, gdje je bljesnuo. Iz Marsonije odlazi u NK Zagreb 2005. godine.
Već u dresu Zagreba Mandžukić je bio ekstra igrač. Na Dvoranskom prvenstvu Hrvatske te 2005. izabran je za najboljeg igrača, a iduće godine u istom natjecanju bio je najbolji strijelac. Miroslav Ćiro Blažević, koji mu je dao nadimak Đilkoš, bio mu je trener u Zagrebu i zapravo Mandžukić je pod njegovim vodstvom nogometno sazrio i pobudio veliko zanimanje Dinama i Hajduka.
Iz Zagreba prelazi u Dinamo zajedno s Ivicom Vrdoljakom, drugim najboljim igračem Zagreba iz Mandžukićeve generacije. Zdravko Mamić, izvršni predsjednik Dinama, “odriješio je kesu” i, kako su novine pisale u to vrijeme, Zagrebu je za Mandžukića istresao milijunsku svotu eura. U Dinamu će ostati zapamćen po nekoliko maestralnih utakmica u Europi. Najdojmljivija je bila ona protiv Ajaxa u Amsterdamu kada je postigao gol i izborio jedanaesterac.
Najbolji igrač HNL-a proglašen je u sezoni 2008./09. kada je bio i najbolji strijelac lige s čak 16 postignutih golova. Za hrvatskog prvaka odigrao je 141 utakmicu i postigao 65 golova. To je bio razlog zašto ga je kupio njemački klub Wolfsburg 2010. godine. U tom klubu proveo dvije sezone, odigrao 65 utakmica i postigao 20 golova.
Odlične Mandžukićeve igre u Wolfsuburgu nisu prošle neprimjetno u Bayernu koji ga je kupio 2012. godine. S tim klubom, za koji je potpisao četverogodišnji ugovor, Mario je 2013. osvojio Ligu prvaka davši u tom natjecanju svoj veliki obol i tako postao prvi Hrvat koji je u finalu tog natjecanja dao gol.
Za hrvatsku nogometnu reprezentaciju debitirao je 2007. u kvalifikacijskoj utakmici protiv Makedonije, a svoj prvijenac u dresu Vatrenih postigao je protiv Engleske u Zagrebu 2008. godine. S hrvatskom reprezentacijom igrao je na Euru u Ukrajini i Poljskoj, a u kvalifikacijama za SP u Brazilu iduće godine dao je veliki obol svojih golovima, posebice na gostovanju kod Srbije kada je taj osvojeni bod u gostima Hrvatima osigurao kvalifikacijsku utakmicu protiv Islanda.
Obećao je da će ove sezone biće boje nego u Bayernu. On se jako trudi stalno uči nove taktike koji do sada nije primjenio..Daj Bože da mu to uspije. Ima sada velikog suparnika , Barcelona je u top formi.