Olić je bundesligašku karijeru počeo graditi nakon transfera iz Marsonije u Herthu. Bilo je to 1998. godine, no u svom prvom mandatu u Njemačkoj nije ostavio dubok trag. Godine 2000. vratio se u klub iz Slavonskoga Broda s dvije odigrane utakmice u najjačem razredu njemačkoga nogometa.
Sjajni nastupi u dresu moskovskog CSKA (2003.-2007.) s kojim je osvojio Kup Uefe, tri puta rusko prvenstvo i po dva puta tamošnji kup i superkup, otvorili su Oliću vrata povratka u cijenjenju Bundesligu.
Ulazak u nju, točnije u HSV, usmjerio mu je karijeru prema vrhu na koji se uspeo odjenuvši dres münchenskog Bayerna, najjače i najtrofejnije momčadi njemačkog nogometnog prvenstva.
Bez prave prilike u Herthi Olić je ime u Bundesligi izgradio nastupajući za HSV i Bayern. Preciznije, u 78 utakmica za Hamburžane postigao je 29 pogodaka uz deset asistencija, a u svojoj prvoj sezoni za njemački klupski nogometni ponos nakon 20 prvenstvenih utakmica na kontu ima sedam pogodaka i četiri asistencije.
U sto bundesligaških utakmica nikada nije zaradio isključenje, a ukupno su ga osam puta opomenuli suci.