Mitrović je rođen 17. aprila 1937. godine u Kragujevcu, gde je završio osnovnu školu i gimnaziju. Na Grupi za istoriju Filozofskog fakulteta u Beogradu diplomirao je 1961, magistrirao 1964. i doktorirao 1968. godine.
Univerzitetsku karijeru, sve do 2004. godine, proveo je na Filozofskom fakultetu, na kojem je 1980. stekao zvanje redovnog profesora. Predavao je savremenu istoriju Evrope, uvod u istorijske studije i mnoge specijalizovane kurseve, a 1987. je osnovao Katedru za Opštu savremenu istoriju kojoj je bio na čelu do odlaska u penziju.
Za dopisnog člana SANU izabran je 1988. godine. Od 2006. bio je i član Crnogorske akademije nauka i umetnosti.
Mitrović je bio urednik i osnivač više stručnih časopisa, jedan od osnivača Udruženja za društvenu istoriju, kao i urednik istorijskih biblioteka i priređivač knjiga u izdanjima Univerziteta u Beogradu, SANU, Srpske književne zadruge i drugih izdavača.
