Mikroskopa izcelsme meklējama 16. gadsimtā. Lai gan palielinājuma un lēcu jēdziens bija zināms jau gadsimtiem ilgi, tieši šajā laikā tika panākts ievērojams progress optisko instrumentu izstrādē mazu objektu palielināšanai.
Par saliktā mikroskopa izgudrošanu, kurā objektu palielināšanai izmanto vairākas lēcas, bieži tiek piešķirts holandiešu zinātnieks Zahariass Jansens. Apmēram 1590. gadu Jansens un viņa tēvs Hanss Jansens, kas bija briļļu izgatavotāji, izveidoja mikroskopu, ievietojot mēģenē vairākas lēcas. Šis agrīnais mikroskops bija nozīmīgs sasniegums, jo tas ļāva panākt lielāku palielinājumu un uzlabotu skaidrību salīdzinājumā ar iepriekšējām palielināšanas ierīcēm.
Hansa un Zaharijas Jansenu mikroskopam bija ierobežojums, jo tas cieta no hromatiskās aberācijas, kur dažādas krāsas tika fokusētas dažādos punktos, kā rezultātā attēli bija izplūduši. Šo ierobežojumu vēlāk pievērsa cits holandiešu zinātnieks Antonijs van Lēvenhuks. 17. gadsimta beigās Lēvenhuks uzlaboja mikroskopa dizainu un izstrādāja pats savus jaudīgos objektīvus. Viņš panāca ievērojamu palielinājumu un bija pirmais, kurš, izmantojot savus mikroskopus, novēroja un dokumentēja mikroorganismus, piemēram, baktērijas un vienšūņus.
Lēvenhuka mikroskopi bija vienkāršas un viena lēca ierīces, kas pazīstamas kā "vienkāršie mikroskopi" vai "Leuvenhuka mikroskopi". Šie mikroskopi sastāvēja no niecīgas, augstas kvalitātes stikla sfēras, kas uzstādīta uz metāla plāksnes, un paraugs bija novietots uz adatas gala. Uzmanīgi pielāgojot attālumu starp paraugu un objektīvu, Lēvenhuks sasniedza palielinājumu līdz pat 270 reizēm.
Mikroskopu izstrāde un pilnveidošana turpinājās gadsimtiem ilgi, un to piedalījās arī citi ievērojami zinātnieki, piemēram, Roberts Huks un Ernsts Abbe. 1665. gadā izdotajā Huka grāmatā "Micrographia" tika parādīti viņa novērojumi, izmantojot mikroskopus, un popularizēta mikroskopu izmantošana zinātniskos pētījumos.
Mūsdienās mikroskopi ir kļuvuši par neaizstājamiem instrumentiem dažādās jomās, tostarp bioloģijā, medicīnā, materiālu zinātnē un nanotehnoloģijās. Tie ir kļuvuši par ļoti progresīviem instrumentiem, kas spēj sasniegt neticami augstu palielinājuma un izšķirtspējas līmeni, ļaujot zinātniekiem izpētīt sarežģītās mikroskopiskās pasaules detaļas.