荷兰韦塞尔的米德尔堡城，有一位磨眼镜片的工人汉斯·玛顿斯·詹森。他有两个淘气的孩子，兄弟俩和父亲一样，也爱摆弄各种各样的镜片。大约在1590年的一天，父亲外出，兄弟俩又玩起了镜片。当他俩无意识地把两块镜片分别装在一根铜管的两头，并用它对着书看的时候，惊奇地发现很小的逗号竟有蝌蚪般大。他们再用它看对方的眼睫毛，竟有小木棍一般粗……不久，詹森父子仨就制成了一台原始的复式光学显微镜。
它由3个能相互滑动的铜镜筒连接而成，物镜是一个单凸透镜，目镜是一个双凸透镜，当两个活动镜筒完全收拢和完全伸出时的放大倍数分别是3倍和10倍，但后来这台显微镜遗失。不过，根据他们制作的其中一台的复制品，还是能得到这3个铜镜筒的几何尺寸：直径76毫米。经过进一步研制，詹森父子仨在1604年又制成了一台复式显微镜。
詹森显微镜它和前面那台显微镜不同——物镜是一个双凸透镜，目镜是一个双凹透镜，镜片各放在一根铜管的两端，放大倍数也仅几倍。米德尔堡科学协会至今仍保留着詹森父子仨造的这台显微镜。这就是存在争议的显微镜的肇始。争议的第一种说法是，显微镜是荷兰人扎卡赖亚斯·约安尼代斯及其父亲发明的。争议的第二种说法是，约安尼代斯父子是受到伽利略在1609～1610年制成的复式显微镜的启发，才在1610年以后制成显微镜的。
因此，伽利略才是显微镜的发明人。争议的第三种说法是，荷兰科学家惠更斯把性能优于詹森父子仨的显微镜的发明权，归功于荷兰工程师、发明家、化学家柯尼利厄斯·雅格布森·德勒贝尔。争议的第四种说法是，意大利那不勒斯的弗朗西斯·冯塔纳，在与詹森父子仨大致同时，也发明了性能优于詹森父子仨的显微镜。此外，发明显微镜还有多种说法。例如，荷兰人梅蒂乌斯父子。又如，德国天文学家西蒙·马里乌斯。
再如，德国天文学家克里斯托夫·沙伊纳，在1628年用两块凸透镜制成的复式显微镜，成了近代显微镜的原型。“明察秋毫的眼睛”——显微镜的“用”，就是要用它观察肉眼看不见的细小物体。首先取得重要成果的是意大利天文学家、神父乔凡尼·巴蒂斯塔·奥迪埃纳。他在1644年出版的《苍蝇的眼睛》一书中，第一次详细地描述了苍蝇眼睛的结构。
1646年，博学多才的德国神父阿萨内修斯·科瑞撤，用显微镜观察到了瘟疫患者血液内的“小蠕虫”，以为瘟疫是微生物感染所致。于是，他建议用戴口罩、隔离感染者、焚烧患者的衣物等措施来防止瘟疫蔓延。不过，后来的研究表明，他看到的“小蠕虫”，并不是他所说的“微生物”或“耶森氏鼠疫杆菌”，而是白细胞和红细胞。1653年，法国化学家、医生、植物学家皮埃尔·波莱尔，首先把显微镜用于医学领域。
意大利生物学家马尔比基和科瑞撤两人被认为是进行生物显微检查的先驱。他俩的主要观察对象是动物与植物。例如，马尔比基在1661～1666年间先后发现了肾小球、肾小管、毛细血管与红血球等。1628年，英国医学家威廉·哈维创立了血液循环说。然而，他的学说有一个致命的“缺环”——不能证明血液确实能从动脉系统进入静脉系统，形成一个循环通路。
原因是，他没有显微镜，靠肉眼观察，只能看到动脉末端是没有出路的“盲端”，所以人们对血液循环学说将信将疑。毛细血管的发现，不但弥补了这个缺陷，让它成为一个完美的理论，而且也引领了“组织学”研究这个医学新领域；所以，马尔比基被誉为“组织学之父”。
17世纪中叶，荷兰小镇德尔夫特，一个没有受过高等教育的青年，认认真真、不厌其烦地在磨制一块又一块的透明玻璃，致力于完善每一个平淡无奇的细节……磨呀磨，磨呀磨……一磨就历经了几十个冬夏春秋。最终，竟然浑然天成地“磨”出了一个“崭新的世界”……显微镜诞生以后，就以能“明察秋毫”的魅力，像磁石一样吸引着成千上万的追求者。上述青年——安东尼·凡·列文虎克就是其中最痴迷的一个。
他把一块又一块的玻璃，磨成放大镜即凸透镜，最终组装成了显微镜。1675年9月的一天，列文虎克在花园的水池里取出几天前下雨时积蓄的雨水，放到显微镜下观察，看到一滴水中有大量的小生物！接着，列文虎克又在河水、井水、脏水等处，以及肠道中发现了微生物……由此，列文虎克得出结论，我们的周围存在着一种用肉眼看不到的微生物。他还据此撰写了人类关于微生物的最早的专著——《列文虎克发现的自然界的秘密》。
列文虎克是磨制显微镜的主要实践者——他一生都在改进和实际磨制。最终，他把显微镜的放大倍数提高到270倍以上。他掌握了当时世界公认的最先进的磨镜片技术，一生亲自磨制了550多个透镜，装配了247台显微镜—保留下来的9台，现存于荷兰尤特莱克特大学博物馆。其中的一台放大倍数为275倍，分辨率为1.4微米；人们甚至认为他曾制造出放大倍数为500倍的显微镜。
1680年2月8日，英国皇家学会开会，第二任会长约瑟夫·威廉森亲自把列文虎克和他“造”与“用”显微镜的成果，介绍给到会的科学家。许多名人专程到德尔夫特来拜访他，他还被许多国家的科学机构吸收为会员或院士……中国思想家梁启超在《梁启超家书》中说：“只要在自己的责任内，尽力去做，便是第一等人物。”没有“高等文化”的列文虎克，从来都没有想当“第一等人物”。
然而，他“尽力去做”，致力于每一个平淡无奇的细节的完善，而且一干就是一辈子，于是成了名垂青史的“第一等人物”！列文虎克留给我们的一个思考是：为什么显微镜在16世纪末诞生以后的几十年中，有包括伽利略等“大腕”在内的群雄逐“镜”，但唯有“草民”列文虎克有如此石破惊天的发现，成为“显微镜之父”与荷兰的“国宝”？这就是“工匠精神”的结果！“细节决定成败”是一句著名的流行语。
列文虎克精心打磨镜片的“细节”，让自己的显微镜登顶折桂，这一事实对此做了优雅的诠释。1903年发明的能观察胶体粒子运动的“超显微镜”，可看到小至10纳米的微粒，但本质上仍是光学显微镜。其后也发明了各种新的光学显微镜。19世纪以后，人们认识到光学显微镜的分辨率（或放大倍数）受数值孔径和所用光的波长的限制—放大倍数不会大于2000倍。研究更高分辨率的显微镜必须另辟蹊径。
于是，形形色色的非光学显微镜相继诞生：透射式电子显微镜、场发射电子显微镜、场发射离子显微镜、原子探针场发射离子显微镜、超声显微镜、扫描式隧道显微镜、磁力显微镜、原子力显微镜……2018年，中国造的散裂中子源（CSNS）“超级显微镜”已通过验收并将对用户开放。