弗莱明出生在苏格兰的亚尔郡，他的父亲是个勤俭诚实的农夫，生了八个孩子，弗莱明是最小的一个。由于家道中落，他不能完成高等教育，十六岁便要出来谋生；在二十岁那年，承受了姑母的一笔遗产，才可以继续学业。二十五岁医学院毕业之后，便一直从事医学研究工作。
在1928年，弗莱明在伦敦大学讲解细菌学，无意中发现霉菌有杀菌作用，这种霉菌在显微镜下看来像刷子，所以弗莱明便叫它为“盘尼西林” （Penicillin 的原意是有细毛的） 。从这时开始，弗莱明便对盘尼西林作系统的研究，到了1938年，盘尼西林才正式在病人身上使用。在第二次世界大战期间，盘尼西林救活了无数人的生命。
弗莱明是一个脚踏实地的人。他不尚空谈，只知默默无言地工作。起初人们并不重视他。他在伦敦圣玛丽医院实验室工作时，那里许多人当面叫他小弗莱，背后则嘲笑他，给他起了一个外号叫“苏格兰老古董”。
有一天，实验室主任赖特爵士主持例行的业务讨论会。一些实验工作人员口若悬河，哗众取宠，惟独小弗莱一直沉默不语。赖特爵士转过头来问道：
“小弗莱，你有甚么看法？”
“做。” 小弗莱只说了一个字。他的意思是说，与其这样不着边际地夸夸其谈，不如立即恢复实验。
到了下午五点钟，赖特爵士又问他：
“小弗莱，你现在有甚么意见要发表吗？”
“茶。”原来，喝茶的时间到了。
这一天，小弗莱在实验室里就只说了这两个字。
弗莱明像往日那样细心地观察培养葡萄球细菌的玻璃罐。
“唉，罐里又跑进去绿色的霉！”弗莱明皱了眉头。
“奇怪，绿色霉的周围，怎么没有葡萄球细菌呢？难道它能阻止细菌的生长和繁殖 ？”细心的弗莱明不放过一个可疑的现象，苦苦地思虑下去。
他进行了一番研究，证赏这种绿色霉是杀菌的有效物质。他给这种物质起个名字： 青霉素。有了这个发现，人类又从死神的手里夺回许多生命。