陈省身教授是中国现代数学的领袖人物之一，他直到晚年一直关心着中国数学事业的发展。早在20世纪40年代，他就协助姜立夫先生创建和组织中央研究院数学研究所，并曾任代理所长。80年代，中国全面改革开放，他又创办了一个以“立足南开，面向全国，放眼世界”为宗旨的南开数学研究所。他在创办南开数学研究所的同时，对南开数学图书馆也做出了很大的贡献。
陈省身先生从小就和图书、图书馆结下不解之缘。20年代他在南开大学求学时，就喜欢到图书馆看书，一待就是几个钟头。他不光看数学书，而且喜欢看历史、文学、掌故等方面的书籍。陈省身有主动看书的习惯，不完全受老师指定。他说：“这很有好处，你已经有了个初步了解，以后待你真正需要看内容时就比较熟悉了。”那时，陈省身对英语、法语、德语都已掌握得相当不错，能广泛阅读外文书刊。
为了搞好南开数学图书馆，陈先生可谓呕心沥血。南开大学数学系成立于1921年，其创始人、中国现代数学的先驱姜立夫先生非常重视图书的收集。1985年南开数学所成立时，为了向全国开放，陈先生提出：“中国这么大，至少要有一个图书、杂志较齐全的数学图书馆。若不这样，要成为数学大国是困难的。”并提出查阅高层次的图书和杂志，应在此数学图书馆内解决，不需要跑到学校图书馆去。
为使数学书、刊的购进速度加快，陈先生亲自与包括斯普林格在内的世界五家著名出版社联系，与他们商定，一旦出数学书，就寄过来。这就大大简化了购书的渠道，加快了进书的速度。更重要的是，从他们那里购书可以享受较大的优惠。此外，陈先生亲自向中央有关领导及教育部要求给予经费上的资助。多年来，数学所将教育部拨给的经费，全部用来购买书、刊。
陈先生常说，图书馆对搞好数学的人来说很重要，一定要办好，尽量把书买全。目前，南开数学图书馆以西文数学书为主。但陈先生也很重视中文图书的采购，他说：“有些中文数学书写得也很好，价钱也便宜，可以买些。学生们看原版书累了，可以随手翻一翻中文书，很有好处。”
十多年来，为了中国的数学事业，陈先生不顾年事已高，每年都要回国几个月。他每次回来都要亲自到图书馆走走、看看，问问馆里的情况。
小到建议“在图书馆墙壁上挂几张著名数学家的照片，以激励学生并了解历史”；大到四处为图书馆筹措图书和经费。1988年陈先生提出“要让人们舒舒服服地看书”，于是他亲自与邵逸夫先生联系，请其资助盖一个新的图书馆。该馆（逸夫馆）于1991年竣工，其面积达2100平方米，大大地改善了人们看书的环境。