物理所图书馆位于北园区东南一隅。走进这处面积不大、风格现代的房间，很多人会以为这不过是一间普通的开架式图书馆，殊不知迄今为止她已有80余载的历史，并且因其珍贵馆藏，堪称物理所的“藏经阁”。追溯图书馆的前身，源自中央研究院物理研究所和北平研究院物理学研究所各自建立的图书室。中研院物理所图书室1929年时约有图书500册，以专著、汇刊、丛书、个人全集及其他参考书籍居多，包括英、德、法3种文字。
北研院物理所图书期刊涉及天文、数学、力学、理论物理、光学、近代物理、电磁学、热学、声学等诸多领域，并订有英、法、德、美、印度等国出版的物理期刊。随着研究所的变迁，图书馆也历经合并重建并紧随时代的脚步不断发展。目前，物理所图书馆已经成为国内物理学类较为系统、完整的文献收藏部门。除了历史悠久，更令物理所图书馆与众不同的，是其独具特色的馆藏资源。
图书情报室编辑的资料物理所图书馆现存最早的科技文献可上溯至1824年出版的期刊。还有许多国内外的主要物理学期刊从创刊入藏起至今未断。其中包括Nature等世界著名期刊以及对检索文献极为有用的ScienceAbstract A、B系列等。
从1790年开始发行的Annalen der Physik是一本拥有200多年传统的德国物理学期刊，一些标志着20世纪物理学重大进展的论文最初都是在此期刊上发表，如爱因斯坦1905年两篇狭义相对论论文等。其1824年出版的期刊是图书馆最古老的馆藏资源。
创刊于1877年的Zeitschrift fur Kristallographie und Mineralogie是世界上历史最悠久的期刊之一，以原创文章、信件、综述等形式刊登有关晶体学方面的理论与实验研究成果。图书馆得益于陆学善先生的捐赠，有幸收藏了该刊从第一卷开始的印本。
由英国皇家学会出版的Proceedings of the RoyalSociety A，以发表数学、物理、工程方面有开创性及影响力的研究论文著称于世，如J.C. 麦克斯韦的电磁学理论、J.D. 沃森和F.H.C. 克里克对DNA结构的详细描述等。该刊除了被科学引文索引收录外，还被其他30余个涉及化学、地理等的索引库收录。图书馆完整收藏了该刊从1905年创刊卷到2001年的印本。
俄文期刊журналэкспериментальнойитеоретическойфизики及其英文翻译版Soviet Physics-JETP，是俄罗斯科学院出版的最重要的物理学期刊之一，收录的文献涉及物理学中绝大多数研究领域，美国物理学会从1955年开始几乎同步组织翻译出版该刊的英文版。物理所图书馆有该期刊俄文版1938～2002年的完整收藏。
由李荫远先生赠送给图书馆的Chinese Physics是国内绝少保存的珍品。这套期刊是1981～1992年间由美国物理学会翻译出版，旨在向世界介绍中国物理、天文学者的优秀工作，全部文献节选自物理与天文学的中文期刊。
此外，图书馆还收藏有珍贵的大型工具书若干套，如从北研院物理所接收的Handbuchder Physik，最具权威性的无机、有机化学大型参考书GmelinsHandbook der Anoganischen Chemie和BeilsteinsHandbuch der Organischen Chemie，从1978年开始出版至今的稀土材料手册Handbookon the Physics and Chemistry of Rare Earths等。
除了这些文物级的馆藏珍品之外，图书馆对核心期刊的订购从未间断，无论是从1958年开始的PhysicalReview Letters，还是从1962年开始的AppliedPhysics Letters，多种国外快报类刊物的航空版都被图书馆收入囊中。这些资源在还没有电子刊物的20世纪50～70年代，是读者快速获取该类刊物的唯一方法。
1975年美国固体物理代表团访问物理所，有成员在图书馆看到最新一期PhysicalReview Letters时，不禁讶异于这里竟能更新得如此及时。物理所图书馆丰富的馆藏资源不仅吸引了所内外的专家学者前来借阅，也带动了一批物理学家以及其他研究机构向图书馆无偿捐赠书刊，这大大丰富了图书馆的馆藏。图书馆不仅积极服务于所内外研究人员，还在力所能及的范围内，以调拨方式支援其他研究所以及大学的图书馆建设。
随着时代的发展，图书资源逐步电子化、网络化，读者更乐于足不出户地通过网络获取信息。物理所图书馆一方面结合时代特征开展多种形式的信息服务，另一方面也数十年如一日地精心守护着这些弥足珍贵的历史文献。