物理所第一位中共党员是李寿枏。1947年秋天，25岁的李寿枏从浙江大学物理系毕业进入中央研究院物理所（物理所的前身），到赵忠尧正在筹建的核物理实验室工作。这时的物理所刚从上海迁到南京九华山新建的大楼里，所里大概有30人。李寿枏是物理所里唯一的中共党员，他与党组织单线联系，这个政治身份在研究所不公开，也就是“地下党员”。这个时期，南京形势已不稳定。1948年初中央研究院开始作撤往台湾的准备。
淮海战役开始后，中央研究院部署南京地区的人员陆续撤离，设备、图书向上海集中，准备由海上撤往台湾。物理所分得150只木箱，开始装运设备和图书。所内绝大多数科研人员对撤往台湾心存疑虑，经历8年“抗战”，研究工作尚在恢复中，南京新实验楼也才建好不久，赵忠尧从国外购买的科研设备还放在楼外等着搬进实验室安装，一旦撤离，前途渺茫。时任物理所所长吴有训和主持日常工作的施汝为都是抵制撤往台湾的。
李寿枏在物理所的抵制撤离中发挥了重要作用，他和留守在南京的同事们先把贵重的仪器设备都装箱包好，存放在南京中央博物院地下室里，另把一些旧零件、不常用的器材分开装箱准备运往上海。白天大家把仪器设备装箱，到晚上下班后李寿枏动员几位比较可靠的工人又把准备运往上海的仪器从箱里取出藏起来，换上砖头之后再封箱。李寿枏和同事们就这样将物理所二十多年来苦心经营的科研设备和图书留在了大陆，迎接新中国。
中科院成立后整合中研院和北研院与物理学相关的研究机构，建立近代物理研究所和应用物理研究所，李寿枏所在的实验室进入近代物理研究所。中科院建立初期李寿枏曾担任南京地区党支部负责人，1950年底来到北京。1957年，近代物理所划归核工业部，李寿枏随调，离开中科院。物理所另一位老党员是黄有莘。
“抗战”时期，黄有莘考入西南联大，1944年毕业后进入在昆明的北平研究院物理所（也是物理所的前身），协助严济慈工作。在昆明期间，黄有莘曾亲历“一二.一”运动，受到进步影响。“抗战”之后黄有莘随北平研究院物理所回到北平，参加过中共地下党组织的进步活动、进步集会，参加了党的外围组织“文化工作者联盟”，并介绍严济慈加入这一组织。
黄有莘还参与组织了北平研究院的“助理研究人员联会”，配合过和平解放北平的工作，参加过护所活动，并于1950年加入中国共产党。中科院成立后，黄有莘进入应用物理所，1952年他与在西南联大时的同学、建国后从美国回来的许少鸿一起创建发光实验室。1958年，黄有莘调入中国科技大学，曾担任物理系副主任。
中科院建立初期，北京地区只有几十名中共党员，一个党支部。近代物理所、应用物理所等研究所的党员成立了一个党小组，李寿枏曾担任组长。随着研究所的规模扩大、党员增多，1953年，应用物理所和近代物理所、古脊椎动物研究室成立了联合党支部，王守愚担任支部书记，党员包括李寿枏、黄有莘、章综等。1954年，应用物理所成立第一个独立的党支部，王守愚任支部书记。