相比于原子晶体中原子间的相互作用为共价键等强的相互作用，分子晶体之间的相互作用更为复杂，如氢键、dipole-dipole相互作用等。由于晶体的性质主要与原子/分子间相互作用有关，分子晶体往往展现出较奇特的物理现象，如水在液-固转变中伴随着密度降低。由于维度的降低，以石墨烯为代表的二维原子晶体相比于三维原子晶体，展现了全新的量子特性，受到了人们的关注，是当前研究的热点。
但二维分子晶体的研究工作还比较少，它是否具有更奇特的物性还尚未可知。目前的一些研究还仅仅停留在理论工作方面，如有理论预测将液态水限制在二维平面上，会出现高密度液态向低密度非晶态冰的相变。可以想象，二维状态下的分子晶体可能具有许多新奇的物性，亟待用实验去探索和挖掘。但在实验上，如何找到真正的二维分子晶体为标准研究对象，进而实现其物性的测量，是一个较大的挑战。
中国科学院物理研究所/北京凝聚态物理国家研究中心表面国家重点实验室SF09组的吴克辉研究员和陈岚研究员长期关注二维体系的生长和新奇物性的表征，在硅烯和硼烯等二维原子晶体方面做出了国际上首创的研究成果。
最近，他们与北京化工大学的李晖教授、曾晓成教授合作，在二维分子晶体方面取得了突破，在Cu(111)表面实现了高密度的单层CO分子吸附，形成了二维CO分子体系，并发现了由高温下高密度二维液晶态向低温下低密度二维晶态的反常相变。
SF09组的黎文彬同学等人在陈岚研究员和吴克辉研究员的指导下，用STM研究CO分子在Cu(111)表面上的吸附，发现CO分子在较低密度下形成\(\sqrt{3}\times\sqrt{3}\)的重构。提高CO的覆盖度后，在液氮温度下表面出现两种相（α相和β相），其中α相由CO的四聚体构成，为长程有序的Kagome晶格；β相由CO的四聚体和六聚体构成，是短程有序的密堆结构。
这两种相时刻处在互相转化过程中，而且β相中的CO四聚体和六聚体也在不断互相转化。这种液氮温度下的二维CO体系，既有有序排列，又有易流动性，可以被看成二维的液晶态。当降到液氦温度，整个二维CO体系转变为长程有序的蜂窝状晶格（γ相），由CO的三聚体组成。而且，他们发现，相比于α相和β相，γ相中的CO密度有显著降低。这种从高温到低温的相变后密度反而降低的反常现象，与传统的Langmuir吸附理论相悖。
究其原因，这是由于二维CO分子间的dipole-dipole相互作用力较强，不能用气态的Langmuir吸附理论描述。SF09组的孔龙娟同学等人在李晖教授等的指导下，利用改进的二维分子晶态模型，给出了这种高温下高密度二维液晶态向低温下低密度二维晶态的反常相变的理论描述，认为这种相变是由二维分子体系的熵所驱动，其预测的相变温度与实验相吻合。
该项工作首次在实验上观察到了二维分子晶体的反常热力学行为，表明了二维分子体系有着较为奇特的物理现象，在未来研究工作中，可以更多地对分子体系进行关注。相关研究结果发表在Nature Communications 9, 198 (2018)。
该项工作得到了科技部(2016YFA0300904, 2016YFA0202301, 2013CBA01601, 2013CB921702)、国家自然科学基金委（11674366, 11674368, 11334011, 11304368, 11374333）和中科院先导计划（XDB07000000和XDPB06）的资助。
图. (a, b) 分别对应于在77K温度下共存且能相互转化的CO液态晶体相α和β; (c) α和β相降温到5K后相变得到的新的CO固体晶体相γ。(d-f) 分别对应α、β和γ相理论计算的原子结构模型和STM模拟图像。a-f各图中的平行四边形和菱形分别表示各个相的原胞。