在很长一段时间内，由于潜水技术的限制，人类仅能将目光落在陆地文物的发掘与研究上，几乎无暇顾及水下文物。1960年，美国考古学家乔治·巴斯在土耳其格里多亚角海域，展开对公元7世纪拜占庭沉船遗址的考古调查和发掘，正式拉开人类利用水下考古技术进行水下考古的序幕。乔治·巴斯也由此被称为“水下考古学之父”。
我国水下考古工作开始的时间较晚，直至上世纪80年代后期，除了完成了一些淤陆地和岛屿古代遗存的调查和少量发掘之外，在水下考古技术领域仍然是一片空白。但在国外，水下考古却进行得如火如荼，并且有很大一部分牵连到辉煌的中华文明。
1987年8月，英国一家打捞公司通过查阅史料，推测属于英国东印度公司的莱茵堡号沉船沉没于中国南海台山海域，随后与广东省救捞局合作进行了探测，结果证实其为一艘中国南宋时期的沉船，也就是后来著名的“南海一号”。在打捞时，工作人员用巨大的抓斗抓取的精美的长达1.72米的金腰带，以及200多件来自于中国龙泉窑系和景德镇窑系的瓷器，让中方人员认识到这艘沉船的重要性。
惨痛的经历刺激着国人的神经。前国家科委、文化部连续出台多份关于加强我国水下考古工作的意见，得到了党中央、国务院的批示，标志着中国水下考古事业正式提上日程。1987年11月，中国历史博物馆水下考古学研究室正式成立。
就出土的文物数量和考古界的影响力而言，“南海一号”被学者比喻为“海上敦煌”，甚至媲美“秦兵马俑”。其所载文物反映了我国宋代的社会生产、社会生活、文化艺术与先进科学技术，为研究古代造船技术、航海技术及生产技术、手工业水平等提供了极好素材。而且它位于“海上丝绸之路”主航道上，对研究“海上丝绸之路”历史、造船史、陶瓷史、航海史、中西交流史等都有极为重要的科学价值。
目前，我国的水下考古专门技术已比较完备，能较好应用于全方法、全流程的工作，但还缺乏在高等教育中的普及。建立水下考古虚拟实验室、购置必要的设备，培养更多的后备人才应该成为下一步中国水下考古需要努力的方向。
4月1日，修订后的《中华人民共和国水下文物保护管理条例》（以下简称《条例》）正式施行，为解决上述问题带来希望。
与此前相比，新修订的《条例》制度更加完善，内容更加明确，要求也更加具体，针对性和操作性也更强。在《条例》指引下，我国将会加快水下考古工作基地和队伍建设，加快开展沿海和内陆重点水域的水下文物资源调查，公布一批保护单位和水下文物保护区；央地合作，组织实施一批重点水下项目；组织海上联合执法，迅速遏制盗捞和走私活动。同时，高校也会加强学科建设、加快培养后备人才。我深信，水下考古的春天很快会到来。