尽管目前已有对科技风险的大量研究,但仍然存在误区。中国科学院自然科学史研究所研究员、博士生导师刘益东通过提出“致毁知识”概念和“致毁知识研究模式”,突破流行的思维定式与研究范式,提出新问题和新思路。
误区一:“科技是双刃剑”把科技的使用者看成决定性因素。几百年来,人的修养和教育水平在提高,但道德水平变化不大。随着尖端科技的发展,即使多数人提高了道德水平,只要少数人,甚至个别人利用尖端科技为非作歹,照样可以造成毁灭性灾难。所以依靠提高人的道德水平来解决科技风险问题的思路是错误的。
误区二:“科学无禁区,技术有禁区”这种观念忽视了连锁效应。表面上看,探索多多益善或科学是好的或中立的,问题出在技术和应用上。所以出现了“科学无禁区、技术有禁区,认识无禁区、应用有禁区”等。他们习惯于把科学和技术作区分。其实,在现实中运行的并不是科学和技术,而是基础研究、应用研究和实验发展。
误区三:“顺其自然论,科技发展必然论”把负面效应看成正面效应。人工智能发展的速度很快,以至于《奇点临近》成了很热卖的一本书,科学家预言2045年机器智能超过人类。刘益东认为,人工智能超过人类智能,对人类一定是灾难,这远比外星人可怕。更重要的是,不在于什么时间人工智能超过人类,而在于一些科学家的态度,就是“顺其自然论,科技发展必然论”,他们把科技负面效应看成正面效应。
刘益东提出,“双刃剑思维模式”可称为“双刃剑陷阱”,它有三个特点:一是在态度上不加区分地肯定和接受,强调事物都有两面性,科技也不例外,强调要充分发挥其正面作用,尽力避免负面作用,要扬长避短,而不深入分析能否做到扬长避短。
一些科技伦理研究仅仅是搪塞社会对高科技的担忧,没有注意到高科技的正负效应不能抵消,这时就不是双刃剑,而是单刃斧;二是把知识的创造者(铸剑者)与应用者(用剑者)分开,把科技负面效应的产生归咎给应用者,而没有注意到知识与应用的连锁效应;三是笃信使用者决定知识的应用,而实际上知识会诱使或迫使人去使用。正是“双刃剑思维模式”及种种认识误区阻碍了科技风险研究的深入。
根据刘益东对科技风险的研究,他提出致毁知识概念和致毁知识研究模式,通过研究致毁知识来突破“双刃剑思维模式”,突破乐观派与悲观派相持不下的学术僵局。
在明确“科技知识增长不可逆”“尖端科技知识正负效应不可抵消”“知识与应用具有连锁效应”等三个前提下,刘益东提出和解决“在科技知识增长的同时,能否阻止其中的一类破坏力极大的科技知识——致毁知识——的增长”这一难题,发现有26个原因不能阻止致毁知识增长,得出的结论是:粗放式科技创新必然要产生致毁知识,而致毁知识的增长与扩散是不可逆、不可抵消、不可阻止的,达到一定程度必然会发生毁灭性灾难。
因此,我们不仅要避免粗放式发展,更要避免粗放式创新,反思粗放式创新与粗放式科技发展模式,可为我国科技创新的健康发展,为实现可持续创新与发展提供有益的创见。