中国工程院院士、清华大学临床医学院院长董家鸿在2019年11月22日的“智慧医疗：潜力与挑战”论坛上指出，“机器人应该是医生的AI，而不是AI医生。”董家鸿认为，人工智能的黑箱效应和框架效应是当前医疗人工智能的重要挑战，“如果是个别医生犯错误，受损害的可能只是一个病人。如果人工智能机器人出了错，有可能会损害一批、一类病人。”在没有弄清楚作用机制之前，临床应用需严格限制其使用边界。
关于未来人工智能在医疗领域的图景，董家鸿表示，“人机协同是未来的必然选择”，应对可能的风险和红线，离不开跨领域、跨学科专家的共同合作探讨。
董家鸿有着三十多年临床经验的肝胆胰外科专家，他也是清华大学临床医学院院长。他在“智慧医疗：潜力与挑战”论坛上，从中国目前的医疗供需现状和技术水平差异出发，对于智慧医疗的应用场景、发展潜力和风险挑战等方面阐述。
智慧医疗的本质和内涵，直到现在应该说还没有一个明晰明确的定义。但只有认识智慧医疗的本质，理解智慧医疗的核心理念，才能更好更快的推动智慧医疗发展。我的理解，智慧医疗是以信息科技为核心的现代科技赋能于传统健康医疗服务体系，形成最优化的大健康医疗生态体系。同时认为，智慧医疗要以人为本，集成现代智慧科技手段，深度融合健康医疗实践。
这个全新的健康照护体系通过全要素、全流程、全链条的系统优化，完成覆盖全人群、全生涯、全维度的全域照护，最终实现优质、高效、经济、可及的价值医疗。
相对于不断增加的社会健康医疗服务需求，中国的医疗资源远远不足。尤其边远和基层地区，医疗资源十分匮乏。医疗资源的配置不均衡及结构不合理，致使医疗供需矛盾仍然十分突出。智慧医疗有望成为解决当前医疗供需矛盾和资源配置不均衡问题、提高成本效益的一个新的策略。
从目前出现的应用场景来看，至少包括精准药学、影像诊断、辅助决策、疾病预测、药物挖掘、健康管理、临床研究、医院管理等。相信随着智慧医疗技术进一步的深入，将会持续地激发创新潜能，产生更为丰富的应用场景。
随着近年来中国经济和科技的高速发展，科技转化潜能已十分巨大；同时国家近年来高度重视健康中国以及前沿科技的发展，尤其在智能技术、智慧技术的发展和应用上出台的一系列政策，都为未来中国智慧医疗产业发展提供了重大机遇。
当前的医疗人工智能发展确实也面临着诸多的挑战。首当其冲应该是它的不可解释性，也就是黑箱效应。为什么人工智能能够作出准确的判断，很多道理还不清楚。如果没有明晰的原理可解释，那么医生使用起来心里是不踏实的，病人接受起来也有疑虑。所以，破解黑箱效应成为当前人工智能医疗的一个重要挑战。
AI技术对于提升基层的医疗服务能力是非常重要的。我们应该有这样一个概念，人机是协同的，应该评价人机协同之后的效果。比如基层医生，给他提供AI辅助诊断，进而我们来研究人机协同之后的诊断率会不会超过他原来的水平。这种人机协同也很难做到100%的正确，所以应该有一个允许的出错概率，在这样的条件下评价AI提升医生服务效能的价值。
首先技术是服务于人的，为人类创造更美好的生活，人工智能应该是为人类提供更好的健康服务。我认为AI应该是医生的助手。医疗服务流程主要涉及四个方面，一是感知，二是认知，三是决策，四是干预。当前，在感知和认知方面，我觉得人工智能有非常大的发展空间。比如人的感官察觉不出来的现象和问题，人工智能可以超越人的感知极限。在认知领域，机器人工智能在某种程度上可以超越人。