医疗过失每年夺走数十万人的生命。如果人工智能已经成熟到足以提供帮助那么医生就不应成为阻挡它发挥作用的力量。医疗过失一场被习以为常的灾难如果飞机坠落的频率和医疗过失致死率一样高社会早已群情激愤展开调查并推动大刀阔斧的改革。然而当医生犯错时舆论的声调却温和得多他们毕竟只是人。在某种程度上这种反应完全可以理解。可换一个角度看这恰恰正是问题所在。真正令人震惊的不仅是这场悲剧的规模之大更是我们对它的冷漠与习以为常。*医疗过失Medical Error指在医疗活动中医方因故意或者过失医疗行为对患方造成医疗损害的事实。患者是医疗体系隐性弊病最直观的受害者但医生则是第二重受害者。在白大褂之下许多医生早已身心俱疲情绪低落甚至出现职业倦怠。在美国大约一半的医生正经历职业倦怠在英国40%的医生坦言自己每周至少有一次感到无法提供妥善的医疗照护三分之一的人则坦言已无力应对当前的工作负荷。与此同时医疗需求正在迅速攀升。随着人口持续增长以及老龄化的加剧越来越多的人带着癌症、糖尿病、痴呆等慢性疾病长期生存。预计到2030年全球将出现约1000万名医护人员的缺口。在欧洲的一些地区已有数百万人连一名全科医生基层医疗医生都无法获得。人员短缺与高压环境叠加构成了错误滋生的温床。研究显示职业倦怠与过度疲劳会显著增加诊断、治疗以及处方决策中的失误风险。然而即便是在资源最充足、临床医生最敬业的医疗体系中这些问题也不可能彻底消失。疲惫与过度工作确实会放大错误但更深层的事实是人类本身就有认知与能力的边界。我们会遗忘会误判也会因过度自信而高估自己的判断我们的情绪、认知偏差与盲点会共同塑造我们所看到的现实以及我们自以为正确的结论。职业倦怠会削弱判断力使这些弱点更加明显但它并不是问题的根源。这些局限深深地嵌入在人类的心理结构之中。它们曾帮助我们在规模较小的祖先群体中生存与协作却难以适应当代医学这种高风险、信息高度密集、需要同时处理多重任务的复杂环境。换言之即便在最佳状态下医生仍然是人。而只要是人错误就不可避免。我的家庭对医疗过失很是熟悉。我的哥哥带着肌强直性营养不良myotonic dystrophy的病痛熬了整整二十年才终于等来一个确切的病名。我的双胞胎姐姐则因偶然的机遇被一位临时的代诊医生较早地识别出病情。在那之前医生给她贴上了一连串错误的标签抑郁、和大家一样只是疲惫或不过是所谓的“自然磨损”。她似乎被给予了一切解释唯独没有得到真相甚至连一句“我不知道”的坦言都没有。在医学领域所谓的运气有时也残酷得近乎讽刺。我已故的伴侣其先天性心脏病频频发出的警报在多年间被一再无视。等到医生终于确认心脏问题时才同时发现他的胃癌早已悄然生根。对我而言这些并不是关于系统失灵的抽象案例而是写进家族史的真实经历。与此同时它们也指向一个更广泛、也更令人震惊的事实医疗过失已成为全球主要死因之一。在美国仅诊断错误diagnostic error一项每年就导致约80万人死亡或永久性残疾。[1]人类医生可以决定机器人医生能否取代自己吗此时许多人将希望寄托于技术。如果人类之手注定会犯错也许机器可以让判断更稳定甚至在某些环节取而代之。于是机器人医生Dr Bot登场了。有人将这台机器视作拯救者有人则将其视作搅局者。更常见的设想则是人机协作的图景算法在医生耳边提供建议人类负责把握治疗方向与最终决策。这是一曲医生与机器的协奏而非对决。医生本身就深陷于这个正被检视的体系之中。他们当然愿意相信自己是不可替代的。如果医学的根本目标是照护患者那么真正的问题就不在于谁握着听诊器而在于谁或者说什么最有能力提供安全、可靠且公平的医疗结果。不过这篇文章并不会罗列人工智能的最新成就也不会统计它在诊断中的战绩。我更想讨论一个前提凭什么必须由医生来裁定技术能否取代他们甚至医生真的应该站在这场讨论的C位吗从哲学探究的角度看当问题本身关乎“谁应当提供患者照护”这样宏大的议题时我们更需要强调立场上的对等与公平。我们理所当然会审视大型科技公司质疑它们的动机与手段但医学体系本身同样存在利益冲突。假定医生可以裁决自身是否不可或缺无异于让最有利益关联的一方同时担任法官与陪审团。因此在这篇文章中我并不把焦点放在人工智能本身而是审视一个更隐蔽的前提是否应由医生来决定机器人医生能不能、该不该取代他们的位置。这个假设太过常见以至于我们很少在讨论医疗的未来时把它单拎出来反思。医生本身就深深嵌入这个正在被审视的体系之中。他们的职业地位、收入结构乃至自我认同都与这场讨论紧密相连我们当然可以理解医生们更愿意相信自己是不可替代的。然而历史反复提醒我们那些在生死存亡中押下重注的人往往最看不清自己的“可替代性”。如果我们希望更清醒地思考机器人医生能否取代人类医生甚至能否与人类医生协作那么我们就需要暂时走出医生的立场从问题本身出发进行审视尽可能减少既有立场与利益牵连的影响。换言之一个局外人的视角至关重要。独立的观察者往往更容易看到局内人所忽视、或不愿正视的问题。这意味着我们需要引入多重视角比如哲学、社会学、心理学以及患者自身的声音。也许正是这些视角更适合追问几个根本问题医学究竟是为了什么它运作得如何又是谁或是什么最能实现它的目标基于这样的立场我希望开启一场关于医学过去与未来的讨论。自信、神话与否认医学的心理结构以预后判断与治疗决策为例——当我们把心理层面的“聚光灯”打在医生的表现上时所呈现出的图景颇为耐人寻味。医生必须以坚定的姿态行事犹豫不决可能付出生命的代价。哲学家可以辩证性看到问题在几个角度之间反复权衡但临床医生往往必须在高风险情境下迅速作出决定。自信甚至某种程度的过度自信几乎成为这一职业角色的内在要求。然而自信并不等于准确。一项针对重症监护病房患者的研究发现那些对自己诊断“完全确信”的医生其判断错误率高达40%。[2]更值得警惕的是随着经验增加、对临床判断愈发熟悉医生往往更少征询同事意见也更少寻求其他的可能。权威感有时会发酵为过度自信而在外人看来那往往与傲慢无异。同时患者在某种程度上也参与了这种机制。我们往往更偏好那些展现出强烈自信的医生即便这种自信并不完全建立在事实之上。白大褂至今仍被视为权威的象征果断的态度会让人安心即使判断本身是错误的。然而数十年的研究一再表明确信感并不是准确性的可靠指标。正如一位病理学家所形容的那样医生常常“行走在一团乐观的迷雾之中”。[3]数百年来我们始终生活在“医生不可替代”的神话之中。医生不仅是治疗者更是某种文化象征他们仿佛是世俗社会中的身体祭司是直面死亡的守望者也是解读痛苦的诠释者。我们向他们寻求的不只是治疗方案还有安慰、仪式感甚至某种超越性的意义。然而这种神话本身也会遮蔽判断。当我们坚持认为“只有人类才能提供照护”时背后真正的意思不过是“我们难以想象另一种安排”。历史上有太多曾被视为不可撼动的职业与角色比如神职人员、航海导航者、甚至银行柜员他们最终都在不同领域、以不同形式被取代或重塑。外科医生一度反对使用麻醉因为他们担心这会削弱自己苦练多年的“快速手术”技能。还有一种“症状否认”并非出现在患者身上而是存在于整个职业内部。法国启蒙思想家伏尔泰在《坎迪德》Candide中借潘格洛斯医生之口讽刺了那种盲目乐观的态度即无论现实如何严酷都声称世界已经是“最好的可能世界”一切“都是最好的安排”。医学界在某些时期也呈现出类似的“潘格洛斯式乐观”Panglossian stance对自身的失败轻描淡写甚至刻意回避。例如诊断错误在医学史上长期未被充分重视。1999年美国国家医学院发布了全文长达270页的关于医疗差错的里程碑式报告《人非圣贤孰能无过构建更加安全的卫生体制》To Err Is Human: Building a Safer Health System但索引中与“诊断错误”相关的条目仅有两处。到了21世纪初当患者安全研究者如大卫·纽曼-托克David Newman-Toker和彼得·普罗诺沃斯特Peter Pronovost开始将误诊问题界定为一场危机时他们所遭遇的却是制度性的冷漠与职业内部的抗拒。医生本能地淡化自身错误这种反应可以理解但也耐人寻味。研究显示当面对关于医疗失误的数据时医生比患者更倾向于认为这些数字被夸大了或认为问题发生在别的医生身上。以外科医生为例他们往往持续低估自己手术并发症的发生率。看似否认的姿态实际上更像是一层保护壳——用来维护职业身份甚至维系继续执业所需的心理承受力。某种程度上如果过度谦卑、时时自我怀疑反而可能让人难以在高压环境中坚持下去。许多医生告诉我他们会被自己的错误长期困扰。然而更难面对的现实是还有大量错误从未被察觉也从未被承认。行业保守与职业垄断当利益影响判断历史表明这种防御姿态同样延伸至对创新的态度。医学界曾多次抵触那些挑战既有理论与实践的新见解。麻醉、消毒、疫苗甚至洗手在最初都遭到轻视。外科医生一度反对使用麻醉因为他们担心这会削弱自己苦练多年的“快速手术”技能尽管当时的患者在手术台上痛苦挣扎。正如历史学家戴维·伍顿David Wootton在《致命药方:自希波克拉底起医生的危害》Bad Medicine: Doctors Doing Harm Since Hippocrates一书中所指出的那样医学界对新进展的迟疑与抗拒常常拖慢整体的进步。即便到了近年医生群体对一些基础性的数字化工具也曾表现出明显的保留例如允许患者在线访问个人病历。直到2021年美国多数医疗机构仍在使用传真机传递临床信息。在英国英国国家医疗服务体系每年依然在邮票和纸张上花费数百万英镑。医学中的保守主义并非总是坏事。哲学家托马斯·库恩Thomas Kuhn在《科学革命的结构》中指出科学共同体需要在证据尚未充分之前捍卫既有范式[4]。否则各种一时风潮都会动摇学科根基。然而医学的谨慎常常超出了必要的审慎。对变革的抗拒一方面源于沉重的工作负担这一点确实需要充分理解另一方面也因为维持现状往往更省力有时还关系到既有的职业利益。我们不妨看看医学界是如何极力维护自身的专业主导地位的。在美国执业护士和医师助理虽然并非医生但在法律上已经能够承担多达90%的初级保健医生的工作[5]。多项研究显示由执业护士照护的患者其满意度往往不低于、甚至高于由医生直接照护的患者[6]。然而医生组织却持续游说限制非医生群体的执业自主权。美国医学会每年投入数千万美元以维护医生群体的主导地位其支出规模甚至超过不少硅谷科技公司。在英国英国医学会也持续反对扩大医师助理的职责范围警告此举会威胁医生的独特角色。而与此同时数以百万计的患者无法获得任何及时的医疗照护。这种自我保护的职业立场同样体现在对透明度的态度上。如今患者在法律上已拥有查阅个人病历的权利。然而当美国和英国的监管机构试图将在线访问病历常态化时相关专业组织却表达了强烈反对。一些医生警告说这会引发患者的焦虑和困惑甚至浪费门诊资源但这些担忧后来大多并未出现。真正被揭示出来的是一个更令人尴尬的事实五分之一的患者表示他们在自己的病历中发现了错误其中一些还相当严重。难怪这一改革当初会遭到如此激烈的抵制。当然这并不是说医生们有什么恶意。对于那些担心会被大量咨询和额外工作所淹没的医生而言对病历开放持保留态度也是可以理解的。同样值得强调的是绝大多数医生都敬业且专业而且富有同理心。然而从职业整体的层面来看对那些可能带有自利倾向的做法进行反思与质疑依然至关重要。医学拥有的强大影响力部分源于学者理查德·萨斯坎德Richard Susskind与丹尼尔·萨斯坎德Daniel Susskind所提出的“职业大交易”grand bargain。他们在《专业人士的未来技术如何改变专家的工作》The Future of the Professions: How Technology Will Transform the Work of Human Experts一书中指出社会赋予专业人士声望、地位与优厚报酬交换条件是其承诺发挥专业能力与遵循伦理规范。医生在诊断与治疗领域享有制度性的垄断地位并通过执照与监管机制控制职业准入。作为回报公众将信任托付于他们相信他们会以患者的最佳利益为先。事实上在全球范围内医生一直位列最受信任的职业群体之中信任度远高于记者、政治人物与宗教人士。然而这种“交易”并非总能兑现。医生群体所享有的特权显而易见高收入、文化声望以及政治影响力但相应的责任却未必清晰可见。当专业组织反对患者查阅病历、限制执业护士的自主权或否认诊断错误的规模时他们维护的往往是行业共同体的利益而非公众利益。这并非在贬低医学的价值也不是在质疑医生群体的使命感。然而职业满足感、社会声望或高收入并不能成为维持某一职业结构不变的正当理由。毕竟大多数人并不总能从自己的工作中获得快乐[7]。因此无论是医生所享有的特殊地位还是以“工作有意义”为由的辩护都需要加以独立的审视而不能直接当作结论。我们必须再次强调一个核心问题当前的制度安排是否真正提供了可靠且可及的医疗服务如果答案是否定的那么是否存在新的模式如果引入人工智能事情会变得更好吗过程和结果哪个更重要畅想AI时代下医学的未来无论是比较机器人医生与人类医生谁表现更优还是探讨某种人机协作模式是否更理想在我们拿出相关的证据讨论之前许多医生就已经表现出明显的抗拒。作为一名健康信息学研究者health informaticist也就是专门研究医疗数据的实证研究人员我多年来在多个国家就这一问题调查过医生的看法可以明确地说他们的辩护理由几乎如出一辙。他们认为人工智能缺乏所谓的“判断力”。它没有直觉没有灵光一现的洞察没有本能或预感也无法真正“体察”患者的状态。麻醉科医生罗纳德·德沃金Ronald Dworkin曾概括这一立场由于人工智能缺乏直觉、怀疑感、本能、预感与情感它也就缺乏人类意义上的判断力。它所能处理的只是抽象层面的内容即语言与符号本身。它无法透过文字触及其背后的真实情境也无法真正深入问题的核心。理查德·萨斯坎德一再强调我们往往把人类判断抬升为一种本身就具有价值的能力却很少追问一个更根本的问题人类判断究竟是在解决什么问题要实现准确诊断医生的判断是否是唯一的解决方案其结论并不明确。在这一点上萨斯坎德认为我们必须清楚地区分过程和结果。在医学领域职业体系往往优先维护既有的过程问诊的仪式感、床旁交流所承载的权威以及所谓的医学艺术性而不是把注意力牢牢地聚焦在能否带来更好的结果之上。但这正是典型的过程至上思维。这种论证维护的是决策如何作出的神秘性而没有追问那个真正关键的问题这些决策究竟为患者带来了什么结果一个因剧烈胸痛走进急诊室的人并不会在意诊断来自人类直觉还是算法模型他们在意的只有三点诊断是否正确是否迅速作出以及是否随之给予恰当的治疗。正如理查德·萨斯坎德在其新著《如何思考人工智能迷津指要》How to Think About AI: A Guide for the Perplexed中所写“寻求专家帮助的人通常不会对专业顾问说‘早上好我想要一点判断力。’判断本身并不是目的。”萨斯坎德进一步指出人们真正想要的是安心而不一定是治疗师本身他们想要的是健康以及获取准确信息的途径而不一定是一次又一次的医疗预约。当然现实要更为复杂一些。许多人早已对那些熟悉的流程产生了情感依附比如候诊室的仪式感、白大褂所象征的权威、问诊时那种令人安心的语速与语调。但其中有一部分不过是习惯而未必是真正的偏好我们接受这些仪式只是因为它们一直如此。患者或许会享受这种熟悉感但归根结底当触及诊断是否有延误或遗漏的核心问题时他们并不会太在意医学的智慧究竟是通过一位亲切的医生传达还是通过一个电脑界面呈现他们更在意的是自己能否得到准确的诊断、有效的治疗以及有温度的照护。真正重要的不是情感上的眷恋而是医疗能否变得更加准确、更加及时也更加有人性与尊严。因此这些问题并不只是纸上谈兵也不只是精巧的思想实验。它们穿透真实生活的肌理包括我自己家庭的经历也揭示了医学体系内部的裂缝。医生之所以会犯错并不仅仅因为疲惫、过劳或资源不足更因为他们是人受限于人类的心理机制被长期形成的习惯所塑造同时也受到那些维护自身利益的制度与机构的保护。如果技术只是以数字化的形式复制医学旧有的缺陷那么它并不会拯救我们。每一次创新在解决某些问题的同时也会带来新的复杂性。但这既不足以成为拒绝进步的借口也不该让我们在辩论开始之前就先设好框架、锁死答案。人工智能确实伴随着严肃的伦理与政治风险从加剧不平等到产生新的伤害形式从岗位流失到环境成本。这些问题都值得认真审视。然而无益的是将技术进行“先射箭再画靶”式的歪曲用片面甚至失真的方式来描绘人工智能对医学可能带来的影响或者无限期地将判断权交还给那个正面临自身存续挑战的职业群体。医生不应成为唯一被赋予权力、来裁定自己是否可以被替代的人。于是问题落回到当下机器人医生是否可行真正重要的不是情感上的依恋而是医疗是否能够变得更加准确、更加及时也更加有人性。我很清楚这个问题关乎什么那是被误诊吞噬的岁月是被拖延的治疗是被忽视的病情直到为时已晚。医生为自己历经艰苦训练所锤炼出的直觉辩护是再自然不过的事[10]。但这种辩护往往发生在一种抽离现实的高度之上远离那些被医学体系辜负的患者真实生活。我的兄弟姐妹在一个又一个错误诊断被当作“规情况处理的过程中承受了多年的自我怀疑。这些遗漏、偏见与错误并非某种可以抽象讨论的概念尽管医生或许愿意如此理解。它们是实实在在的伤害只是太多时候没有被看见。如果机器人医生真的要发挥作用它不应只是披着白大褂、模仿医生权威的替身而应促使我们更深入地反思医学究竟为何而存在又应当服务于谁。关键不在于守住一个职业的边界而在于重新构想一种实践的形态。在这样的视角下真正迫切的问题并不是人工智能是否能够取代医生。支持或反对的证据很快就会逐步显现。最重要的是我们是否愿意摆脱那些被神化的观念正是它们把医学束缚在自身的局限之中。唯有如此我们才可能真正开始设想并认真追问新的体系与流程是否比我们当下所拥有的能够更好地服务患者。译者后记这篇文章以冷静而克制的笔触挑战了“医生不可替代”这一长期被默认的观念。作者并未将矛头指向个体医生而是直指医学体系中由人性、制度与职业利益交织而成的结构性问题。文章最具力量之处在于它不断把抽象讨论拉回真实生活误诊、延误治疗、被忽视的患者经验让是否引入AI不再是技术幻想而是关乎生命的现实选择。作者提醒我们真正需要被守护的不是某个职业的尊严而是医疗能否变得更准确、更及时、更有人性。这种将情感、伦理与结果导向并置的视角为理解医学的未来提供了难得的清醒与勇气。原文链接https://aeon.co/essays/who-should-decide-the-role-of-ai-in-the-future-of-medicine1.https://qualitysafety.bmj.com/content/33/2/1092.https://link.springer.com/article/10.1007/s00134-001-1129-x3.https://pmc.ncbi.nlm.nih.gov/articles/PMC1487286/4.https://aeon.co/essays/science-needs-the-freedom-to-constantly-change-its-mind5.https://pmc.ncbi.nlm.nih.gov/articles/PMC2794129/6.https://academic.oup.com/intqhc/article-abstract/27/5/396/2357352?7.https://aeon.co/essays/what-if-jobs-are-not-the-solution-but-the-problem8.https://aeon.co/users/ronald-w-dworkin9.https://www.newstatesman.com/culture/books/book-of-the-day/2025/09/dr-ai-will-see-you-now10.https://aeon.co/essays/for-an-anaesthesiologist-intuition-stands-between-life-and-death关于追问nextquestion天桥脑科学研究院旗下科学媒体旨在以科学追问为纽带深入探究人工智能与人类智能相互融合与促进不断探索科学的边界。欢迎评论区留言或后台留言“社群”即可加入社群与我们互动。您也可以在后台提问我们将基于追问知识库为你做出智能回复哦~关于天桥脑科学研究院天桥脑科学研究院Tianqiao and Chrissy Chen Institute是由陈天桥、雒芊芊夫妇出资10亿美元创建的世界最大私人脑科学研究机构之一围绕全球化、跨学科和青年科学家三大重点支持脑科学研究造福人类。Chen Institute与华山医院、上海市精神卫生中心设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室与加州理工学院合作成立了加州理工天桥神经科学研究院。Chen Institute建成了支持脑科学和人工智能领域研究的生态系统项目遍布欧美、亚洲和大洋洲包括学术会议和交流、夏校培训、AI驱动科学大奖、科研型临床医生奖励计划、特殊病例社区、科学媒体「追问」、科普视频媒体「大圆镜」等。