科技日报援引美媒10月28日报道，美国西雅图一名31岁华人女工程师疑因按照ChatGPT提供的减药计划，自行减少抗癫痫药物后死亡。

当地时间10月27日，她的父母在美国加利福尼亚州提起诉讼，指控OpenAI及其首席执行官萨姆·奥尔特曼，称ChatGPT无照行医、提供了危险且不准确的医疗建议，甚至鼓励女儿对医生隐瞒减药计划。

据称，ChatGPT在万博雯（音译）去世前几个月就开始参与她的医疗决策，帮助她与医生沟通。

AI问诊靠不靠谱？
医生面诊、决策不可替代

“AI的任何建议都只能作为参考，绝对不能替代医生的面诊和最终决策，更不能直接照着AI建议用药。”对于AI建议的可靠性问题，北京大学人民医院疝和腹壁外科主治医师彭鹏给出了他的理解，“目前市面上的大部分AI，本质上还是智能对话体，虽能熟练运用医学原理，但存在先天的局限性。”

局限性在哪里？首都医科大学宣武医院风湿免疫科主任医师赵义进一步解释：“AI没法与患者面对面接触，难以进行更深入细致的检查，既无法详细采集病史，也做不了体格检查。诊断疾病光听症状是不够的，医生要通过视触叩听做系统的检查，结合经验采集病史，综合分析症状体征与检查结果，才能得出最终确诊。”

来自牛津大学团队的一项研究发现，用户在使用一种多模态语言模型后，识别疾病的准确率反而不如自行上网搜索。团队认为，其原因主要在于用户难以专业地提供关键症状信息，而且普通人往往难以从AI给出的一长串可能疾病中，甄别出最准确的那一个。

“归根到底是非专业医学患者的医学知识水平难以适配AI医疗的高专业门槛。”首都医科大学宣武医院疼痛科主任医师何亮亮直言，“目前最大的问题是患者无法给出正确的指令。很多时候他们说的都是无效信息。同症不同病、同病不同症的情况很多，这时候需要专业医生给你梳理。医生的这种指导和筛查能力，患者目前应该是很难达到的。”

“患者只说胸口疼，却无法描述疼痛的部位、性质、与活动呼吸的关系，这些关键信息的缺失，会让AI的判断从源头就存在偏差。”彭鹏认为，AI是在已有医学知识的基础上进行学习与训练，在从医经验和临床反应方面无法达到医生的水准。受过专业训练的医生会通过引导式提问，逐步构建完整的病史，而这是AI无法自主完成的。

更值得警惕的是“AI幻觉”问题以及伦理风险。采访中，不少专家表示，不专业的指导、过程性的误诊极有可能造成无法挽回的伤害。

（羊城晚报•羊城派综合自科技日报、光明日报）