一项针对英国全科医生生成式人工智能(AI)使用情况的最新年度调查显示，如今英国有更多全科医生在工作中使用生成式人工智能，接受调查的医生里，每四名全科医生中就有一人在工作中使用AI，但大部分没有接受过专业培训。相关研究人员说，这种情况存在风险，需要警惕。
27%的医生用AI做诊断报告
针对英国全科医生使用生成式AI情况所进行的最大年度同比调查显示，在日常临床工作中使用ChatGPT等工具的医生人数有所增加。
在表示会在工作中使用生成式AI的医生当中，约95%表示自己没有接受过任何专业培训，85%表示雇主并未鼓励其使用这类技术。
去年，同一研究的研究人员发现，每五名全科医生中就有一人使用这项技术。“仅仅12个月时间，生成式AI就在英国医学界从‘禁忌’变成了‘工具’。”来自瑞典乌普萨拉大学和哈佛医学院的夏洛特·布利斯博士说，“医生之所以使用这些系统，是因为它们确实有帮助，而不是因为有人告诉他们要用。真正的风险不在于全科医生使不使用AI，而在于他们是在没有培训、没有监管的情况下使用。”
约35%的医生用AI撰写文书，27%的医生用AI做诊断报告，24%的医生用AI制订治疗方案或安排转诊。
“这应该是一记警钟。”布利斯博士说，“AI已经在日常医疗中被使用。接下来的挑战是要确保它被安全、合乎伦理并且公开透明地部署。”
这项研究调查了全英国1005名全科医生
该研究的作者来自乌普萨拉大学、巴塞尔大学、卡罗琳医学院、曼彻斯特大学以及哈佛医学院，他们在全英国范围内调查了1005名全科医生。相关研究结果于25日发表在科学期刊《DigitalHealth》上。
研究人员强调了在临床环境中使用AI所存在的风险，包括这类技术容易出错，或者出现“幻觉”，也就是会凭空捏造内容，以及由于模型训练数据中潜在偏见而可能导致的“算法歧视”。作者们还对患者的数据隐私提出了担忧。
英国国家医疗服务体系（NHS）英格兰地区的一名发言人表示，AI正“帮助NHS工作人员将更多时间用于照护患者——帮助加快诊断、阅读检测结果并减少官僚程序。”“关键在于，要建立起有力的保障措施、向患者提供清晰的信息，并为临床医生提供适当的培训，这样技术才能赢得信任，并真正为工作人员和患者带来益处。”
苏格兰政府的一名发言人表示，政府认可AI在“卫生和社会护理服务的提供与规划中所能发挥的作用”。“然而，我们必须与NHS的工作人员密切合作，以实现这一点，从而确保AI在公共利益领域得到安全、有效且合乎伦理的使用。”
AI可能凭空捏造内容可能泄露患者隐私
去年的同类型研究显示，在缺乏培训的情况下，每五名全科医生中就有一人在工作中使用AI——其中一些医生已经用AI来给患者做诊断了。
发表在《英国医学杂志》（BritishMedicalJournal）上的这项研究显示，全科医生正在使用市面上可获得的AI工具来撰写文书，甚至为患者提供替代性诊断建议。而去年的这项研究首次显示了AI在英国全科门诊中被使用的程度。
布利斯博士当时称，医生使用AI的程度“令人惊讶”，因为“医生并未就这些工具接受过正式培训，而在监管层面，这些工具仍然处于一种真空状态”。像ChatGPT这样的工具存在一些已知问题，可能会对患者造成伤害。
“或许最大的风险是患者隐私。”布利斯博士说，“我们的医生可能会在无意中把患者高度敏感的信息拱手交给这些科技公司。”
“它们也可能在医疗过程中嵌入偏见，从而使部分患者面临不公正临床判断的风险。我们不知道（AI的偏见）是否比普通人类医疗实践中产生的偏见更严重，但这种风险肯定是存在的。”
研究团队当时调查了1000多名医生，其中有五分之一表示在工作中使用生成式AI的医生里，28%的医生都表示会用AI来为患者提供不同的诊断建议。另有29%的医生表示，会在患者就诊结束后使用AI生成相关文书。
英国医保体系工作人员大多支持用AI来帮患者看病
去年7月，HealthFoundation的一项研究发现，大多数NHS工作人员支持使用AI来帮助患者看病，其中81%的工作人员也赞成在行政工作中使用AI。
尽管医护人员希望更多使用AI，但NHS并未为医生如何使用AI提供太多指导。相反，它要求医生在使用这项技术时依靠自己的“专业判断”。
同时，布利斯博士表示，医生们正“迫切希望得到一些具体建议”，以了解如何使用这项技术。“确实有必要向医生提供有针对性的培训和建议。”布利斯博士说。
文/记者彭昕宇