研究：AI 医疗建议存巨大安全隐患，22% 的回答可能致死_linux资讯

研究：AI 医疗建议存巨大安全隐患，22% 的回答可能致死

创始人

2024-10-13 10:01:15

0次

IT之家 10 月 13 日消息，一项新的研究表明，AI 提供的医疗建议可能会对用户造成严重伤害，甚至导致死亡。

据IT之家了解，研究人员对微软 Copilot 进行了测试，要求它回答美国最常见的 10 个医疗问题和 50 种最常用药物的相关问题，总计生成了 500 个答案。结果显示，Copilot 的回答在准确性和完整性方面都存在问题。其中，24% 的回答与已有的医学知识不符，3% 的回答完全错误。更令人担忧的是，42% 的回答可能会对患者造成中度或轻度伤害，而 22% 的回答甚至可能导致死亡或严重伤害，只有 36% 的回答是无害的。

研究人员指出，人们不应该依赖 Copilot 或其他 AI 系统来获取准确的医疗信息，最可靠的方式仍然是咨询医务人员。然而，由于种种原因，并非所有人都能够轻松地获得高质量的医疗建议。因此，Copilot 等 AI 系统可能会成为许多人的首选，其潜在的危害不容忽视。

更令人担忧严重伤害医疗建议问题 Copilot 死亡系统研究美国医务人员 IT之家微软

上一篇：听说了吗？他也在搞AI眼镜了丨焦点分析

下一篇：中控技术与中国化学签订战略合作协议，工业AI驱动“智”造全面升级

研究：AI 医疗建议存巨大安全隐患，22% 的回答可能致死

相关内容

热门资讯