研究：AI 医疗建议存巨大安全隐患，22% 的回答可能致死
创始人
2024-10-13 10:01:15
0次
IT之家 10 月 13 日消息，一项新的研究表明，AI 提供的医疗建议可能会对用户造成严重伤害，甚至导致死亡。
据IT之家了解，研究人员对微软 Copilot 进行了测试，要求它回答美国最常见的 10 个医疗问题和 50 种最常用药物的相关问题，总计生成了 500 个答案。结果显示，Copilot 的回答在准确性和完整性方面都存在问题。其中，24% 的回答与已有的医学知识不符，3% 的回答完全错误。更令人担忧的是，42% 的回答可能会对患者造成中度或轻度伤害，而 22% 的回答甚至可能导致死亡或严重伤害，只有 36% 的回答是无害的。
研究人员指出，人们不应该依赖 Copilot 或其他 AI 系统来获取准确的医疗信息，最可靠的方式仍然是咨询医务人员。然而，由于种种原因，并非所有人都能够轻松地获得高质量的医疗建议。因此，Copilot 等 AI 系统可能会成为许多人的首选，其潜在的危害不容忽视。
相关内容
热门资讯
黄仁勋官宣Alpamayo 2...
英伟达CEO黄仁勋在X上发文称，今天正式推出Alpamayo 2 Super，这是英伟达面向自动驾驶...
“AI小法官”提升法治教育实效
原标题：福建省厦门市康乐第二小学推动人工智能与法治教育融合——“AI小法官”提升法治教育实效 “偷看...
开源证券：给予国邦医药买入评级
开源证券股份有限公司近期对国邦医药进行研究并发布了研究报告《公司信息更新报告：收入稳健增长，动保业务...
京东开源JoyAI-Video...
快科技8月5日消息，京东正式开源自研实时流式视频编辑模型JoyAI-Video-Edit，打破传统视...
AI不再用完即忘：华为诺亚开源...
2026年8月3日，华为诺亚方舟实验室正式开源MindMemOS——一个面向AI Agent的可迁移...
京东开源实时流式视频编辑模型J...
8月5日，京东宣布开源自研的实时流式视频编辑模型JoyAI-Video-Edit。据悉，用户可以一边...
NVIDIA发布新功能分支Un...
IT之家 8 月 4 日消息，NVIDIA 当地时间昨日发布了版本号为 610.57.04 的新功能...
开源证券：维持陆家嘴“买入”评...
开源 证券研报指出， 陆家嘴中期业绩大幅增长，租赁现金流入稳中有增。公司2026H1实现归母净利润1...
韩国启动全民AI成长阶梯项目，...
2026年8月3日，韩国科学技术信息通信部正式启动全民AI成长阶梯项目，项目整合全民AI学习馆、全民...