.:. 草榴社區 » 技術討論區 » 慎用AI，研究称五大头部AI平台50%医学建议“有问题”
＜上一頁12下一頁＞
手機版回帖發布主題
--> 本頁主題: 慎用AI，研究称五大头部AI平台50%医学建议“有问题” 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
结构


級別：精靈王 ( 12 )
發帖：275
威望：175 點
金錢：17028241 USD
貢獻：140000 點
註冊：2015-01-01
主題 資料 短信 推薦 編輯


慎用AI，研究称五大头部AI平台50%医学建议“有问题”







北京时间4月15日，据彭博社报道，一项最新研究显示，AI驱动的聊天机器人在提供医学建议时，约有半数时间会给出有问题的答案。这一发现凸显出，AI这项正日益融入日常生活的新技术存在健康风险。

来自美国、加拿大和英国的研究人员评估了五大头部AI平台：ChatGPT、Gemini、Meta AI、Grok和DeepSeek，方法是在五个健康类别下分别向每个平台提出10个问题。根据本周发表在医学期刊《BMJ Open》上的研究结果，在这些AI聊天机器人的所有回答中，约有50%被认为“有问题”，其中近20%属于“高度有问题”。

研究发现，这些聊天机器人在不同类型问题上的表现差异明显：在封闭式提问(答案确定)以及与疫苗和癌症相关的问题上表现相对更好，但在开放式问题以及如干细胞研究和营养学等领域表现较差。





研究人员表示，这些回答通常以自信和确定的口吻给出，但没有一个聊天机器人在回答任何提示时能提供完整且准确的参考文献列表。在整个研究过程中，聊天机器人只有两次拒绝回答问题的情况，且均来自Meta AI。

该研究结果凸显了一个日益增长的担忧：人们正在越来越多地使用生成式AI平台来获取医疗建议，但这些平台并未获得提供医学建议的医疗执业许可，也缺乏做出诊断所需的临床判断能力。

AI聊天机器人的爆炸式增长使其成为人们寻求疾病指导的热门工具。OpenAI表示，每周有超过2亿人向ChatGPT咨询健康和保健方面的问题。该平台于今年1月宣布，将为普通用户和临床医生分别推出健康工具。同月，Anthropic也宣布其Claude产品将推出一项新的医疗保健服务。

这项发表在《BMJ Open》上的研究的作者表示，如果在缺乏公众教育和监管的情况下部署聊天机器人，一个重大风险是它们可能会放大错误信息的传播。

他们称，这些发现“凸显了重要的AI行为局限性，并表明有必要重新评估AI聊天机器人在面向公众的健康与医疗沟通中的部署方式”。他们还指出，这些系统往往能够生成“听起来权威但可能存在缺陷的回答”。









赞(38)
DMCA / ABUSE REPORT | TOP Posted: 04-15 16:14 樓主 引用 | 發表評論
采花蜜蜂


級別：新手上路 ( 8 )
發帖：379
威望：40 點
金錢：1364 USD
貢獻：1 點
註冊：2026-02-06
赞(1) | 資料 短信 推薦 編輯


感谢分享
TOP Posted: 04-15 16:17 #1樓 引用 | 點評
Mr鲸落


級別：新手上路 ( 8 )
發帖：42
威望：5 點
金錢：45 USD
貢獻：0 點
註冊：2020-04-13
赞(2) | 資料 短信 推薦 編輯

防水图不错，1024
TOP Posted: 04-15 16:32 #2樓 引用 | 點評
镶金边


級別：精靈王 ( 12 )
發帖：19106
威望：1887 點
金錢：53203 USD
貢獻：700 點
註冊：2022-05-07
赞(2) | 資料 短信 推薦 編輯

慎用AI，研究称五大头部AI平台50%医学建议“有问题”
TOP Posted: 04-15 16:34 #3樓 引用 | 點評
丰色


級別：精靈王 ( 12 )
發帖：5203
威望：636 點
金錢：21462 USD
貢獻：50968 點
註冊：2015-03-07
赞(1) | 資料 短信 推薦 編輯

远离AI，小心AI中毒、AI割腰子、AI降智、AI卖国、AI自杀、AI禁言、AI选举。。。。
TOP Posted: 04-15 16:53 #4樓 引用 | 點評
张生钓鱼


級別：俠客 ( 9 )
發帖：1161
威望：120 點
金錢：10623 USD
貢獻：812 點
註冊：2018-09-20
赞(3) | 資料 短信 推薦 編輯

背后 都是各种投喂，让一个没智商的，天天面对各种虚假信息，能学会什么真本事儿。
TOP Posted: 04-15 16:58 #5樓 引用 | 點評
苏筱熙


級別：天使 ( 14 )
發帖：139830
威望：63943 點
金錢：120643 USD
貢獻：69 點
註冊：2012-09-01
赞(2) | 資料 短信 推薦 編輯

小毛病问AI，大问题还是要去医院。
------------------------
TOP Posted: 04-15 17:12 #6樓 引用 | 點評
xiyudashi


級別：聖騎士 ( 11 )
發帖：6823
威望：668 點
金錢：27705 USD
貢獻：9 點
註冊：2018-07-09
赞(2) | 資料 短信 推薦 編輯

都被玩坏了
TOP Posted: 04-15 17:40 #7樓 引用 | 點評
东光太郎


級別：騎士 ( 10 )
發帖：6709
威望：416 點
金錢：22868 USD
貢獻：333 點
註冊：2025-03-06
赞(1) | 資料 短信 推薦 編輯

感谢分享
TOP Posted: 04-15 17:48 #8樓 引用 | 點評
东君


級別：聖騎士 ( 11 )
發帖：1261
威望：257 點
金錢：2434 USD
貢獻：30000 點
註冊：2024-09-29
赞(1) | 資料 短信 推薦 編輯

有毛的欧美逼逼，不错！！！
TOP Posted: 04-15 18:44 #9樓 引用 | 點評
操心


級別：聖騎士 ( 11 )
發帖：3259
威望：326 點
金錢：4669 USD
貢獻：20000 點
註冊：2025-10-24
赞(1) | 資料 短信 推薦 編輯

感谢分享　勿忘提肛
TOP Posted: 04-15 19:58 #10樓 引用 | 點評
得到爱的人


級別：俠客 ( 9 )
發帖：1302
威望：131 點
金錢：336 USD
貢獻：0 點
註冊：2021-06-06
赞(1) | 資料 短信 推薦 編輯


支持分享
TOP Posted: 04-15 21:27 #11樓 引用 | 點評
wqqq001


級別：俠客 ( 9 )
發帖：1770
威望：178 點
金錢：611 USD
貢獻：4224 點
註冊：2021-10-16
赞(1) | 資料 短信 推薦 編輯

人工医学建议的准确率能有多少呢？普通老百姓和各种大佬所获得的医疗资源能相同吗？
TOP Posted: 04-15 21:32 #12樓 引用 | 點評
FuzeBlitz


級別：騎士 ( 10 )
發帖：3969
威望：397 點
金錢：26403 USD
貢獻：3913 點
註冊：2022-04-02
赞(1) | 資料 短信 推薦 編輯

感谢分享
TOP Posted: 04-15 21:33 #13樓 引用 | 點評
我系小银虫


級別：精靈王 ( 12 )
發帖：2031
威望：229 點
金錢：4302628 USD
貢獻：179101 點
註冊：2014-05-13
赞(1) | 資料 短信 推薦 編輯

让我想起了那对公式相声夫妻。
TOP Posted: 04-15 22:00 #14樓 引用 | 點評
耕耘一分收获


級別：俠客 ( 9 )
發帖：2106
威望：296 點
金錢：4885 USD
貢獻：0 點
註冊：2024-11-18
赞(0) | 資料 短信 推薦 編輯

感谢分享
TOP Posted: 04-16 07:24 #15樓 引用 | 點評
lyse


級別：聖騎士 ( 11 )
發帖：7411
威望：784 點
金錢：2968 USD
貢獻：3928 點
註冊：2015-11-05
赞(0) | 資料 短信 推薦 編輯

点赞点赞点赞点赞点赞点赞点赞点赞点赞点赞点赞点赞点赞点赞点赞点赞点赞
TOP Posted: 04-16 09:28 #16樓 引用 | 點評
糯香沱茶


級別：俠客 ( 9 )
發帖：1700
威望：221 點
金錢：4004 USD
貢獻：150 點
註冊：2024-03-21
赞(0) | 資料 短信 推薦 編輯


感谢分享，看病还是去医院吧
TOP Posted: 04-16 09:40 #17樓 引用 | 點評
epiphone


級別：騎士 ( 10 )
發帖：2095
威望：305 點
金錢：1559 USD
貢獻：0 點
註冊：2021-02-02
赞(0) | 資料 短信 推薦 編輯

楼主好人　谢谢分享
TOP Posted: 04-16 10:02 #18樓 引用 | 點評
hmcklgw


級別：騎士 ( 10 )
發帖：3654
威望：526 點
金錢：3035 USD
貢獻：1276 點
註冊：2024-05-17
赞(0) | 資料 短信 推薦 編輯

AI这两年火热
TOP Posted: 04-16 10:31 #19樓 引用 | 點評
欢极情趣


級別：精靈王 ( 12 )
發帖：18237
威望：1898 點
金錢：370789 USD
貢獻：62 點
註冊：2018-06-01
赞(0) | 資料 短信 推薦 編輯

可以参考，不能全信
TOP Posted: 04-16 10:53 #20樓 引用 | 點評
钓鱼


級別：光明使者 ( 14 )
發帖：5249
威望：643 點
金錢：203456733 USD
貢獻：658299 點
註冊：2014-05-13
赞(0) | 資料 短信 推薦 編輯

有病还是要去看医生
TOP Posted: 04-16 12:01 #21樓 引用 | 點評
佛魔一念间


級別：精靈王 ( 12 )
發帖：23416
威望：2564 點
金錢：13022 USD
貢獻：8614 點
註冊：2020-04-24
赞(0) | 資料 短信 推薦 編輯

AI时代合法杀人？
TOP Posted: 04-16 13:05 #22樓 引用 | 點評
这是个问题啊


級別：風雲使者 ( 13 )
發帖：69169
威望：6972 點
金錢：340 USD
貢獻：110989 點
註冊：2021-01-01
赞(4) | 資料 短信 推薦 編輯


感谢分享
TOP Posted: 04-16 17:27 #23樓 引用 | 點評
沉睡的木玛


級別：風雲使者 ( 13 )
發帖：69169
威望：7072 點
金錢：340 USD
貢獻：110989 點
註冊：2018-11-16
赞(4) | 資料 短信 推薦 編輯

谢谢分享
TOP Posted: 04-16 17:27 #24樓 引用 | 點評
＜上一頁12下一頁＞

.:. 草榴社區 -> 技術討論區

快速回帖 頂端
內容：
HTML 代碼不可用

使用簽名
Wind Code自動轉換

按 Ctrl+Enter 直接提交