研究:ChatGPT 给出的癌症治疗方案充满错误信息
前言
OpenAI 的聊天机器人 ChatGPT 虽然风靡全球,但一项新的研究表明,它在一个关键领域还远不能取代人类专家。
美国哈佛医学院附属的布里格姆妇女医院的研究人员发现,ChatGPT 生成的癌症治疗方案充满了错误。
(资料图片)
这项研究发表在《美国医学会肿瘤学杂志》上,研究人员向 ChatGPT 提出了各种癌症病例的治疗方案,结果发现三分之一的回答中包含了不正确的信息。研究还指出,ChatGPT 倾向于将正确和错误的信息混合在一起,因此很难识别哪些信息是准确的。
该研究的合著者 Danielle Bitterman 博士称,他们“对错误信息与正确信息混合在一起的程度感到震惊,这使得即使是专家也很难发现错误。”她补充说,“大型语言模型经过训练可以提供听起来非常有说服力的回答,但它们并不是为了提供准确的医疗建议而设计的。错误率和回答的不稳定性是临床领域需要解决的关键安全问题。”
ChatGPT 于 2022 年 11 月推出后一夜成名,两个月后就达到了 1 亿活跃用户。尽管 ChatGPT 取得了成功,但生成型人工智能模型仍然容易出现“幻觉”,即自信地给出误导性或完全错误的信息。
IT之家注意到,将人工智能融入医疗领域的努力已经在进行中,主要是为了简化管理任务。本月早些时候,一项重大研究发现,使用人工智能筛查乳腺癌是安全的,并且可能将放射科医生的工作量减少近一半。哈佛大学的一位计算机科学家最近发现,最新版本的模型 GPT-4 可以轻松通过美国医学执照考试,并暗示它比一些医生具有更好的临床判断力。
尽管如此,由于 ChatGPT 等生成型模型存在准确性问题,它们不太可能在近期取代医生。《美国医学会肿瘤学杂志》上的研究发现,ChatGPT 的回答中有 12.5% 是“幻觉”,并且在被问及晚期疾病的局部治疗或免疫疗法时,最有可能给出错误的信息。
OpenAI 已经承认 ChatGPT 可能不可靠,该公司的使用条款警告说,他们的模型并非旨在提供医疗信息,也不应该用于“为严重的医疗状况提供诊断或治疗服务”。
免责声明
文章来源:IT之家
凡资讯来源注明为其他媒体来源的信息,均为转载自其他媒体,并不代表本网赞同其观点,也不代表本网对其真实性负责,转载请联系原出处。您若对该文章内容有任何疑问或质疑,请立即与后台小编联系,平台将迅速给您回应并做处理。注明本公司原创内容,转载请与我们联系。
关键词:
相关阅读
-
研究:ChatGPT 给出的癌症治疗方案充满...
前言OpenAI的聊天机器人ChatGPT虽然风靡全球,但一项新的研究表明,它 -
高盛:重申友邦保险(01299)“买入”评级...
智通财经APP获悉,高盛发布研究报告称,重申友邦保险(01299)“买入... -
2023国宝人寿宝福禄A款养老年金保险可靠...
国宝人寿宝福禄A款养老年金保险是由国宝人寿承保的年金险。这款产品支 -
windows防火墙打不开显示在Microsoft
来为大家解答以上问题。windows防火墙打不开显示在Microsoft这个很多人 -
龙门农民画首次进藏架起友谊桥
汉藏小朋友携手绘制龙门农民画长卷。惠州学院广东省社会科学普及基地( -
小朋友在“戏韵·南昆山”少儿京剧体验...
小朋友在制作京剧脸谱。小朋友们奉献了一场极具特色的京剧展演。“... -
博罗税务:以“沉浸式”体验为服务一线...
原标题博罗税务部门开展“纳税服务体验师”活动纳税人沉浸式体验办... -
最新!惠城今秋非起始年级“民转公”摇...
8月27日下午,惠城区2023年秋季学期部分义务教育阶段学校非起始年级“ -
“苏拉”成超强台风!不排除开学当天登...
9号台风“苏拉”已于26日23时由强台风级加强为超强台风级,“苏拉”... -
他用1955年的故事讲了一个关于新冠的寓言
如钟摆一般稳定,每隔两三年,韦斯·安德森就会奉上一部缜密精巧如... -
德琪医药-B(06996.HK):全新临床数据读...
2023年8月25日,德琪医药公布2023年中报业绩。截至2023年6月底,公司已 -
器械商被抓,牵涉出5个医院科室腐败窝案...
安徽沃克医疗器械有限公司的股东李某在被抓后,导致淮北市食品药品监督 -
中国人寿受累市场波动单季罕见亏17亿 ...
权益市场波动影响下,中国人寿(601628 SH、02628 HK)上半年整体业绩 -
友邦保险(01299.HK)回购198.38万股 涉...
【财华社讯】友邦保险(01299 HK)公布,于2023年08月25日回购198 38万股 -
2023国宝人寿宝京新A款养老年金保险保什...
国宝人寿宝京新A款养老年金保险是由国宝人寿承保的养老年金险。这款产 -
2023国宝人寿福鑫享终身寿险怎么样?有什...
国宝人寿福鑫享终身寿险是由国宝人寿承保的寿险。这款产品最高可以支持 -
路口睡大觉!惠州交警查获一酒驾男子
酒后开车的严重性大家心里都很清楚可还是有个别驾驶员抱有侥幸心理铤而 -
紧急救援!男子深夜轻生跳河,大亚湾公...
近日,大亚湾辖区一男子轻生跳河。接群众报警后,大亚湾区公安分局深夜 -
48小时拆除16座天桥!长深高速河惠段改...
8月23日至25日,在长深高速河惠改扩建项目,200多台大型重器开展施工“ -
喜讯!惠州新增4个广东省工业旅游项目
原标题2023年广东省工业旅游培育资源库入库名单公布惠州新增4个广东省