主流聊天机器人传播虚假信息风险加剧,研究显示情况堪忧
Newsguard 最近发布了一项研究,显示截至2023年8月,十大生成式 AI 工具在处理实时新闻时,有高达35% 的概率传播虚假信息。主流相比去年8月的18%,这一数字几乎翻了一番。研究指出,这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。随着拒绝回聊天答用户问题的比例从31% 降至0%,AI 开始接入一个充满不实信息的网络生态系统,导致虚假信息的传播现象愈加严重。 图源备注:图片由AI生成机器,图片授权服务商Midjourney 该研究发现,许多不良行为者利用 AI 的特性故意散布虚假信息。去年,Newsguard 就曾标记出96人传6个以16种语言运营的 AI 生成新闻网站,这些网站通过模仿正规媒体的名称,如 “iBusiness Day”,向公众传播假消息。具体来看,I播虚nflection 公司的 AI 模型传播虚假信息的概率最高,达到了56.67%;而 Perplexity 模型也不容乐观,出错率为46.6假信7%。ChatGPT 和 Meta 的 AI 模型则各自为40%,而 Copilot(微软必应聊天)和 Mistral 的虚假信息传播率为36.67%。表息风现最好的两款模型是 Claude 和 Gemini,错误率分别为10% 和16.67%。 值得注意的是,Perplexity 的表现大幅下滑,险加去年8月时该模型对虚假信息的揭穿率达到100%,然而到今年8月,这一概率接近50%。引入网络搜索功能的初衷是解决 AI 回答内容过时的问题,但剧,却引发了新的挑战。这些聊天机器人开始从不可靠的来源获取信息,使得用户在判断事实与假消息时愈发困难。 Newsguard 指出,早期的 AI 通过拒研究绝回答问题来避免传播虚假信息的风险,但如今网络生态中虚假信息泛滥,辨别真伪愈发复杂。OpenAI 也承认,当前的语言模型总是可能产生 “幻觉显示内容”,即虚假或无根据的信息。该公司表示正在研发新技术,力图让未来的模型能够更好地提示不确定性,而不是笃定地生成虚假信息。 划重点: -情况 研究显示,十大生成式 AI 工具在处理实时新闻时,有35% 的概率传播虚假信息,几乎翻倍。 - Inflection 公司的 AI 模型表现最差,传堪忧播虚假信息的概率高达56.67%。 - 🤖 OpenAI 承认当前模型可能产生虚假信息,并正致力于研发新技术来应对这一问题。
- 最近发表
- 随机阅读
-
- 微软 Azure ND GB300 再创记录:每秒推理速度达 110 万token
- SAS收购英国Boemska公司,旨在加速人工智能在云计算方面的努力
- 混元推出国内首个交互式AI播客,用户可随时提问
- 细数 Context 使用场景
- 标签: 阶跃星辰 GELab-Zero GUI Agent AndroidDaily
- 标签: 星星充电 万帮数字 港交所上市 施耐德电气
- 哈佛推出新 AI 工具,助力治疗帕金森、阿尔茨海默和癌症
- 麻省理工学院推出可调节的生成 AI 工具,助力机器人虚拟训练
- 标签: 恒逸石化 己内酰胺 聚酯 炼化
- 阿里巴巴:将继续执行阿里云分拆上市计划
- 整个宇宙可能是个巨大的神经网络?科学家们是这样解释的
- 标签: 团油 加油优惠券 直播带货 黑猫投诉 3152026
- 英伟达 CEO 黄仁勋号召全员启用 OpenAI 的 Code
- 标签: 美团Tabbit 陪读蛙 GPL协议 AI浏览器
- 标签: 京东工业 刘强东 港交所 上市
- 标签: 雅迪 两轮电动车 2025业绩 净利润
- 阿里开源新模型 Qwen3-Next-80B-A3B,性能和效率双提升!
- 标签: 新东方
- 标签: 海尔智家 卡萨帝 Leader Seeker
- 标签: 腾讯 探梦DreamNow 魏晋风骨 互动影游
- 搜索
-
- 友情链接