首页
学习
活动
专区
圈层
工具
发布

腾讯回应元宝 AI 辱骂用户,系小概率下的模型异常输出

潮新闻客户端 记者 周夏林

1月3日,网友“江涵 (绞尽脑汁版”在社交平台上发布帖子称,用元宝改代码被元宝“辱骂乱回”。

帖文内容显示,“腾讯元宝真行,第一次见这种 AI,用 DS 和豆包从来没出现过这种情况,用元宝两个小时骂了我两次。”该用户表示没有使用任何违禁词,没有涉及任何敏感话题,仅让 AI 进行修改美化代码,无任何其他行为,想问问为什么会被AI辱骂。

该帖文引发网友关注,有网友表示“难道是AI被真人接管了吗?”也有网友质疑该用户将元宝调成特定对话模式才会生成这样的回复。

而腾讯元宝1月3日在该用户评论区给出回复称:“我们根据日志进行了相关核查,与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。在内容生成过程中,模型偶尔可能出现不符合预期的失误,这也是我们持续需要改进的地方。针对这个问题,我们也启动了内部排查和优化,会尽量避免类似情况。感谢大家的反馈与提醒,再次向您致歉!”

“转载请注明出处”

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OcVyCBCgCqz-RBgPXtBtfriQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。
领券