首页
学习
活动
专区
圈层
工具
发布

DeepSeek官方回应:特殊字符触发模型幻觉,不存在安全漏洞与隐私泄露

【太平洋科技快讯】5月19日傍晚,DeepSeek官方就用户反馈的模型异常输出问题发布说明。

近期有用户反馈,在与DeepSeek模型的对话中输入“<think>”这类特殊字符后,模 型偶发返回不可预期的内容,使部分用户产生了“对话泄露”的疑虑。DeepSeek技术团队在全面排查后确认,该现象由特殊字符触发的模型幻觉导致,并非系统安全漏洞,也不涉及用户隐私泄露。模型在遇到特定标记类字符时出现逻辑与输出偏离预期的情况属于模型理解与处理机制层面的偶发问题,不会造成用户数据外泄或权限风险。

针对此次问题,DeepSeek表示将启动专项优化,通过针对性训练提升模型对特殊字符、标记符号的识别能力与处理稳定性,修复已知触发场景,进一步降低幻觉发生率。官方同时强调,始终将用户数据安全与使用体验放在首位,持续接受用户监督,并鼓励通过官方渠道反馈使用问题。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O4jyiuegpCiLS7PhmFHwMlpw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券