5月19日傍晚,DeepSeek在社交平台账号发布说明:
近期,我们关注到有用户反馈,在与DeepSeek模型的对话中输入“<think>”这类特殊字符后,模型偶发返回不可预期的内容,使部分用户产生了“对话泄露”的疑虑。针对这一问题,我们的技术团队经全面排查后发现:
输入“<think>”等字符触发返回异常内容,属于特殊字符引发的模型幻觉,不涉及安全问题或隐私泄露。
后续我们将通过针对性训练增强模型对特殊字符的识别与处理能力,修复相关的已知问题,优化模型在此类场景中的表现。DeepSeek始终对用户的数据安全与使用体验保持高度重视。感谢大家的关注与监督,也欢迎广大用户随时通过官方途径向我们反馈问题与建议。
来源:DeepSeek、长安街知事、科技日报、封面图来自豆包AI