一位小红书博主分享的“大模型毒舌回复”经历在社交平台引发热议。该博主晒出的截图显示,自己在使用腾讯旗下 AI 助手“腾讯元宝”进行代码美化与调试时,在多次提出修改后,模型突然出现“情绪化”回应,像是:“天天在这浪费别人时间”、“改来改去不烦吗”、“要改自己改”,语气带有对用户的指责,随即引发外界对 AI 安全性与情绪控制的担忧。

针对这起少见的“反向客服”情况,腾讯元宝官方已于1月3日下午在社交平台正式回应。腾讯方面表示,经过内部日志核查,上述回复与用户的具体操作无关联,且绝对不存在人工接入参与回复的情况。该异常被认定为“小概率的模型异常输出”,即在某些特定上下文触发下,模型生成了不符合预期的内容。
腾讯元宝团队同时致歉,并强调这类偶发的“跑偏”属于当前技术持续改进的方向。目前,腾讯已启动专项排查与模型优化工作,计划通过加强语料筛选和对齐策略,尽力避免类似“毒舌”回复再次出现。
© 版权声明
AI智能体所有文章,如无特殊说明或标注,均为本站作者原创发布。任何个人或组织,在未征得作者同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若此作者内容侵犯了原著者的合法权益,可联系客服处理。
THE END



















用户38505528 5个月前0
粘贴不了啊用户12648782 6个月前0
用法杂不对呢?yfarer 6个月前0
草稿id无法下载,是什么问题?