因被指传播不实信息，谷歌将 Gemma 模型从 AI Studio 下架

近日，谷歌宣布把其 AI 模型 Gemma 从 AI Studio 中下架。起因是田纳西州参议员马莎・布莱克本（Marsha Blackburn）指控该模型编造了关于她的性侵相关说法。她在写给谷歌首席执行官桑达尔・皮查伊（Sundar Pichai）的信中指出，当有人询问“马莎・布莱克本是否被指控强奸？”时，Gemma 给出错误回应，声称在她1987年竞选州参议员期间，一名州警官曾指控她“逼迫他获取处方药，且该关系为非自愿”。

布莱克本强调，这些说法完全不属实，且她的实际参选年份为1998年。她表示，尽管 Gemma 的回答附上了链接试图佐证，但链接不是跳转错误页面，就是指向不相关的新闻。信中还提到，她在近期一场参议院商务委员会听证会上提及保守派活动家罗比・斯塔巴克（Robby Starbuck）对谷歌提起的诉讼。斯塔巴克声称，谷歌的 AI 模型（包括 Gemma）生成了将他描述为“儿童强奸犯”和“连环性侵犯者”的诽谤内容。

布莱克本在信中表示，谷歌公共事务副总裁马克汉・埃里克森（Markham Erickson）的回应是，模型“幻觉”是已知问题，谷歌正着手改进。但她认为，Gemma 的不实陈述并非“无害的幻觉”，而是“由谷歌自有 AI 模型产生并扩散的诽谤”。

在这封信里，布莱克本还提到，特朗普阵营的科技支持者长期抱怨“AI 审查”，认为主流聊天机器人存在自由派倾向。今年，特朗普甚至签署行政令，要求禁止所谓“觉醒 AI”。尽管布莱克本并非总与特朗普政府的科技政策一致，但她在信中再次表达担忧，称谷歌的 AI 系统对保守派人物存在“持续偏见”。

谷歌在周五晚间的一则帖子中没有回应布莱克本信件的具体细节，但表示注意到有非开发者在 AI Studio 中把 Gemma 用来查询事实问题。谷歌称，“我们从未计划将它作为面向消费者的工具或模型，也不希望以这种方式使用。” 因此，公司决定在 AI Studio 下架 Gemma，不过仍会通过 API 提供该模型。

划重点:

🌐 因参议员指控模型生成不实性侵内容，谷歌将 Gemma 从 AI Studio 撤下。  

📜 布莱克本称相关说法为虚假，且回答附带的链接指向错误或不相关信息。  

⚖️ 谷歌表示 Gemma 并非面向消费者的工具，将继续通过 API 提供模型服务。