谷歌近日将其 Gemma 大模型撤下，仅保留给开发者通过 API 使用。事件起因是美国田纳西州参议员玛莎·布莱克本指控该模型“编造”她在1987年竞选期间与州警存在非自愿性关系的谣言，甚至虚构出处链接。事实上，她直到1998年才参选，且从未出现类似指控。
布莱克本致函谷歌 CEO 皮查伊，强调这类虚假输出不是简单的“幻觉（hallucination）”，而是“AI制造的诽谤”，并要求谷歌在11月6日前解释生成机制及预防措施。
谷歌回应称，已发现有人在 AI Studio平台中用 Gemma 查询事实，而该模型原本仅面向开发者，不适合作为通用问答，因而决定收紧权限。
这一事件并非孤例。此前保守派人士罗比·斯塔巴克因遭谷歌旗下 Bard、Gemini、Gemma 模型错误标注为“强奸儿童”“连环性侵者”，已提起超1500万美元诉讼。微软系工具也曾错误描述德国记者为“儿童性侵犯”。
随着生成式AI广泛落地，行业普遍存在“自信地胡编乱造”问题，小型开源模型尤其突出。法律专家警告，AI 诽谤案件激增，将成为监管与司法的新挑战。
谷歌表示致力于减少错误生成，但也承认“只要有人刻意诱导，AI仍可能输出误导内容”，凸显行业在安全机制、事实溯源与责任界定上仍缺乏成熟方案。
