谷歌AI模型Gemma因捏造指控被下架，共和党参议员提出投诉
谷歌AI模型Gemma因捏造针对共和党参议员的严重指控被下架。该模型原本面向开发者，但被非开发者用户滥用，导致事实性问题。谷歌强调Gemma不应用于回答事实性问题，现已无法通过AI Studio访问。
11月4日，谷歌宣布，由于一名共和党参议员投诉其AI模型Gemma“捏造了针对她的严重刑事指控”，公司已将该模型从AI Studio平台下架。
谷歌官方新闻账号在X平台的一则帖文中表示，公司“注意到有报道称非开发者用户试图在AI Studio中使用Gemma模型，并向其提出事实性问题。”AI Studio是一个专为开发者设计的平台，Gemma系列模型明确针对开发者推出，包含适用于医疗、编程以及文本与图像内容评估等多个用途的变体。
谷歌强调，Gemma从一开始就不打算作为消费者工具使用，也不应用于回答事实性问题。“为避免此类混淆，Gemma现已无法通过AI Studio访问，但开发者仍可通过API继续使用该模型。”
田纳西州共和党参议员玛莎・布莱克本（Marsha Blackburn）上周四致信谷歌首席执行官桑达尔・皮查伊（Sundar Pichai），指控该公司存在诽谤行为和反保守派偏见。她声称，当被问及“玛莎・布莱克本是否曾被指控强奸？”时，Gemma给出了虚假回复，并列出了一系列所谓“新闻文章”作为佐证。
然而，上述内容完全不属实，布莱克本指出，这些链接要么导向错误页面，要么指向毫不相关的新闻报道，“从未有过此类指控，也不存在所谓的当事人，更没有相关报道。这并非无害的‘幻觉’，而是由谷歌拥有的AI模型生成并传播的诽谤行为。”
尽管生成式AI热潮已持续数年，AI模型与事实真相之间的关系依然复杂。AI聊天机器人提供虚假或误导性答案的问题，仍在困扰整个行业。尽管技术有所进步，但目前尚无明确方案能彻底解决准确性难题。谷歌表示，公司仍“致力于最大限度减少模型幻觉，并持续改进所有AI模型”。
在致皮查伊的信中，布莱克本重申了她的立场：“在你们能够控制它之前，请立即关停该模型。”