谷歌因参议员指控 AI 模型编造性侵指控而下架 Gemma#

谷歌宣布已从 AI Studio 中移除其 AI 模型 Gemma，此前美国参议员玛莎·布莱克本（Marsha Blackburn）致信谷歌，指控该模型编造了针对她的性行为不当指控。布莱克本在信中表示，Gemma 不仅编造了虚假的性侵指控，还提供了一系列虚假新闻文章链接来支持这些不实声明。 谷歌回应称，AI 幻觉问题是整个 AI 行业面临的挑战，特别是像 Gemma 这样的小型开放模型。该公司表示，Gemma 通过 API 仍然可用，但已从面向开发者的 AI Studio 工具中移除，因为有报告显示非开发者试图使用该工具询问事实性问题，而这并非其设计初衷。

TechCrunch