美国出于国家安全考虑，政府迫使 Anthropic 暂停两种新的人工智能模型
日期：2024 年 6 月 21 日（基于周五发布的上下文）
根据美国政府以国家安全风险为由的指令，人工智能公司 Anthropic 突然暂停了其新推出的《神鬼寓言 5》和《神话 5》人工智能模型的全球访问。
Anthropic 于下午 5:21 收到该指令ET 指示该公司“暂停任何外国人对《神鬼寓言 5》和《神话 5》的所有访问，无论是在美国境内还是境外，包括外国人 Anthropic 员工。”
作为回应，Anthropic 禁用了所有用户的模型以确保合规性。该公司强调，Opus 4.8 等其他型号仍然不受影响且可运行。
“我们正在遵守政府的法律指令，并取消所有用户对《神鬼寓言 5》和《神话 5》的访问权限，”该公司表示。
对潜在“越狱”的担忧
政府采取行动的几天前，Anthropic 公开发布了这两个基于 Mythos Preview 通用语言模型的强大模型。 Anthropic 此前曾指出，Mythos Preview 发现了“关键软件中的数千个漏洞。”
据 Anthropic 报道，当局没有提供有关所谓威胁的具体细节，但表示担心可能存在能够绕过《神鬼寓言 5》安全保障措施的“越狱”方法。
“迄今为止，政府只向我们提供了潜在的狭隘、非通用越狱的口头证据，其本质上包括要求模型读取特定的代码库并修复任何软件缺陷，”Anthropic 解释道。该公司将其与更为严重的“通用越狱”区分开来，后者将广泛绕过模型的保护措施。人类不同意该决定
Anthropic 对政府的评估以及由此导致的暂停表示强烈反对。
该公司表示：“我们不认为，小范围潜在越狱的发现应该成为召回部署到数亿人的商业模式的理由。” “如果这个标准在整个行业得到应用，我们相信它将基本上停止所有前沿模型提供商的所有新模型部署。”这家人工智能公司表示，它认为该命令源于误解，并正在积极努力尽快恢复用户的访问权限。
该事件突显了领先的人工智能开发商与美国监管机构之间在快速发展的人工智能领域中创新、商业部署和国家安全之间的平衡问题日益紧张。