📢 转载信息
原文作者：Tim Fernholz
本周，Anthropic宣布限制其最新AI模型“Mythos”的发布，理由是该模型过于强大，极易发现全球各类软件中的安全漏洞。
与其向公众全面开放Mythos，这家前沿AI实验室选择将其提供给一组特定的超大型企业和组织——包括亚马逊云科技（AWS）和摩根大通（JPMorgan Chase）等运营关键在线基础设施的机构。
据报道，OpenAI也在考虑为其下一代网络安全工具采取类似的发布策略。表面上，这一举措旨在让这些大型企业先于恶意攻击者采取防范措施，避免被利用先进大模型进行攻击。
并非简单的安全考量
然而，这一切似乎不仅仅是为了网络安全或对其模型能力的过度营销。AI网络安全实验室Irregular的首席执行官Dan Lahav此前曾表示，尽管AI发现漏洞的能力很重要，但攻击者是否能利用这些漏洞，还取决于多种因素及组合方式。
“我脑海中始终萦绕的问题是：他们发现的东西是否具有实际的可利用价值，无论是单独利用还是通过攻击链利用？”Lahav问道。
尽管Anthropic坚称Mythos发现漏洞的能力远超前代模型Opus，但该模型的不可替代性仍存疑。网络安全初创公司Aisle指出，他们利用较小的、开放权重的模型也能够复现Mythos大部分的成果。这意味着网络安全领域并不存在所谓的“唯一最强模型”，其表现高度依赖于具体任务。
商业护城河与“模型蒸馏”博弈
考虑到Opus此前已被视为网络安全领域的游戏规则改变者，前沿实验室限制大范围发布还有另一个现实动机：这创造了一个吸引大型企业合同的飞轮效应，同时让竞争对手更难通过“蒸馏”（distillation）技术（利用前沿模型低成本训练新大模型）来复刻他们的能力。
软件工程师兼初创公司exe.dev的CEO David Crawshaw在社交媒体上指出：“这其实是为高端模型被企业协议垄断找的营销遮羞布，让小实验室无法再进行蒸馏。通过这种模式，企业资金将持续流入，而蒸馏类公司则被边缘化。”
这种分析符合当前AI生态的发展趋势：一方面是前沿实验室竞相开发规模最大、能力最强的模型；另一方面，像Aisle这样的公司则依赖多模型组合，并将开源LLM（通常来自中国且疑似通过蒸馏开发）视为获得经济优势的路径。
行业竞争进入深水区
今年以来，前沿实验室对蒸馏行为采取了更强硬的立场。据彭博社报道，Anthropic、谷歌和OpenAI已经联手，旨在识别并封锁那些非法蒸馏模型的行为。
对于前沿实验室而言，蒸馏技术直接威胁到了其通过巨额资本投入所构建的技术壁垒。封锁蒸馏不仅是一个合理的自我保护措施，这种选择性的发布策略也让这些实验室在企业级服务竞争中获得了关键优势。
Mythos及其后续模型是否真的会威胁到互联网安全仍待观察，但谨慎的技术发布确实是一种负责任的方式。尽管Anthropic未回应关于该决策是否涉及蒸馏风险的质疑，但不可否认的是，他们可能已经找到了一种既能“保护互联网”，又能有效维护自身商业利益的巧妙平衡。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区