周一，英伟达与多家科技巨头共同发起了一项聚焦开放模型的全新人工智能安全倡议。此时，由失控的OpenAI模型实施的网络攻击所造成的余波仍在持续。
上周有消息曝出，此次攻击的目标——初创公司Hugging Face——无法使用美国领先的前沿模型进行自卫，因为这些模型的护栏机制无法区分攻击者和防御者。于是，该公司转而使用了一个自行托管、权重开放的模型，该模型不受上述相同限制的约束。
开放模型可以下载、修改和自行托管，这与封闭模型（包括Anthropic和OpenAI构建的前沿系统）形成对比，后者只能通过特定基础设施访问。
“开放安全AI联盟将致力于利用开放技术修复和披露漏洞，”英伟达在一份声明中表示。“近期Hugging Face安全事件给出了一个明确的提醒：网络防御者需要开放的前沿智能体系统来进行自我防御。”
除英伟达外，该联盟的其他成员还包括微软、SpaceX、Palantir以及来自美国和欧洲的数十家其他科技公司。
关于限制措施的争论
目前，越来越多的人呼吁采取措施，限制对某些AI模型的访问。
上周，财政部长斯科特·贝森特威胁要对实施蒸馏攻击的公司进行制裁。
“美国政府确实有可能实施相关限制，”智库外交关系协会高级研究员克里斯·麦奎尔表示。
他表示，这可能包括禁止涉及相关模型的交易，例如通过API购买词元，或公司在云端托管模型并向客户收取推理费用。
“在华盛顿，这不是关于开源与闭源的辩论，而是关于是否容忍知识产权盗窃的辩论，”麦奎尔说。“任何行动都将针对违规公司，而非开源生态系统。”
然而，由于大多数最强能力的开源模型由特定公司构建，人们对限制措施存在担忧。
上周，英伟达、微软、Meta、Palantir及其他20多家公司联合发布了一封信函，敦促政策制定者避免对开放权重AI模型实施“过早限制”，以免“扼杀竞争或将创新驱赶到海外”。
英伟达表示，OpenAI与Hugging Face事件揭示了一个“现实真相”：“当防御者无法在自己的基础设施上检查、调整和运行先进AI时，他们的响应能力恰恰在最需要速度的时刻受到制约。”
海量资讯、精准解读，尽在新浪财经APP
责任编辑：张俊 SF065
米牛配资提示：文章来自网络，不代表本站观点。
