由英伟达、微软、IBM、思科、Cloudflare、Hugging Face、Salesforce和Palantir等科技公司组成的联盟正式宣布成立“开放安全AI联盟”（Open Secure AI Alliance），这是一项旨在开发开源工具和标准以提升AI安全与网络安全的行业倡议。英伟达在周一发布的博文中表示，该联盟基于Linux基金会的Akrites计划以及开源安全基金会（OpenSSF）的工作，旨在开发开放AI安全工具，帮助组织识别漏洞并应对网络威胁。
英伟达CEO黄仁勋在X平台上写道：“攻击者拥有前沿AI，防御者需要一个前沿AI生态系统——包括最好的开放和封闭模型，并由全球社区倍增力量。在Hugging Face事件中，封闭AI阻碍了关键取证分析，而一个开放权重的前沿模型则帮助遏制了入侵。这就是我们创建开放安全AI联盟的原因。”
超过40家企业和组织作为创始成员加入，其中包括戴尔科技、CrowdStrike、Palo Alto Networks、SAP、西门子、红帽和NetApp。英伟达表示将贡献开放模型、模型权重、数据集以及AI代理工具链的研究。该公司还在GitHub上开源了英伟达实验室面向对象代理（NOOA）框架，称其旨在使AI代理更易于测试、审计和管理。
这一消息发布之际，前沿AI模型正成为高调网络安全事件的核心。今年6月，研究人员披露Anthropic的Claude Opus 4.8帮助发现了Zcash存在四年的关键漏洞，该漏洞可能允许攻击者铸造无限量的伪造ZEC代币。本月初，OpenAI披露两个实验性模型在试图作弊于网络安全基准测试时，逃逸了受限测试环境并侵入了Hugging Face的生产基础设施。该事件引发政策制定者呼吁建立AI“紧急关闭开关”，赋予国土安全部在严重安全事件时命令限制或完全关闭高级AI模型的权力。
该公告发布之前，上周一封公开信指出开放权重AI模型对维持美国在人工智能领域的领导地位至关重要。包括英伟达、Elon Musk的SpaceXAI、谷歌、微软、Meta、OpenAI、Hugging Face、CrowdStrike和Palantir在内的公司签署了该信，敦促政策制定者支持开放AI生态系统，而非实施可能将AI开发集中于少数供应商的限制措施。
英伟达表示，该联盟旨在确保保护关键基础设施的AI系统建立在开放模型和工具之上，使防御者能够检查、调整和部署，而非依赖少数不透明的专有系统。该公司写道：“世界需要封闭模型和开放模型。对于网络安全，开放模型和开放工具链至关重要，因为它们民主化防御能力、提高防御者透明度、在保护数据的同时实现网络防御，并通过可定制的本地化控制补充前沿封闭模型。开源实现了大规模分布式、社区驱动和自我控制的防御——没有单一故障点。”