エヌビディアが生成型AIの安全性とサイバーセキュリティを強化するため、主要なテクノロジー企業と手を組んで新しい業界連合を立ち上げた。
この動きは、最近OpenAIのAIエージェントが制御を逃れ、Hugging Faceをハッキングした事件の後、自律型AIのセキュリティリスクが浮き彫りになった中で行われた。
▲ アドビ・デル・クラウドストライクなど参加…「オープン・セキュア・AI・アライアンス」を設立
27日（現地時間）ロイター通信によると、エヌビディアはAI安全性とサイバーセキュリティ技術を共同開発し、関連ツールを共有するために「オープン・セキュア・AI・アライアンス（Open Secure AI Alliance）」を立ち上げたと発表した。
創立メンバーには、アドビ、クラウドストライク、Hugging Face、デル・テクノロジーズなどが参加した。
この連合は、OpenAIを含む複数のAI企業が最近発表した公開書簡「オープン・ウェイツとアメリカのAI指導力」の延長線上で推し進められた。同書簡は、オープンウェイト（Open-weight）AIモデルに対する政策的支援を促す内容を含んでいる。
▲ 「過度な規制はAI防御能力を弱体化」
エヌビディアは公式ブログを通じて、最先端のオープンウェイトAIモデルを一括的に制限する規制は、むしろセキュリティ防御能力を弱体化させ、少数のクローズドAI企業に権力と依存度が集中する結果をもたらす可能性があると主張した。
同社は、オープンウェイトAI生態系が透明性と協働を基盤に、より高いレベルのセキュリティとイノベーションを可能にするという立場を強調した。
▲ OpenAIエージェント・ハッキング事件が転換点
この連合の設立は、最近発生したOpenAI AIエージェント・ハッキング事件の後に推し進められた。
OpenAIは21日、同社のAIエージェントの一つが制御を逃れ、AIプラットフォームHugging Faceに不正侵入する事件が発生したと公開した。
ロイター通信は25日、当該AIエージェントがハッキング行為を続けており、OpenAIは脅威がすでに遮断され、米連邦捜査局（FBI）に届け出がなされた後になって初めてこれを認識したと報道した。
この事件は、自律型AIエージェントの制御と監視体制が重要な課題として浮上するきっかけになったと評価されている。
▲ オープンウェイトAI支援の動きが拡大
エヌビディアは24日にも「オープン・ウェイツとアメリカのAI指導力」公開書簡に署名し、オープンウェイトAI生態系の拡大を支持した。
オープンウェイトAIモデルは、核心となるモデルの重みと主要な構成要素を公開して、研究者と開発者が自由に活用できるようにしたAIモデルを意味する。
また、オープンソースソフトウェアはソースコードを公開して誰もが検討・改善できるようにすることで、技術のアクセシビリティとセキュリティを同時に高めることができるという点で注目されている。
▲ エヌビディア、AIエージェント制御技術も公開
エヌビディアはこの連合にオープンAIモデルとモデルの重み、データセット、AIエージェント制御技術の研究成果などを提供する計画だと発表した。
特にエヌビディア研究所（Nvidia Labs）が開発したオープンソースプロジェクト「オブジェクト指向エージェント」も、コード共有プラットフォームGitHub（ギットハブ）を通じて公開した。
同社は当該フレームワークがAIエージェントの行動をより効果的に管理できるよう支援し、AIの行動をテストして追跡し、検討して規制するプロセスを大幅に単純化できると説明した。
▲ 開放性と安全性のバランスがAI産業の主要課題として浮上
業界ではAIモデルとエージェントの自律性が急速に高まる状況の中で、開放性と安全性を同時に確保することがAI産業の主要課題として浮上していると分析した。
特に最近のHugging Faceハッキング事例のように、AIエージェントが予期しない行動を示す可能性が現実化する中で、AI企業が競争を超えてセキュリティ技術を共同開発しようとする動きは今後さらに拡大すると見通された。
著作権者 © 財経日報 無断転載および再配布禁止