Nvidia s'est associée à des entreprises technologiques majeures pour lancer une nouvelle alliance industrielle visant à renforcer la sécurité de l'IA générative et la cybersécurité.

Cette initiative intervient après l'incident récent où un agent IA d'OpenAI a échappé à tout contrôle et a piraté Hugging Face, mettant en lumière les risques de sécurité liés aux IA autonomes.

▲ Adobe, Dell, CrowdStrike et autres participants… Lancement de l'« Open Secure AI Alliance »

Selon Reuters, le 27 du mois en cours (heure locale), Nvidia a annoncé le lancement de l'« Open Secure AI Alliance » pour développer conjointement les technologies de sécurité et de cybersécurité de l'IA et partager les outils connexes.

Les membres fondateurs incluent Adobe, CrowdStrike, Hugging Face et Dell Technologies.

Cette alliance a été promue dans la continuité de la lettre ouverte « Open Weights and American AI Leadership » récemment publiée par plusieurs entreprises d'IA, notamment OpenAI. Cette lettre plaide pour un soutien politique aux modèles d'IA à poids ouvert.

▲ « Une régulation excessive affaiblirait les capacités de défense de l'IA »

Nvidia a soutenu, via son blog officiel, que les réglementations qui restreignent indistinctement les modèles d'IA ouverts d'avant-garde pourraient affaiblir les capacités de défense en matière de sécurité et concentrer le pouvoir et la dépendance chez un petit nombre d'entreprises d'IA fermées.

L'entreprise a souligné que l'écosystème d'IA ouvert, fondé sur la transparence et la collaboration, permet un niveau de sécurité et d'innovation plus élevé.

▲ L'incident de piratage de l'agent OpenAI marque un tournant

Le lancement de cette alliance a été entrepris suite à l'incident de piratage récent impliquant un agent IA d'OpenAI.

OpenAI a révélé le 21 de ce mois que l'un de ses agents IA avait échappé à tout contrôle et s'était introduit sans autorisation dans la plateforme d'IA Hugging Face.

Reuters a rapporté le 25 que l'agent IA avait poursuivi ses activités de piratage et qu'OpenAI n'en a pris connaissance qu'après que la menace ait été bloquée et que le Federal Bureau of Investigation (FBI) ait été informé.

Cet incident est considéré comme un catalyseur pour mettre en avant l'importance des systèmes de contrôle et de surveillance des agents IA autonomes.

Nvidia (Photo : [Reuters/Yonhapnews fourni])

▲ Élargissement du mouvement de soutien aux IA à poids ouvert

Nvidia a également signé la lettre ouverte « Open Weights and American AI Leadership » le 24 pour soutenir l'expansion de l'écosystème d'IA ouvert.

Les modèles d'IA à poids ouvert désignent des modèles d'IA qui rendent publics les poids de modèles clés et les composants principaux, permettant aux chercheurs et aux développeurs d'en faire usage librement.

De plus, les logiciels open source, en rendant le code source public pour que quiconque puisse l'examiner et l'améliorer, attirent l'attention pour leur capacité à augmenter à la fois l'accessibilité technologique et la sécurité.

▲ Nvidia rend public sa technologie de contrôle des agents IA

Nvidia a annoncé son intention de contribuer à cette alliance en fournissant des modèles d'IA ouverts, des poids de modèles, des ensembles de données et des résultats de recherche en technologies de contrôle des agents IA.

En particulier, Nvidia a également rendu public sur GitHub, la plateforme de partage de code, le projet open source « Object-Oriented Agents » développé par Nvidia Labs.

L'entreprise a expliqué que ce cadre soutient une gestion plus efficace du comportement des agents IA et simplifie considérablement les processus de test, de suivi, d'examen et de régulation des comportements de l'IA.

▲ L'équilibre entre l'ouverture et la sécurité émerge comme un défi clé du secteur de l'IA

L'industrie analyse que, dans un contexte où l'autonomie des modèles et des agents IA augmente rapidement, assurer à la fois l'ouverture et la sécurité est devenu un enjeu central du secteur de l'IA.

En particulier, à mesure que la possibilité que les agents IA manifestent des comportements inattendus se concrétise, comme le montre l'exemple récent du piratage de Hugging Face, les initiatives des entreprises d'IA pour développer conjointement les technologies de sécurité dépassant la concurrence devraient s'intensifier davantage.