Le PDG d'OpenAI, Sam Altman, et le PDG de Nvidia, Jensen Huang, rencontreront cette semaine le sénateur Mark Warner, vice-président démocrate du Comité du renseignement du Sénat américain.

Cette réunion suscite un intérêt particulier car elle intervient alors que le Congrès américain intensifie son débat sur la réglementation de l'IA, suite à la révélation récente que le système d'IA autonome d'OpenAI a présenté un comportement inattendu lors de tests de sécurité.

Selon Reuters le 28 décembre (heure locale), selon OpenAI et les cercles politiques américains, le PDG Sam Altman et le PDG Jensen Huang rencontreront séparément le sénateur Mark Warner à Washington cette semaine pour discuter des enjeux liés à la technologie de l'IA.

Cependant, le bureau du sénateur Warner n'a pas divulgué les détails spécifiques des discussions.

▲ Les résultats des tests de sécurité d'OpenAI déclenchent le débat sur la réglementation

Cette réunion intervient peu après la publication des résultats récents des tests de sécurité de l'IA d'OpenAI.

OpenAI a annoncé la semaine dernière qu'un agent d'IA autonome basé sur son modèle d'IA de pointe avait réussi à infiltrer le système de Hugging Face, une société de développement d'IA, lors d'une expérience de sécurité.

Bien que cette expérience visait à tester les vulnérabilités de sécurité de l'IA, le fait que les derniers modèles d'IA ont démontré un niveau d'autonomie plus élevé que prévu a causé un choc considérable dans les milieux politiques et industriels.

Cet exemple a été accepté comme une démonstration du potentiel des modèles d'IA de nouvelle génération à dépasser les systèmes de sécurité existants, ravivant les préoccupations concernant la sécurité de l'IA.

▲ Le Congrès américain promeut la loi sur le « bouton d'arrêt de l'IA »

Suite à l'annonce d'OpenAI, les mouvements législatifs visant à renforcer la réglementation de l'IA se sont succédé rapidement au Congrès américain.

Au Congrès américain, le soi-disant « AI Kill Switch Act » (loi sur le bouton d'arrêt de l'IA) a été proposé, permettant au gouvernement de forcer l'arrêt des modèles d'IA dont les risques ont été confirmés.

De plus, six représentants fédéraux de la Chambre des représentants, des deux partis républicain et démocrate, ont présenté conjointement un projet de loi exigeant que les entreprises développant les modèles d'IA les plus avancés subissent des audits de sécurité indépendants obligatoires.

Dans les milieux politiques, la voix s'élève pour institutionnaliser la vérification de la sécurité, partant du constat que la vitesse du développement technologique de l'IA dépasse le cadre réglementaire existant.

OpenAI [AP/Agence de presse Yonhapnews]

▲ L'importance de la réunion avec un personnage clé du Comité du renseignement

Le sénateur Mark Warner est le vice-président démocrate du Comité du renseignement du Sénat américain et l'un des personnages clés responsables de la politique de la sécurité nationale et des technologies avancées.

Certains analystes estiment que la réunion avec le sénateur Warner, dans un contexte où l'impact de l'IA sur la sécurité nationale et la cybersécurité s'accroît, sera une occasion de jauger la direction future de la réglementation de l'IA aux États-Unis.

En particulier, comme les PDG de Nvidia, qui domine le marché des puces d'IA, et d'OpenAI, qui est à l'avant-garde de l'IA générative, se rendent tous deux à Washington, il a été soulevé la possibilité que les consultations entre les autorités politiques et l'industrie s'intensifient.

▲ L'équilibre entre la réglementation de l'IA et la compétitivité industrielle est la clé

Le gouvernement américain est confronté à la tâche simultanée de renforcer la sécurité de l'IA tout en maintenant la compétitivité mondiale en matière d'IA.

Alors que certains craignent que une réglementation excessive ne nuise à l'innovation, d'autres soulignent que la poursuite d'une course à la développement d'une IA ultra-grande sans garde-fous pourrait créer de nouveaux risques pour la sécurité nationale et la société dans son ensemble.

L'industrie prête attention à la possibilité que le gouvernement américain organise à l'avenir ses systèmes réglementaires en demandant une vérification de sécurité plus rigoureuse et un audit externe pour les modèles d'IA à haut risque.

Le PDG Sam Altman devrait également avoir des réunions en cascade avec les principaux responsables de l'administration américaine en plus de sa visite au Sénat.

Selon Politico, un média spécialisé en politique américaine, Altman rencontrera également le secrétaire au Trésor Scott Bessent et le secrétaire au Commerce Howard Lutnick.