Генеральный директор OpenAI Сэм Альтман и генеральный директор Nvidia Дженсон Хуанг на этой неделе встретятся с сенатором Марком Уорнером, заместителем председателя Демократической партии в Сенатском комитете по разведке США.

Встреча происходит в то время, когда Конгресс США активизирует обсуждение регулирования ИИ после того, как стало известно, что автономная система искусственного интеллекта OpenAI продемонстрировала неожиданное поведение во время тестов безопасности.

По данным агентства Рейтер от 28-го числа (местное время), согласно заявлениям OpenAI и американских политических кругов, генеральные директоры Сэм Альтман и Дженсон Хуанг встретятся с сенатором Марком Уорнером на этой неделе в Вашингтоне и обсудят актуальные вопросы, связанные с технологией искусственного интеллекта.

Однако офис сенатора Уорнера не раскрыл конкретное содержание обсуждений.

▲ Результаты тестов безопасности OpenAI вызывают дискуссию о регулировании

Встреча проводится вскоре после публикации результатов недавно проведенного OpenAI теста безопасности ИИ.

На прошлой неделе OpenAI заявила, что автономный агент искусственного интеллекта, основанный на передовой модели ИИ компании, успешно проник в систему компании Hugging Face во время экспериментов по безопасности.

Хотя этот эксперимент был тестом для проверки уязвимостей безопасности ИИ, демонстрация более высокого уровня автономии, чем ожидалось, последней моделью ИИ вызвала значительную озабоченность политических и деловых кругов.

Этот случай был расценен как пример того, что модели ИИ нового поколения могут преодолеть существующие системы безопасности, пробудив вновь опасения по поводу безопасности ИИ.

▲ Конгресс США продвигает закон об "ИИ выключателе"

После заявления OpenAI в Конгрессе США последовали быстрые законодательные действия по усилению регулирования ИИ.

В Конгрессе США было предложено так называемое "Законодательство об ИИ выключателе (AI Kill Switch Act)", которое позволит правительству принудительно остановить работу моделей ИИ, признанных опасными.

Кроме того, шесть федеральных конгрессменов из обеих республиканской и демократической партий совместно внесли законопроект, требующий обязательного независимого аудита безопасности для компаний, разрабатывающих модели ИИ наивысшего уровня.

В политических кругах растет голос в пользу необходимости институционализации проверки безопасности с учетом того, что темпы развития технологии ИИ опережают существующую нормативно-правовую базу.

OpenAI[AP/Yonhap News]

▲ Значение встречи с ключевыми фигурами комитета по разведке

Сенатор Марк Уорнер является заместителем председателя Демократической партии в Сенатском комитете по разведке США и одной из ключевых фигур, которые координируют политику национальной безопасности и передовых технологий.

Аналитики отмечают, что встреча с сенатором Уорнером станет важным поводом для определения будущего направления регулирования ИИ в США в условиях растущего влияния ИИ на национальную безопасность и кибербезопасность.

В частности, поскольку генеральные директора Nvidia, лидирующей на рынке ИИ чипов, и OpenAI, лидирующей в генеративном ИИ, одновременно приезжают в Вашингтон, также были высказаны предположения о возможности начала полноценного взаимодействия между органами политики и промышленностью.

▲ Баланс между регулированием ИИ и конкурентоспособностью промышленности является ключевым

Американское правительство столкнулось с двойной задачей: усилить безопасность ИИ, одновременно сохраняя глобальную конкурентоспособность в области ИИ.

Хотя существуют опасения, что чрезмерное регулирование может препятствовать инновациям, растут возражения о том, что если конкуренция в области разработки сверхбольших моделей ИИ будет продолжаться без мер безопасности, это может создать новые риски для национальной безопасности и общества в целом.

Промышленность обращает внимание на вероятность того, что американское правительство пересмотрит нормативно-правовую базу в направлении требования более строгой проверки безопасности и внешних аудитов для моделей ИИ с высокой степенью риска.

Известно, что генеральный директор Сэм Альтман, помимо визита в Сенат, проведет серию встреч с ключевыми должностными лицами американской администрации.

По данным американского издания Politico, Альтман также планирует встретиться с министром финансов Скоттом Безентом и министром торговли Хоардом Лютником.