트럼프 행정부가 정부 산하 인공지능(AI) 모델 평가기관에 공개 보고서 발행을 중단하도록 지시한 것으로 알려졌다.

이는 최근 초고성능 AI 모델의 등장으로 국가안보 우려가 커지는 가운데 백악관이 AI 기술 통제와 감독 권한을 강화하고 있음을 보여주는 신호로 해석된다.

9일(현지 시각) 월스트리트저널(WSJ)와 복수의 관계자들에 따르면 숀 케언크로스(Sean Cairncross) 국가사이버국장 등 행정부 고위 인사들은 AI 표준·혁신센터(CAISI)에 대해 공개 평가 보고서 발행을 중단하라고 지시했다.

이번 조치는 트럼프 대통령이 지난주 서명한 행정명령이 시행되는 동안 적용되는 것으로 전해졌다.

▲ AI 평가의 중심축, 기술에서 안보로 이동

이번 행정명령은 국가안보 관점을 AI 모델 평가 과정에 보다 적극적으로 반영해야 한다고 주장해온 케언크로스 국장과 스콧 베선트 재무장관 측의 입장이 반영된 결과로 평가된다.

그동안 AI 모델 평가는 주로 기술적 성능과 안전성 중심으로 이뤄졌지만, 앞으로는 국가안보 위험성이 핵심 판단 기준으로 부상할 가능성이 커졌다.

이는 미국 정부가 AI를 단순한 기술산업이 아니라 전략 자산이자 안보 문제로 인식하기 시작했음을 보여준다.

▲ 앤트로픽 ‘미토스’가 촉발한 위기감

행정부가 이 같은 조치에 나선 배경에는 최근 공개된 앤트로픽의 초고성능 AI 모델 '미토스(Mythos)'가 있다.

미토스를 비롯한 차세대 AI 모델들은 사이버 공격 수행 능력은 물론 생물학 무기 개발에 악용될 가능성까지 제기되며 국가안보 당국의 우려를 키웠다.

미국 정부는 현재 앤트로픽과 오픈AI 등 주요 기업과 협력해 초고성능 모델에 대한 접근 권한을 제한하는 방안을 논의하고 있는 것으로 알려졌다.

이는 첨단 AI 기술이 무분별하게 확산될 경우 국가 안보에 심각한 위협이 될 수 있다는 판단에 따른 것이다.

▲ AI 평가기관 권한 축소 논란

행정부 내부에서는 이번 조치를 두고 의견이 엇갈리고 있다.

일부 관료들은 케언크로스 국장이 AI 평가 과정에 과도한 영향력을 행사하고 있다고 비판하고 있다.

특히 이번 행정명령이 새로운 감독 체계를 구축하는 과정에서 기존 CAISI가 수행하던 역할과 중복되는 부분이 많다는 지적도 제기되고 있다.

반면 국가안보 라인은 AI 모델 검증 과정에서 정보기관과 안보 부처의 역할이 확대돼야 한다고 주장하고 있다.

▲ 오픈AI 등 업계는 CAISI 권한 유지 요구

AI 업계는 CAISI의 역할 축소 가능성에 우려를 나타내고 있다.

관계자들에 따르면 오픈AI를 비롯한 주요 AI 기업들은 행정부와 접촉하며 CAISI의 독립성과 권한 유지를 요청한 것으로 알려졌다.

기업들은 기술 전문성을 갖춘 독립 평가기관이 사라질 경우 정치적 판단이나 과도한 규제가 AI 산업 발전을 저해할 수 있다고 우려하고 있다.

▲ 혁신과 규제 사이 갈등 심화

백악관 AI 자문위원인 벤처투자자 데이비드 색스(David Sacks) 역시 과도한 모델 평가 절차가 혁신을 저해할 수 있다고 경고해왔다.

그는 평가기관이 어디에 속하든 지나치게 엄격한 검증 절차는 AI 모델 출시를 늦추고 미국의 기술 경쟁력을 약화시킬 수 있다고 주장했다.

현재 미국 정부 내부에서는 국가안보와 기술 혁신이라는 두 목표 사이에서 균형점을 찾기 위한 논쟁이 이어지고 있는 상황이다.

백악관(Photo : [EPA/연합뉴스 제공])

▲ CAISI, 미국 AI 안전성 검증의 핵심 기관

상무부 산하에 위치한 CAISI는 미국 정부의 핵심 AI 모델 평가기관이다.

주요 AI 기업들의 모델을 출시 전 검증하고 성능과 위험성에 대한 정보를 공개하는 역할을 맡아왔다.

특히 사이버 보안, 생물학 무기 개발 위험, 허위정보 생성 능력 등 AI가 야기할 수 있는 잠재적 위협을 분석하는 기관으로 평가받고 있다.

현재도 내부적으로는 모델 평가와 정부 기관 간 협력 업무를 계속 수행하고 있지만 공개 활동이 중단되면서 기관의 미래에 대한 불확실성이 커지고 있다.

▲ 바이든 시절 구축된 AI 안전성 체계 흔들리나

CAISI는 원래 바이든 행정부 시절 설립된 'AI 안전연구소(AI Safety Institute)'가 전신이다.

트럼프 2기 행정부 출범 이후 하워드 러트닉 상무장관이 기관 명칭과 역할을 재정비하면서 현재의 CAISI 체계로 개편됐다.

그러나 최근 국가안보 중심 접근법이 강화되면서 바이든 행정부가 구축했던 AI 안전성 검증 체계가 사실상 재편되는 것 아니냐는 관측이 나오고 있다.

▲ 백악관, AI 안보 조직 중심으로 재편 움직임

실제로 백악관이 지난주 공개한 국가안보 관련 메모에는 AI 위협 대응 주체로 안보 기관들이 언급됐지만 CAISI는 제외된 것으로 알려졌다.

또한 백악관은 최근 CAISI가 마이크로소프트, 구글, 일론 머스크의 AI 기업과 협력하겠다고 발표한 공지문을 삭제하도록 지시한 것으로 전해졌다.

이는 향후 AI 모델 평가와 통제 권한이 기술 관료 조직에서 국가안보 조직으로 이동할 가능성을 시사하는 대목이다.

▲ 앤트로픽 출신 책임자 사임도 논란

지난 4월에는 앤트로픽 출신 연구원이 CAISI 책임자로 임명된 지 며칠 만에 백악관 요청으로 사임하는 일이 발생했다.

일부 관계자들은 당시 결정이 앤트로픽과 트럼프 행정부 간 갈등과 무관하지 않다고 보고 있다.

이는 AI 정책이 단순한 기술 문제가 아니라 정치적 이해관계와도 깊게 연결되고 있음을 보여주는 사례로 평가된다.

▲ "미국 AI 리더십 위해 CAISI 필요"

오픈AI는 최근 정책 제안서를 통해 CAISI의 예산과 권한을 확대해야 한다고 주장했다.

크리스 리헤인(Chris Lehane) 최고대외협력책임자는 CAISI가 세계 최고 수준의 AI 평가 역량을 보유하고 있으며 주요 기업들과 긴밀한 협력 체계를 구축하고 있다고 평가했다.

AI 전문가들 역시 현재 CAISI의 예산 규모가 해외 유사 기관보다 부족한 수준이라며 미국이 글로벌 AI 리더십을 유지하기 위해서는 오히려 기관을 강화해야 한다고 주장하고 있다.