미국 인공지능(AI) 기업 앤트로픽(Anthropic)과 트럼프 행정부가 최신 AI 모델 접근 제한 문제를 놓고 협상을 이어가고 있지만 아직 합의에 이르지 못한 것으로 나타났다.

이번 사태는 미국 정부가 국가 안보와 사이버 보안을 이유로 민간 AI 모델 사용을 직접 제한한 첫 사례라는 점에서 업계의 이목이 집중되고 있다.

▲ 백악관 제한 조치에 최신 AI 모델 전면 중단

15일(현지 시각) 월스트리트저널(WSJ)에 따르면 협상은 계속됐지만 양측은 보안 우려를 해소할 최종 합의에 도달하지 못했다.

트럼프 행정부는 지난 13일 앤트로픽의 최신 AI 모델인 '페이블 5(Fable 5)'에 대해 외국 정부와 기업, 다수의 개인 이용자의 접근을 제한한다고 발표했다.

이에 앤트로픽은 정부 규정을 준수하기 위해 페이블 5의 서비스를 전면 중단했다. 같은 제한 대상에 포함된 고성능 모델 '미토스 5(Mythos 5)' 역시 함께 서비스가 차단됐다.

업계에서는 정부 개입에 따라 미국 주요 AI 기업이 핵심 모델 운영을 중단한 것은 전례 없는 일로 평가하고 있다.

▲ AI 안전성 논란, 정부와 기업 모두 부담

이번 조치는 단순한 서비스 중단 이상의 의미를 갖는다.

그동안 미국 정부와 AI 기업들은 혁신 촉진과 안전 규제 사이에서 균형점을 찾기 위해 노력해 왔다. 그러나 정부가 직접 모델 접근을 제한하면서 AI 안전성 검증 문제가 국가 차원의 정책 이슈로 확대됐다.

모델 서비스 중단이 길어질수록 앤트로픽은 물론 백악관 역시 부담이 커질 수밖에 없다.

특히 양측은 과거 AI의 군사적 활용 범위를 놓고 공개적으로 이견을 드러낸 바 있어 이번 협상이 향후 미국 AI 정책 방향을 가늠할 시험대로 평가된다.

▲ 상무부·국가사이버국 주도 협상 진행

이번 협상에는 앤트로픽의 핵심 기술진이 직접 참여했다.

관계자들에 따르면 미국 상무부와 숀 케언크로스 국가사이버국장이 협상을 주도했으며, 앤트로픽 측에서는 고위 기술 인력들이 참석해 보안 문제 해결 방안을 논의했다.

앤트로픽 대변인은 성명을 통해 "정부와 수차례 화상회의를 진행해 왔으며 양측 모두 문제 해결을 위해 신속히 노력하고 있다"고 밝혔다.

이어 "미국 핵심 인프라 보호와 사이버 방어 우위 유지라는 공동 목표를 위해 행정부와 협력하고 있다"고 설명했다.

▲ AI 안전성 강조해 온 앤트로픽, 최대 위기 직면

앤트로픽은 다리오 아모데이 최고경영자(CEO)와 그의 여동생이자 사장인 다니엘라 아모데이가 이끄는 기업으로, AI 안전성과 책임 있는 개발을 핵심 가치로 내세워 왔다.

특히 주요 AI 기업 가운데 드물게 트럼프 행정부의 일부 AI 정책에 공개적으로 문제를 제기하며 독자적인 입장을 유지해 왔다.

최근 기업가치가 9,650억 달러로 평가되며 기업공개(IPO)를 준비 중인 상황에서 최신 모델 서비스 중단 장기화는 기업 가치와 투자 심리에 적지 않은 부담으로 작용할 전망이다.

▲ 정부 "소통 부족 인정 필요" 압박

협상 과정에서는 책임 소재를 둘러싼 논의도 진행 중인 것으로 알려졌다.

일부 행정부 관계자들은 앤트로픽이 페이블 5를 출시하는 과정에서 백악관과의 소통이 충분하지 못했다는 점을 인정해야 한다고 주장하고 있다.

반면 앤트로픽은 문제가 된 보안 취약점이 비교적 단순한 수준이었으며, 모델 출시 이전부터 정부와 긴밀하게 협력해 왔다고 반박하고 있다.

결국 기술적 문제뿐 아니라 정부와 기업 간 신뢰 회복 여부도 협상 타결의 핵심 변수로 떠오르고 있다.

앤트로픽[로이터/연합뉴스 제공]

▲ 핵심 보안 전문가 총출동

16일 협상에는 앤트로픽의 주요 보안 책임자들이 대거 참여했다.

참석자에는 보안 연구 책임자인 니콜라스 칼리니를 비롯해 위험성 평가팀을 이끄는 로건 그레이엄, 안전장치 개발 총괄인 데이브 오어가 포함됐다.

이는 회사가 이번 사안을 단순한 정책 분쟁이 아닌 핵심 기술 및 보안 문제로 인식하고 있음을 보여주는 대목이다.

▲ AI 감독 역량 입증해야 하는 백악관

트럼프 행정부 역시 상당한 정치적 부담을 안고 있다.

최근 몇 주 동안 미국 정부는 AI 산업에 대한 규제를 최소화하는 입장과 국가 안보 중심의 강경한 관리 기조 사이에서 오락가락하는 모습을 보여왔다.

이번 협상에는 AI 모델 출시 전 안전성을 평가하는 상무부 산하 전담 조직도 참여한 것으로 알려졌다.

해당 조직은 페이블 5가 공개되기 전 이미 사전 평가를 진행했던 기관이다.

업계에서는 정부가 이번 사안을 통해 AI 산업 감독 능력을 입증해야 하는 상황에 놓였다고 분석한다.

▲ 아마존 연구진이 발견한 보안 허점이 발단

사태의 시작은 아마존 연구진의 발견이었다.

관계자들에 따르면 아마존 연구원들은 페이블 5 출시 며칠 만에 모델의 안전장치를 우회할 수 있는 방법을 찾아냈다.

페이블 5는 고성능 모델 미토스 5의 범용 버전으로 개발됐으며 강력한 사이버 공격 수행 능력을 보유한 것으로 평가된다.

이 때문에 백악관과 민간 보안 전문가들은 해당 모델이 악의적으로 활용될 가능성을 우려해 왔다.

결국 안전장치 우회 가능성이 확인되면서 정부 차원의 긴급 대응이 이뤄졌다는 분석이 나온다.

▲ 아마존, 투자자이자 정부 파트너로 영향력 확대

이번 사안에서 아마존의 역할도 주목받고 있다.

앤디 재시 아마존 최고경영자(CEO)는 스콧 베선트 재무장관 등 행정부 관계자들에게 해당 문제가 심각하며 추가 검토가 필요하다는 의견을 전달한 것으로 알려졌다.

또한 아마존웹서비스(AWS) 최고경영자인 맷 가먼도 일부 논의 과정에 참여한 것으로 전해졌다.

아마존은 앤트로픽의 최대 투자자 중 하나로 AI 모델 운영에 필요한 반도체와 클라우드 인프라를 제공하고 있다.

동시에 미국 정부의 핵심 클라우드 서비스 공급업체이기도 해 민간 AI 산업과 정부 정책을 연결하는 중요한 역할을 수행하고 있다.