인공지능(AI) 기업 앤트로픽이 보안 위험성을 낮춘 새 모델 '오퍼스4.7'을 공개했다. 이는 전 세계적인 보안 우려를 불러일으켰던 '미토스' 모델의 사이버 위협 능력을 제한하기 위한 실험적 시도다. 새로운 모델은 코딩 및 금융 분석 능력을 강화하면서도, 위험 요청 탐지 및 차단 기능을 탑재했다.

앤트로픽은 현재 공개된 최고 성능 모델인 '클로드 오퍼스4.6'의 개선판 '오퍼스4.7'을 출시했다고 밝혔다. 이 신규 모델은 이전 버전에 비해 코딩과 금융 분석 능력이 크게 향상되었다. SWE-벤치 프로 지표에서 64.3%, SWE-벤치 베리파이드 지표에서 87.6%의 성능을 기록하며 공개된 AI 모델 중 최고 수준의 코딩 능력을 보여주었다. 또한, 금융 분석 능력 측정 지표인 파이낸스 에이전트 v1.1에서는 64.4%의 점수를 획득하여 주요 경쟁 AI 모델들을 능가하는 성과를 보였다.

▲ 앤트로픽, '오퍼스4.7' 출시 배경과 기술적 특징

그러나 앤트로픽은 '오퍼스4.7'이 자체 개발한 최상위 모델인 '클로드 미토스 미리보기(프리뷰)' 버전보다는 전반적으로 낮은 성능을 보인다고 명시했다. 특히, '미토스' 모델은 전문가 수준의 강력한 보안 취약점 탐지 능력을 갖춘 것으로 알려져 전 세계적인 보안 우려를 자아낸 바 있다. 앤트로픽은 '오퍼스4.7'에 대해 "가장 강력한 모델인 클로드 미토스 미리보기에 비해 기능이 다소 제한적"이라고 설명하며, 훈련 과정에서 사이버 보안 기능만을 의도적으로 축소하는 실험을 진행했음을 시사했다. '오퍼스4.7'에는 해킹 등 사이버 보안과 관련하여 금지되거나 위험성이 높은 요청을 자동으로 탐지하고 차단하는 안전장치가 적용되었다.

▲ '미토스' 모델의 파장과 글로벌 규제 논의

'미토스' 모델의 잠재적 위험성에 대한 발표 이후, 미국을 비롯한 각국 정부와 금융 당국은 긴급 회의를 소집하며 대응 방안 모색에 나섰다. 도널드 트럼프 대통령의 지침에 따라 앤트로픽 사용 중단을 검토했던 미국 재무부 또한 '미토스' 모델의 접근 권한 확보를 위한 협의에 나섰을 정도로 사안의 중요성이 부각되었다. 이러한 상황은 AI 기술의 발전 속도와 그에 따른 잠재적 위험 관리 필요성에 대한 국제적 경각심을 고조시켰다. 로이터 통신은 이러한 움직임에 대해 "AI의 잠재적 악용 가능성에 대한 국제 사회의 우려가 커지고 있음을 보여준다"고 분석했다.

▲ AI 모델 보안 강화, 기업과 정부의 협력 방안

앤트로픽은 '오퍼스4.7'의 출시를 단순한 신규 모델 공개가 아닌 '시험'으로 규정하며, "미토스급 모델을 일반에 출시한다는 궁극적인 목표를 달성하는 데 도움이 될 것"이라고 강조했다. 이는 AI 기술의 발전과 보안 사이의 균형점을 찾기 위한 기업의 노력을 보여준다. 앤트로픽은 정부와의 협력 의사를 밝히며 "지방, 주, 연방 정부와 협력하여 AI 모델 관련 국가 안보 위협을 평가하고 완화할 준비가 되어 있다"고 덧붙였다. 블룸버그는 이러한 기업의 적극적인 태도가 AI 규제 논의에 긍정적인 영향을 미칠 수 있다고 전망했다. 또한, '사이버 검증 프로그램'에 참여하는 보안 전문가들은 취약점 연구 등 정당한 사이버 보안 목적으로 '오퍼스4.7' 모델을 사용할 수 있도록 하여, 기술 발전과 보안 연구의 병행을 도모하고 있다. BBC는 이러한 접근 방식이 AI 시대의 혁신과 안전을 동시에 추구하는 새로운 패러다임을 제시한다고 평가했다.