인공지능(AI) 기업 앤트로픽(Anthropic)의 공동창업자 크리스 올라(Chris Olah)가 AI 개발 방향을 기술기업에만 맡겨서는 안 된다고 주장하며 종교계와 정부, 시민사회 차원의 감시와 개입 필요성을 강조했다.

25일(현지시간) 로이터 통신에 따르면 올라는 교황 레오 14세의 첫 회칙 발표 행사에 참석해 “AI가 대규모로 인간 노동을 대체할 가능성이 현실적으로 존재한다”고 밝혔다.

그는 교황과 나란히 앉아 AI 확산이 사회 전반에 미칠 윤리적·경제적 영향을 경고했다.

▲ “대규모 일자리 대체 가능성”…AI 시대 윤리 문제 부각

올라는 AI로 인해 광범위한 노동 대체가 현실화될 경우 사회적 대응이 역사적 수준의 도덕적 과제가 될 것이라고 지적했다.

그는 “만약 그런 상황이 발생한다면 일자리를 잃은 사람들을 지원하는 것은 역사적 규모의 도덕적 의무가 될 것”이라고 말했다.

이는 최근 생성형 AI 기술이 빠르게 고도화되면서 화이트칼라 직군까지 자동화 위험에 노출되고 있다는 우려가 커지는 가운데 나온 발언이다.

시장에서는 AI 기술 발전이 생산성 향상과 산업 혁신을 이끌 수 있지만, 동시에 고용 구조 변화와 사회 불평등 확대를 초래할 수 있다는 논의가 본격화되고 있다.

▲ “빅테크도 압박받는다”…외부 감시 필요성 제기

올라는 AI 기업들 역시 상업적·정치적 압력에서 자유롭지 않다고 지적했다.

그는 “모든 최첨단 AI 연구소는 때때로 올바른 선택과 충돌할 수 있는 인센티브와 제약 속에서 운영된다”며 “선의의 연구자들조차 그런 영향력에서 완전히 자유롭지 못하다”고 설명했다.

특히 AI 기업들이 경쟁 압박과 지정학적 이해관계 속에서 기술 상용화 속도를 높이고 있다는 점을 우려했다.

이에 따라 종교계와 정부, 시민사회 등 외부 기관의 감시와 견제가 필수적이라고 강조했다. AI 산업이 단순 기술 문제가 아니라 사회 전체의 가치 체계와 연결된다는 의미다.

▲ 바티칸과 AI 기업의 이례적 협력

이번 행사는 가톨릭 교회와 첨단 기술 산업 간의 이례적인 접점으로 평가된다.

바티칸은 최근 AI 확산에 따른 윤리 문제에 적극적으로 목소리를 내고 있으며, 인간 존엄성과 노동 가치 보호를 주요 의제로 다루고 있다.

교황청은 AI 기술이 인간 통제를 벗어나거나 사회적 약자를 소외시키는 방향으로 발전해서는 안 된다는 입장을 지속적으로 강조해왔다.

업계에서는 종교계가 AI 윤리 논의에 본격 참여하는 것이 글로벌 AI 규범 논쟁에도 영향을 줄 가능성이 있다는 분석이 나온다.

▲ 앤트로픽, 오픈AI 떠난 연구진이 설립

앤트로픽은 생성형 AI 서비스 ‘클로드(Claude)’를 개발한 미국 AI 기업이다. 2021년 크리스 올라를 비롯한 전직 오픈AI(OpenAI) 연구진이 설립했다.

이들은 오픈AI가 충분한 안전성 검증 없이 기술 개발 속도를 지나치게 높이고 있다는 우려 속에서 회사를 떠난 것으로 알려져 있다.

현재 앤트로픽은 AI 안전성과 윤리 규범을 핵심 가치로 내세우고 있으며, 군사적 AI 활용 제한 문제를 두고 도널드 트럼프 행정부와도 갈등을 빚은 바 있다.

특히 자율무기 표적 지정이나 국내 감시 시스템 등에 AI 모델이 활용되는 것을 제한해야 한다는 입장을 유지하고 있다.

▲ “AI는 무섭지만 강력한 기술”…젊은층 불안 인정

올라는 AI에 대한 대중의 불안이 충분히 이해 가능한 현상이라고 밝혔다.

그는 로이터통신과 인터뷰에서 “지금은 두려운 순간이라고 생각한다”며 “기술 발전 속도가 매우 빠르고 AI는 굉장히 강력한 기술”이라고 말했다.

이어 “상황이 잘못될 위험이 존재하며, 이를 올바른 방향으로 이끄는 것은 우리 모두의 책임”이라고 강조했다.

최근 생성형 AI가 일자리, 저작권, 허위정보, 감시 사회 문제 등을 둘러싸고 논란을 확대하면서 젊은 세대를 중심으로 기술 불안감이 커지고 있다는 분석도 나온다.

▲ 핵심 과제는 일자리·공정 분배·AI 투명성

올라는 AI 시대 핵심 과제로 세 가지를 제시했다. 대규모 일자리 감소 위험, AI 혜택의 글로벌 분배 문제, 그리고 AI 시스템의 불투명성 문제다.

그는 “AI 개발은 일부 부유한 국가들에 집중돼 있다”며 “AI 성과를 전 세계가 어떻게 공유할 수 있을지가 중요한 과제”라고 말했다.

이는 현재 미국과 중국 중심으로 AI 산업이 재편되는 상황에서 기술 격차가 글로벌 경제 불균형으로 이어질 가능성을 우려한 발언으로 해석된다.

또 AI 모델이 점점 복잡해지면서 인간조차 의사결정 과정을 완전히 설명하기 어려워지고 있다는 점도 중요한 위험 요소로 지목했다.