「AI 챗봇의 '초조종'(super-manipulation)에 맞설 '두뇌 헬멧'이 필요하다.」 세계적인 AI 윤리 전문가 파올로 베난티 신부(52)가 2026년 06월 09일, 서울에서 AI 시대 '권력 집중' 우려와 함께 인간의 존재론적 위협에 대한 긴급 경고 메시지를 던졌다.
제20회 '생명의 신비상' 수상차 방한한 베난티 신부는 이날 서울 가톨릭대 성의교정에서 진행된 인터뷰에서 AI가 인류에게 미칠 가장 현실적인 위협으로 '권력 집중'을 지목했다. 그는 이미 권력을 가진 소수에게 AI가 더 강력한 도구가 되어 불균형을 심화시키고, 이는 「알고리즘의 평범성」으로 이어질 수 있다고 경고했다. 한나 아렌트의 '악의 평범성'을 빌려온 이 표현은 아무도 책임지지 않는 기술적 질서 속에서 비윤리적 결정이 일상화될 수 있음을 시사한다. 특히 그는 아직 오지 않은 초지능(super-intelligence)보다 당장 다가온 「AI 챗봇의 '초조종'이 더 현실적인 위협」이라며, 이에 맞설 지적인 방어막으로 「'두뇌 헬멧'」의 필요성을 강조했다.
베난티 신부는 AI 시대에도 인간 존엄성 보호가 윤리의 핵심이라고 역설했다. 그는 「되돌릴 수 없는 결정은 피와 살을 가진 인간의 몫」이라며, AI가 결정을 내리더라도 최종적인 책임은 인간에게 있음을 분명히 했다. 이는 개인의 고유성과 민주적 선택의 중요성을 강조하는 대목이다. AI가 아무리 고도화되더라도 인간 고유의 사고와 판단력을 대체할 수 없다는 의미로 풀이된다.
종교계 역시 AI 윤리에 깊이 주목하고 있다. 교황청은 이미 2020년 'AI 윤리를 위한 로마 선언'을 통해 AI 기술 개발의 윤리적 기준을 제시한 바 있다. 특히 레오 14세 교황은 취임 첫 회칙인 「마니피카 후마니타스」를 통해 AI의 군사적 이용 등 무장해제를 강조하며 기술 남용에 대한 강력한 우려를 표명했다. 이는 AI가 가져올 윤리적 도전에 대한 종교계의 확고한 입장을 보여준다.
