수십 대의 AI 드론이 임무 중 하나가 고장 나면 전체 시스템이 멈춰야 할까? UNIST 연구진이 이러한 치명적인 약점을 극복하고, 오히려 '팀워크'를 재구축해 임무를 이어가는 획기적인 AI 학습법, 'IBAL'을 개발하며 AI 신뢰성 분야에 새로운 지평을 열었다.
인공지능(AI) 시대가 도래하며 수많은 AI 드론이나 로봇이 유기적으로 협력하는 시스템이 각광받고 있다. 그러나 이 시스템에는 치명적인 약점이 존재했다. 단 하나라도 고장 나거나 사라지면 전체 시스템이 마비될 수 있다는 점이다. 이는 미래 자율 시스템의 안정성과 신뢰성에 큰 걸림돌로 작용했다.
이러한 한계를 뛰어넘을 혁신적인 기술이 울산과학기술원(UNIST)에서 탄생했다. UNIST 인공지능대학원 한승열 교수팀은 '상호작용 차단 적대 학습'(IBAL·Interaction-Breaking Adversarial Learning) 기술을 개발, 일부 AI가 고장 나더라도 임무를 계속 수행하는 강인한 협력 AI 시스템의 기반을 마련했다. 제1저자는 이선우 연구원이다.
IBAL 기술의 핵심은 AI 간 협력 관계를 의도적으로 깨뜨리는 훈련 방식이다. 축구팀에 비유하면, 한 선수가 빠졌을 때 기존 전술만 고집하는 대신 남은 선수들이 공간을 메우고 공격과 수비 역할을 다시 나누도록 훈련하는 것과 같다. 학습 과정에서 중요한 정보를 차단하고 협력 붕괴를 유도하며 AI의 적응력을 극대화한다. 이는 기존 학습 방식이 팀워크 유지에만 초점을 맞춘 것과 대비된다.
[사진=연합뉴스]
이 기술의 압도적인 성능은 유명 전략 게임 '스타크래프트2' 기반 실험에서 명확히 입증됐다. 기존 AI 모델은 팀원 결손 시 승률이 13.3%로 급락했다. 반면, IBAL로 학습한 AI는 87.0%의 높은 승률을 기록하며 압도적인 생존력과 임무 수행 능력을 선보였다. 위기 속에서 오히려 새로운 협력 방식을 찾아내는 AI의 '적응성'이 빛을 발했다.
한승열 교수는 이 기술이 미래 핵심 산업의 안정성과 신뢰성을 크게 높일 것이라고 밝혔다. 한 교수는 「이번 기술은 자율 드론, 군집 로봇, 스마트 팩토리 등 다수의 AI가 함께 작동하는 시스템의 안정성과 신뢰성을 높이는 기반 기술이 될 것」이라고 강조했다. 이는 AI 시스템의 적용 범위를 한층 넓히는 계기가 될 전망이다.
이번 연구 결과는 세계 3대 인공지능 학회 중 하나인 '국제머신러닝학회'(ICML)에 채택되며 국제적인 공신력을 확보했다. 올해 ICML은 오는 7월 6일부터 11일까지 서울 코엑스에서 개최될 예정이다. 국내 연구진의 성과가 세계 무대에서 주목받을 것으로 기대된다.
IBAL 기술 개발은 단순한 오류 복구를 넘어, AI 시스템이 예측 불가능한 상황에서도 스스로 '협력의 지혜'를 발휘하도록 훈련시킨다는 점에서 큰 의미를 가진다. 이는 미래 자율 시스템의 안정성과 신뢰성을 혁신적으로 높이는 핵심 기반 기술이 될 것이다. AI가 인간 사회에 더욱 깊숙이 통합될 때 필수적으로 요구되는 '강인한 AI'의 초석을 다졌으며, 국내 연구진이 AI 신뢰성 분야에서 세계적 리더십을 확보할 수 있는 중요한 계기가 될 것으로 전망된다.
