카카오가 글로벌 인공지능 기업 구글 딥마인드와 기술 파트너십을 체결하고 자체 인공지능 모델인 카나나에 디지털 워터마킹 기술을 전격 도입한다. 이번 협력은 딥페이크와 허위 정보 확산을 방지하기 위한 선제적 조치로, 하반기부터 이미지 및 영상 생성 모델에 우선 적용될 예정이다. 인공지능 생성물의 투명성을 확보함으로써 시장의 신뢰를 구축하고 법적 규제 강화에 대응하려는 전략으로 풀이된다.

카카오는 구글 딥마인드와 인공지능 생성 콘텐츠의 투명성 확보를 위한 기술 파트너십을 체결하고 자체 인공지능 모델인 카나나에 디지털 워터마킹 설루션을 도입한다. 이번 협력은 글로벌 인공지능 기업과의 공조를 통해 생성형 인공지능의 부작용인 딥페이크와 허위 정보 확산을 방지하려는 선제적 대응 조치로 풀이된다. 양사는 기술적 협업을 통해 인공지능이 생성한 결과물의 무결성을 입증하고 시장의 신뢰도를 제고하는 데 역량을 집중할 계획이다.

도입이 결정된 신스ID는 이미지와 텍스트, 오디오 및 영상에 인간의 오감으로는 감지할 수 없는 미세한 디지털 워터마크를 삽입하는 기술이다. 해당 기술은 콘텐츠의 시각적 품질이나 음질을 전혀 저하시키지 않으면서도 인공지능 생성 여부를 정밀하게 식별할 수 있는 강점을 지니고 있다. 이는 인공지능 기술의 상용화 과정에서 필수적인 안전장치로 평가받으며 글로벌 시장에서 표준 기술로 자리 잡고 있다.

카카오는 올해 하반기부터 이미지 생성 모델인 카나나 콜라주와 영상 생성 모델인 카나나 키네마에 이 기술을 우선적으로 적용할 방침이다. 통합 인공지능 브랜드 카나나를 중심으로 전개되는 이번 기술 적용은 실제 서비스 환경에서의 오남용 사례를 최소화하는 데 초점을 맞춘다. 특히 일반 사용자들이 생성형 인공지능을 통해 대량의 콘텐츠를 생산하는 환경에서 발생할 수 있는 정보 왜곡 현상을 기술적으로 차단하겠다는 계산이다.

첫 번째 적용 대상 서비스로는 카카오톡의 신규 기능인 카나나 템플릿이 확정되어 기술 구현이 진행 중이다. 카나나 템플릿은 사용자가 대화방에서 주고받은 이미지를 바탕으로 인공지능이 짧은 영상을 제작해 주는 편의 기능을 제공한다. 결과물에는 기본적으로 식별 로고가 포함되지만 신스ID가 적용될 경우 영상이 임의로 편집되거나 타 플랫폼으로 유통되더라도 인공지능 생성물임을 끝까지 검증할 수 있다.

이번 조치는 국내 인공지능 산업의 제도적 변화와 맞물려 기업의 법적 리스크 관리 차원에서도 중요한 의미를 지닌다. 올해부터 인공지능 기본법 시행과 함께 인공지능 생성물 표시제가 본격적으로 도입되면서 기업들은 기술적 투명성을 입증해야 하는 과제를 안게 되었다. 카카오는 글로벌 수준의 워터마킹 기술을 선제적으로 도입함으로써 국내외 규제 환경 변화에 유연하게 대응하고 기술적 권위를 확보할 전망이다.

시장 전문가들은 카카오의 이러한 행보가 국내 정보통신 기술 시장의 표준을 선점하려는 전략적 포석이라고 분석한다. 김경훈 카카오 인공지능 세이프티 리더는 "인공지능 기술이 일상에 빠르게 확산하면서 콘텐츠의 투명성과 신뢰성 확보가 무엇보다 중요해졌다"고 밝혔다. 이어 그는 "신스ID 적용을 시작으로 구글과 책임감 있는 인공지능 영역에서 기술 협력을 지속해 이용자가 안심하고 쓸 수 있는 안전한 서비스를 제공하겠다"고 덧붙였다.

다만 기술적 보완책만으로는 인공지능 기술의 오남용 문제를 완전히 해결하기 어렵다는 신중론도 만만치 않게 제기된다. 디지털 워터마크를 의도적으로 제거하거나 우회하는 기술 역시 고도화되고 있어 기술적 방어선 구축과 더불어 법적 처벌 기준의 강화가 시급하다는 지적이다. 또한 특정 해외 기술에 대한 의존도가 높아질 경우 국내 독자적인 보안 기술 생태계 위축을 초래할 수 있다는 우려의 목소리도 나온다.

카카오는 최근 과학기술정보통신부가 주최한 월드IT쇼에서도 통합 인공지능 브랜드 카나나를 필두로 한 다양한 에이전틱 인공지능 서비스를 선보인 바 있다. 이번 구글 딥마인드와의 협력은 단순한 기술 제휴를 넘어 카카오가 지향하는 인공지능 생태계의 안전성과 신뢰성을 대내외에 공표하는 상징적 사건이다. 향후 카카오는 인공지능 생성물의 유통 전 과정을 추적 관리하는 시스템을 구축하여 플랫폼 경쟁력을 강화할 계획이다.