오픈AI가 챗GPT 사용자의 심각한 자해 위험 신호를 감지하면 사전에 등록된 신뢰 연락처에 이를 알리는 안전 기능을 도입하였다. 성인 사용자는 가족이나 친구 등 신뢰하는 사람 1명을 등록할 수 있으며, 전문 인력의 검토 후 간단한 알림이 전달된다. 이 시스템은 AI 기반의 디지털 웰빙을 강화하고 현실 세계의 도움과 연결하는 데 중점을 둔다.

오픈AI는 챗GPT 사용자의 중대한 자해 위험 신호를 감지할 경우 사전에 등록된 가까운 사람에게 이를 알릴 수 있는 '신뢰하는 사람'(Trusted Contact) 등록 기능을 공식 도입하였다. 이 기능은 인공지능 대화에서 심각한 자해 우려가 감지될 때 사용자를 현실 세계의 도움과 연결하여 생명 존중 문화를 확산하는 데 기여한다. 국내에서는 성인 사용자만 이 기능을 활용할 수 있다.

사용자는 챗GPT 설정에서 가족, 친구, 보호자 중 1명을 신뢰하는 사람으로 등록할 수 있다. 챗GPT 시스템은 사용자의 대화에서 심각한 자해 우려가 있는 표현을 감지하면 사용자에게 알림 전달 가능성을 안내하며, 직접 연락할 수 있도록 대화 예시를 제시한다. 이후 전문 교육을 받은 검토 인력이 상황을 재검토하여 실제 안전 우려 여부를 판단한다.

전문 인력의 판단에 따라 실제 안전 우려가 있다고 결정되면, 신뢰하는 사람에게 이메일, 문자메시지, 앱 알림 등의 형태로 간단한 알림이 발송된다. 이 알림에는 개인정보 보호를 위해 대화 원문이나 세부 내용은 일절 포함되지 않는다. 사용자는 언제든 신뢰하는 사람을 수정하거나 삭제할 수 있으며, 등록된 연락처도 자유롭게 연결을 해제할 수 있어 개인의 통제권을 보장한다.

오픈AI는 이 기능을 글로벌 의료 전문가 네트워크와 웰빙·AI 전문가 자문위원회 자문을 바탕으로 설계하였다. 미국심리학회(APA)를 비롯한 외부 전문 기관과의 협력도 진행하여 기능의 신뢰성과 전문성을 확보하였다. 이는 인공지능 기술의 사회적 책임과 윤리적 활용에 대한 기업의 의지를 반영하는 조치로 해석된다.

고기석 오픈AI 정책 총괄은 "사람들은 챗GPT를 통해 문제를 해결하고 개인적 고민을 돌아보기도 하는데, 때로는 사용자가 힘든 순간을 겪고 있을 수 있다"고 설명하였다. 그는 "AI 시스템은 이러한 상황에서 현실 세계의 도움과 연결될 수 있도록 설계돼야 한다는 취지에서 이 기능이 도입되었다"고 강조하며 AI의 보조적 역할을 명확히 하였다.

오픈AI는 지난달 24일 '2026 천명지킴 프로젝트'의 천명수호처로 선정된 바 있다. 이러한 배경은 인공지능 기술이 단순한 정보 제공을 넘어 사회 안전망의 한 축을 담당할 수 있다는 가능성을 보여준다. 기술 발전과 더불어 사회적 책임을 강화하는 방향으로 진화하는 AI 산업의 흐름을 방증한다.

일각에서는 AI 시스템의 자해 위험 감지 정확성과 오작동 가능성에 대한 우려를 제기하기도 한다. 개인정보 보호를 위한 대화 원문 비공개 원칙에도 불구하고, 민감한 개인의 정신 건강 정보가 AI 시스템에 의해 처리된다는 점에서 지속적인 감시와 개선이 필요하다는 지적이다. 기술적 진보와 함께 사회적 수용성 확보는 중요한 과제로 남는다.

이번 기능 도입은 인공지능 기술이 인간의 정신 건강과 안전에 미치는 영향에 대한 심도 있는 논의를 촉발할 것으로 보인다. 향후 오픈AI는 '신뢰하는 사람' 기능의 운영 성과를 면밀히 분석하고, 사용자 피드백을 반영하여 시스템을 지속적으로 고도화할 예정이다. AI 기반 심리 지원 시스템의 발전 방향과 윤리적 기준 정립이 요구되는 시점이다.