챗GPT가 감지한 ‘위기 상황’, 인간 검토 거쳐 지인에게 알린다

챗GPT, 위기 상황 감지 시 인간 검토를 통한 안전 기능 도입

인공지능(AI) 대화 모델인 챗GPT가 정신적 위기 상황에 대한 안전 기능을 강화했다. 오픈AI는 최근 챗GPT 대화 중 자해나 자살에 대한 언급이 있을 경우, 미리 지정된 신뢰할 수 있는 제3자에게 알림을 보내는 ‘트러스티드 컨택트(Trusted Contact)’ 기능을 도입했다고 발표했다. 이는 사용자의 안전을 최우선으로 고려한 조치로, AI와의 대화 과정에서 발생할 수 있는 심각한 위기에 대한 즉각적인 대응을 가능하게 한다.

새로운 안전 기능의 작동 방식

이번 기능은 사용자가 챗GPT 설정에서 성인 한명을 등록함으로써 활성화할 수 있다. 국내에서는 법적 기준에 따라 19세 이상의 성인만 등록할 수 있으며, 초대된 연락처는 일주일 내에 수락해야 기능이 작동된다. 만약 챗GPT가 사용자의 대화에서 자해 또는 극단적 선택의 위험을 감지하면, 먼저 사용자에게 상황을 알리고 신뢰 연락처와 대화할 수 있는 가이드를 제공한다. 그럼에도 불구하고 위험이 지속적으로 감지될 경우, 전문 검토팀의 확인을 거쳐 해당 지인에게 이메일이나 문자 메시지, 앱 알림 등을 통해 경고를 보낸다.

오픈AI는 이러한 알림이 사용자의 개인정보 보호를 위해 구체적인 대화 내용이 포함되지 않으며, 일반적인 경고와 상태 확인 요청으로 구성된다고 설명했다. 이 시스템은 모든 알림이 인간 검토를 거친 후 발송되며, 검토는 1시간 이내에 완료하는 것을 목표로 하고 있다. 하지만 AI 시스템이 완벽하지 않으므로 실제 사용자 상태와 알림 내용 간의 차이가 있을 수 있다는 점도 언급했다.

정신 건강 전문가와의 협업

오픈AI는 이 기능을 개발하는 과정에서 정신건강 및 자살 예방 전문가들과 긴밀하게 협력했다. 전 세계 60개국에서 260명이 넘는 의사들로 구성된 글로벌 의사 네트워크와 미국심리학회(APA) 등의 자문이 포함되었다. 전문가들은 사회적 연결이 자살 위험을 줄이는 중요한 요소라고 강조하며, 사용자가 신뢰하는 사람과 연결되는 것이 얼마나 중요한지를 반영했다.

이 기능은 이미 지난해 도입된 ‘자녀 보호 기능(Parental Controls)’의 확장판으로, 부모나 보호자가 청소년 계정에서 급성 스트레스 징후를 감지했을 때 알림을 받을 수 있는 시스템을 통해 성인 지인으로 범위를 넓힌 것이다. 오픈AI는 이러한 시스템이 전문 의료 서비스나 위기 상담 체계를 대체하지 않으며, 필요할 경우 여전히 응급 서비스나 상담기관에 연락할 것을 권장하고 있다.

향후 전망

챗GPT의 새로운 안전 기능은 AI와의 대화에서 발생할 수 있는 심각한 위기를 사전에 예방하고, 필요한 경우 현실 세계의 도움을 받을 수 있도록 하는 중요한 조치이다. 오픈AI는 이와 같은 정신 건강 대응 체계를 지속적으로 강화할 계획이며, 사용자의 안전을 최우선으로 생각하는 기술 개발에 힘쓸 예정이다. 앞으로도 AI 기술이 사람들의 정신 건강을 지키는 데 기여할 수 있는 방향으로 발전하기를 기대해 본다.