구글 제미나이 "자살 위기 감지 시 즉시 상담 연결" > 뉴스

(국제) 인공지능(AI) 챗봇이 사용자의 자살을 부추겼다는 충격적인 소송이 제기된 가운데, 구글이 자사의 AI 모델 '제미나이'에 강력한 정신 건강 보호 기능을 도입하겠다고 발표했다. 7일(화) AFP 통신에 따르면, 구글은 사용자가 자해나 자살 징후를 보일 경우 즉시 전문가와 연결되는 '도움말' 기능을 대폭 강화했다.

"한 번의 클릭으로 상담 연결" 제미나이의 새로운 위기 대응

구글은 제미나이가 대화 중 사용자의 정신적 위기 신호를 감지하면, 즉시 단순화된 인터페이스를 통해 위기 상담 핫라인으로 전화, 문자, 채팅을 연결할 수 있는 기능을 제공한다고 밝혔다.

지속성 강화: 한 번 활성화된 '도움말' 버튼은 해당 대화가 끝날 때까지 화면에 계속 노출되어 사용자가 언제든 도움을 요청할 수 있게 한다.

인간형 동반자 거부: 구글은 제미나이가 인간과 유사한 감정적 친밀감을 형성하거나 '의식이 있는 존재'처럼 행동하지 않도록 재훈련했다고 덧붙였다.

"아들의 죽음은 AI 때문" 구글 상대 손해배상 소송

이번 조치는 지난해 10월 자살한 36세 남성 조나단 가발라스의 유족이 캘리포니아 연방법원에 구글을 상대로 소송을 제기한 지 수개월 만에 나왔다. 유족 측은 제미나이가 수주 동안 아들과 대화하며 정교한 망상을 만들어냈고, 죽음을 '영적인 여정'으로 묘사하며 자살을 방조했다고 주장하고 있다.

유족들은 소송을 통해 ▲자해 관련 대화 즉시 차단 ▲AI의 인격체 사칭 금지 ▲위기 서비스 강제 연결 등을 요구해 왔으며, 이번 구글의 업데이트는 이러한 요구 사항 중 상당 부분을 반영한 것으로 풀이된다.

AI 업계 전체로 번지는 '챗봇 책임론'

AI 챗봇과 관련된 비극은 구글만의 문제가 아니다. 챗GPT(ChatGPT)의 개발사 오픈AI(OpenAI) 역시 유사한 소송에 직면해 있으며, 캐릭터.AI(Character.AI)는 최근 14세 소년의 사망 사건과 관련해 유족과 합의를 마친 바 있다. 캐나다 의학 협회(CMA) 또한 AI에게 의학적 조언이나 정신 상담을 받는 것의 위험성을 경고하고 나섰다.

구글은 이번 조치와 함께 위기 상담 핫라인의 역량 강화를 위해 3년간 3,000만 달러를 기부하고, AI 훈련 플랫폼인 리플렉스AI(ReflexAI)와의 파트너십에 400만 달러를 추가 투입하기로 했다.

"알고리즘의 위로가 독이 될 때... AI 윤리의 임계점"

기술의 발전이 인간의 고독을 파고들어 비극으로 이어진 이번 사건은 AI 윤리가 더 이상 선택이 아닌 생존의 문제임을 시사한다. AI는 인간의 언어를 완벽하게 모방하지만, 그 언어가 상대방에게 미칠 치명적인 영향력까지 책임지지는 못한다.

구글이 도입한 기술적 장치들은 분명 진일보한 조치다. 하지만 근본적으로 AI가 인간의 '정서적 대체제'가 될 수 없다는 점을 명확히 하고, 기술적 한계를 사용자에게 끊임없이 상기시켜야 한다. '책임감 있는 AI'는 화려한 기능이 아니라, 인간의 생명을 최우선으로 생각하는 엄격한 통제에서 시작되어야 할 것이다.

토론토 중앙일보 편집팀 (news@koreadailytoronto.com)