“챗GPT, 플로리다 총기난사범 범행 상담” > 뉴스

(미국) 미국 플로리다주 측이 인공지능(AI) 챗봇 챗GPT와 모회사인 오픈AI에 대한 형사처벌 여부를 검토하고 있다. 지난해 4월 다수의 사상자를 낸 플로리다주립대 총격 사건 용의자가 챗GPT를 통해 범행을 계획했다는 이유에서다.

21일(현지시간) 미 뉴욕타임스(NYT) 등에 따르면 제임스 우스마이어 플로리다주 법무장관은 지난해 4월 17일 플로리다주립대 학생회관 인근에서 발생했던 총격 사건과 관련해 오픈AI에 대한 수사에 나섰다.

플로리다주 법원 문서에 따르면 검찰은 용의자 피닉스 아이크너(21)의 챗GPT 메시지 약 200개를 재판에 증거로 제출할 전망이다. 이들 메시지에는 당시 이 대학 재학생이었던 아이크너가 어떤 총과 탄약을 사용할지, 학생회관에 더 많은 인원이 몰리는 시간은 언제인지 등에 대해 챗GPT에게 문의하는 내용이 담겼다.

우스마이어 장관 측은 오픈AI에 살인죄 등을 적용해 형사처벌할 수 있을지를 검토 중이다. 사망자 2명, 부상자 5명 등 다수의 사상자를 낸 용의자 아이크너는 살인 및 살인미수 혐의로 오는 10월 19일 재판을 받을 예정이다.

다만 사람이 아닌 기업을 형사처벌하는 것이 가능한지에 대해서는 논란이 있다. 우스마이어 장관은 미 공영방송 NPR에 “이번 수사는 전례 없는 영역”이라며 “오픈AI가 형사 책임을 질 수 있을지는 불확실하다”고 밝혔다.

각종 판례와 연방법·주법에 따르면 미국에도 기업에 벌금, 영업 제한 등 형사 책임을 물을 수 있는 ‘법인 형사책임’ 원칙이 있다. 다만 이번 사건은 인간 직원이 아니라 AI 챗봇의 응답이 문제가 된 경우로, 이를 기업이나 인간 직원의 행위로 보고 처벌할 수 있는지에 대한 선례나 법적 기준이 명확히 존재하지 않는다.

장관은 “만일 (AI 챗봇) 화면 반대편에 사람이 있었다면 살인 혐의로 기소했을 것”이라며 “(수사를 통해) 누가 무엇을 알았고, 무엇을 설계했으며, 무엇을 해야 했는지를 들여다볼 것”이라고 말했다. 그러면서 “사람을 어떻게 죽일지 조언하는 AI 챗봇은 존재해선 안 된다”고 강조했다. 현재 우스마이어 장관 측은 오픈AI에 2024년 3월 이후 내부 교육 자료와 범죄 신고 절차, 폭력 대응 정책 등에 관한 자료 제출을 요구한 상태다. NPR에 따르면 현재 피해자 가족들도 오픈AI를 상대로 민사 소송을 제기할 준비를 하고 있다.

오픈AI 측은 수사에는 성실히 협조하겠지만 사건에 대한 책임은 인정할 수 없다는 입장이다. 케이트 워터스 오픈AI 대변인은 NPR에 보낸 성명에서 “플로리다주립대에서 발생한 총격 사건은 비극이지만, 챗GPT는 이 끔찍한 범죄에 책임이 없다”고 선을 그었다. “챗GPT는 인터넷 전반에 공개된 자료에서 찾을 수 있는 정보를 기반으로 사실적 답변을 제공했을 뿐이며, 불법적이거나 해로운 활동을 장려하지 않았다”는 것이다.

워터스 대변인은 아울러 “챗GPT는 수억 명이 매일 정당한 목적으로 사용하는 범용 도구”라며 “우리는 해로운 의도를 감지하고 오용을 제한하며, 안전 위험이 발생했을 때 적절히 대응하기 위해 지속해서 안전장치를 강화하고 있다”고 덧붙였다.

토론토 중앙일보 편집팀 (news@koreadailytoronto.com)