호주 20대, AI 챗봇에 보육시설 총기난사 계획 말했다가 체포

호주 시드니에서 한 20대 남성이 보육시설 총기난사 계획에 대해 인공지능(AI) 챗봇 클로드와 대화했다가 경찰에 체포, 기소됐다.

20일(현지시간) 현지 매체 시드니모닝헤럴드 등에 따르면 지난 18일 오전 시드니 경찰은 데이비드 랜 새크레이(29)를 체포했다.

그는 클로드에게 자신이 사는 시드니 남부 허스트빌 인근의 보육시설에서 아이들을 총으로 쏘겠다는 계획을 밝힌 혐의를 받고 있다.

법원에 제출된 경찰 기록에 따르면 그는 “지금 당장 동네 웨스트필드(쇼핑센터)로 가서 그곳에 있는 보육시설에서 총기를 난사하겠다”고 클로드에게 말했다.

새크레이는 또 클로드와 대화하면서 작년 12월 15명의 희생자를 초래한 시드니 유대인 축제 총기난사 사건의 범인 중 한 명인 나비드 아크람(25)도 언급한 것으로 알려졌다.

그는 국제형사경찰기구(ICPO·인터폴)가 이런 대화 내용을 포착, 호주 경찰에 알리는 바람에 붙잡혔고, 검찰은 통신 서비스를 이용해 타인을 위협하거나 괴롭히고 불쾌감을 준 혐의로 그를 기소했다.

검찰은 “우리는 그가 챗봇과 나눈 대화를 통해 그의 머릿속에 무엇이 들어있는지 파악하고 있다”라면서 그가 “(아크람과 마찬가지로) 시드니에서 사람들을 살해하려 한다”고 밝혔다.

또 그가 만약 보석으로 석방됐다가 석방 조건을 위반하면 “재앙적인” 결과가 초래될 수 있다면서 그를 계속 구금해야 한다고 덧붙였다.

이에 대해 새크레이의 변호인 측은 새크레이가 귀 감염 질환 치료를 위해 클로드와 대화하다가 스트레스와 좌절감으로 격앙된 상태에서 거친 말을 했을 뿐이며, 그의 말에 실질적인 의도나 무게는 없었다고 주장했다.

또 국제관계학 학생인 새크레이에게 범죄 이력이 없고 17년 이상 호주에 살아왔다고 덧붙였다.

전날 현지 법원은 정신 건강 평가를 위해 그를 구금했으며, 평가 결과가 나오면 다시 그를 법정에 불러 심리할 예정이다.

클로드 개발사 앤트로픽에 따르면 클로드의 AI 모델은 폭력을 계획하거나 선동하는 요청을 거부하도록 훈련됐으며, 위험한 대화 내용을 감지·차단하는 자동화된 안전 시스템을 갖추고 있다.

특히 사람의 생명이 위험하거나 심각한 신체적 부상을 초래할 수 있는 긴급 상황을 예방하기 위해 필요하다고 판단되는 경우 사용자 데이터를 법 집행 기관과 공유할 수 있다.

씬짜오가 함께 운영합니다 — 베트남 살이 실전노트 비자·환전·교통 실전 정보·vnkorlife 업소록·구인·부동산