Man arrested after telling AI chatbot about ‘plans for mass shooting’ | A 29-year-old man has been remanded in custody after Interpol flagged his conversation with Claude
Claude에 대량 총격 계획을 말한 남성 체포
호주 시드니에서 29세 남성이 보육시설을 겨냥한 총격 계획을 Claude에 말한 뒤 체포돼 정신건강 평가를 받고 있습니다. Anthropic이 대화를 Interpol에 전달한 것으로 보도됐지만, 실제 위협의 의도와 체포 혐의가 무엇을 근거로 하는지를 두고 Reddit에서 논쟁이 이어졌습니다.
- 주제
에디터 노트
체포의 정당성을 가르는 기준은 Claude가 위험한 발언을 감지했는지가 아니라, 그 발언이 실제 위협이나 실행 계획을 입증했는지입니다. 보도는 변호인의 스트레스성 발언 주장과 검찰의 구금 요청을 전하지만 대화 전체나 판단 근거는 제시하지 않습니다. Reddit 댓글 일부는 혐의가 Claude 대화가 아니라 계정 정지 뒤 보낸 위협성 이메일에서 비롯됐다고 지적합니다. 이 설명은 기사 본문에서 확인되지 않으므로 확정된 사실로 다룰 수 없습니다. Anthropic이 위험을 신고하는 일과 경찰이 체포하는 일은 별개의 판단입니다. 대화를 신고하면 경찰이 위험성과 실행 수단을 조사할 수 있지만, 신고 자체가 범죄 의도를 증명하지는 않습니다. 이번 사건의 공개된 정보만으로는 그 경계가 어떻게 적용됐는지 판단하기 어렵습니다.
AI 요약
시드니에 사는 데이비드 란 탁크레이(29)는 Claude와 대화하며 집 근처 보육시설에서 총격을 하겠다는 취지의 말을 한 뒤 체포됐습니다. 법원은 그가 "지금 동네 웨스트필드에 가서 보육시설을 쏘겠다"고 말했다는 혐의를 들었습니다. Claude 계정은 정지됐으며, 대화 내용은 Interpol에 전달됐습니다. 검찰은 그를 구금해 정신건강 평가를 받게 해달라고 요청했고 법원은 이를 받아들였습니다. 그는 통신 서비스를 이용해 위협하거나 괴롭히거나 불쾌감을 준 혐의를 받습니다.
변호인은 의뢰인이 귀 감염 치료를 문의하다 스트레스와 좌절감에 휩싸여 말했을 뿐이라며 발언에 실질적인 무게가 없다고 주장했습니다. 그는 국제관계학을 공부하는 학생이며 전과가 없다고 법원에 전해졌습니다. 사건은 정신건강 평가가 끝난 뒤 다시 법원에 회부될 예정입니다. 보도에 따르면 Anthropic의 Claude는 폭력을 계획하거나 부추기는 요청을 거부하도록 훈련됐으며, 회사는 악용 사례를 법 집행기관과 공유합니다.
Reddit 반응
- @u/fuzzypetiolesguy — 예지범죄를 말하는 사람들은 글을 제대로 읽지 않은 것 같습니다. 실제 혐의는 통신 서비스를 이용해 위협하거나 괴롭히거나 불쾌감을 준 행위입니다. Daily Telegraph의 법원 보도에 따르면 계정이 정지된 뒤 검토를 요청하는 후속 이메일을 보냈고, 그 이메일에서 위협한 혐의가 적용됐습니다.
- @u/leaflavaplanetmoss — 기사 부제는 Interpol이 Claude를 감시한 것처럼 읽혀 부정확합니다. Anthropic이 대화를 Interpol에 알렸다는 내용입니다.
- @u/-deflating — 남성이 체포돼 구금되고 정신건강 평가까지 받았는데, 실제 대화 내용은 공개되지 않아 무슨 일이 있었는지 판단하기 어렵습니다. 변호인은 귀 감염으로 스트레스를 받아 음성 모드에서 화를 쏟아낸 것이라고 주장합니다. 실제 위험이 있었다는 증거가 무엇인지 논의가 빠져 있습니다.
- @u/2053_Traveler — 실제 대량 폭력을 막으려는 조치는 이해하지만 경계는 어디인가요? 저도 챗봇 반응을 보려고 과장된 말을 지어내곤 합니다. 게임 속 상황을 만드는 것과 폭력을 계획하는 일을 어떻게 구분하나요?
- @u/GriefAndRemorse — 잠재적 위협을 경찰에 알리는 것과 AI와 나눈 음성 대화만으로 남성을 체포하는 일은 다릅니다. 경찰이 위험성과 실행 수단을 확인하는 것은 이해하지만, 실제로 범죄를 저지를 의도나 계획이 확인되지 않았다면 체포는 지나칩니다.
- @u/shimoheihei2 — 실제 범죄자를 잡는 일은 좋지만, 이건 범죄를 저지르기 전에 처벌하는 일입니다. 클라우드 AI와 나눈 사적인 대화도 경찰 조치로 이어질 수 있다는 점을 기억해야 합니다.
- @u/fuzzypetiolesguy — 범죄 계획을 들키는 일은 예지범죄가 아닙니다. 보도된 혐의는 Anthropic에 보낸 이메일에서 위협한 행위입니다.
- @u/No_Atmosphere8146 — 그가 보육시설을 공격하고 Anthropic이 사전에 알았다는 사실이 드러난다면, 사람들은 이런 안전장치를 요구할 겁니다.
- @u/TheOnlyVibemaster — 좋은 일이라고 볼 수 없습니다. 이런 조치가 시작되면 멈추지 않고, 언젠가는 과속을 인정한 말만으로 자동 벌금이 나올지도 모릅니다.
- @u/waxroy-finerayfool — 좋은 일입니다. 사람들은 범죄 관련 내용뿐 아니라 자신이 하는 말을 기업이 지켜본다는 사실을 실감해야 합니다.
- @u/Laucy — 위험 신호가 잡힌 대화는 사람의 검토를 받습니다. Anthropic은 실제 위협이나 범죄 계획을 신고할 권리가 있습니다. 무작위 역할극이나 가정을 말한다고 Claude가 몰래 신고하는 것은 아닙니다. 계정이 정지된 뒤 위협이 담긴 후속 연락을 보낸 경우입니다.
원문: The Independent / 번역·요약: Trawling