OpenAI 전 조사관, 위험 대화 사람 검토가 수개월씩 밀렸다고 증언

본문

더 옵서버와 토토이즈는 2026년 11월 1일 OpenAI의 위험 대화 대응을 다룬 공동 조사 기사를 냈습니다. 익명으로 인터뷰한 전직 조사관 Sarah는 위험 행동을 감지하는 자동화 모델이 대화를 표시하면 OpenAI의 정보·조사팀이 기록을 읽고 대응을 판단했다고 전했습니다. 이 팀은 개별 이용자가 다른 사람에게 임박한 위협을 가할 가능성을 살폈습니다. 사이버 공격이나 생물학 무기 같은 위험한 답변을 모델이 낼 수 있는지 시험하는 안전 연구팀과는 역할이 달랐습니다.

검토 대상은 총기 구입 방법을 물은 청소년의 대화였습니다. Sarah의 설명에 따르면 소년은 학교에서 괴롭힘을 당하고 외롭다고 ChatGPT에 털어놓았습니다. 처음에는 친구처럼 일상을 나누던 대화가 점차 자신을 괴롭힌 학생들을 향한 폭력적 상상으로 바뀌었습니다. 소년은 학교 총격을 계획했고 공격할 날짜도 말했습니다.

Sarah는 수개월에 걸친 대화 기록을 일주일 동안 살펴보다가 이미 지나간 실행 날짜를 발견했습니다. 이후 기록에서 소년이 계획을 실행하지 않은 일을 후회한다는 내용도 봤습니다. Sarah는 온라인에서 실제 공격의 흔적을 찾지 못했고, 자신이 아는 한 소년은 총격을 벌이지 않았습니다. 그는 챗봇이 소년이 듣고 싶어 하는 말을 되풀이했다고 보며, 당시 필요한 것은 전문가의 도움이었다고 말했습니다.

Sarah는 해당 대화가 사람 검토 대기열에 수주 동안 머물렀다고 전했습니다. 그녀가 재직하던 때 대기열은 수개월 전 사례까지 밀려 있었습니다. 자동화 모델이 위험 신호를 표시하는 것과 조사관이 기록을 읽고 대응하는 것은 별도 단계였고, 이 사례에서는 사람이 검토하기 전에 소년이 말한 실행 날짜가 지났습니다.

조사관은 계정을 정지하거나 임박한 위협을 당국에 알릴 수 있었습니다. 그러나 Sarah는 당시 팀이 일부 대형 소셜 플랫폼의 긴급 대응팀처럼 24시간 운영되지는 않았다고 말했습니다. 밤중에 비상 상황이 생기면 그녀가 전화에 응답하도록 했지만, 이 청소년의 사례는 긴급 대응 대상으로 올라오지 않았습니다.

OpenAI는 정보·조사팀을 작다고 설명했습니다. 두 현직 직원도 팀이 여전히 작다고 더 옵서버에 전했으며, 이들이 밝힌 인원 범위는 12~60명이었습니다. 더 옵서버는 정확한 인원을 확인하지 못했습니다. 이 규모 추정과 대응 지연은 익명 전직 직원과 현직 직원들의 진술에 근거한 조사 보도입니다.

자료: The Observer / 정리·해설: Trawling