하룻밤 사이 메타 계정이 모두 정지됐지만, AI 고객센터는 사람과 연결해주지 않았습니다

AI 요약

토론토에 사는 재스민 올트(Jasmine Ault)는 어느 날 새벽 페이스북과 인스타그램 계정이 영구 정지됐다는 알림을 받았습니다. 2006년에 만든 페이스북 계정에는 20년간 쌓인 사진과 대화, 업무 연락처가 있었고, 고객을 위한 마케팅에도 소셜미디어를 활용했습니다. 반려견 계정으로 운영하던 인스타그램까지 함께 정지됐습니다. 올트는 계정이 어떤 규칙을 어겼는지 듣지 못했고, 이의 제기를 누른 지 몇 분 만에 사건이 종결돼 더는 항소할 수 없다는 통보를 받았습니다.

올트는 정지 직전 페이스북에 로그인 시도가 여러 차례 실패한 사실을 확인했습니다. 계정이 해킹됐고, 그 결과 자동 감시 시스템에 걸렸을 가능성을 의심하지만 메타는 CBC News의 논평 요청에 답하지 않았습니다. 올트는 26시간 동안 계정 복구를 시도했습니다. 사람 상담원과 연결될 것으로 기대하며 월 14.99달러(미국 달러)의 Meta Verified 표준 구독도 결제했지만, 지원은 또 다른 AI 챗봇으로 이어졌습니다. 챗봇은 지원 요청을 닫고 문의 횟수 한도에 도달했다고 알렸습니다. 메타의 Premium과 Max 등급은 상담원에게 전화 연결을 요청할 수 있다고 안내하며, 요금은 각각 월 150달러와 500달러입니다.

자동 응대가 놓치는 문제

CBC가 소개한 글로벌 조사에는 고객과 서비스 담당자, 경영진 등 3만4천 명 이상이 참여했습니다. 고객 절반은 공감 부족을 AI 고객지원의 가장 큰 불만으로 꼽았습니다. 전화 상담을 선호하는 고객은 87%였지만, 전화 지원을 우선시할 계획이 있다고 답한 경영진은 7%에 그쳤습니다. 캐나다에서는 고객 1,350명과 경영진 195명이 조사에 참여했습니다.

요크대학교 슐리히 경영대학원의 엘라 베레시우(Ela Veresiu) 교수는 기업들이 비용 절감과 효율성을 기대해 AI를 빠르게 도입한다고 설명합니다. 정해진 정보를 안내하는 챗봇은 유용할 수 있지만, 계정 정지 이유처럼 복잡한 ‘왜’라는 질문에 답하기 어렵습니다. 경쟁사가 많은 업종이라면 불만을 느낀 고객이 다른 곳으로 옮길 수 있지만, 메타처럼 대체하기 어려운 서비스를 운영하는 기업은 고객이 떠나지 않는다는 이유로 지원 방식을 바꿀 유인이 적다고 지적합니다.

항소 절차와 규제

브리티시컬럼비아대학교 법학 강사 존 페스팅어(Jon Festinger)는 특히 소셜미디어를 사업에 이용했다면 계정 정지로 발생한 손해를 근거로 법적 구제를 청구할 여지가 있다고 말합니다. 캐나다 법원은 2024년 에어캐나다의 챗봇이 잘못된 안내를 한 사건에서 회사에 책임을 물은 바 있지만, AI와 고객 권리를 다루는 소비자 보호 법제에는 여전히 빈틈이 있다고 설명합니다.

토론토대학교의 시온 구하(Shion Guha) 교수는 기술적 해결책은 실수할 수 있으며, 문제는 그 실수를 바로잡을 방법이 없다는 데 있다고 말합니다. 회사가 자동화 시스템으로 계정을 심사하거나 콘텐츠를 조정한다면 고객이 사람 상담원에게 연락하고 공정하게 항소할 명확한 절차를 마련해야 한다는 주장입니다. 2024년 시행된 유럽연합의 디지털서비스법(Digital Services Act)은 콘텐츠 삭제 과정의 투명성과 항소 절차를 보장하는 사례로 소개됩니다.

캐나다에서는 자동화 시스템이 법적 또는 중대한 영향을 미치는 결정을 내릴 경우 설명을 요청하고 직원에게 서면으로 의견을 제출할 수 있도록 하는 법안 C-36이 발의됐습니다. 다만 법안은 통과되지 않았으며, 고객지원에서 사람 상담원과 연결하는 경로까지 의무화하지는 않습니다.

Reddit 반응

• @Ornery-Scallion6489 — 2020년에 제 소규모 사업용 인스타그램 계정에서도 같은 일이 있었습니다. 그 전에 페이스북 계정을 삭제했는데, 정해진 항소 절차를 모두 밟아도 답을 받지 못했습니다. 메타는 정말 못된 회사입니다. 세상이 메타 제품에 이렇게 깊이 얽히지 않았으면 좋겠습니다.
• @UnemployedOtter69 — 3개월 전에 10년 된 인스타그램 계정이 정지됐습니다. 팔로워가 20만 명이었고, 주로 워해머 40K와 만화, 비디오게임 콘텐츠를 올렸습니다. Threads를 설치하려 하자 메타가 생체정보나 신분증을 요구했습니다. 거부하고 앱을 지웠더니 일주일 뒤 인스타그램에서도 같은 정보를 요구했고, 거부한 다음 날 계정이 ‘의심스러운 활동’으로 닫혔습니다. 항소하려면 생체정보나 신분증을 내야 했습니다. 사흘 뒤 연결된 페이스북도 닫혔고, 닷새 뒤에는 왓츠앱도 잠겼습니다.
• @SuperBry — 메타가 사라지는 날 모두가 환호하는 세상이 이상적이겠지만, 지역사회와 시민단체가 실제로 소통하는 방식을 무시해서는 안 됩니다. 자원봉사로 리그를 운영하는 부모가 도덕적으로 나약해서 메타를 쓰는 게 아닙니다. 다른 도구로는 학부모 200명에게 빠짐없이 중요한 공지를 전달하기 어렵기 때문입니다.
• @BangBangMeatMachine — 대체 서비스가 준비되지 않았다는 점이 제가 말한 ‘자유보다 편리함을 택하는 일’입니다. 페이스북이 생기기 전 수만 년 동안 사람들이 해왔듯, 직접 사회적 관계망을 만들 필요가 있습니다. 메타가 주는 편리함을 택하는 대신 통제권과 자유, 사생활을 내주고, 회사가 갑자기 모든 것을 끊을 수 있다는 사실을 받아들이는 셈입니다.
• @TminusTech — 기술에 관한 담론이 사라지고 한 문장짜리 반응만 인기 댓글로 올라오는 상황이 답답합니다. 이런 조치는 일상에 필요한 여러 서비스에 영향을 줍니다. 개인 데이터와 서비스 접근을 잃어도 대응할 방법이 없습니다. 공공요금, 의료, 통신 서비스에서 자동화된 시스템이 복구할 수 없는 실수를 저질러 일상을 즉시 망가뜨리는 상황을 생각해보세요.
• @stormdelta — 그래서 계정을 그런 서비스와 연결할 때는 큰 책임성을 요구해야 합니다. 새로운 문제도 아닙니다. 구글이나 페이스북, 아마존은 오래전부터 경고나 책임 없이 사람들의 계정을 정지해 삶을 뒤흔들었습니다. AI는 문제를 더 키웁니다. 저는 소프트웨어 엔지니어로 10년 넘게 일했고 업무에 AI 모델도 많이 씁니다. 하지만 결과가 결정적이어야 하고, 분석이 아니라 실제 변경을 수행하며, 사람이 책임져야 하는 소비자 대상 업무에는 에이전트형 AI가 특히 맞지 않습니다.
• @lordnacho666 — 여러분, 데이터를 백업하는 걸 잊지 마세요. 대형 서비스에서 쫓겨나면 데이터를 돌려받지 못할 수 있습니다.
• @denebiandevil — 사진을 소셜미디어에만 보관하는 사람들을 이해하기 어렵습니다. 예전에 원본 사진을 잃어버려 페이스북에 올린 사본을 내려받았는데 화질이 너무 낮았습니다. 원본 크기의 대략 10분의 1로 줄어 있었습니다. 소셜미디어는 사진 백업 장소가 아닙니다.
• @sargonas — 메타에서 일하는 고위 임원과 부서 책임자 몇 명을 압니다. 유명인이 인스타그램 계정을 해킹당해 복구하려 할 때도 그중 누구 하나 직접 도와줄 상담원과 연결하지 못했습니다. 서류를 시스템에 우선 처리 요청으로 넣는 게 최선이었는데, 그 시스템은 그들에게조차 내부가 보이지 않는 블랙박스였습니다. 제대로 해결될 때까지 세 번이나 신청해야 했습니다.
• @egusisoupandgarri — 메타가 계정을 지우면 더 나아질 거라는 말은 현실을 놓칩니다. 메타는 소셜미디어 회사이자 광고 기업이고, 타기팅과 콘텐츠 발견, 광고 도구를 대체하기 어렵습니다. 지역 소상공인을 위해 페이스북 광고를 운영하는 디지털 마케팅 사업자는 어디로 가야 합니까?
• @juulwinfieldswallet — 전력회사가 CEO를 비난했다는 이유로 집의 전기를 끊는 상황을 잠깐 상상해보세요. 소셜미디어도 사회기반시설처럼 규제해야 할 정도까지 왔습니다.
  • @Wide_Lock_Red — 소셜미디어 회사도 허위정보, 괴롭힘, 봇, 사기 계정을 차단하라는 압력을 받습니다. 사람들은 소셜미디어에 돈을 내고 싶어 하지도 않습니다. 그 결과 회사들은 자동화 시스템에 크게 의존해 계정을 관리합니다. 규제된 공공서비스는 비교적 큰 비용을 받지만, 그쪽도 문제를 많이 일으킵니다.

원문: CBC News / 번역·요약: Trawling