말조심하세요: Apple이 '상시 청취' 기술의 악몽 같은 세상으로 가는 문을 열다

본문

Apple이 이번 주 신형 Apple Watch를 위한 '상시 청취(always-listening)' 기능을 발표했습니다. 첫 번째 기능인 Live Rewind는 '시간을 되돌려' 최근 15초 분량의 주변 음성을 텍스트 트랜스크립트로 다시 확인할 수 있게 해주고, 두 번째 기능인 Siri Recap은 하루 종일 대화를 듣고 이를 high-level 노트로 요약해 iPhone에 문서 리포트로 정리해 줍니다. Apple은 이 기능들이 기억을 '되살리는(jog)' 데 도움이 된다고 설명하지만, 그 대가로 기능이 활성화된 동안 Apple Watch는 착용자와 그 주변의 모든 사람의 말을 계속 듣게 됩니다.

Apple이 마련한 가드레일

논란이 될 기능이라는 점을 감안해 Apple은 출시 전에 보안과 프라이버시 장치를 고민한 흔적이 보입니다. 지원 페이지에 따르면 상시 청취 기술은 오디오를 녹음하거나 저장하지 않으며, 요약 데이터는 end-to-end 암호화되어 Apple을 포함한 그 누구도 접근할 수 없습니다. 기능의 동작 방식을 상세히 설명한 보안 문서(PDF)도 공개됐으며, 저자는 이 문서가 읽어볼 가치가 있다고 평가합니다. 다만 출시 전에 사양이 바뀔 수 있다는 단서도 달려 있습니다.

저자가 더 우려하는 지점 — 추종자들의 등장

저자가 Bluesky 포스트에서 강조했듯, 진짜 문제는 Apple 자체보다 Apple이 연 '문'입니다. 이전에도 AI를 탑재한 펜던트형 상시 청취 기기를 만든 스타트업들이 있었지만, Apple은 세계 최대 규모의 기술 기업 중 하나이고 글로벌 도달 범위 덕분에 수백만 명이 이 기능을 켜게 됩니다. Apple의 시장 지배력과 상시 청취 기술 채택이 결합되면, 다른 기업과 기기 제조사, 앱 개발자들이 따라 해도 된다는 선례이자 이 시장에 돈이 된다는 신호가 됩니다. 그 결과 Apple보다 훨씬 조잡하게 이 기술을 재현하려는 업체들이 더 나쁜 감시 구조를 만들고 새로운 보안·프라이버시 위험을 도입할 수 있다는 것이 저자의 지적입니다.

법적 쟁점

Bloomberg 보도에 따르면 변호사들은 Apple의 상시 청취 기술이 여러 미국 주의 법과 충돌한다고 이미 파악하고 있습니다. 일부 주에서는 녹음 전에 모든 당사자의 동의(all-party consent)를 요구하기 때문에 향후 법적 분쟁 가능성이 있습니다. 이는 Meta와 Snap이 만든 카메라 탑재 '몰래카메라 안경'이 동의 없는 촬영으로 학대와 괴롭힘을 급증시킨 흐름과 맞물리는 문제입니다.

나의 프라이버시는 지키지만, 타인의 것은?

Apple은 자사 고객의 보안과 프라이버시는 강조하면서도, 고객의 녹음에서 타인이 어떻게 빠져나올 수 있는지는 설명하지 않았습니다. Privacy Guides 출신의 디지털 프라이버시 기술자이자 Control Alt Delete 블로그 저자인 Em은 이 기능이 '기기를 착용하거나 구매하지 않은 사람들의 정보까지 주변에서 상시 수집하는' 최근 기기 트렌드 — 스마트 글래스, 스피커 등 — 를 따른다고 지적했습니다. 누구나 대화를 메모할 수는 있지만, 이런 기술은 '그것이 항상, 모든 맥락에서 일어나는 것을 정상화'하며, Apple Watch 사용자의 프라이버시에는 신경을 쓴 반면 그들과 대화하는 나머지 사람들의 프라이버시와 동의는 거의 보호하지 못한다는 것입니다. EFF의 Thorin Klosowski도 Apple의 접근이 고객 데이터 보호에 치중해 있다며 유사한 견해를 밝혔습니다. 그는 기술 기업들이 프라이버시를 '개인의 책임'으로 프레이밍하지만 프라이버시는 개인 선택만큼 사회적 계약에 의존하는 집단적 노력이라고 말했습니다. 펜던트, 글래스, 링 같은 유사 기기들과 결합될 때 정상화의 위험은 분명하다고 덧붙였습니다. EFF 프라이버시 소송 디렉터 Adam Schwartz는 사람들이 녹음에 동의하거나 거부할 실질적인 수단이 없으므로, '타인의 대화 프라이버시를 존중해 이 기술 사용을 재고하라'고 권했습니다. Apple 측이 내놓은 답변은 지원 페이지의 한 줄 — '대화가 사적이거나 민감할 수 있는 주변 사람을 고려하세요' — 가 전부입니다. 저자는 Apple이 보내는 더 넓은 메시지를 '일상 기기가 항상 듣고 있는 세상에 대비하라'로 읽습니다.

Lobsters 반응

• @muvlon — 프라이버시 문제를 차치하고도 이 기능은 그냥 형편없고 반사회적인 기능이라는 비판입니다. 상대에게 다시 말해달라고 부탁하는 것에 비해 실제 이득이 무엇이냐는 것인데, 시계를 조작하는 동안 상대를 기다리게 하므로 시간 절약도 안 된다고 지적합니다. 발표 시연에 나온 웨이트리스 사례와 달리, 애초에 나에게 한 말이 아니어서 되물을 수 없는 상황에서 쓰는 기능이라면 그건 완전히 소름 끼치는 용도라는 겁니다.

원문: this week in security / 번역·요약: Trawling