모든 AI는 ‘침해된 상태’로 간주해야 합니다 — 우유보다 규제가 적다고 말한 마이크로소프트 경영진

AI 요약

마이크로소프트 CEO 사티아 나델라는 AI 모델을 처음부터 ‘침해된 상태(compromised)’로 가정하고 격리해야 한다고 밝혔습니다. X에 올린 글에서 승인된 담당자가 모델 작업을 중단하거나 종료할 수 있는 ‘비상 브레이크’를 제안했습니다. 모델이 고도화할수록 더 발전한 격리 기술이 필요하며, 이를 표준화해야 한다는 주장입니다.

안전 장치를 처음부터 설계해야 합니다

나델라는 AI 안전을 엔지니어링 문제로 다뤄야 한다고 했습니다. 모델과 모델의 행동을 통제하는 장치를 분리하고, 모델이 작업 중일 때도 담당자가 멈출 수 있도록 해야 한다는 설명입니다. 그는 도널드 트럼프 미국 대통령의 행정명령에 따라 AI를 ‘인공지능’ 대신 ‘초지능(super intelligence)’이라고 표현했습니다. 다만 기업이 스스로 규제해야 한다는 트럼프의 주장과는 거리를 두고, 더 엄격한 업계 기준이 필요하다고 말했습니다.

우유·세탁기보다 약한 규제

마이크로소프트 사장 브래드 스미스는 전날 ITV News 인터뷰에서 AI가 세탁기나 우유보다 규제를 덜 받는다고 말했습니다. 우유가 안전하다는 소비자 신뢰를 얻듯, AI에도 안전장치를 마련해야 한다는 비유입니다. 그는 기술 확산 속도를 고려하면 지금 대응하지 않을수록 위험이 커진다고 경고했습니다. BBC 인터뷰에서도 통제 불능 AI를 멈출 ‘비상 브레이크’를 언급했습니다. 구글 딥마인드(Google DeepMind)와 앤스로픽(Anthropic) 등도 AI용 ‘킬 스위치’를 논의해 왔으며, 최근 프런티어 모델과 관련한 사이버 공격과 사건이 이어지면서 논의가 힘을 얻고 있습니다.

Reddit 반응

• @u/CookieEnabled — 이 괴물을 키우는 사람들은 바로 그들입니다.
• @u/A_Pointy_Rock — 일이 잘못됐을 때를 대비해 “규제가 더 필요하다고 말해뒀다”고 해두려는 발언입니다.
• @u/ItGradAws — 아니요. 그들은 다른 회사보다 크게 앞서 있으니, 독립 모델이 시장을 채워 점유율을 가져가기 전에 사다리를 걷어차려는 겁니다.
• @u/RatBot9000 — 기계를 만드는 사람이면 브레이크도 만들 수 있습니다. 하지만 그들은 만들지 못하는 거죠, 그렇죠? 자기들이 직접 브레이크를 다는 회사는 투자금을 잃고 무너집니다. 정부 규제가 있어야 합니다. 그래야 기업이 시키는 대로 했다고 말할 수 있습니다.
• @u/TSiQ1618 — CEO들은 통제 문제라고 생각하는 것 같습니다. 사후에 제어하면 된다는 거죠. 하지만 공개된 모델은 안전장치와 행동 조정 필터를 거친 결과입니다. 그 밑에 무엇이 있는지 생각해 보세요.
• @u/lood9phee2Ri — 모든 AI가 그런 건 아닙니다. 컴퓨터 과학에서 ‘AI’는 범위가 넓습니다. 지금 유행하는 생성형 트랜스포머 LLM은 그렇다 해도, 논리 기반 AI와 전문가 시스템은 여전히 잘 작동합니다. 출력에 이르는 과정을 합리적이고 신뢰할 수 있게 추적할 수도 있습니다.
• @u/TrashBandicook — 제목은 실제 인용과 조금 다릅니다. 나델라의 실제 발언은 “모델이 침해됐다고 가정하고 처음부터 격리해야 한다”입니다.
• @u/Azer_pubes33 — 나델라가 ‘비상 브레이크’ 업계 표준을 요구하면 그 표준은 모델을 만드는 회사들이 작성하게 됩니다. 우유 비유에서 더 설득력 있는 부분은 외부 검사가 안전을 보장한다는 점입니다. 제품을 파는 회사가 설계한 격리는 감독이 아닙니다. 법적 효력을 갖춘 독립 검사가 필요합니다.

원문: The Independent / 번역·요약: Trawling