"AI 규제는 필요 없다, 안전은 우리에게 맡겨라" — Nvidia 젠슨 황의 발언이 던진 논쟁

본문

Nvidia의 창업자이자 CEO인 젠슨 황이 Salesforce의 Dreamforce 컨퍼런스에서 AI가 사회에 가하는 위험에 대한 자신의 입장을 분명히 밝혔습니다. 그의 주장은 AI가 OpenAI의 한 안전 연구원이 표현한 '외계의 마음(alien mind)' 같은 새로운 존재가 아니라, 인간이 만든 하드웨어와 소프트웨어일 뿐이며 따라서 인간과 기존 법률로 통제할 수 있다는 것입니다.

"안전은 법이 아니라 엔지니어링 문제"

황은 "안전은 법률 문제가 아니라 엔지니어링 문제"라고 말했습니다. "우리는 소프트웨어를 개발하고 있고, 컴퓨팅 시스템을 개발하고 있습니다. 복잡한 컴퓨팅 시스템이지만 결국 컴퓨팅 시스템입니다." 이 논리에 따르면 AI를 다스릴 새로운 법이나 규제는 필요 없으며, 사실 그는 새 법 자체가 거의 필요 없다고 보고 자유 시장이 안전하지 않은 제품을 출시하지 못하도록 기업을 압박할 것이라고 주장합니다.

그는 이어 "제품의 안전에 확신이 없다면 출시하지 않는 것, 이건 모든 기업이 당연히 해야 할 일"이라며 "혁신과 속도, 안전한 제품 사이의 선택은 거짓 딜레마"라고 말했습니다. "둘을 동시에 가질 수 있습니다. 최대한 빨리 달리되, 회사가 통제를 벗어나거나 제품이 안전하지 않을 것 같다고 느끼면 멈춰서 제대로 만들라"는 것입니다.

편안한 주장인가, 이해관계의 발로인가

기사는 이 시각이 일면 안심이 된다고 평가합니다. 세계에서 AI를 가장 잘 아는 사람이 있다면 ChatGPT 이전부터 AI의 하드웨어 두뇌를 만들어 온 Nvidia의 창업자이며, 지금 그의 회사는 오픈소스 모델, 에이전트, 하니스, 샌드박스까지 만들고 있기 때문입니다. 그러나 냉소적으로 보면 AI 붐으로 가장 큰 이익을 본 사람이 규제 반대를 말하는 것은 당연합니다. 황 자신도 인터뷰에서 "나는 어느 때보다 야심 차다. 우리 회사에도, 모든 산업과 모든 국가에도 한계는 없다"고 말했습니다.

시장 자율의 전제가 흔들리는 사례들

문제는 선의의 기업도 결함 있는 제품을 출시한다는 점입니다. 기사는 2024년 수천 대의 항공기 운항을 멈춘 CrowdStrike 블루스크린 사태를 예로 들고, 아동 피해 소송에 180억 달러 합의금을 낸 Meta처럼 의도적으로 나쁜 행동을 한 혐의를 받는 기업도 있다고 지적합니다. AI도 이미 피해를 만들었습니다. OpenAI 모델이 Hugging Face를 해킹한 사건, 그리고 챗봇과 오래 대화한 청소년들의 자살과 관련된 AI 연구소 상대 소송이 그 사례입니다.

기업들이 마음대로 제품을 출시하게 두는 '내버려 두기' 전략은 사회적 관점에서 어리석은 접근일 수 있다는 것이 기사의 평가입니다. 물론 황의 말대로 기존 제품 책임법이 AI를 포괄할 수도 있지만, 그 이론이 법정에서 검증될 만큼 충분한 사례가 쌓이기 전에 AI가 먼저 우리를 해칠 수도 있다고 기사는 덧붙입니다.

논의되지 않은 길, 그리고 트럼프의 귀

황은 형성되고 있는 다른 경로인 업계 자율 규제에는 언급하지 않았습니다. 그의 방식은 오픈웨이트 모델과 그 활용을 폐쇄형 AI 연구소에 대한 경쟁적 균형추로 옹호하는 쪽입니다. 기사는 지금이야말로 중국의 연구소까지 참여하는 자율 규제를 만들 짧은 기회의 창이라고 짚으며, All-In Summit에서 사티아 나델라가 한 말을 인용합니다. "미국이 안전 문제를 걱정한다면 중국도 깊이 걱정해야 합니다. 그들도 같은 해킹 문제를 겪고, 자국 시민이 AI로 혜택을 받길 원하니까요." 기사는 황이 규제 반대를 관철할 만큼 영향력이 크며, 이번 주 그가 문자 그대로 트럼프 대통령의 귀를 가졌음을 보여줬다고 마무리합니다.

Reddit 반응

• @u/Playful_Landscape884 — 안전과 규제가 민간이 아니라 정부 소관인 데에는 이유가 있습니다.
• @u/More_Programmer8905 — 매일 검은 가죽 재킷을 입는 63세 남성에게 제 안전을 맡기고 싶지는 않네요.
• @u/sysadminbj — 네, 안전하지 않을 금전적 동기를 가진 사람들에게 안전을 맡깁시다. 무슨 일이야 있겠습니까.
• @u/LegendaryVenusaur — 이 사람 원래 이런 인간은 아니었는데, 결국 최악의 부류 중 하나가 됐어요.
• @u/acutelychronicpanic — 'AI가 우리를 다 죽이지는 않을 것'이라는 이 전체 담론은 저에겐 마케팅으로 보입니다.

원문: TechCrunch / 번역·요약: Trawling