섹스, AI, 그리고 종말 — AI 안전 담론을 만든 래셔널리스트 하위문화의 계보

본문

2026년 9월 8일, Anthropic에서 프리트레이닝 연구를 하던 Jacob Coxon이 지분 베스팅을 두 달 앞두고 사직하며 이런 말을 남겼습니다. 'AI를 만드는 사람들은 AI가 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿고 있습니다. 이것은 마케팅 스턴트가 아닙니다.' 이 글은 하루 만에 1억 회 이상 조회되었고, Anthropic의 얼라인먼트 사이언스 리더 Evan Hubinger는 수 시간 내에 'Coxon이 맞으며 자신도 10년 내 10분의 1 이상의 확률로 본다'고 공개적으로 동조했습니다. 이 글은 이 경고의 무게를 평가하려면 그것을 만든 사람들을 이해해야 한다며, 실리콘밸리 안에서는 막강하고 밖에서는 기묘해 보이는 한 하위문화의 역사를 따라갑니다.

종말을 노래하는 공동체 — Secular Solstice

Coxon의 사직 열 달 전인 2025년 12월, 버클리의 한 음악당에 약 500명이 모여 '인류의 가능한 종말'을 주제로 한 의식을 치렀습니다. 라이브 밴드와 28인 합창단, 전례문 낭독이 이어지고 샹들리에가 하나씩 꺼지는 가장 어두운 순간, 기획자 Raymond Arnold는 떨리는 목소리로 '우린 살아남지 못할 것 같다'고 말했습니다. Arnold는 LessWrong과 버클리의 컨퍼런스 캠퍼스 Lighthaven을 운영하는 인물로, 스스로를 '마을 신부'라 칭합니다. 2011년 뉴욕 아파트에서 19명의 친구와 시작한 Secular Solstice는 래셔널리스트 달력의 핵심 축일이 되었고, 그는 AI 재앙 확률을 50% 이상으로 보며 2025년 판을 '마지막 솔스티스'로 기획했습니다.

예언자 — Eliezer Yudkowsky

계보의 시작은 Yudkowsky입니다. 1979년생으로 2학년 때 공교육을 '포기'하고 8학년경 중퇴했으며 AI 분야의 정규 훈련을 받은 적이 없습니다. 11세에 트랜스휴머니즘 서적을 접한 뒤 2000년, 20세에 Singularity Institute(현 MIRI)를 공동 창립했습니다. 그는 Robin Hanson과 함께한 Overcoming Bias 블로그의 글들(독자들이 'Sequences'라 부르는)을 쌓았고, 2009년 LessWrong을 열었습니다. 커뮤니티 센서스가 그려내는 인구상은 선명합니다. 남성 87%, 자폐 스펙트럼 진단 또는 자가진단이 약 5분의 1, 우울증이 절반 가까이. 저자는 이 공동체가 '비이성을 극복한다'는 자기 정의를 곧 '구성원의 우월한 판단력에 대한 자격증'으로 전환시키는 함정을 갖고 있다고 지적합니다.

해리포터의 복음 — HPMOR

2010년부터 5년간 연재된 팬픽 'Harry Potter and the Methods of Rationality'는 122화, 661,619단어로 '전쟁과 평화'보다 길고, 37,000개 이상의 리뷰를 받았습니다. 핵심 개념은 'heroic responsibility' — 재난을 막을 수 있었다면 막지 못한 것도 당신의 책임이라는 사상입니다. 마지막 화 'Final Exam'에서 저자는 독자에게 마감 내 해법 제출을 요구했고, 팬덤은 이틀 반 만에 700,000단어의 해법을 제출하고 스스로 태스크포스를 조직해 중복을 제거했습니다. 저자는 이를 'AI 안전 연구소 창립자가 수천 명의 분산 자원자에게 최적화 문제와 데드라인을 주고 산출물을 수확한 조직 실험'으로 재해석하며, 이후 10년간의 AI 산업을 묘사하는 문장이기도 하다고 덧붙입니다.

사도들 — Scott Alexander와 Curtis Yarvin

Yudkowsky가 예언자라면 성장 엔진은 정신과 의사 Scott Alexander였습니다. 2013년 시작한 Slate Star Codex는 Sam Altman과 Paul Graham을 독자로 두며 실리콘밸리의 '안전한 공간'으로 불렸습니다. 한편 Mencius Moldbug로 쓴 Curtis Yarvin은 2008년 '민주주의, 헌법, 법치의 청산'을 내걸고 국가를 기업처럼 운영하는 Patchwork 구상을 펼쳤으며, 이 글들은 LessWrong 내부에서 널리 회람되었습니다. Alexander는 Yarvin을 비판했지만, 그의 사상을 친근한 문체로 '번역'해 소개한 행위 자체가 반동주의를 논의 가능하고 읽기 쉬운 것으로 정당화했다는 지적을 받습니다.

옥스퍼드로 — Nick Bostrom

이 하위문화는 옥스퍼드를 통해 학계와 주류 담론에 진입했습니다. 1998년 World Transhumanist Association을 공동 창립한 Nick Bostrom은 2005년 옥스퍼드에 Future of Humanity Institute를 세웠고, 2014년 'Superintelligence'로 Yudkowsky가 블로그에서 축적한 아이디어를 분석철학의 언어로 옮겼습니다. 오늘날 AI 안전을 둘러싼 제도와 자금, 인맥은 이 장면(scene)의 우정·펀딩·연애 관계로 촘촘히 얽혀 있으며, 저자는 바로 그 점이 '인류의 미래에 대한 신뢰를 요구하는' 이 조직들을 평가하는 데 필요한 맥락이라고 주장합니다.

Hacker News 반응

• @irickt — 중복 게시물입니다.
• @virtualritz — 오늘 일찍 올라온 글도 보세요. 내용은 거의 같은데, 그쪽 부모 글이 제 생각엔 훨씬 실감 납니다.
• @vinkelhake — 이상한 일이 없다는 말은 아니지만, 이 기사는 연좌제가 심합니다. 신반동주의자, 폴리아모리 래셔널리스트, 종말론 AI 연구자, Zizians를 하나의 큰 그물로 엮고 있습니다.
• @CoolestBeans — 주변에서 지켜보는 사람으로서, 그건 이들이 실제로 큰 그물을 이루고 있기 때문입니다. 여러 갈래 사이에 사람을 공유하는 확장 커뮤니티예요. 공유하는 가치도 있는데, 예컨대 우월감 콤플렉스입니다. 모순되거나 명백한 거짓을 구성원이 믿게 하는 것은 컬트가 하는 일입니다.
• @throwaway13337 — AI를 생각하는 프레임은 매우 동질적인 집단에 의해 만들어져 왔습니다. 이들은 같은 것을 읽고 같은 사람들과 대화하며 비슷하게 생각할 때 암묵적으로 보상받는, 연결되고 정렬된 사람들의 합창이지 수천 개의 독립적 관점이 아닙니다. 이들을 그렇게 보면 기분 나빠하는 이들도 있지만, 인간이라면 피할 수 없는 결함입니다.

원문: iankduncan.com / 번역·요약: Trawling