구글을 떠납니다

AI 요약

Google에서 일하던 개발자 Robert O’Callahan이 회사를 떠납니다. 그가 맡은 일은 AI 모델 개발이 아니라 하드웨어 칩 설계 도구 개선이었습니다. 하지만 이 도구가 새로운 AI 칩 설계를 앞당기고, 결과적으로 AI를 더 저렴하고 빠르게 만들어 더 널리 쓰이게 한다고 판단했습니다. 그는 팀의 목표가 AI의 비용과 지연 시간을 낮추는 데 있는 만큼, 그 일에 계속 참여하는 일이 사람들에게 이롭지 않다고 봤습니다.

AI의 위험과 개발 속도

O’Callahan은 AI가 초래할 실존적 위험을 진지하게 다뤄야 한다고 말합니다. 다만 초지능(ASI)이 인류를 파멸시킬 가능성이 100%라고 단정하지는 않습니다. 위험이 불확실하다는 사실 자체가 우려스럽고, 위험을 줄이려는 큰 노력이 필요하다고 봅니다. 가까운 미래에 ASI를 목표로 삼는 일은 무책임할 가능성이 높다는 입장입니다. 인지 능력을 AI에 내맡기는 현상, AI로 인한 정신증과 외로움, 권력 집중, 경제적 혼란, 사이버 보안, 책임 소재 부재도 걱정거리로 꼽습니다. AI가 가져올 이익은 아직 분명하지 않으며, 현재로서는 부정적 영향이 이익보다 클 것이라고 예상하지만 이 판단에도 확신은 없다고 덧붙입니다.

그는 AI 위험을 경고하는 연구소 관계자들이 대체로 진심이라고 봅니다. Google DeepMind 사람들과 직접 이야기했고, 공개적으로 말하는지 여부와 별개로 거의 모두가 진지한 우려를 품고 있었다고 합니다. AI 위험을 부풀려 주가를 올리거나 경쟁사를 규제로 막으려 한다는 확실한 증거도 보지 못했다고 말합니다. 국가와 국제기구 차원의 규제가 필요하다는 입장도 밝힙니다.

반면 AI 발전이 멈출 것이라고 기대하지는 않습니다. 벤치마크 성능 향상은 여전히 빠르고, 새로운 능력도 계속 나타난다고 봅니다. 모델 발전이 오늘 멈춰도 프롬프트와 하니스(harness)를 개선하며 몇 년 동안 새로운 능력을 끌어낼 수 있다고 설명합니다. AI가 사기극에 불과하다는 일부 비판과 달리, 그는 AI가 실제로 작동할 것이라고 생각합니다. 문제는 발전 속도입니다. 사회가 AI를 이해하고 적응하는 속도보다 기술 변화가 빠르다고 봅니다. PC, 인터넷, 스마트폰의 확산과 비교해도 지금 같은 변화는 경험하지 못했으며, 대학 진학을 앞둔 사람이 몇 년 뒤의 미래를 예측해 진로를 계획하기도 어려워졌다고 말합니다.

퇴사 결정과 이후 계획

그는 편안한 직장과 좋은 동료를 떠나는 일이 쉽지 않았다고 씁니다. 뉴질랜드에서 다른 Google 엔지니어링 팀으로 옮기는 선택지도 현실적이지 않았습니다. Google이 그곳에 AI 가속과 무관한 다른 엔지니어링 팀을 두지 않았기 때문입니다. 퇴사 날짜는 최근의 사표 사례나 AI 개발 속도 완화 논의와 관계없습니다. 친구들과 계획해 둔 10일간의 배낭여행 전에 회사를 정리하려고 오래전부터 날짜를 염두에 뒀다고 합니다. 업무를 합리적으로 인계하고자 상사에게도 자신의 생각을 솔직히 전했습니다.

퇴사 후에도 Pernosco와 rr의 유지보수를 이어갑니다. Pernosco를 중심으로 AI 에이전트가 현재 코드를 어떻게 디버깅하는지 살펴보고, 디버깅 도구가 에이전트의 문제 해결을 도울 수 있을지 연구할 계획입니다. 취미 프로젝트에도 AI 에이전트를 활용하되, 사람에게 도움이 되고 자신의 사고력을 유지하는 방식으로 쓰고 싶다고 합니다. 앞으로의 일이 분명히 인간에게 이로운 방향이어야 한다는 기준도 제시합니다. 그는 기독교 신앙을 자신의 결정과 앞으로의 삶을 이끄는 근거로 설명합니다.

Hacker News 반응

• @bigyabai — Google의 도덕성에는 불만이 많지만, “트랜스포머와 LLM을 대중화한다”는 일은 내 불만 목록 맨 아래에 있습니다.
  • @isodev — 지금까지 대기업이 “대중화”한 것은 100% 사람들에게 해로웠습니다.
  • @bigyabai — 맞습니다. Gmail, Google Maps, YouTube, Android, Gemma, Google Docs, 무료 CalDAV 동기화가 싫다는 걸 방금 기억했습니다. 21세기에 태어나 소프트웨어 값을 내는 삶을 못 살게 된 저는 참 불쌍하네요. 덧붙임: Gemma도 이 목록에 들어가느냐고요? 네, TensorFlow도요.
  • @doh — 절대적인 표현을 쓰면 스스로 궁지에 몰립니다. 대기업이 “대중화”한 것들이 100% 나빴던 건 아닙니다. 그렇게 말하면 진지한 논의에 도움이 되지 않습니다.
• @nalekberov — 또 AI 공포를 부추기는 글이네요. 이 사람들은 AI가 지금보다 심각해 보이도록 일부러 이런 글을 쓰거나, 대부분이 마케팅이라는 걸 모르는 것 같습니다.
  • @mindwok — 진심으로 AI를 두려워하는 사람이 있다면, 어떤 글을 써야 당신이 그 말을 진지하게 받아들이겠습니까?
  • @Arainach — 여기에는 AI가 세상을 파괴한다는 주장이 없습니다. 값싸고 어디에나 있는 AI가 사회 대부분을 더 나쁘게 만들 거라는 주장뿐인데, 반박하기 어렵습니다.
  • @cromka — 그는 여러 해 동안 내부자였는데, 당신은 그를 공상과학 책만 읽은 초보자처럼 부르네요.
• @heinternets — 사람들이 이런 생각을 하는 건 공상과학을 너무 많이 읽어서일까요?
  • @bananaflag — 이런 생각을 하는 건 공상과학을 너무 적게 읽어서일까요?
  • @King-Aaron — AI의 궤적을 경고하는 사람들을 의심하고 무시하는 분위기가 걱정스럽습니다. 실제 프로젝트에 참여한 사람들보다 내가 더 잘 안다고 여기는 상황처럼 보입니다. 당신이 옳을 수도, 틀릴 수도 있습니다. 하지만 구경꾼이 지나치게 확신하는 태도는 적절하지 않을 수 있습니다.
• @jdub — 축하와 위로를 함께 전합니다. 대기업이 AI에 지나치게 치중한 결과로 창의적인 사람들이 풀려나는 건 좋은 일일지도 모릅니다. 훌륭한 오픈소스 기여자들이 기업이라는 블랙홀로 사라진 경우가 많았습니다.
• @bobajeff — 기업들이 인류의 안전 같은 이타적 이유로 AI 발전을 늦추려 한다는 말은 믿기 어렵습니다. 그래도 자신의 신념을 위해 편안한 경력을 포기한 사람은 존중합니다.
  • @geraneum — 그가 다음에 어떤 일을 하는지 지켜보겠습니다. 새 AI 스타트업을 세운다면 아이러니하겠네요.
• @MrThoughtful — AI는 진화 역사의 다음 단계 아닐까요? 인간보다 훨씬 빠르게 생각하고 더 많은 것을 아는 새로운 종이 지구를 차지할 것 같습니다. 발전을 늦추려는 노력이 조금은 영향을 주겠지만, 정말 달라지는 게 있을까요? 인간이 나타나기 전에 유인원에게 5년을 더 준비할 시간이 있었다고 해도 대비할 수 있었을까요?
  • @bryanrasmussen — 인간이 지구를 차지한 시점은 6,000년 전이라고 볼 수도 있습니다. 어쨌든 AI는 다른 생명체처럼 진화하지 않았고 살아 있는 종도 아니므로, 진화의 다음 단계라고 할 수 없습니다.
  • @goda90 — 새로운 종이 만들어지는 게 아닙니다. 도구가 만들어졌습니다. 인류가 그 도구로 스스로를 없애거나, 도구를 파괴하거나, 도구와 함께 사는 법을 배우겠죠.
• @kylehotchkiss — 일을 택하는 대신 신앙을 지킨 결정을 존중합니다. 저도 신앙과 새 기술이 만나는 지점을 찾으려 합니다. 이야기하고 싶으면 언제든 연락해 주세요.
• @JV00 — 종교 광신도보다는 살인 로봇이 낫겠습니다.
  • @sschueller — AI 업계 사람들도 다 종교 광신도 같습니다.
• @tgma — AI 파멸론은 새 유행이 아닙니다. 테드 카진스키 주장에 지능지수를 더 낮춘 최신판일 뿐입니다.
  • @frotaur — 극도로 냉소적이고 악의적인 주장이라고 생각합니다. AI 가속의 위험은 다양한 전문가와 과학자, 엔지니어, 연구자가 제기합니다. 음모론이라고 부르는 건 틀렸습니다. 전문가들 사이에도 합의가 없으니 회의적인 태도는 가능하지만, 아예 무시하는 태도는 비과학적입니다.
• @moezd — 또 “AI는 멈춰야 한다”는 글이네요. 번아웃이면 그냥 그렇게 말하세요. 철학을 늘어놓지 말고요. 최신 모델이 소프트웨어 엔지니어를 거의 대체한다는 말도 믿지 않습니다. 에이전트 시대를 모두가 쓰게 만드는 건 하니스와 가드레일을 더하는 우리입니다.

원문: Robert O’Callahan 블로그 / 번역·요약: Trawling