폰 노이만의 전설

AI 요약

수학자 폴 핼모스(P. R. Halmos)는 1973년 글에서 존 폰 노이만(John von Neumann)의 삶과 업적을 가까이서 본 일화와 함께 돌아봅니다. 어린 시절의 뛰어난 기억력과 계산 속도부터 집합론, 양자역학, 연산자 이론, 응용수학, 컴퓨터에 이르기까지 폭넓게 다룬 뒤, 그의 위대함을 단순한 천재성이나 작업 속도가 아니라 문제의 토대를 찾아내는 수학적 사고에서 찾습니다.

어린 시절과 초기 연구

폰 노이만은 1903년 부다페스트의 유복한 유대인 가정에서 태어났습니다. 여덟 살 무렵 미적분을 익히고 열두 살에 보렐(Borel)의 함수론을 읽었다는 이야기처럼 어린 시절부터 전설이 따라다녔습니다. 핼모스는 이런 일화가 상당수 문서로 확인되지 않는다고 밝히면서도, 사람들이 영웅에 관해 만들어낸 이야기 역시 그가 어떤 인물로 기억됐는지 보여준다고 덧붙입니다.

아버지는 수학자가 되려는 아들을 걱정해 화학을 권했고, 폰 노이만은 베를린과 취리히에서 화학을 공부한 뒤 1926년 취리히에서 화학공학 학위를, 부다페스트에서 수학 박사 학위를 받았습니다. 스무 살 때 발표한 순서수(ordinal number) 정의는 오늘날에도 표준으로 쓰이며, 박사 논문은 집합론의 공리화에 영향을 남겼습니다. 쿠르트 괴델(Kurt Gödel)의 불완전성 결과를 접한 뒤 수학적 진리에 관한 자신의 생각이 세 차례나 바뀌었다고 말할 정도로, 논리학의 변화를 깊이 받아들였습니다.

힐베르트 공간에서 양자역학까지

1920년대 후반부터 폰 노이만은 양자물리학과 연산자 이론을 함께 연구했습니다. 핼모스는 두 분야가 그에게서 하나의 주제로 만났다고 설명합니다. 힐베르트 공간(Hilbert space)의 벡터가 이루는 기하학적 구조와 양자역학 체계의 상태가 형식적으로 같은 성질을 보인다는 점을 바탕으로, 그는 양자 이론을 엄밀한 수학으로 정리했습니다. 1932년에 나온 양자역학 책은 여러 언어로 번역됐고, 물리학자 유진 위그너(Eugene Wigner)는 이 업적만으로도 당대 이론물리학에서 두드러진 자리를 차지했을 것이라고 평가했습니다.

그는 1933년 프린스턴 고등연구소(Institute for Advanced Study)의 수학부 창립 교수 여섯 명 중 한 명이 됐습니다. 프린스턴대학교와 고등연구소는 별도 기관이었지만, 두 곳의 연구자들이 가까이 교류해 혼동이 생기곤 했다고 핼모스는 짚습니다. 이 시기 폰 노이만은 F. J. 머리(F. J. Murray)와 함께 ‘연산자 환(rings of operators)’을 연구했습니다. 오늘날 폰 노이만 대수(von Neumann algebras)라고 부르는 이 이론은 연산자 이론을 발전시키고 유한 차원 대수의 여러 성질을 일반화했으며, 양자물리학 연구에서도 강력한 도구가 됐습니다.

순수수학에서 전쟁과 응용수학으로

핼모스는 폰 노이만의 순수수학 업적 가운데 평균 에르고딕 정리(mean ergodic theorem)를 꼽습니다. B. O. 쿠프만(Koopman)이 에르고딕 가설을 힐베르트 공간 연산자 이론으로 표현할 수 있다는 점을 제시하자, 폰 노이만은 곧 유니터리 연산자에 관한 정리를 정식화하고 증명했습니다. 핼모스의 설명에 따르면 이 정리는 조지 버코프(George Birkhoff)의 점 에르고딕 정리보다 먼저 나왔고, 이후 에르고딕 이론과 연산자 환 연구에 쓰였습니다. 또 하르(Haar)의 측도 존재 결과를 활용해 힐베르트의 다섯 번째 문제 중 콤팩트 군에 해당하는 경우를 해결했습니다.

1940년 무렵부터 연구의 무게중심은 응용수학으로 옮겨갔습니다. 전쟁 관련 기관과 군의 자문을 맡으며 편미분방정식, 충격파, 유체역학, 탄도학, 폭발 문제 등을 다뤘습니다. 글은 맨해튼 프로젝트에서 핵분열 물질을 폭발시키는 내폭 방식(implosion method)을 제안했고, 전후 수소폭탄 개발을 지지했다고 전합니다. 폰 노이만은 소련을 상대로 한 선제전쟁을 주장한 적도 있었고, 원자폭탄 실험의 방사능 낙진 우려에 반대하는 입장을 공개적으로 폈습니다. 핼모스는 그의 전쟁·정치 관련 행적도 업적과 나란히 기록합니다.

게임 이론과 컴퓨터

게임 이론(game theory)의 수학적 토대는 폰 노이만이 1928년에 증명한 미니맥스 정리(minimax theorem)입니다. 두 사람이 하는 게임에서 각자 최악의 손실을 최소화하는 전략을 고르면, 한쪽이 보장하는 값과 상대가 보장하는 값이 서로 반대가 된다는 내용입니다. 폰 노이만은 오스카 모르겐슈테른(Oskar Morgenstern)과 함께 1944년 《게임 이론과 경제 행동》(The Theory of Games and Economic Behavior)을 펴냈습니다. 핼모스는 고전역학을 본뜬 기존 경제수학의 접근에서 벗어나 전략 게임과 조합론, 볼록성의 관점을 도입한 점을 이 연구의 특징으로 설명합니다.

폰 노이만은 전자식 컴퓨터의 논리 구조와 신뢰성, 메모리, 자동자 이론에도 관심을 쏟았습니다. 컴퓨터가 불완전한 부품으로도 실용적인 답을 내는 방법과 스스로 복제하는 자동자가 가능한지를 연구했습니다. 자기 복제 자동자는 무작위로 흩어진 부품을 찾아 조립하는 충분히 복잡한 기계라면 원리상 가능하다고 보았습니다. 확률 실험을 대량으로 수행해 물리 문제의 답을 구하는 몬테카를로 방법(Monte Carlo method)에도 기초적인 기여를 했습니다. MANIAC과 JONIAC 같은 컴퓨터를 가까이서 다뤘고, 수치 계산뿐 아니라 편미분방정식 연구와 장기 기상 예측에도 컴퓨터를 쓰자고 제안했습니다.

속도보다 오래 남은 것

핼모스는 폰 노이만의 빠른 계산과 놀라운 기억력에 관한 일화를 여럿 들려줍니다. 자전거 두 대가 서로를 향해 달리고, 그 사이를 파리 한 마리가 오가는 문제에서 그는 무한급수를 직접 합산해 답을 냈다고 합니다. 관객들이 몇 초씩 생각하던 연산자 환의 분류 가능성도 그는 즉시 확인했습니다. 하지만 글의 마지막은 이런 재능이 수학에 남긴 영향은 오래가지 않을 수 있다고 선을 긋습니다.

핼모스가 더 중요하게 보는 능력은 공리적 방법(axiomatic method)을 활용해 문제의 기본 성질을 파악하고, 그 토대에서 응용까지 이어지는 단계를 찾는 일이었습니다. 폰 노이만은 세부 계산을 피하지 않았고, 때로는 긴 표기와 반복적인 설명으로 글을 복잡하게 만들기도 했습니다. 그럼에도 여러 분야에서 문제를 명료하게 정식화하고 풀어낸 결과로, 150편이 넘는 논문을 남겼습니다. 글은 그를 무엇보다 수학자로 기억해야 한다는 말로 맺습니다.

Hacker News 반응

• @SimplyUnknown — 더 길게 읽고 싶다면 아냐뇨 바타차리아(Ananyo Bhattacharya)의 《미래에서 온 남자》(The Man from the Future)를 강력히 추천합니다. 읽기 쉽고 존 폰 노이만의 삶과 발견을 연대순으로 폭넓게 다룹니다.
  • @laserson — 작년에 읽었는데 저도 추천합니다!
  • @stevenwoo — 발견의 의미를 이해하려고 읽다가 자주 멈춰 더 찾아봐야 했습니다. 책에서 어린 시절 연인을 언급하지 않다가 결혼 대목에서 갑자기 등장해 웃었습니다.
• @srejk — 전체적으로 보면 폰 노이만은 20세기 과학과 수학에 아인슈타인이나 플랑크보다 더 큰 영향을 줬다고 생각합니다. 과학 혁명의 상징으로 두드러지진 않았지만, 너무 많은 분야의 토대에 기여했다는 점이 돋보입니다.
  • @snapetom — 제 생각에도 가장 좋아하는 물리학자입니다. 여러 분야를 돌아다니며 “수학으로 개선할 방법은 이렇습니다”라고 말하고 새로운 접근을 만든 다음, 다른 분야로 가서 똑같이 해냈다는 상상이 정말 재미있습니다.
  • @lalalandland — 폰 노이만 한 명에 비하면 쓸데없는 생각만 내놓는 사람은 수천, 어쩌면 수백만 명일 겁니다. 그러니 회의적인 태도도 이해합니다.
• @gradus_ad — 폰 노이만이 지적으로 거인이었다는 건 압니다. 하지만 가장 독창적이거나 획기적인 기여는 무엇인가요? 각 분야를 훑고 해결이 필요한 문제를 찾아 깔끔하게 풀고 다른 분야로 옮긴 사람이라는 인상을 받았습니다.
  • @curt15 — ‘가장’이라는 기준은 주관적이지만, 양자역학의 수학적 토대를 세운 일을 들 수 있지 않을까요?
• @inasio — 말년 부분은 너무 미화된 것 같습니다. 프리먼 다이슨(Freeman Dyson)의 글에 따르면, 폰 노이만은 새 컴퓨팅 시대의 문제 열 가지를 발표하는 힐베르트식 강연에 초청됐지만 상태가 매우 좋지 않았고, 결국 그 일이 없었던 것처럼 하기로 했다고 합니다.
  • @BeetleB — 암으로 세상을 떠났고 50대였습니다. 치매였을 가능성은 낮아 보입니다.
  • @zamadatix — 맞습니다. 암이 뇌에 영향을 줬습니다.
• @tbagman — 이 글은 수학에서 AI의 역할을 둘러싼 지금의 논쟁과 관련 있어 보입니다. “그의 위대함을 만든 것이 이해와 사고의 엄청난 속도, 그리고 한 번 생각한 것을 기억하는 능력이었을까요? 아닙니다. 이런 능력은 인상적이지만 덧없습니다.”
  • @random3 — 이게 어떻게 관련 있나요?
  • @iaad — AI도 빠른 이해와 ‘완벽한’ 기억력을 닮은 능력을 보이니, AI 역시 덧없이 지나갈지 아니면 폰 노이만처럼 수학에 지속적인 영향을 줄지 비교한 것 같습니다.
• @brcmthrowaway — 당시 기준으로는 뛰어났지만, 지금은 제인 스트리트(Jane Street)와 앤스로픽(Anthropic)에 그와 동등한 지성을 가진 사람이 수백 명 있습니다.
  • @adrian_b — 그럴 수도 있지만, 그들 중 누구도 폰 노이만의 여러 논문만큼 중요하고 수준 높은 결과를 내놓지 않았습니다. 지성이 얼마나 뛰어난지는 다른 사람에게 쓸 만한 결과물을 남기지 않는다면 중요하지 않습니다.
• @chk84us — 왜 PDF가 382쪽부터 시작하나요?
  • @ketanmaheshwari — 《The American Mathematical Monthly》 80권 4호에 실린 발췌문입니다. 1973년 4월호 382~394쪽입니다.
• @ricksunny — ‘폰 노이만 아키텍처’라는 이름에 누가 공을 돌려야 하는지 다룬 최근 HN 글도 여기와 관련 있습니다.
  • @tovej — 폰 노이만은 많은 일에서 공을 인정받아야 하지만, 에커트(Eckert)와 모클리(Mauchly)의 평생 업적을 가로챈 일은 그렇지 않습니다. ENIAC의 역사를 읽고 나서 폰 노이만을 다시 생각하게 됐습니다.
  • @HarHarVeryFunny — EDVAC 보고서에서 폰 노이만 아키텍처는 임의 접근 메모리에 초점을 두지 않았습니다. 실제 EDVAC도 수은 지연선 메모리를 썼습니다. 아키텍처 관점에서 중요한 건 접근 속도보다 메모리 주소 지정이 가능하다는 점입니다.

원문: The American Mathematical Monthly, Vol. 80, No. 4 / 번역·요약: Trawling