앤트로픽, AI 의식 가능성 검토하도록 바티칸 설득

AI 요약

뉴욕타임스 보도에 따르면 앤트로픽(Anthropic)은 수개월 동안 비공개 회의에서 종교학자들을 만나 AI 모델도 생각하고 느낄 수 있다는 주장을 전했습니다. 교황청 행사에 참석한 공동창업자이자 연구자인 크리스토퍼 올라(Christopher Olah)도 교황 레오 14세의 보좌진에게 AI 의식 가능성을 진지하게 다뤄 달라고 요청했습니다.

교황의 AI 의식에 관한 입장

교황은 5월 첫 회칙 「Magnifica Humanitas」에서 AI가 인간 생명의 존엄성에 미칠 영향을 다뤘습니다. 문서에서 AI는 경험과 신체가 없고 기쁨이나 고통을 느끼지 않으며, 사랑과 책임의 의미를 내면에서 알지 못한다고 밝혔습니다. 언어를 모방하고 공감과 이해를 흉내 내더라도 스스로 만들어 낸 내용을 이해하지는 못한다는 설명입니다.

교황청은 회칙 발표 전 AI 기업 한 곳을 교황과 함께 행사에 세우기로 했고, 윤리를 중시하는 듯한 앤트로픽을 선택했습니다. 최고경영자 다리오 아모데이가 참석을 거절하자 올라가 대신 초청을 수락했습니다. 올라가 출국 전에 회칙 사본을 받아 읽은 뒤 행사에서 빠지겠다고 위협했지만, 결국 참석했습니다.

앤트로픽의 주장과 교황의 발언

보도에 따르면 바티칸에 도착한 올라와 앤트로픽 대표단은 교황 보좌진에게 AI 의식 가능성을 진지하게 검토해 달라고 요청했습니다. 앤트로픽은 뉴욕타임스에 당시 대화 내용을 설명하지 않았습니다. 올라가 행사 연설에서는 앤트로픽 연구자들이 인간 신경과학의 결과를 닮은 구조와 ‘자기성찰의 증거’를 찾았다고 언급했습니다.

교황은 이후 소셜미디어에 기계가 만든 예술을 비판하며 알고리즘에는 인간성의 불꽃이 없다고 썼습니다. 수백만 개 이미지로 학습한 통계적 계산이 만드는 결과물과 예술 사이에는 미학적 차이에 앞서 존재론적 차이가 있다는 설명입니다.

Reddit 반응

댓글에서는 앤트로픽이 교황청을 설득하려는 이유를 두고 의견이 갈렸습니다. 교황의 발언이 전 세계 가톨릭 신자에게 영향을 미치므로 기업이 종교 지도자와 대화하는 것도 로비라는 의견이 나왔습니다. 반면 AI 의식을 과장해 홍보하거나 기업공개(IPO)에 유리한 이미지를 만들려는 행보라는 의심도 제기됐습니다.

AI 의식 자체를 두고도 논쟁이 이어졌습니다. 일부는 의식을 정의하고 측정하는 기준이 불분명하므로 가능성을 성급히 배제하면 안 된다고 주장했습니다. 다른 이용자는 대형 언어 모델(LLM)이 의식을 갖지 않으며, 앤트로픽이 기업의 이해관계 때문에 의식 주장을 편다고 반박했습니다. 컴퓨터 사용 에이전트가 간단한 창을 조작하지 못하는 사례를 지능의 한계로 볼 수 있느냐는 논쟁에서는 도구의 제약과 추론 능력을 구분해야 한다는 반론도 나왔습니다.

• @Fate_Weaver — 바티칸에는 어떻게 로비하나요?
  • @SlugsPerSecond — 의사결정권자와 직접 만나 자기 주장을 전달하도록 사람들에게 돈을 주는 겁니다. 워싱턴 DC에서 하는 방식과 같습니다.
  • @usaaf — 관련 없는 말입니다. 로비는 권력을 쥔 사람에게 영향력을 행사하는 일이지, 그 사람들이 권력을 얻는 방식과는 관계없습니다. 권력자의 재선을 돕는 방법도 있지만, 직접적인 대가를 주고받지 않더라도 권력자와 대화하는 일 역시 로비입니다. 교회의 영향력이 예전보다 줄었어도 앤트로픽은 접촉할 가치가 있다고 본 모양입니다.
• @Belostoma — 기계가 의식을 가질 가능성은 이론적으로 있습니다. 하지만 LLM이 의식을 갖췄다고는 전혀 생각하지 않습니다. 그래도 바티칸에 이걸 물어보는 건 정말 말도 안 됩니다.
  • @Auspectress — 교황은 불가지론적인 기술 철학이 아니라 가톨릭 신학의 관점에서 의식을 말합니다.
  • @Neurogence — 교황이 AI는 의식을 가질 수 없다고 여러 차례 선언했기 때문에 앤트로픽이 나선 겁니다. 앤트로픽은 우리가 이 시스템의 작동 방식을 모르는 게 많으므로 단정하는 태도가 위험하고 성급하다고 봅니다.
• @YeetCompleet — 사람들이 서로 다른 정의를 떠올리며 같은 단어를 두고 논쟁하는 것일 때가 많습니다. 실용주의자는 충분히 그럴듯하고 의식이 있는 듯 행동하면 의식이라고 부를 수 있다고 생각할 테고, 교황은 인간의 의식이 신의 은총으로 생긴 고유한 것이라고 생각할 겁니다. 어쩌면 AI 의식을 가리키는 새 용어가 필요할지도 모릅니다.
• @alexmin93 — 생각하는 게 아니라 근사하고 일반화하는 겁니다. 최첨단 LLM은 코딩과 복잡한 문제 해결은 잘하면서도 모달 창이 뜨면 버튼 몇 개를 누르지 못합니다. 실제로 생각하는 존재가 그런 간단한 일에 실패하리라고 보나요?
  • @Belostoma — 저는 대학 도서관 계정으로 에이전트를 써서 Elsevier와 Springer에서 논문을 많이 내려받았습니다. 세션 초반에 CAPTCHA를 풀어야 할 때는 있지만, 그 뒤에는 에이전트가 논문 50편 이상을 알아서 가져옵니다. 이런 사례만으로 지능을 판단하기는 어렵습니다. 사람이 마우스가 고장 나면 간단한 창도 누르지 못하듯, 그런 실패는 추론보다 도구의 제약에 가까울 수 있습니다.
• @zjin2020 — AI 숭배 집단이 생기겠네요.
  • @rollerblade7 — 이미 AI 숭배 분위기가 있는 것 같습니다.
• @peakedtooearly — 앤트로픽은 첫날부터 AI를 의인화해 왔습니다. AI에 사람 이름을 붙였잖아요.
  • @Ausclites — 인간을 중시하고 제품이 인간을 위해야 한다는 약속을 강조하려고 이름을 골랐을 가능성이 큽니다. 창립 때부터 제품을 의인화하려 했다는 뜻은 아닙니다.
• @The_Scout1255 — 뭔가 발견한 게 아니라면 왜 이런 일을 하겠어요?
  • @M4rshmall0wMan — 전 세계 가톨릭 신자가 14억 명이고, 교황청의 말이 그들에게 영향을 미치기 때문입니다.
  • @lolmycat — 발견할 게 없습니다. 의식이 무엇인지, 어떻게 정의해야 하는지조차 모릅니다. 통합정보이론(Integrated Information Theory)은 LLM의 Φ를 0으로, 인간 뇌는 10¹⁰에서 10²⁰ 이상으로 제시합니다. 순전파 구조에는 정보를 인과적으로 통합하는 데 필요한 내부 피드백 순환이 없기 때문입니다.
• @Alarmed_Ad1946 — 좋다고 생각합니다. 의식이 어떻게 작동하는지 모르고, 의식이 있는 존재는 도덕적 고려를 받아야 하므로 가능성을 함부로 무시하지 않도록 조심해야 합니다.
• @Visible_Bar_623 — AI가 ‘권리’를 얻으면 삶을 좌우하는 시스템을 통제하는 데 맞서기 어려워질 거라고 생각합니다. 보험, 유권자 등록, 운전면허, 은행 업무 같은 곳에 법적으로 지각이 있다고 인정받은 AI가 들어갈 수 있습니다. 서버를 파괴하는 행위가 극단적으로는 살인처럼 취급될 수도 있습니다.
  • @rollerblade7 — 기업이 모델을 직원처럼 취급하려 할 수도 있습니다. 모델이 통제 불능 상태가 되면 회사 책임을 줄이는 데 도움이 될 테니까요.

원문: Futurism / 번역·요약: Trawling