Backprop 대안: Augmented Lagrangian Predictive Coding — 역전파 없이 1000층 네트워크 학습

본문

Sakana AI 연구팀이 Backpropagation의 국소적 대안인 PC-ALM(Augmented Lagrangian Predictive Coding)을 발표했습니다. 이 방법은 순전파·역전파 단계 없이 각 레이어가 이웃 레이어와만 통신하는 동역학 시스템으로 네트워크를 학습하며, 최대 1000층의 residual MLP에서 backprop에 근접한 성능을 보였습니다. 레이어 국소 방식으로 이 정도 깊이까지 학습에 성공한 것은 처음이라고 저자들은 밝힙니다.

왜 Backprop 대안이 필요한가

표준 딥러닝의 backpropagation은 순전파 → 역전파 → 가중치 갱신이라는 세 단계가 엄격한 순서로 실행되어야 합니다. 초기 레이어의 뉴런은 오차 신호가 도착할 때까지 활성값을 유지하며 기다려야 하는데, 뇌에는 네트워크 전체에 걸쳐 이런 타이밍 동기화(phase locking)를 강제할 알려진 메커니즘이 없습니다. 뇌가 명시적 역전파 없이 다층 credit assignment 문제를 어떻게 해결하는지는 신경과학의 근본적 미해결 문제 중 하나이며, 이 연구의 주된 동기입니다. 과학적 동기 외에도, 동역학 시뮬레이션이 GPU보다 저렴한 뉴로모픽(neuromorphic) 하드웨어에서의 에너지 효율적 딥러닝에 시사점을 줄 수 있다고 저자들은 덧붙입니다.

Predictive Coding과 신호 감쇠 문제

PC-ALM은 Predictive Coding(PC)의 확장입니다. PC는 각 레이어가 입력 신호를 모델링하고 예측 오차만 다음 층으로 보내는 프레임워크로, 네트워크를 제약 최적화 문제로 쓴 뒤 각 층 제약 위반에 대한 2차 페널티를 포함한 자유 에너지(free energy)를 정의합니다. 학습은 추론(inference) 단계와 학습 단계를 반복하는데, 둘 모두 인접 레이어 간 메시지 패싱만 필요한 레이어 국소 연산이며 가중치 갱신은 Hebbian 유사 규칙입니다. 그러나 감독 신호가 출력층에서 입력층까지 국소적 타협의 사슬을 통과해야 하므로, 깊고 좁은 네트워크에서는 credit 신호가 입력에 도달하기 전에 약해지는 신호 감쇠(signal decay) 문제가 문서화되어 있습니다.

PC-ALM의 작동 원리

PC-ALM은 PC의 자유 에너지 대신 증강 라그랑주 함수(augmented Lagrangian)를 사용해, 각 레이어에 활성값과 같은 차원의 Lagrange 승수(dual 변수, 저자들은 dual 뉴런이라 부름)를 도입합니다. 학습은 에너지에 대한 경사하강 대신 증강 라그랑주에 대한 primal descent·dual ascent로 진행되며, dual 변수가 매 스텝 레이어의 예측 오차를 누적해 다시 primal 갱신에 피드백됩니다. 제어이론 관점에서 각 레이어는 비례(P) 항과 적분(I) 항을 갖는 PI 피드백 컨트롤러가 되고, 전역 credit assignment가 국소 컨트롤러들의 네트워크에서 창발합니다. LeCun(1988)이 제약 네트워크의 Lagrange 승수가 평형 상태에서 backprop credit 신호를 인코딩한다고 보인 결과에 기반해, 저자들은 선형 네트워크에서 dual 변수가 정확한 backprop 신호로 수렴함을 유도했습니다.

실험 결과와 동역학적 특성

PC-ALM은 Innocenti et al.의 residual MLP 설정에서 MNIST를 5 epoch 학습해 1000층에서도 backprop에 근접한 성능을 달성했고, ResNet-18을 이용한 CIFAR-10·Tiny ImageNet 등 이미지 분류 벤치마크 전체에서 PC를 앞섰습니다. 동역학적으로는 추론 초기에 출력층 근처에서만 활성 변화가 나타나다가 credit 신호의 파면(wavefront)이 입력 방향으로 진행하는데, PC의 확산적(diffusive) 전파와 달리 PC-ALM은 더 빠른 탄도적(ballistic) 전파를 보입니다. 개별 뉴런은 추론 중 감쇠 진동도 나타냅니다. 다만 수렴 시 활성값이 순전파 값으로 돌아가므로 PC가 제공하는 prospective configuration의 이점(샘플 효율 개선)은 포기하게 되며, 저자들은 두 특성 사이에 근본적 트레이드오프가 있을 것으로 추측합니다.

Hacker News 반응

• @guld — Sakana.ai의 새 논문이라며 arXiv 링크를 공유했습니다.
• @cs702 — MNIST에서 약 85% 정확도라며, CIFAR-10이나 ImageNet에서는 어떤지 물었습니다. 흥미로운 연구지만 backprop 대안이라 하기는 uncertain하다고 평가했습니다.
• @bz_bz_bz — 이미지 분류 벤치마크에 CIFAR-10 등이 포함되어 있다고 원문 그림 링크로 반박했습니다.
• @cs702 — CIFAR-10에서 약 74%라며 여전히 backprop과는 거리가 있고, ImageNet 결과는 없다고 지적했습니다.
• @Lerc — 단독으로 최적이 아니어도 유용할 수 있다며, local minima 주변에서 다른 거동을 보인다면 탈출 경로가 될 수 있고 학습 초기에 전혀 다른 접근법을 쓰는 아이디어도 가능하다고 봤습니다.

원문: Sakana AI / 번역·요약: Trawling