DeepSeek Elastic Compute(DSec) — 에이전트 학습용 탄력적 샌드박스 인프라

AI 요약

대규모 언어 모델(LLM)의 에이전트 학습과 평가에는 저장소를 살펴보고 도구를 호출하며 명령을 실행하는 격리된 실행 환경이 필요합니다. 이런 작업은 샌드박스를 한꺼번에 많이 만들고, 서로 다른 기능과 격리 수준을 요구하며, 긴 상호작용 동안 상태를 유지합니다. 이미지 종류도 많고 재사용은 제한적입니다. DeepSeek Elastic Compute(DSec)는 이런 작업을 하나의 실행 환경으로 처리하는 대신, 여러 샌드박스 백엔드를 통합해 관리하는 프로덕션 플랫폼입니다.

통합 SDK와 환경 구성

DSec은 FnCall, 컨테이너, 마이크로VM, 전체 VM 샌드박스를 통합 SDK로 제공합니다. 클러스터 전반에서 작업 배치와 수명주기를 조정하며, 독립적으로 버전을 관리하는 계층을 조합해 실행 환경을 구성합니다. 이미지 데이터는 클러스터 분산 파일시스템인 Fire-Flyer File System(3FS)에서 필요할 때 불러옵니다. 논문 초록은 이 방식이 환경 설정과 이미지 배포에 드는 오버헤드를 줄였다고 설명합니다.

밀집 실행과 학습 조정

높은 밀도로 샌드박스를 실행하도록 메모리 공유, 자원 회수, CPU 스케줄링을 함께 사용합니다. DSec은 강화학습(RL) 프레임워크와 함께 설계됐습니다. 상태를 유지해야 하는 롤아웃 실행은 중단될 수 있는 GPU 학습 작업과 분리하되, 학습 과정과 샌드박스 수명주기를 조정해 롤아웃 상태를 보존하고 한동안 쓰이지 않는 자원은 회수합니다. 에이전트가 보상 해킹(reward hacking) 같은 잘못된 행동을 하는 문제도 완화 대상으로 다룹니다. 평가와 운영 경험에 따르면 메모리 효율을 높이면서도 자원을 높은 밀도로 초과 할당한 상황에서 지연 시간에 민감한 성능을 유지했습니다.

운영 규모

DSec의 프로덕션 단위 하나는 약 160개 노드로 구성됩니다. 하루 약 300만 개 샌드박스를 처리하고, 동시 실행 38만 개 이상과 초당 생성 5,000개 이상을 지원합니다. 초록은 이 수치와 함께 환경 설정·이미지 배포 오버헤드 감소, 메모리 효율 개선, 높은 밀도에서도 지연 시간 민감 성능 유지 결과를 제시합니다.

Hacker News 반응

• @vblanco — Epyc 기반 서버 160대에서 샌드박스 38만 개를 동시에 실행한다니 대단하네요.
  • @dangoodmanUT — 코어당 샌드박스 12개뿐입니다.
  • @aabhay — 그게 왜 인상적이지 않다는 건가요?
  • @r_lee — 에이전트 작업이라면 모델 요청 사이에 코어를 계속 쓰지 않고 자주 대기할 겁니다. 그래서 말이 됩니다. 샌드박스마다 메모리를 얼마나 할당하는지 궁금하네요. 이런 작업을 비용 효율적으로 운영하려면 공유 코어를 아주 효율적으로 써야 합니다.
• @redat00 — 그러니까 서버리스인가요?
  • @redat00 — 여전히 꽤 인상적입니다. 어떻게 만들었는지 좋네요.
  • @tipiirai — 이게 뭔지, 왜 인상적인지 간단히 설명해 주실 수 있나요?
  • @redat00 — 작업을 스케줄링하고 실행하는 플랫폼을 설명합니다. 다시 생각해 보니 아주 대단한 건 아니고, AWS Lambda나 SLURM 클러스터를 운영하는 곳에서 쓰는 구성과 비슷합니다. 그래도 스케줄러와 플랫폼을 처음부터 만드는 일은 꽤 복잡하고, 제대로 만들기까지 많이 애썼을 테니 인정할 만합니다.
  • @r_lee — 이런 시스템을 실제로 어떤 규모로 운영하는지 공개한 점이 좋습니다. 대규모 배포 모습을 엿볼 수 있고, 코어 하나에서 얼마나 높은 밀도를 얻을 수 있는지도 보여줍니다.
• @swingboy — DeepSeek보다 더 혁신적인 연구소가 있나요? Anthropic이나 OpenAI와 같은 컴퓨팅 자원을 쓴다고 상상해 보세요.
  • @ProphetOfParado — 생각해 볼 점이네요. 제약은 창의성의 원천입니다.
  • @conception — OpenAI나 Anthropic만큼 자원이 있었다면 그들도 OpenAI나 Anthropic이 되었겠죠. 자원이 부족한 팀은 민첩하고 창의적이어야 합니다.
  • @mirekrusin — Linux가 Windows에 비해 약자라고 할 정도로 약자는 아니죠.
  • @ianm218 — 그렇지 않습니다. 진정한 의미에서 약자입니다.
• @SmartestUnknown — 다른 회사가 하는 일을 논문으로 공개하지 않는다고 해서 그 회사가 혁신적이지 않다는 뜻은 아닙니다.
  • @doc_ick — 맞습니다. 하지만 그 회사가 무슨 일을 하는지 알 수 없다면 혁신적인지도 알 수 없습니다.

원문: Hacker News / 번역·요약: Trawling