AMD Instinct MI300X 한 장에 Gemma 4 E2B를 vLLM과 ROCm으로 배포하고, MCP 기반 운영 도구로 상태 확인과 벤치마크를 자동화한 과정을 설명합니다. 1,024 컨텍스트 단일 스트림에서 305 tok/s, 64개 스트림에서 10,284 tok/s를 기록했으며, 온디맨드 비용 기준으로 TPU v5e보다 높은 처리량 대비 비용을 측정했습니다.
2015년 이후 방치된 Rust용 crc32 Crate를 현대적인 구현으로 재작성한 사례를 소개합니다. slicing-by-16, no_std, 빌드 타임 코드 생성, Python·Node.js 바인딩을 추가했으며, 순수 Safe Rust 경로에서 최대 약 1,282 MiB/s를 달성하면서 이식성과 안전성을 강조합니다.
AMD Instinct MI300X 한 장을 실제 클라우드 환경에서 MCP 도구로 관리하고, 하드웨어와 ROCm 스택이 지원하는 수치 형식을 직접 측정합니다. 결과적으로 이 카드에서는 FP8 E4M3FNUZ가 실용적인 네이티브 경로이며, INT8·MXFP4·NVIDIA용 FP8·GGUF는 사양표나 기능 목록만으로 판단하면 안 된다는 점을 보여줍니다.
컨테이너는 별도의 커널 객체나 가상 머신이 아니라, Linux 프로세스에 namespace와 cgroup을 적용한 구조입니다. 글에서는 Docker 없이 약 30줄의 코드로 PID·mount·network·hostname 격리와 20MB 메모리 제한을 직접 구현하며, 컨테이너와 VM의 차이를 설명합니다.
7년간 Rust를 사용한 개발자가 RFC 9535 기반 JSONPath 구현을 Zig로 다시 만들며 두 언어의 개발 경험을 비교합니다. Zig의 단순한 빌드 도구와 낮은 추상화는 긍정적으로 평가하지만, 수동 메모리 관리와 미성숙한 생태계에서는 Rust와 뚜렷한 차이를 확인합니다.
Git 저장소를 object storage에 직접 올리려면 로컬 파일시스템을 전제로 설계된 기존 packfile이 병목이 됩니다. Tigris의 objgit은 Range request에 맞춘 자체 packfile과 인덱스를 도입해 push 요청을 최대 약 300배, clone 요청을 최대 약 20배 줄였지만 아직 인증·권한·압축(compaction)이 구현되지 않은 실험 단계입니다.
추상화와 아키텍처를 지나치게 높은 수준에서 논하는 ‘Architecture Astronauts’가 실제 사용자의 문제와 소프트웨어의 목적을 놓치는 현상을 비판합니다. Napster, SOAP, XML, .NET, Jini 등의 사례를 통해 기술 유행보다 사용자가 새롭게 할 수 있는 일이 중요한 이유를 설명합니다.
frozndict는 Rust로 구현하고 Python·Node.js 바인딩을 제공하는 불변·해시 가능 딕셔너리입니다. 삽입 순서를 유지하면서 해시를 캐시하고 copy()를 O(1)로 처리하며, 작성자가 제시한 벤치마크에서는 반복·복제·동등성 검사에서 기존 구현과 비교 가능한 성능을 보입니다.
동일한 노트북에서 Gemma 4 소형 양자화 모델을 CPU와 4GB GTX 1650 Ti로 번갈아 서빙한 결과, GPU 디코드 속도가 평균 4.27배 빨랐습니다. 모델의 대형 임베딩 테이블이 호스트 메모리에 남는 구조 덕분에 4GB GPU만으로도 충분히 적재할 수 있었습니다.
Higgsfield는 대규모 언어 모델(LLM) 학습을 위해 GPU 노드 할당, 실험 큐 관리, 분산 샤딩, 학습 모니터링, GitHub Actions 연동을 제공하는 오픈소스 프레임워크입니다. PyTorch FSDP와 DeepSpeed ZeRO-3를 지원하며, 여러 노드에서 대규모 모델을 학습하고 체크포인트를 관리하는 흐름을 단순화합니다.
이번 주에는 Python 기반 libp2p의 WebRTC-Direct 상호운용성 문제와 소켓 누수를 수정하고, Go 기반 agent-orchestrator의 파일 경로·GitHub SCM 폴링 문제를 다뤘습니다. ICE 자격 증명 경쟁 조건, 연결 종료 누수, 잘못된 PR 재조회, .git/info/exclude 누적 문제를 포함해 8개 커밋과 11개 PR을 진행했습니다.
코딩 에이전트의 지침을 하나의 거대한 파일에 항상 넣는 대신, 작업에 필요한 규칙을 무엇을·어디에·언제라는 기준으로 나눠 필요한 순간에만 불러오는 점진적 공개를 설명합니다. 28,721개 저장소 분석과 AGENTS.md, CLAUDE.md, skills, 경로 설정 사례를 바탕으로 컨텍스트 경쟁을 줄이는 방법과 새롭게 생기는 지침 관리 문제를 다룹니다.
AI 도구로 빠르게 만든 애플리케이션을 곧바로 production-grade나 battle-tested라고 부르는 것은 신뢰성의 서로 다른 축을 혼동하는 일입니다. Resilient는 예상한 오류를 견디도록 설계됐다는 뜻이고, battle-tested는 실제 운영 장애와 예측하지 못한 조건을 겪고 수정한 이력까지 포함해야 합니다.
Foundation model은 스스로 코드를 실행하지 않고, 호출할 도구와 입력을 구조화된 요청으로 출력합니다. 애플리케이션이 실제 함수를 실행해 결과를 돌려주면 모델이 답변을 완성하며, 글에서는 Amazon Bedrock의 Converse API로 날씨·날짜 도구, 프롬프트 주입, MCP까지 단계적으로 설명합니다.
대부분의 AI 에이전트는 LLM 호출을 끼운 결정적 파이프라인에 가깝다고 지적한 뒤, 진짜 자율성이 필요한 좁은 조건을 정리합니다. 런타임에 새 경로가 발견되고, 분기 공간을 미리 열거할 수 없으며, 자율 영역을 최소화하고, 모든 결정을 저렴하게 검증·기록할 수 있어야 합니다.
불변(immutable)과 가변(mutable) 자료구조가 서로의 서브타입이 될 수 없는 이유를 Liskov 치환 원칙과 암묵적 계약의 관점에서 설명합니다. 단순히 제공 메서드의 개수만 비교하면 놓치기 쉬운 해시 안정성, 타입 클래스(type class), duck typing의 차이까지 다룹니다.