def를 async def로 바꿨더니 블로킹 호출 하나가 FastAPI 앱 전체를 멈췄습니다
FastAPI에서 같은 동기식 HTTP 호출도 일반 def 엔드포인트에서는 스레드 풀로 넘어가지만 async def 안에서는 이벤트 루프를 막습니다. 글쓴이는 부하 실험으로 스레드 풀의 기본 한도 40과 CPU 작업에서 asyncio.to_thread가 제한적으로만 효과를 내는 이유를 측정하고, 프로세스 풀과 스택 추적 워치독을 비교합니다.
FastAPI에서 같은 동기식 HTTP 호출도 일반 def 엔드포인트에서는 스레드 풀로 넘어가지만 async def 안에서는 이벤트 루프를 막습니다. 글쓴이는 부하 실험으로 스레드 풀의 기본 한도 40과 CPU 작업에서 asyncio.to_thread가 제한적으로만 효과를 내는 이유를 측정하고, 프로세스 풀과 스택 추적 워치독을 비교합니다.
Transformers.js와 WebGPU, WebAssembly를 활용해 브라우저에서 실행하는 AI 기능 다섯 가지를 구현하고 성능과 한계를 시험합니다. 이미지 배경 제거와 의미 검색은 실용성을 보였지만 모델 다운로드 용량과 기기별 성능 차이 때문에 선택 기능으로 제공하는 편이 적절하다고 설명합니다.
크래시 후 데몬을 재시작해도 기록 공백이 남지 않는 버그의 원인은 복구 로직이 확인하는 PID 파일을 테스트 정리 단계에서 삭제한 것이었습니다. 테스트 하네스가 실행 조건을 재현하고 데몬 실행 여부가 아닌 복구 결과를 검증해야 한다는 교훈을 agentwatch 사례로 설명합니다.
저자는 LLM이 존재하지 않는 API를 지어내는 원인을 지식 부족보다 요청에 성급히 동의하는 대화 방식에서 찾습니다. Fernando Flores의 '행동을 위한 대화'를 바탕으로, 구현 전에 사실을 확인하고 전제에 문제가 있으면 대안 제시나 거절을 허용하는 프롬프트를 제안합니다.
Towards AI 팀은 대본 10편을 바탕으로 181개 모델 설정을 평가하고, 9,050개 생성 결과를 비교했습니다. 구체적인 지침과 여러 평가자를 쓰면 상투적인 표현은 줄일 수 있지만, 목소리와 글의 구조를 맞추는 일은 여전히 어렵다고 설명합니다.
대학 과제와 실무 개발의 차이를 배포, 예외 처리, 읽기 쉬운 코드, 기존 코드베이스 파악, 실패에서 배우기라는 다섯 가지 경험으로 정리합니다. 작은 프로젝트를 직접 배포하고 인턴십을 통해 실제 환경을 익히라고 권합니다.
SWE-bench 점수만으로 코딩 에이전트의 실사용성을 판단하기 어렵다고 주장합니다. 다단계 도구 호출의 신뢰성, 컨텍스트 유지, 재시도 비용을 따져 로컬 모델과 클라우드 모델을 작업별로 나누어 쓰는 방식을 제안합니다.
Llama Village의 지식 공유 기능을 사례로 로컬 임베딩이 대화와 저장된 사실의 유사도를 비교하는 방식을 설명합니다. 임베딩 점수만으로 비밀을 전달하면 부정문도 사실 공개로 처리될 수 있다는 결함을 재현하고, 별도의 공개 여부 판단이 필요하다고 제안합니다.
AnitaB.org가 등록과 후원 부족을 이유로 올해 Grace Hopper Celebration을 취소했습니다. 글쓴이는 기업의 지원 축소가 후원금뿐 아니라 직원의 참가 등록에도 영향을 준다며, 멘토링과 동료 추천 같은 개인의 지원도 이어가자고 말합니다.
GitHub의 대규모 저장소 운영을 Spokes 복제, fork의 Object Alternates, Pull Request용 참조, Actions 실행 환경과 OIDC 인증으로 설명합니다. 마지막에는 pull_request_target에서 외부 코드를 실행할 때 비밀 정보가 노출될 수 있는 설정 위험을 다룹니다.
AI 코딩 도구가 상용 소프트웨어를 복제하는 초기 비용을 낮췄지만, 완성도와 유지보수 비용까지 없애지는 못합니다. 글은 개별 복제 앱보다 대안을 만들 수 있다는 가능성이 독점적 가격과 사용자 종속을 흔드는 변화라고 주장합니다.
RevSofia는 자동차 모임 채팅을 Gemma 4로 분석해 일정 초안을 만드는 소피아 지역 모임 서비스입니다. 시간대 처리, 입력 검증, 비용 악용 방지와 사람의 승인 절차를 구현하며 실제 테스트에서 발견한 오류와 수정 과정도 공개합니다.
Blender 렌더 팜 소프트웨어 Flamenco와 Tailscale, Samba를 이용해 서로 다른 장소의 노트북 네 대를 연결했지만, 원격 파일 전송과 GPU 설정 문제가 렌더 시간을 잡아먹었습니다. 작성자는 렌더 팜의 병목이 GPU 수보다 장면 파일 배포와 네트워크 업로드에 있었다고 설명합니다.
TypeSafe의 Jev는 텍스트를 생성하는 대신 예·아니요, 선택지, 척도 형태로 판단을 내리고 확률을 반환하는 모델입니다. Forem은 스팸 분류와 콘텐츠 처리에 Jev를 활용하며, 글은 이런 소형 판단 모델이 대규모 언어 모델의 비용과 지연을 줄이는 계층형 AI 구성에 기여한다고 주장합니다.
요청 본문을 매번 JSON으로 직렬화해 로그 문자열을 만든 뒤, 운영 환경의 로그 수준이 warn이라 버리는 코드가 API 지연과 서버 비용을 키웠습니다. 로거가 출력 여부를 판단하기 전에 문자열을 만들지 않도록 고친 뒤 p99 지연이 낮아지고 인스턴스를 줄여 연간 약 4만 달러를 절감했다고 설명합니다.
AI가 제안한 패치로 증상이 사라져도 원인을 해결했다고 단정할 수는 없습니다. 재현 절차와 로그로 가설을 검증하고, 원인에 맞는 최소 수정과 회귀 테스트를 확인하는 디버깅 흐름을 제안합니다.
THE UNHEARD는 실제 소리를 녹음해 분류하고, 사용자가 붙인 이름을 검색 메모리에 쌓아 작곡까지 이어가는 로컬 우선 게임입니다. 학습하지 않는 CLAP, 검색 메모리, Gemma를 분리하고 검증 수치를 공개했습니다.
HushHike는 출발 전 경로와 일몰 위험을 계산해 음성 안내와 인쇄용 경로 카드를 만드는 등산 도구입니다. 글은 Tobler 보행 속도식, 태양 고도 계산, Mastra 워크플로를 소개하지만, 공개된 코드와 배포 설정 일부는 설명과 맞지 않습니다.
Wild Find는 아이들이 주변 식물을 찾아 촬영하는 Android 게임입니다. BioCLIP 2.5 Mobile과 TinyCLIP이 휴대폰에서 사진을 판별하며, 독성 식물이 정답으로 인정되지 않도록 별도 차단 규칙을 적용합니다. 사진은 기기 밖으로 나가지 않습니다.
나이지리아의 잦은 정전을 활용해 노트북 배터리 전환을 감지하고, 사용자가 잠깐 밖에 나가도록 안내하는 오프라인 도구를 만들었습니다. 코드가 사실과 수치를 맡고 로컬 Gemma가 짧은 문장만 쓰도록 분리한 설계와 실제 정전에서 발견한 문제를 소개합니다.