Reddit

Papers with Code is now open-source [P]

Papers with Code가 오픈소스로 공개됐습니다

Hugging Face가 Papers with Code를 재현한 오픈소스 서비스를 Apache 2.0 라이선스로 공개했습니다. 논문과 코드, 모델, 데이터셋, 벤치마크를 모으고 검색·API·자동 수집 기능을 제공하지만, 데이터 구축 범위와 벤치마크 품질을 가리는 기준은 별도로 확인해야 합니다.

에디터 노트

논문과 코드, 평가 결과를 연결하는 공개 카탈로그는 기존 Papers with Code의 쓰임을 이어가며 API 호환성까지 제공합니다. 다만 자동으로 연결된 SOTA 결과가 곧 연구의 가치 순위를 뜻하지는 않습니다. Reddit 댓글도 태스크별 벤치마크의 적합성과 점수 최적화 문제를 지적합니다. 저장소 설명에는 과거 논문을 얼마나 채웠는지, 벤치마크 품질을 어떤 기준으로 판단하는지 나오지 않습니다. 댓글에서 제기한 누락 문제도 작성자의 관찰이지 전체 색인 상태를 검증한 결과는 아닙니다. 자동 수집과 커뮤니티 기여가 카탈로그를 넓히는 구조인 만큼, 실제 활용도는 자료의 범위와 평가 연결의 정확성에 달려 있습니다.

본문

Papers with Code 프로젝트가 원래 Papers with Code 웹사이트를 재현한 오픈소스 코드로 공개됐습니다. Meta가 2025년에 종료한 사이트를 되살리는 프로젝트로, 논문과 코드, 모델, 데이터셋, 태스크, 메서드, 벤치마크 순위표를 한곳에서 다룹니다. 라이선스는 Apache 2.0이며 서비스는 paperswithcode.co에서 운영합니다.

카탈로그와 검색

논문 카탈로그는 arXiv 논문과 외부 논문에 공식 코드, 프로젝트 페이지, Hugging Face 모델·데이터셋·Spaces를 연결합니다. 썸네일과 TL;DR, 논문 계보 정보, Markdown 리더도 제공합니다. 태스크, 메서드, 데이터셋, 프레임워크, 학회, 조직, 저자별 분류를 탐색할 수 있고, 인기 항목을 보는 화면도 있습니다. 검색은 PostgreSQL의 pg_trgm 기반 어휘 검색과 pgvector 기반 의미 검색을 결합합니다.

벤치마크와 자동 수집

벤치마크에는 논문 자체에 기록된 평가 결과를 싣고, 외부 리더보드도 정기적으로 동기화합니다. Hugging Face, arXiv, GitHub, 공개 리더보드에서 자료를 가져오는 자동화 작업은 매일 논문을 수집하고 태스크와 메서드를 연결하며, 별 수와 인용 수를 갱신하고 평가 항목을 제안합니다. 연구 카탈로그를 바탕으로 답하는 선택 기능인 Research chat도 포함하며 Papers with Code MCP 도구를 사용합니다.

기술 구성과 API

프런트엔드는 React 18, TypeScript, Vite, TanStack Query, shadcn/ui, Tailwind CSS로 구성합니다. 백엔드는 Python 3.12, FastAPI, SQLAlchemy 2, Pydantic을 사용하며 데이터베이스는 PostgreSQL 16입니다. 공개 REST API는 /api/v1/에서 제공하고 기존 Papers with Code API 클라이언트와 호환됩니다. OpenAPI 문서도 제공합니다.

개발과 운영

저장소는 백엔드, 프런트엔드, 배포 설정, GitHub Actions 작업, Hugging Face Jobs 기반 논문 정리 작업, 문서로 나뉩니다. 로컬 개발자는 Python 의존성을 uv로 설치하고 프런트엔드 패키지는 npm으로 설치합니다. PostgreSQL에 vector와 pg_trgm 확장을 활성화해야 하며, 환경 설정은 PWC_ 접두사를 붙여 지정합니다. 초기 데이터베이스는 비어 있어 CLI로 논문을 색인해야 합니다. CLI는 논문 색인·조회, 검색, 외부 논문 등록, 벤치마크 추가, 썸네일 생성, 예약 작업 상태 확인을 지원합니다. 배포는 nginx 앞에 불변 릴리스를 두며 논문 Markdown, 썸네일, 임베딩 내보내기, 데이터베이스 백업은 Hugging Face 비공개 버킷에 저장합니다.

Reddit 반응

  • @NielsRogge — Papers with Code가 Apache 2.0 라이선스로 오픈소스가 됐습니다. 목표는 커뮤니티와 함께 최고의 논문 인터페이스를 만드는 것입니다. 지난 몇 달 동안 친구인 Claude와 Codex의 도움을 받아 인기 AI 연구, 벤치마크, 최신 성능(SOTA)을 추적하는 웹사이트를 만들었습니다. Meta가 인수한 뒤 폐쇄한 원래 Papers with Code 사이트를 되살리는 작업입니다. 웹사이트 구조는 단순합니다. Python FastAPI 백엔드와 React 프런트엔드로 되어 있습니다. 앱은 Hetzner 가상 사설 서버(VPS)에서 호스팅하며 코드도 그곳에서 단일 모노레포로 관리합니다. 프런트엔드는 주로 여러 API 엔드포인트를 호출해 논문을 보여줍니다. API와 MCP 서버도 공개했습니다. 최근 괜찮은 기능 요청을 받고 있는데 혼자 작업하기보다 코드베이스를 공개해 누구나 기여하게 하는 편이 낫겠다고 생각했습니다.
  • @skadoodlee — 다시 살리려는 노력이 반갑습니다. 완벽하지는 않았어도 그 사이트가 그리웠습니다. 논문 점수순으로 찾는 데 그치지 말고 태스크별로 가치가 높은 벤치마크와 데이터셋을 찾는 데 초점을 맞추면 좋겠습니다. 가장 유명한 벤치마크가 해당 태스크에 가장 적합하거나 정렬이 잘 된 벤치마크라는 보장은 없습니다. 따라서 특정 벤치마크에서 SOTA를 달성한 논문이 가장 가치 있는 연구 결과는 아닐 때가 많습니다. 색인 과정에서 벤치마크 점수만 높이는 접근을 방법론 차원에서 비판적으로 살펴보는 기능도 흥미로울 것 같습니다. 데이터가 과거 연구까지 채워져 있나요, 아니면 매일 arXiv에서 새 논문을 가져오는 방식인가요? 빠진 연구가 꽤 있습니다.

원문: GitHub / 번역·요약: Trawling

원문 보기 ↗토론 보기 ↗