같은 AI 요청도 텍사스에서 스웨덴보다 CO₂를 8.5배 더 배출합니다

Berget AI가 AI 추론 요청별 탄소 배출량을 계산하는 오픈소스 방법과 계산기를 공개했습니다. 같은 Kimi K3 요청도 전력망과 서버 위치에 따라 스웨덴 0.38g, 텍사스 3.2g으로 차이가 납니다. 다만 평균 전력 배출계수를 쓰며, 칩 제조와 학습 배출량 등은 포함하지 않습니다.

주제: AI 환경 오픈소스

에디터 노트

요청별 수치를 공개했다는 점은 평균 배출량을 모든 사용에 일괄 적용하는 방식보다 실제 선택에 쓸 정보가 많습니다. 다만 이 계산은 제공자가 측정한 인프라 자료와 지역별 평균 전력 배출계수에 기대며, 한계 배출계수와 칩 제조 범위는 아직 빠져 있습니다. 특히 스웨덴과 텍사스의 차이는 같은 4Wh 사용량에 서로 다른 전력망 계수를 적용한 결과이지, 모델 자체의 효율 차이는 아닙니다. 댓글에서 제기한 백엔드 하드웨어와 지연 시간 검증 문제는 제공자 간 비교에서 중요한 제약입니다. 이 방법은 공개된 산정 절차를 제공하지만, 외부 구매자가 입력값의 정확성까지 확인할 수 있는 검증 체계는 본문에 제시하지 않습니다. 따라서 8.5배라는 결과는 명시된 요청과 평균 배출계수 조건에서 나온 값으로 읽어야 하며, 추가될 한계 배출량 계산과 측정값 검증이 비교의 폭을 결정합니다.

AI 요약

Berget AI는 Stockholm Environment Institute(SEI), WattTime, Klimatkollen과 함께 AI 추론 요청마다 탄소 배출량을 산정하는 방법을 공개했습니다. 코드는 MIT 라이선스로 공개했고, 계산기와 npm 패키지도 제공합니다. 자사 고객은 콘솔에서 요청별 배출량을 확인할 수 있으며, 다른 제공자도 방법을 적용해 실제 수치로 비교하도록 하는 것이 공개 목적입니다.

요청별 산정 방식

계산기는 모델, 서버 지역, 요청의 입력·출력 토큰, 프롬프트 캐시 여부 등을 반영합니다. Kimi K3의 일반적인 요청은 입력 5,000토큰과 출력 387토큰으로 가정했습니다. B300 노드를 공유하는 실제 배포 환경에서 하루 동안 흔히 발생하는 요청을 기준으로 가중치를 적용했습니다. 이 조건에서 에너지는 스웨덴과 텍사스 모두 약 4Wh지만, 전력망 배출계수 차이로 스웨덴은 0.38g CO₂e, 텍사스는 3.2g을 기록했습니다. 스웨덴 수치의 89%는 하드웨어 제조에서, 텍사스 수치의 90%는 전력 사용에서 나옵니다. 텍사스에서는 냉각수도 약 6mL 사용한다고 계산합니다.

포함 범위와 한계

방법은 서버 인프라의 에너지와 물, 하드웨어 영향을 조사해 배출량으로 환산하고, Green Software Foundation의 SCI for AI 규격을 따릅니다. 데이터센터 GPU 한 대의 제조 배출량은 약 1,000kg으로 추정하며, 재생 장비는 제조 배출량을 0으로 계산합니다. 유휴 상태의 B300도 236W를 소비하며, 이 값은 운영 환경에서 7일간 측정했습니다. 북유럽의 외기 냉각은 PUE 약 1.15로 물을 쓰지 않는 반면, 더운 지역은 PUE가 1.8에 이르고 전력 1kWh당 물을 최대 2L 쓸 수 있다고 제시합니다.

현재 수치는 서버가 위치한 지역의 평균 전력망 배출계수를 사용합니다. 스웨덴은 약 8g, 아일랜드는 224g, 독일은 337g, 텍사스는 333g CO₂e/kWh입니다. 추가 전력 수요가 발전소 운영과 신규 발전 설비에 미치는 영향을 따지는 한계 배출계수 방식은 아직 반영하지 않았으며, 다음 달 계산기에 추가할 예정이라고 밝혔습니다. 방법은 칩 제조에 쓰이는 에너지와 물도 아직 포함하지 않습니다. AI 모델 학습은 제외했으며, 제공자 자체 추정치가 50%가량 차이 난다는 이유를 들었습니다. 처음 배포한 보도자료는 아일랜드·독일·텍사스 배출량을 각각 1.2g, 2.1g, 3.9g으로 잘못 적었으나 전력망 배출계수를 검토한 뒤 1.6g, 2.5g, 3.2g으로 수정했습니다.

Hacker News 반응

@jlundberg — 새로 공개된 계산 모델을 기반으로 한 내용이며 오픈소스입니다.
@armcat — 설명이 좋습니다. 저는 과거 CodeCarbon 작업을 했는데, 꽤 표준적인 ML·AI 작업 배출 측정 도구입니다. 이번 결과를 그 프로젝트에도 기여하면 좋겠습니다.
@mkgiga — 제공자 백엔드에서 일어나는 일을 외부에서 모두 확인하기는 어렵습니다. 무작위 AI 제공자의 사이트가 실제로 어떤 하드웨어와 추론 백엔드를 쓰는지 어떻게 알 수 있나요? 저장소를 보니 그 값은 제공자가 직접 입력해야 합니다. 또 사용자가 오래 기다린 시간 중 얼마나 서버가 요청을 제한하느라 생긴 지연인지 알 수 없는데, measuredResponseTimeSeconds를 지표로 쓰는 점도 의문입니다.
@reedf1 — 국제 무역과 에너지 가격 차익을 무시하면 기분은 좋아질지 몰라도, 스웨덴에서 쓴 1W도 텍사스에서 쓴 1W와 같은 만큼 에너지의 한계 비용을 올립니다. 전체 에너지 사용량을 보는 일을 그만큼 순진하게 다뤄서는 안 됩니다.
- @seanmcdirmid — 스웨덴은 텍사스 전력망과 연결되어 있지 않고, 미국 안의 다른 전력망과도 연결되어 있지 않습니다. 제련소가 값싼 수력 발전 가까이에 자리 잡은 데는 이유가 있습니다. 값싼 전력 대신 깨끗한 전력을 기준으로 바꾸면 됩니다.
- @JumpCrisscross — 스웨덴의 깨끗한 전력 생산 능력이 고정되어 있다는 근거가 무엇인가요? 전력을 전 세계에서 거래되는 상품처럼 다루고 있습니다. 전력은 그렇지 않습니다.
@bob1029 — 추론 노력 설정은 모델의 에너지 소비량을 좌우하는 중요한 변수가 되고 있습니다. 중간과 최대 설정의 토큰 소비량이 100배 차이 날 수도 있습니다. 도구 호출이 연산량을 늘리는 효과도 고려해야 합니다. 토큰은 비용이 대체로 일정하지만, 해석 과정에 따라 CPU를 5분 쓰는 작업과 캐시된 데이터베이스를 50마이크로초 조회하는 작업의 차이가 생깁니다. 언젠가는 CPU가 다시 병목이 될 겁니다.
@thesdev — 1,7000회 요청이라는 수치가 어떻게 나온 건지 알고 싶습니다. 요즘 요청 하나는 무엇으로 셉니까? 에이전트에게 버튼 색을 바꾸라고 하면 몇 건이고, 웹사이트 전체를 만들거나 코드베이스를 Rust로 다시 쓰라고 하면 몇 건인가요?
- @reticulates — 아마 글의 수치를 쓴 것 같습니다. 스웨덴 요청당 0.4g에 17,000을 곱하면 6,800g으로, 버거의 흔한 추정치와 비슷합니다.

원문 보기 ↗토론 보기 ↗