IBM CEO says businesses are choosing open-weight models over expensive frontier AI
IBM CEO "기업은 비싼 프런티어 AI보다 오픈 웨이트 모델을 선택하고 있습니다"
IBM CEO 아빈드 크리슈나는 기업이 최고급 폐쇄형 모델 성능의 90%를 10분의 1 비용으로 얻을 수 있다면 오픈 웨이트 모델을 선택한다고 말합니다. 온프레미스 운영과 데이터 통제도 수요를 키우지만, 실제 비용과 성능은 업무별 검증에 달려 있습니다.
- 주제
에디터 노트
오픈 웨이트 모델의 비용 절감은 기업 업무마다 성능을 확인하고 실패를 판별할 기준을 마련할 때 실제 절감으로 이어집니다. 크리슈나의 90% 성능과 10~25% 토큰 비용은 기업 선택을 설명하는 수치지만, 기사에는 비교한 모델과 벤치마크, 인프라 비용 산정 방식이 나오지 않습니다. 따라서 모든 업무에서 같은 비용 대비 성능을 얻는다는 근거로 읽기는 어렵습니다. 댓글에서는 반복 업무를 저렴한 모델로 옮긴 경험과, 검증 체계가 없으면 사람의 확인 비용이 절감분을 상쇄한다는 지적이 함께 나옵니다. 모델과 가격, 동작이 서비스 제공자에 따라 바뀌지 않는다는 통제 이점도 언급됩니다. 크리슈나는 IBM의 AI 인프라 사업을 함께 설명하는 CEO이므로, 비용 수치와 주권형 AI 수요에 관한 주장은 독립적인 시장 측정치라기보다 기업의 선택을 설명하는 경영진의 견해로 구분할 필요가 있습니다.
AI 요약
IBM CEO 아빈드 크리슈나(Arvind Krishna)는 2026년 3분기 실적 발표 질의응답에서 기업의 AI 모델 선택 기준으로 비용과 데이터 통제를 들었습니다. 그의 설명에 따르면 오픈 웨이트(open-weight) 모델은 일부 업무에서 최고급 폐쇄형 모델 성능의 약 90%를 내면서 토큰 비용은 10~25% 수준입니다. 기업은 이를 자체 인프라나 프라이빗 클라우드에서 운영해 데이터와 로그를 직접 관리할 수 있습니다.
성능 격차와 비용
크리슈나는 2024년에는 광범위한 벤치마크에서 최고 모델이 70점을 받을 때 대안 모델은 20~30점에 그쳤지만, 2025년 말에는 격차가 70점 대 50점으로 줄었다고 설명했습니다. 이후에도 격차가 좁아져 최고 모델을 100점으로 볼 때 대안 모델은 90점 정도에 이를 것으로 예상한다고 말했습니다. 두세 개의 서버 랙으로 대기업이 오픈 웨이트 모델을 운영할 수 있으며, 현재 프런티어 모델의 10~25% 수준으로 토큰을 처리한다고 덧붙였습니다. 다만 일부 작업은 여전히 비싼 프런티어 모델의 이점을 누린다고 밝혔습니다.
주권형 AI와 운영
크리슈나는 기업이 민감한 데이터를 외부 AI 서비스에 보내지 않으려는 요구가 커졌다고 말했습니다. 공개형 대규모 언어 모델(LLM)을 사용할 때 데이터가 도용된다고 주장한 것은 아니지만, 질의 내용과 데이터 일부가 로그에 흔적으로 남을 수 있다고 설명했습니다. 오픈 웨이트 모델은 온프레미스나 프라이빗 클라우드에서 운영할 권한과 지식재산권을 제공해, 기업이 로그와 데이터의 처리를 관리할 수 있다는 설명입니다. 동시에 모델 배포와 유지보수, 기존 시스템 통합은 기업이 해결해야 할 과제로 제시했습니다.
Reddit 반응
- @daniellenton — 광범위한 벤치마크에서 성능이 90%라는 말은 기업 업무와 맞지 않을 수 있습니다. 기업은 여러 작업을 두루 잘하는 모델보다 몇 가지 작업을 제대로 해내는 모델이 필요합니다.
- @r2k-in-the-vortex — 먼저 DeepSeek Flash 같은 저렴한 모델로 작업을 처리하고, 실패할 때만 비싼 모델로 넘기는 방식이 합리적입니다. 다만 어떤 모델이든 작업이 제대로 끝났는지 판정하려면 비AI 검증이나 기준 데이터가 필요합니다.
- @daniellenton — 저렴한 모델의 실패를 알아볼 수 있어야 먼저 써보는 방식이 비용을 아낍니다. 테스트나 합계 검증이 있으면 쉽지만, 그런 기준이 없으면 사람이 답을 전부 확인하느라 절감분을 쓰게 됩니다.
- @Fun-Government-8007 — 은행은 성능보다 내부에서 실행하고 점검할 수 있는 시스템을 선호해 왔습니다. 다만 오픈 웨이트 모델은 통제에서 벗어나도록 유도하기도 쉬우므로, 모델이 스스로 안전을 보장한다고 기대하지 말고 사람이 정한 규칙으로 모든 동작을 확인해야 합니다.
- @pulllab — 근무했던 회사는 프런티어 API로 시작했지만 몇 달 뒤 비용이 회의의 주요 안건이 됐습니다. 지원 문의 요약과 보고서 초안은 자체 호스팅 오픈 모델로 옮겼고, 그 작업에서는 차이를 알아보기 어려웠습니다. 어려운 문제에서는 프런티어 모델이 여전히 더 뛰어났습니다.
- @paragonaimag — 비용뿐 아니라 모델이 밤사이 조용히 바뀌지 않는다는 점도 중요합니다.
- @CreativeGPX — 기업은 안정성을 중시합니다. 서비스형 AI가 모델 가중치, 동작, 가격, 약관, API, 속도와 성능을 언제든 자동 변경하면 테스트 때 확인한 조건이 사용 기간 내내 유지된다고 믿기 어렵습니다.
- @UAP44 — 오픈 웨이트는 오픈 소스와 같은 말이 아니며, 그 차이는 중요합니다.
- @FaceDeer — 기사 제목부터 오픈 웨이트라고 했으니 오픈 소스라고 주장하는 내용은 아닙니다.
- @UAP44 — 그 차이를 모르는 사람도 있습니다.
- @-Sliced- — IBM은 레거시 사업에 기대고 있으며, 자체 Granite 모델을 투자자에게 홍보하려는 것이라고 봅니다.
- @CreativeGPX — 레거시 사업이 매출과 이익의 몇 퍼센트인지 공식 자료를 제시해 달라고 요구했습니다. 또한 제품이 널리 쓰이지 않는다는 주장만으로 품질이 낮다고 결론 내릴 수는 없다고 반박했습니다.
원문: HotMinute / 번역·요약: Trawling