Liquid Inference — LLM router where providers compete for every prompt
Liquid Inference — 프롬프트마다 제공자가 경쟁하는 LLM 라우터
Liquid Inference는 여러 모델과 추론 제공자를 한곳에 연결하는 LLM 라우터입니다. 매 요청마다 제공자가 가격 경쟁을 벌이고, 개발자는 기존 코딩 도구를 유지하면서 라우팅 규칙이나 자동 라우팅을 사용할 수 있습니다.
- 주제
AI 요약
Liquid Inference는 여러 추론 제공자와 모델을 연결하는 LLM 라우터입니다. Claude Code, Codex, OpenCode, Cursor, Pi, Cline 등 에이전트형 코딩 도구와 호환되며 멀티모달 입력도 지원한다고 소개합니다.
라우팅과 가격 경쟁
수백 개의 오픈 웨이트·클로즈드 웨이트 모델을 제공하며, 사용자가 라우팅 규칙 프리셋을 만들거나 자동 라우팅 알고리즘을 사용할 수 있습니다. 각 프롬프트마다 제공자들이 가격 경쟁을 벌여 최저 한계 비용을 제시하는 구조입니다. 팀은 금융 거래소를 구축하고 운영한 경험을 바탕으로 추론 시장에 실시간 양방향 가격 탐색을 적용했다고 설명합니다.
이용 조건
이메일로 무료 가입할 수 있으며, 첫 500명에게 추론 크레딧 20달러를 제공합니다. 추천으로 발생한 수수료의 20%를 무료 추론 크레딧으로 돌려주며, 2단계 추천에는 10%를 제공합니다.
Product Hunt 반응
- @brett_harrison_architect — 추론 토큰은 모든 개발자와 기업에 최적 가격으로 제공되는 상품이 되어야 한다고 생각합니다. GPU 용량을 가진 누구나 투명하고 공정한 시장에서 추론 서비스를 판매할 수 있어야 합니다. 저희 팀은 금융 거래와 거래소 구축 경험을 살려 추론 시장에서 실시간 양방향 가격 탐색을 만들었습니다.
- @yahya_rogers — 한 라우터에서 이렇게 많은 모델을 제공하면 적합한 모델을 고르는 일이 훨씬 덜 골치 아플 것 같습니다.
- @oleksii_sekundant — 출시를 축하합니다, Brett! 요청마다 제공자가 경쟁하는 방식은 추론 가격을 정하는 흥미로운 접근입니다. 개발자가 기존 코딩 도구를 그대로 쓰면서 시험해 볼 수 있다는 점도 마음에 듭니다.
- @srinivasareddy — @brett_harrison_architect 출시를 축하합니다, Brett! 고객용 문구 작업에 폴백을 설정해 제공자 세 곳을 운영하는데, 이 제품이 눈에 띄었습니다. 호출마다 가장 저렴한 제공자가 바뀌면 문체가 달라질까 걱정됩니다. 특정 작업에는 모델 하나를 고정하고 나머지에는 가격 라우팅을 적용할 수 있나요?
원문: Product Hunt / 번역·요약: Trawling