구글, 기밀 추론·긴 문맥 처리용 TPU 8tx·8i Max 선보여
Bloomberg는 Google이 8세대 TPU에 기밀 추론용 8tx와 긴 문맥 처리용 8i Max를 추가한다고 보도했습니다. 기존 8t·8i의 학습·저지연 추론 구분에 기밀 컴퓨팅과 긴 문맥이라는 요구를 더한 구성입니다.
Bloomberg의 Dina Bass 기자는 11월 9일 Google이 AI 소프트웨어의 학습과 실행에 쓰이는 8세대 TPU 제품군에 8tx와 8i Max를 추가한다고 보도했습니다. 8tx는 민감한 데이터의 추론, 8i Max는 긴 문맥을 처리하는 작업을 겨냥합니다. Bloomberg에 따르면 두 시스템은 기존 하드웨어를 고객 요구에 맞게 재구성한 구성입니다.
Google은 앞서 TPU 8t와 8i를 발표했습니다. 공식 소개에서 8t는 대규모 AI 모델 학습을 위한 고처리량 시스템이고, 8i는 추론과 강화학습에서 낮은 지연시간을 겨냥한 시스템입니다. Google은 8i가 에이전트 작업과 전문가 혼합 모델(MoE)에 필요한 응답 속도를 위해 설계됐다고 설명합니다. 이번 두 제품은 이 제품군에 기밀 추론과 긴 문맥이라는 별도 요구를 더합니다.
Investing.com이 Bloomberg를 인용해 전한 보도는 8tx의 잠재적 이용처로 정부기관과 규제 산업의 기업을 들고, 시스템에 AMD 칩도 포함된다고 전했습니다. 기밀 컴퓨팅은 저장·전송 중 데이터 보호에 더해 계산 중 메모리에 있는 데이터도 암호화하는 방식입니다. Google Cloud 문서에 따르면 하드웨어 기반 신뢰 실행 환경(TEE)이 코드와 데이터를 격리해 기밀성과 무결성을 보호합니다.
8i Max는 모델이 한 번의 질의에 답할 때 참고할 수 있는 문맥 창을 늘리는 데 초점을 둡니다. 문맥 창이 길어지면 모델은 긴 자료의 여러 부분을 한 요청 안에서 다룰 수 있습니다. Investing.com이 Bloomberg를 인용한 보도에서 든 적용 사례는 약물 탐색, 수학, 코딩 도구입니다.