기록 / IT · 기술

IT · 기술 뉴스

구글, TPU 8tx·8i Max 공개 — 1년 만에 TPU 시스템 네 개로 엔비디아에 도전

11월 9일 구글이 8세대 TPU 신형 두 종, 기밀 컴퓨팅용 8tx와 초대형 문맥용 8i Max를 공개했다. 4월 8t·8i에 이어 올해만 네 번째 시스템으로, 완전히 새 칩이 아니라 기존 실리콘을 고객이 원하는 모양으로 재구성한 것이다. 가격과 출시 일정은 아직 없고, 같은 날 알파벳 주가는 3% 넘게 오르고 엔비디아는 4.27% 내렸다.

SOURCE Google Cloud Blog (2026.11.09) ↗

현지시간 11월 9일 월요일, 구글이 8세대 텐서 처리 장치(TPU) 신형 두 종을 공개했다.
하나는 민감한 데이터를 다루는 기밀 컴퓨팅용 TPU 8tx, 다른 하나는 초대형 문맥을 처리하는 TPU 8i Max다.
4월 8t·8i에 이어 올해만 네 번째 TPU 시스템이 나온 셈이다.
구글은 "한 해에 TPU 시스템 네 개를 내놓은 것은 처음"이라고 했다.
엔비디아의 아성이 흔들리는 시점에 나온, 정면 승부 선언에 가깝다.

네덜란드 에임스하번의 구글 데이터센터

사진: 네덜란드 에임스하번 구글 데이터센터 — Ymnes, CC BY-SA 4.0, Wikimedia Commons.

TPU는 구글이 10여 년 전부터 직접 설계해 온 AI 전용 칩이다.
처음에는 검색·유튜브·제미나이 같은 자사 서비스용이었지만, 이제는 구글 클라우드를 통해 외부 고객에게 팔리고, 일부 고객은 자기 데이터센터에 직접 들여놓기도 한다.
8세대는 4월에 나온 8t와 8i가 시작했다.
8t는 대규모 학습용으로 전 세대보다 학습 성능이 최대 2.7배, 8i는 실시간 추론용으로 추론 가성비가 최대 80% 낫다고 구글이 밝혔다.
이번 두 종은 그 위에 얹은 전문화다.

TPU 8tx는 세 번째 8세대 시스템으로, 보안이 생명인 곳을 노린다.
정부 기관이나 금융·의료 같은 규제 산업이 자사 모델과 에이전트를 가장 민감한 데이터 위에서 돌릴 때 쓰는 칩이다.
보통 데이터는 저장될 때나 네트워크로 오갈 때는 암호화돼 있지만, 컴퓨터가 처리하는 순간에는 메모리에서 풀려야 한다.
8tx는 이 빈틈을 하드웨어 단계에서 메운다.
8t와 같은 실리콘에 5세대 AMD 에픽 CPU 호스트를 붙이고, 데이터와 모델 가중치를 사용 중에도 보호·격리된 상태로 둔다.
구글은 8t보다 지연시간이 최대 절반 수준이라면서도 보안 기능에 따른 성능 저하는 거의 없다고 했다.
실시간 추론용으로 만든 보드플라이 네트워크를 그대로 쓰기 때문이다.
훈련용 연산력과 빠른 추론 네트워크를 한 시스템에 합치다 보니, 모델을 돌리면서 다듬는 일도 한 상자 안에서 끝난다.
비공개 데이터로 파인튜닝하고, 큰 모델을 작은 모델로 증류하고, 강화학습으로 에이전트를 훈련시키는 작업이 클러스터 사이를 오가지 않고 된다.

TPU 8i Max는 정반대 문제를 푼다. 메모리 벽이다.
수십 개의 AI 에이전트가 코드베이스 전체나 몇 시간짜리 영상 같은 거대한 문맥을 함께 다룰 때, 연산보다 메모리가 먼저 막힌다.
구글은 8i 칩 두 개를 하나의 패키지에 묶는 것으로 답했다.
연산도, 온칩 SRAM도, HBM 대역폭도 8i의 두 배다.
랙 공간은 그대로인데 실리콘은 두 배가 들어갔으니, 같은 면적·같은 전력에 더 많은 연산력이 들어간다.
구글이 내세우는 용도는 긴 문맥이다.
제미나이 모델이 지원하는 백만 토큰 단위의 문맥, 코딩 어시스턴트, 수학 추론, 신약 개발 같은 작업이다.
4월 기술 설명에 나온 8i 한 개의 HBM 288GB를 그대로 두 배로 하면, 8i Max는 패키지당 HBM 576GB 수준이 된다.

8세대 TPU 칩·패키지당 HBM 용량 — TPU 8t 216GB, TPU 8i 288GB, TPU 8tx 216GB, TPU 8i Max 576GB

도표는 Google Cloud 2026년 4월 기술 설명·11월 9일 발표 수치로 직접 만들었다. 8tx는 8t와 같은 실리콘, 8i Max는 8i 두 개를 한 패키지에 묶은 것.

여기서 한 가지는 분명히 짚어야 한다.
8tx와 8i Max는 완전히 새로운 칩이 아니다.
구글의 AI·인프라 최고기술책임자 아민 바드핫도 블룸버그에 "완전히 새로운 칩 설계가 아니다. 고객이 원하던 작업에 맞춰 재구성한 것"이라고 했다.
새 칩을 설계한다는 것은 수십억 개의 트랜지스터를 웨이퍼에 새기는 일로, 몇 년이 걸리는 물리학의 싸움이다.
시스템은 그 칩 주위에 연산·네트워크·저장장치를 어떻게 묶느냐의 문제라, 몇 달 만에 새로운 슈퍼컴퓨터를 내놓을 수 있다.
구글은 10여 년 전 첫 TPU를 만들 때부터 이런 모듈화를 전제로 설계해 왔다.
AI 소프트웨어가 실리콘 제조보다 훨씬 빨리 바뀌리라는 판단이었다.
덕분에 칩 레이아웃에도 구글 딥마인드의 알파칩 강화학습 시스템과 제미니를 써서, 예전에는 몇 주 걸리던 배치를 몇 시간 만에 끝낸다고 했다.
두 개를 한 패키지에 묶는 방식이 AI 칩 경쟁의 새 전장이 된 셈이다. ([AI 칩 패키징 지난 글](/posts/2026-11-07-ai-chip-packaging-battleground))

하드웨어만 내놓은 발표는 아니다.
구글은 TPU를 엔비디아 GPU에 묶어 두는 소프트웨어 장벽을 허무는 데도 힘을 쏟았다.
지난달 오픈소스로 푼 토치TPU 덕분에 파이토치 코드와 허깅페이스 모델이 코드 수정 없이 TPU에서 그대로 돈다.
vLLM·SGLang 같은 오픈소스 추론 엔진용 백엔드도 갖췄다.
새로 공개한 TPU 에이전트 스위트는 클로드 코드·커서·구글 안티그래비티에 꽂혀, 말로 시키는 것만으로 TPU 온보딩과 병목 진단, 커널 튜닝을 해준다.
모델 상태를 옮기는 TPU 싱크도 오픈소스로 풀었다.
수천만 토큰짜리 KV 캐시를 칩 밖으로 빼고, 프리필과 디코드 노드 사이를 오가게 하고, 강화학습 가중치를 동기화하면서 KV 전송 지연과 첫 토큰까지 걸리는 시간을 90% 넘게 줄인다고 했다.
에이전트가 대기할 때 세션을 자동으로 멈추고 다시 깨우는 에이전트 컴퓨트 엔진도 내놨다.
업계 표준인 인퍼런스X·에이전트X 벤치마크에서는 가격 대비 성능 최고 기록을 냈다고 했다.
구글 쿠버네티스 엔진의 클라우드 패스웨이와 동적 슬라이싱도 정식 출시됐다.
동적 슬라이싱은 작업 시작 시간을 최대 5배, 장애 복구를 최대 4.5배 빠르게 한다고 했다.

시장은 곧바로 반응했다.
발표 당일 알파벳 주가는 장 초반 3% 넘게 올랐다.
구글 클라우드 매출이 3분기에 전년보다 103% 늘어 307억 1천만 달러를 기록한 데는 TPU 판매가 "의미 있는 기여"를 했다고 알파벳은 밝혔다.
4분기에도 TPU 매출이 계속 늘고, 더 큰 증가는 2027년에 올 것으로 회사 측은 내다봤다.
TPU 고객은 이제 100곳에 육박한다.
프런티어 연구소, 트레이딩 회사, 유통업체, 대학이 섞여 있는데, 구글은 이름을 밝히지 않았다.
같은 날 뉴욕증시에서는 엔비디아만 따로 빠졌다.
이사회 조사 소식이 알려진 월요일, 엔비디아는 4.27% 내린 178.67달러에 마감했고, AMD는 13.26% 올랐다.
필라델피아 반도체지수도 6.85% 뛰었다. ([엔비디아 이사회 조사 지난 글](/posts/2026-11-09-nvidia-huang-board-investigation))

아직 빈칸도 많다.
구글 발표에는 가격도, 출시 시점도 없다.
블룸버그는 두 시스템이 내년에 나온다고 전했다.
성능 수치도 구글 자체 주장이다.
8tx의 "최대 2배 낮은 지연시간"이나 8i Max의 "두 배" 같은 숫자는 독립 벤치마크가 아니라 구글 발표문에서 나온 것이다.
4월에 나온 8t·8i조차 아직 널리 보급되지 않은 상태다.
4월 발표 당시 구글은 두 칩을 "2026년 안에" 일반에 내놓겠다고 했는데, 그 약속이 어떻게 됐는지는 이번 발표에 나오지 않았다.
엔비디아 쪽도 가만있지 않는다.
엔비디아 GPU는 이미 기밀 컴퓨팅을 지원하고, 추론 라인도 그로크와의 라이선스·인수 합의로 보강했다.
구글의 도전이 엔비디아의 아성을 얼마나 흔들지는, 결국 고객이 실제로 TPU를 얼마나 사느냐로 판가름 난다.

당장 볼 것은 세 가지다.
첫째, 두 시스템의 가격과 정식 출시 일정이 언제 나오느냐다.
둘째, 100곳에 육박한다는 TPU 고객이 내년에는 몇 곳으로 느느냐다.
셋째, 엔비디아의 대항마다.
구글은 한 해에 시스템 네 개를 내놓는 속도로 판을 바꾸고 있다.
예전에는 2년마다 새 칩을 내던 회사가, 이제는 패키징과 소프트웨어로 몇 달 만에 답을 낸다.
AI 칩 싸움의 중심이 "누가 더 빠른 칩을 만드느냐"에서 "누가 고객이 원하는 모양으로 더 빨리 내놓느냐"로 옮겨가고 있다.

참고한 기사 — Google Cloud Blog · Indian Express · Anadolu Agency