Como as TPUs do Google sustentam cargas de IA cada vez mais pesadas

O Google soltou um explicativo sobre as TPUs (Tensor Processing Units), os chips custom que ficam escondidos atrás de boa parte dos produtos da casa que você usa todo dia. A ideia da peça é simples: mostrar pra público amplo o que esse hardware faz.

O que são as TPUs

São chips desenhados do zero pra uma coisa só: fazer matemática em escala massiva. O Google começou esse projeto há mais de uma década, especificamente pra rodar modelos de IA.

A lógica é direta. Modelo de IA, no fundo, é muita conta. TPU faz conta complexa muito rápido.

Os números da geração atual

A geração mais nova das TPUs processa 121 exaflops de compute, com o dobro de banda em relação às gerações anteriores. O Google não detalha no post qual geração específica (provavelmente referência ao Ironwood / TPU v7, anunciado antes), nem quebra se o número é por pod ou por chip.

Aqui vale o filtro: exaflop é métrica que só faz sentido com contexto de precisão (FP8? BF16? INT8?) e topologia do pod. Sem isso, é número de marketing. Se você compara com H100 ou B200 da Nvidia, exige ler o paper técnico, não o blog post.

Por que o Google insiste nisso

TPU é a aposta de silício vertical do Google: mesmo caminho que Apple fez com M-series e Amazon tenta com Trainium. A tese é que controlar o chip dá vantagem de custo e eficiência energética em workload específico de IA (treino e inferência de modelo transformer).

Na prática, Gemini roda em TPU. Search AI Overviews roda em TPU. YouTube recommendations, Gmail smart compose, tradução, tudo passa por TPU em algum momento do pipeline.

O post é mais institucional que técnico. Quem quer profundidade vai ter que olhar os papers do Ironwood ou a documentação do Cloud TPU v5p / v6e.