openTPU: acelerador open-source que roda inferência de IA em FPGA

Um acelerador de IA open-source chamado openTPU foi apresentado como um projeto que usa “auto-arch-tournament” para testar até onde agentes de IA conseguem ir no design de hardware e se podem construir o chip que executa a própria inferência. O projeto reúne, em um monorepo, desde o hardware em SystemVerilog até a linguagem de kernel, o compilador e o software host que controla uma placa real via PCIe.

O openTPU roda dez modelos com pesos reais em uma placa Inspur YPCB-00338 (Xilinx Kintex-7 xc7k480t, com dois canais DDR3) e afirma produzir os mesmos tokens do simulador, bit a bit. Medidas em diferentes datas de 2026-09-29 a 2026-10-01 indicam ganhos de desempenho em “decode” e “prefill”, além de rotas para lidar com modelos maiores via streaming de especialistas pela memória do host.