Google Cloud dan AMD mengumumkan kolaborasi infrastruktur baru pada 9 November 2026 lewat peluncuran Google Cloud TPU 8tx. Sistem ini menggabungkan akselerator AI kustom Google generasi kedelapan dengan prosesor host AMD EPYC generasi kelima. Bersamaan dengan itu, Google turut memperkenalkan sistem TPU 8i Max untuk beban kerja inferensi yang membutuhkan kapasitas memori besar. Kedua sistem baru ini melengkapi portofolio TPU generasi kedelapan Google menjadi empat varian khusus sepanjang tahun 2026, bersama TPU 8t dan TPU 8i.
Arsitektur Keamanan TPU 8tx dan Peran AMD EPYC
TPU 8tx merupakan sistem Tensor Processing Unit cloud pertama yang menerapkan confidential computing berbasis perangkat keras. Dalam arsitektur ini, prosesor AMD EPYC generasi kelima bertugas menangani orkestrasi beban kerja, persiapan data, serta komunikasi berkecepatan tinggi menuju akselerator TPU. Perlindungan keamanan bertumpu pada fitur AMD Secure Encrypted Virtualization (SEV) yang menjaga data, bobot model, serta data perantara tetap terenkripsi selama pemrosesan berlangsung.
AMD menjelaskan bahwa sistem TPU 8tx memverifikasi identitas dan konfigurasi keamanan akselerator sebelum memberikan izin akses ke memori yang dilindungi. Jalur transfer data antara CPU dan TPU juga dienkripsi dengan isolasi perangkat keras penuh. Memanfaatkan silikon TPU 8t dan interkoneksi Boardfly milik Google, TPU 8tx diklaim mampu menekan latensi hingga dua kali lebih rendah dibandingkan TPU 8t dengan penalti performa confidential computing yang mendekati nol.
Infrastruktur TPU 8tx menyasar perusahaan maupun instansi pemerintah yang memproses data sensitif dan model AI tertutup. Selain untuk inferensi rahasia, sistem ini mendukung proses fine-tuning, distilasi model, serta reinforcement learning menggunakan data privat. AMD juga mengklaim prosesor EPYC kini menjadi CPU host pilihan bagi lebih dari 10 hyperscaler dan laboratorium AI pada sistem yang menggunakan GPU AMD Instinct, GPU Nvidia, maupun silikon kustom. Sebelumnya, teknologi AMD SEV telah dipakai pada layanan Google Cloud lain seperti Confidential VMs dan Confidential GKE.
Spesifikasi TPU 8i Max dan Perangkat Lunak TPU Sync
Selain fokus pada komputasi rahasia, Google merilis TPU 8i Max untuk menangani inferensi AI dengan jendela konteks besar (large context windows) dan sistem multi-agen yang saling bekerja sama. Sistem ini mengintegrasikan dua chip TPU 8i ke dalam satu paket akselerator tunggal tanpa mengubah ukuran rak server yang sudah ada. Google menyebut desain chip ganda tersebut menggandakan kapasitas komputasi, SRAM on-chip, serta bandwidth High-Bandwidth Memory (HBM) menjadi dua kali lipat dibandingkan TPU 8i chip tunggal.
Pada sisi perangkat lunak, Google memperkenalkan TPU Sync sebagai komponen open-source di dalam tumpukan AI Hypercomputer. Perangkat lunak ini membentuk lapisan status model (model-state layer) yang membentang di antara HBM akselerator, DRAM host, penyimpanan bersama, dan jaringan pusat data. TPU Sync memanfaatkan asynchronous direct memory access (DMA) untuk memindahkan KV cache dan bobot model. Dalam pengujian internal Google pada perangkat keras Ironwood, TPU Sync memangkas latensi transfer KV-cache hingga lebih dari 90 persen.
Hingga pengumuman ini dirilis, Google Cloud dan AMD belum mengungkap rincian SKU prosesor EPYC yang digunakan, spesifikasi detail paket TPU 8i Max, harga layanan, maupun jadwal ketersediaan umum (general availability) bagi pelanggan cloud, termasuk untuk perusahaan di Indonesia yang mengandalkan region Google Cloud.
Sumber: Pintu News, Converge Digest. Gambar: Ilustrasi AI