Microsoft menyebut Maia 300 menghasilkan 40% lebih banyak token per megawatt dibanding sistem berbasis GPU terdepan. Namun perusahaan tidak menyebut sistem mana yang menjadi pembanding.
Angka itu disampaikan Executive Vice President Cloud + AI Microsoft, Scott Guthrie, dalam blog resmi pada Senin, 12 Oktober 2026. Microsoft memperkenalkan cip AI generasi ketiganya itu di OCP Global Summit 2026 di San Jose, Amerika Serikat.
“We expect Maia 300 to deliver 40% more tokens per megawatt compared to leading GPU-based systems.” — Scott Guthrie, Executive Vice President Cloud + AI, Microsoft
Microsoft memasang 96 akselerator dalam satu rak dengan kebutuhan daya sekitar 167 kilowatt. Rak itu berkapasitas 27,6 TB memori HBM dan bandwidth agregat 1,7 PB per sekon. Sebagai perbandingan, rak GB300 terbaru Nvidia berisi 72 GPU dan memakai sekitar 142 kilowatt.
Menurut Microsoft, tiap akselerator membawa 288 GB memori HBM4 dengan bandwidth puncak 18 TB per sekon dan daya rancangan termal 950 watt. Pendahulunya, Maia 200, memiliki 216 GB HBM3E dengan bandwidth 7 TB per sekon dan daya 750 watt.
Terhadap Maia 200, Microsoft mengklaim rak 96 akselerator memberi hingga tujuh kali throughput token. Performa per wattnya disebut lebih dari 2,5 kali. Rak Maia 200 berisi 48 akselerator.
Rani Borkar, Presiden Azure hardware systems and infrastructure di Microsoft, menjelaskan tujuan rancangan itu dalam wawancara.
“It’s basically delivering more intelligence for every watt, every dollar, and every byte of memory by optimizing across the entire system.” — Rani Borkar, Presiden Azure hardware systems and infrastructure, Microsoft
Cip ini dibuat dengan desain chiplet. Komputasi inti memakai proses TSMC N2P (2 nanometer), sedangkan chiplet lain memakai proses 3 nanometer. Nvidia memakai satu cip komputasi besar yang dikelilingi memori berkecepatan tinggi.
Microsoft menargetkan penerapan multi-gigawatt keluarga Azure Maia mulai 2027 dan menjadikannya sistem inferensi utama bagi produk dan layanannya. Microsoft berpotensi menerapkan lebih dari satu juta cip Maia 300 pada 2027 untuk layanan AI internal. Alistair Speirs, general manager di Microsoft, menolak memberi jadwal rinci dan mengatakan perusahaan ingin menerapkan “the right silicon for the right models”.
Maia 200 sudah diterapkan di Amerika Serikat, Eropa, dan Australia. Microsoft mengklaim cip itu memberi hingga 1,7 kali token per watt dibanding infrastruktur GPU terdepan untuk fitur AI di Teams, Copilot, dan Cowork.
Nvidia dan AMD tetap menjadi mitra Microsoft untuk pelatihan model, dan GPU Nvidia masih dipakai di pusat data yang ada. Berbeda dari TPU milik Google dan Trainium milik Amazon, Microsoft belum membuka akselerator Maia bagi pelanggan luar sebagai sumber daya cloud yang bisa disewa.
Tulis Komentar