Dalam pergeseran signifikan pada infrastruktur AI, OpenAI mulai menyewa Tensor Processing Unit (TPU) khusus milik Google untuk mendukung ChatGPT dan produk AI lainnya, menurut sumber yang mengetahui pengaturan tersebut.
Ini merupakan kali pertama OpenAI secara bermakna memanfaatkan chip non-Nvidia untuk beban kerja AI-nya. Selama ini, perusahaan dikenal sebagai salah satu pembeli terbesar unit pemrosesan grafis (GPU) Nvidia di dunia, yang mendominasi pasar chip AI. OpenAI berharap TPU yang diakses melalui Google Cloud ini dapat membantu menurunkan biaya komputasi inferensi—proses di mana model AI menggunakan pelatihannya untuk membuat prediksi atau keputusan.
Kemitraan ini menjadi langkah lanjutan dalam strategi OpenAI untuk mendiversifikasi infrastruktur komputasinya. Awal tahun ini, Microsoft—investor terbesar sekaligus penyedia cloud utama OpenAI—mengubah pengaturan eksklusif mereka, beralih ke model di mana Microsoft memiliki "hak penolakan pertama" atas kapasitas komputasi cloud baru OpenAI. Perubahan ini memungkinkan OpenAI mengejar kemitraan tambahan, termasuk yang terbaru dengan Google ini.
Bagi Google, mendapatkan OpenAI sebagai pelanggan menunjukkan bagaimana raksasa teknologi ini berhasil memanfaatkan teknologi AI internalnya untuk mengembangkan bisnis cloud. TPU Google, yang sebelumnya hanya digunakan secara internal, menawarkan keunggulan khusus untuk beban kerja AI tertentu, termasuk efisiensi energi dan efektivitas biaya yang lebih baik untuk tugas inferensi dibandingkan GPU.
Namun, kolaborasi ini memiliki batasan. Menurut laporan, Google tidak menyewakan TPU terkuatnya kepada OpenAI, menjaga batas-batas kompetitif antara kedua rival AI tersebut. Pendekatan selektif ini menyoroti dinamika kompleks di sektor AI, di mana perusahaan-perusahaan kerap bersaing sekaligus berkolaborasi.
Kesepakatan ini terjadi di tengah persaingan ketat dalam mendapatkan sumber daya komputasi AI, dengan perusahaan teknologi besar menginvestasikan miliaran dolar pada perangkat keras khusus. Generasi terbaru TPU Google, dengan nama sandi Trillium, menawarkan peningkatan performa signifikan dibanding versi sebelumnya dan dirancang untuk menangani kebutuhan komputasi masif dari model AI canggih.