Dünyanın en büyük NVIDIA grafik işlem birimi (GPU) müşterilerinden biri olan OpenAI, ChatGPT de dahil olmak üzere yapay zekâ sistemlerini çalıştırmak için Google'ın Tensor İşlem Birimlerini (TPU) test etmeye başladı. Şirket, artan hesaplama maliyetleriyle karşı karşıya kalırken, büyüyen yapay zekâ operasyonları için daha uygun maliyetli çözümler arıyor.
Sektör analistlerine göre, çıkarım—yani yapay zekâ modellerinin eğitilmiş bilgileri kullanarak tahmin veya karar vermesi süreci—artık OpenAI'nin hesaplama bütçesinin %50'sinden fazlasını tüketiyor. Özellikle eski nesil TPUs, NVIDIA GPU'lara kıyasla çıkarım başına çok daha düşük maliyet sunuyor ve yeni NVIDIA çiplerinin zirve performansına ulaşamasalar da cazip bir alternatif oluşturuyor.
"Eski nesil TPUs, yeni Nvidia çiplerinin zirve performansına sahip olmasa da, özel mimarileri enerji israfını ve atıl kaynakları en aza indirerek büyük ölçeklerde daha uygun maliyetli olmalarını sağlıyor," diyor Forrester Başkan Yardımcısı ve baş analist Charlie Dai. Sektör analizleri, Google'ın yüksek seviye NVIDIA GPU'ları satın alanlara kıyasla yaklaşık %20 maliyetle yapay zekâ hesaplama gücü elde edebildiğini, bunun da 4-6 kat maliyet avantajı anlamına geldiğini gösteriyor.
Ancak OpenAI, yakın vadede geniş çaplı TPU kullanımı planı olmadığını netleştirdi. Bir OpenAI sözcüsü Reuters'a yaptığı açıklamada, "Google'ın bazı TPU'ları ile erken aşama testler yapıyoruz" dedi ve "şu anda bunları geniş ölçekte devreye alma planımız yok" ifadelerini kullandı. Bu temkinli yaklaşım, altyapıyı dönüştürmenin önemli teknik zorluklarını yansıtıyor; zira OpenAI'nin yazılım altyapısı esas olarak GPU'lar için optimize edilmiş durumda.
Maliyet unsurlarının ötesinde, bu adım OpenAI'nin Microsoft'a olan bağımlılığını azaltarak hesaplama kaynaklarını çeşitlendirme stratejisinin bir parçası. Şirket, Ocak 2025'e kadar münhasır veri merkezi altyapı sağlayıcısı olan Microsoft'un ötesine geçiyor. OpenAI, Stargate altyapı programı kapsamında Oracle ve CoreWeave ile de ortaklık kurmuş durumda ve yıl sonuna kadar tape-out aşamasına ulaşması beklenen kendi özel yapay zekâ işlemcisini geliştiriyor.
Bu gelişmenin yapay zekâ donanım pazarında önemli etkileri olabilir. Başarılı olursa, OpenAI'nin TPU kullanımı, Google'ın donanımını yüksek performanslı yapay zekâ bilişiminde NVIDIA'nın neredeyse tekel olan konumuna karşı geçerli bir alternatif olarak doğrulayabilir. Bu durum, NVIDIA'yı yenilik yapmaya veya fiyatlarını ayarlamaya zorlayabilirken, Google, Microsoft ve Amazon gibi bulut sağlayıcıları arasında yapay zekâ altyapısı alanında yeni rekabet dinamikleri yaratabilir.