U značajnom zaokretu u AI infrastrukturi, OpenAI je počeo unajmljivati Googleove specijalizirane Tensor Processing Units (TPU) za pokretanje ChatGPT-a i ostalih AI proizvoda, prema izvorima upoznatima s dogovorom.
Ovo je prvi put da OpenAI značajnije koristi čipove koji nisu Nvidia za svoje AI radne zadatke. Tvrtka je povijesno bila jedan od najvećih svjetskih kupaca Nvidia grafičkih procesorskih jedinica (GPU), koje dominiraju tržištem AI čipova. OpenAI se nada da će TPU-ovi, do kojih dolazi putem Google Clouda, pomoći u smanjenju troškova inferencijskog računalstva—procesa u kojem AI modeli koriste svoje treniranje za predviđanja ili donošenje odluka.
Partnerstvo predstavlja još jedan korak u OpenAI-ovoj strategiji diverzifikacije računalne infrastrukture. Ranije ove godine, Microsoft—najveći investitor i primarni pružatelj clouda za OpenAI—izmijenio je njihov ekskluzivni dogovor, prelazeći na model u kojem Microsoft ima "pravo prvokupa" na novi OpenAI-jev kapacitet cloud računalstva. Ova promjena omogućila je OpenAI-u sklapanje dodatnih partnerstava, uključujući i ovo najnovije s Googleom.
Za Google, osiguravanje OpenAI-a kao klijenta pokazuje kako je tehnološki div uspješno iskoristio vlastitu AI tehnologiju za rast svog cloud poslovanja. Googleovi TPU-ovi, koji su povijesno bili rezervirani za internu upotrebu, nude specifične prednosti za određene AI radne zadatke, uključujući potencijalno bolju energetsku učinkovitost i isplativost za inferencijske zadatke u odnosu na GPU-ove.
Međutim, suradnja ima svoja ograničenja. Prema izvještajima, Google ne iznajmljuje svoje najmoćnije TPU-ove OpenAI-u, održavajući određene konkurentske granice između dva AI rivala. Ovakav selektivan pristup naglašava složenu dinamiku u AI sektoru, gdje tvrtke često istovremeno surađuju i natječu se.
Dogovor dolazi usred žestoke konkurencije za AI računalne resurse, pri čemu velike tehnološke tvrtke ulažu milijarde u specijalizirani hardver. Najnovija Googleova generacija TPU-ova, kodnog imena Trillium, donosi značajna poboljšanja performansi u odnosu na prethodne verzije i dizajnirana je za podnošenje golemih računalnih zahtjeva naprednih AI modela.