U značajnom zaokretu za AI industriju, OpenAI je počeo koristiti Googleove Tensor Processing Units (TPU-ove) za pogon ChatGPT-a i drugih AI proizvoda, prema izvorima upoznatima s dogovorom.
Ovaj potez predstavlja prvi put da je OpenAI u svojoj infrastrukturi značajno uključio čipove koji nisu Nvidia. Do sada je tvrtka bila jedan od najvećih svjetskih kupaca Nvidia grafičkih procesorskih jedinica (GPU-ova), koje koristi i za treniranje AI modela i za inferencijsko računalstvo – proces u kojem modeli donose predviđanja na temelju novih informacija.
Ovo iznenađujuće partnerstvo između dva velika AI konkurenta signalizira OpenAI-jev strateški napor da diverzificira svoje računalne resurse izvan Microsoftove Azure cloud platforme. Iako Microsoft ostaje najveći investitor i glavni pružatelj infrastrukture za OpenAI, njihov odnos posljednjih mjeseci pokazuje znakove napetosti dok OpenAI traži veću neovisnost.
Za Google, ovaj dogovor predstavlja značajnu pobjedu jer proširuje vanjsku dostupnost svojih internih TPU-ova, koji su povijesno bili rezervirani za internu upotrebu. Googleovi TPU čipovi posebno su dizajnirani za zadatke strojnog učenja i mogu ponuditi prednosti u performansama za određene AI radne opterećenja u odnosu na univerzalne GPU-ove. Tvrtka je već osigurala i druge poznate klijente, uključujući Apple, Anthropic i Safe Superintelligence – dvije AI tvrtke koje su osnovali bivši OpenAI-jevi lideri.
OpenAI se nada da će najam TPU-ova putem Google Clouda pomoći u smanjenju troškova inferencijskog računalstva, što postaje sve važnije kako baza korisnika ChatGPT-a raste na stotine milijuna. Međutim, izvori navode da Google OpenAI-ju ne daje pristup svojim najmoćnijim TPU čipovima, zadržavajući time određenu konkurentsku prednost.
Ovaj razvoj događaja dolazi usred šire strategije diverzifikacije infrastrukture OpenAI-ja, koja uključuje projekt Stargate vrijedan 500 milijardi dolara sa SoftBankom i Oracleom, kao i višemilijardne ugovore s CoreWeaveom za dodatne računalne kapacitete. Tvrtka navodno također razvija i svoj prvi interni čip kako bi smanjila ovisnost o vanjskim dobavljačima hardvera.
Kako zahtjevi za AI računalstvom nastavljaju rasti, a godišnji troškovi OpenAI-ja procjenjuju se na milijarde dolara, ovo partnerstvo pokazuje kako su čak i žestoki konkurenti u AI sektoru spremni surađivati kako bi zadovoljili goleme računalne potrebe koje pokreću industriju naprijed.