Ve významném posunu pro odvětví umělé inteligence začala OpenAI podle zdrojů obeznámených s dohodou využívat Tensor Processing Units (TPU) od Googlu pro pohon ChatGPT a dalších svých AI produktů.
Tento krok představuje poprvé, kdy OpenAI smysluplně začlenila do své infrastruktury čipy jiného výrobce než Nvidia. Dosud byla společnost jedním z největších světových odběratelů grafických procesorů (GPU) od Nvidie, které využívala jak pro trénování AI modelů, tak pro inference – tedy proces, kdy modely vytvářejí předpovědi na základě nových dat.
Toto překvapivé partnerství dvou hlavních konkurentů v oblasti AI signalizuje strategickou snahu OpenAI diverzifikovat své výpočetní zdroje mimo cloudovou platformu Azure od Microsoftu. Přestože Microsoft zůstává největším investorem OpenAI a hlavním poskytovatelem infrastruktury, v posledních měsících se jejich vztah jeví napjatěji, protože OpenAI usiluje o větší nezávislost.
Pro Google tato dohoda znamená významný úspěch, protože rozšiřuje externí dostupnost svých vlastních TPU, které byly historicky vyhrazeny pouze pro interní použití. TPU čipy od Googlu jsou speciálně navržené pro úlohy strojového učení a v určitých AI pracovních zátěžích mohou nabídnout výkonnostní výhody oproti univerzálním GPU. Společnost již získala další významné zákazníky, včetně Applu, Anthropic a Safe Superintelligence – dvou AI firem založených bývalými lídry OpenAI.
OpenAI doufá, že pronájem TPU prostřednictvím Google Cloud pomůže snížit náklady na inference, což je stále důležitější s tím, jak uživatelská základna ChatGPT narostla na stovky milionů. Podle zdrojů však Google neposkytuje OpenAI přístup ke svým nejvýkonnějším TPU čipům, čímž si zachovává určitou konkurenční výhodu.
Tento vývoj přichází v době širší strategie diverzifikace infrastruktury OpenAI, která zahrnuje projekt Stargate za 500 miliard dolarů ve spolupráci se SoftBank a Oraclem a také vícemiliardové dohody s CoreWeave na další výpočetní kapacity. Společnost údajně také vyvíjí svůj první vlastní čip, aby snížila závislost na externích dodavatelích hardwaru.
S tím, jak nároky na výpočetní výkon v AI nadále rostou a roční náklady OpenAI se odhadují na miliardy dolarů, toto partnerství ukazuje, že i ostří konkurenti v AI sektoru jsou ochotni spolupracovat, aby zvládli obrovské výpočetní požadavky, které posouvají celé odvětví kupředu.