V dôležitom posune pre odvetvie umelej inteligencie začal OpenAI podľa zdrojov oboznámených s dohodou využívať Tensor Processing Units (TPU) od Googlu na pohon ChatGPT a ďalších AI produktov.
Tento krok predstavuje prvýkrát, čo OpenAI významne začlenil do svojej infraštruktúry čipy iné než od spoločnosti Nvidia. Doteraz bol OpenAI jedným z najväčších svetových odberateľov grafických procesorov (GPU) Nvidia, ktoré využíval na trénovanie AI modelov aj na inferenčné výpočty – teda proces, pri ktorom modely robia predikcie na základe nových údajov.
Prekvapivé partnerstvo medzi dvoma hlavnými konkurentmi v oblasti AI signalizuje strategickú snahu OpenAI diverzifikovať svoje výpočtové zdroje mimo cloudovej platformy Microsoft Azure. Hoci Microsoft zostáva najväčším investorom OpenAI a hlavným poskytovateľom infraštruktúry, ich vzťah v posledných mesiacoch vykazuje známky napätia, keďže OpenAI sa usiluje o väčšiu nezávislosť.
Pre Google je táto dohoda významným úspechom, keďže rozširuje externú dostupnosť svojich vlastných TPU čipov, ktoré boli historicky vyhradené na interné použitie. TPU čipy od Googlu sú špeciálne navrhnuté pre úlohy strojového učenia a môžu ponúkať výkonnostné výhody pri určitých AI úlohách v porovnaní so všeobecnými GPU. Spoločnosť už získala ďalších významných zákazníkov, vrátane Apple, Anthropic a Safe Superintelligence – dvoch AI firiem založených bývalými lídrami OpenAI.
OpenAI dúfa, že prenájom TPU prostredníctvom Google Cloud pomôže znížiť náklady na inferenčné výpočty, ktoré sú čoraz dôležitejšie, keďže používateľská základňa ChatGPT narástla na stovky miliónov. Podľa zdrojov však Google neposkytuje OpenAI prístup k svojim najvýkonnejším TPU čipom, čím si udržiava určitú konkurenčnú výhodu.
Tento vývoj prichádza v čase širšej stratégie diverzifikácie infraštruktúry OpenAI, ktorá zahŕňa projekt Stargate v hodnote 500 miliárd dolárov so SoftBank a Oracle, ako aj viacmiliardové dohody s CoreWeave na dodatočnú výpočtovú kapacitu. Spoločnosť údajne vyvíja aj svoj prvý vlastný čip, aby znížila závislosť od externých dodávateľov hardvéru.
Keďže nároky na AI výpočty naďalej prudko rastú a ročné náklady OpenAI sa odhadujú na miliardy dolárov, toto partnerstvo ukazuje, že aj ostrí konkurenti v AI sektore sú ochotní spolupracovať, aby dokázali naplniť obrovské výpočtové požiadavky, ktoré poháňajú celé odvetvie vpred.