OpenAI, jedan od najvećih svjetskih korisnika NVIDIA-inih grafičkih procesorskih jedinica (GPU-ova), započeo je testiranje Googleovih Tensor Processing Units (TPU-ova) za pogon svojih AI sustava, uključujući ChatGPT. Ovaj potez dolazi u trenutku kada se tvrtka suočava s rastućim troškovima računalnih resursa i traži isplativija rješenja za svoje sve veće AI operacije.
Prema analitičarima iz industrije, inferencija—proces u kojem AI modeli koriste naučeno znanje za donošenje predviđanja ili odluka—sada troši više od 50% OpenAI-jevog proračuna za računalne resurse. TPU-ovi, osobito starije generacije, nude znatno niže troškove po inferenciji u usporedbi s NVIDIA-inim GPU-ovima, što ih čini privlačnom alternativom unatoč potencijalno slabijim vršnim performansama najnovijih NVIDIA-inih čipova.
"Iako stariji TPU-ovi nemaju vršne performanse novijih Nvidia čipova, njihova namjenska arhitektura smanjuje rasipanje energije i neiskorištene resurse, što ih čini isplativijima u velikim razmjerima," objašnjava Charlie Dai, potpredsjednik i glavni analitičar u Forresteru. Analize industrije sugeriraju da Google može dobiti AI računalnu snagu za otprilike 20% troška koji plaćaju oni koji kupuju vrhunske NVIDIA GPU-ove, što znači 4-6 puta veću isplativost.
Međutim, OpenAI je pojasnio da nema neposredne planove za masovno uvođenje TPU-ova. Glasnogovornik je za Reuters izjavio da je tvrtka u "ranoj fazi testiranja s nekim od Googleovih TPU-ova", ali trenutno "nema planova za njihovo masovno korištenje". Ovakav oprezan pristup odražava značajne tehničke izazove povezane s prelaskom infrastrukture, budući da je OpenAI-jev softverski sloj prvenstveno optimiziran za GPU-ove.
Osim troškovnih aspekata, ovaj potez predstavlja stratešku diverzifikaciju izvora računalnih resursa izvan Microsofta, koji je do siječnja 2025. bio njihov isključivi pružatelj podatkovne infrastrukture. Tvrtka je već sklopila partnerstva s Oracleom i CoreWeaveom na svom Stargate infrastrukturnom programu te razvija vlastiti prilagođeni AI procesor, za koji se očekuje da će dosegnuti tape-out fazu kasnije ove godine.
Implikacije za tržište AI hardvera mogle bi biti značajne. Ako se pokaže uspješnim, usvajanje TPU-ova od strane OpenAI-ja moglo bi potvrditi Googleov hardver kao održivu alternativu NVIDIA-inoj gotovo monopolskoj poziciji u području visokoučinkovitog AI računalstva. To bi moglo natjerati NVIDIA-u na inovacije ili prilagodbu cijena, dok bi istovremeno stvorilo novu konkurenciju među pružateljima cloud usluga poput Googlea, Microsofta i Amazona u borbi za dominaciju u AI infrastrukturi.