OpenAI, jeden z největších světových zákazníků grafických procesorů (GPU) od společnosti NVIDIA, začala testovat Tensor Processing Units (TPU) od Googlu pro provoz svých AI systémů, včetně ChatGPT. Tento krok přichází v době, kdy firma čelí rostoucím výpočetním nákladům a hledá efektivnější řešení pro své rozšiřující se AI operace.
Podle analytiků z oboru nyní inference – proces, při kterém AI modely využívají naučené znalosti k předpovědím či rozhodnutím – spotřebovává více než 50 % výpočetního rozpočtu OpenAI. TPU, zejména starší generace, nabízejí výrazně nižší náklady na jednu inference ve srovnání s GPU od NVIDIA, což z nich činí atraktivní alternativu, ačkoliv nemusí dosahovat špičkového výkonu nejnovějších čipů NVIDIA.
"I když starší TPU nedosahují maximálního výkonu nejnovějších čipů Nvidia, jejich specializovaná architektura minimalizuje energetické ztráty a nevyužité zdroje, což je při velkém nasazení činí nákladově efektivnějšími," vysvětluje Charlie Dai, viceprezident a hlavní analytik společnosti Forrester. Analýzy naznačují, že Google může získávat AI výpočetní výkon přibližně za 20 % nákladů, které platí zákazníci za špičkové GPU od NVIDIA, což znamená 4–6násobnou úsporu.
OpenAI však upřesnila, že v tuto chvíli neplánuje rozsáhlé nasazení TPU. Mluvčí společnosti agentuře Reuters sdělil, že firma je "ve fázi raného testování některých TPU od Googlu", ale aktuálně "neplánuje jejich nasazení ve velkém měřítku". Tento opatrný přístup odráží významné technické výzvy spojené s přechodem infrastruktury, protože softwarový stack OpenAI je primárně optimalizován pro GPU.
Kromě nákladových faktorů představuje tento krok také strategickou diverzifikaci zdrojů výpočetního výkonu OpenAI mimo Microsoft, který byl až do ledna 2025 jejím výhradním poskytovatelem datových center. Společnost již navázala partnerství s Oracle a CoreWeave v rámci programu infrastruktury Stargate a vyvíjí také vlastní AI procesor, jehož tape-out milník očekává ještě letos.
Dopady na trh s AI hardwarem by mohly být zásadní. Pokud by OpenAI úspěšně adoptovala TPU, mohlo by to potvrdit hardware Googlu jako životaschopnou alternativu k téměř monopolnímu postavení NVIDIA v oblasti výkonných AI výpočtů. To by mohlo vyvinout tlak na NVIDIA k inovacím nebo úpravě cen a zároveň vytvořit nové konkurenční prostředí mezi poskytovateli cloudových služeb, jako jsou Google, Microsoft a Amazon, kteří soupeří o dominanci v AI infrastruktuře.