Dalam langkah signifikan untuk mengatasi kelangkaan GPU yang semakin menghambat pengembangan AI, NVIDIA mengumumkan DGX Cloud Lepton di ajang Computex 2025 di Taiwan pada 19 Mei. Platform ini menciptakan marketplace terpadu yang menghubungkan pengembang AI dengan sumber daya GPU dari berbagai penyedia cloud di seluruh dunia.
Waktu peluncuran ini sangat penting karena permintaan GPU untuk pelatihan dan penerapan AI telah mencapai tingkat yang belum pernah terjadi sebelumnya. Menurut analis Gartner, Chirag Dekate, "Bukan hanya NVIDIA, tetapi rantai pasok NVIDIA pun hampir tidak mampu memenuhi permintaan, dan permintaan jauh melebihi pasokan." DGX Cloud Lepton bertujuan mengatasi hambatan ini dengan mengumpulkan sumber daya GPU dari berbagai penyedia.
Sepuluh Mitra Cloud NVIDIA (NCP), termasuk CoreWeave, Crusoe, Lambda, dan SoftBank, akan menawarkan GPU arsitektur Blackwell dan lainnya melalui marketplace ini. Pengembang dapat mengakses kapasitas komputasi di wilayah tertentu untuk kebutuhan on-demand maupun jangka panjang, mendukung kebutuhan operasional AI strategis dan kedaulatan data.
"NVIDIA DGX Cloud Lepton menghubungkan jaringan penyedia cloud GPU global kami dengan para pengembang AI," ujar Jensen Huang, pendiri dan CEO NVIDIA. "Bersama para NCP, kami membangun pabrik AI berskala planet."
Platform ini terintegrasi dengan tumpukan perangkat lunak NVIDIA, termasuk layanan mikro NIM dan NeMo, Blueprints, serta Cloud Functions, untuk mempercepat pengembangan dan penerapan aplikasi AI. DGX Cloud Lepton juga menyediakan perangkat lunak manajemen bagi penyedia cloud dengan diagnostik kesehatan GPU secara real-time dan analisis akar masalah otomatis.
Lebih dari sekadar menghubungkan sumber daya, DGX Cloud Lepton menawarkan pengalaman terpadu di seluruh alur kerja pengembangan, pelatihan, dan inferensi. Pengembang dapat membeli kapasitas GPU langsung dari penyedia yang berpartisipasi atau menggunakan klaster komputasi milik sendiri, sehingga memungkinkan penerapan di lingkungan multi-cloud dan hybrid dengan beban operasional yang minimal.