Broadcom secara resmi meluncurkan chip jaringan generasi terbaru yang dirancang khusus untuk aplikasi kecerdasan buatan (AI), menandai kemajuan signifikan dalam teknologi infrastruktur AI.
Chip switch Tomahawk 6, yang mulai dikirimkan ke pelanggan pada akhir pekan lalu dan akan tersedia secara luas pada Juli, menghadirkan kapasitas switching pertama di industri sebesar 102,4 terabit per detik dalam satu chip. Ini berarti dua kali lipat bandwidth dari switch Ethernet mana pun yang saat ini tersedia di pasar, menurut Ram Velaga, Senior Vice President dan General Manager Broadcom Core Switching Group.
Performa luar biasa chip ini membuatnya sangat cocok untuk mendukung klaster AI berskala besar. Dengan fitur AI canggih yang disebut Cognitive Routing 2.0, Tomahawk 6 mampu mendeteksi kemacetan jaringan dan secara dinamis mengalihkan data ke koneksi lain, membantu menghindari bottleneck performa yang sering menghambat beban kerja AI. Kemampuan ini sangat penting untuk proses pelatihan AI yang membutuhkan koordinasi kerja di banyak unit pemrosesan grafis (GPU).
Chip baru Broadcom ini mendukung arsitektur jaringan AI scale-up maupun scale-out. Pada jaringan scale-out dua tingkat, Tomahawk 6 dapat menghubungkan lebih dari 100.000 prosesor, dengan Broadcom melaporkan bahwa beberapa pelanggan sudah berencana mengintegrasikan chip ini ke dalam klaster AI berskala tersebut. Perusahaan menyatakan chip ini dirancang untuk akhirnya memenuhi kebutuhan klaster AI dengan lebih dari satu juta XPU (akselerator AI).
Peluncuran ini hadir pada saat yang strategis bagi Broadcom, yang mengalami pertumbuhan pesat dalam bisnis chip AI-nya. Perusahaan meraih pendapatan $12,2 miliar dari chip AI pada tahun fiskal 2024, meningkat 220% dibandingkan tahun sebelumnya. CEO Broadcom Hock Tan memproyeksikan bahwa pasar yang dapat dilayani perusahaan untuk prosesor AI kustom dan chip jaringan dapat mencapai antara $60 miliar hingga $90 miliar pada tahun fiskal 2027.
Tomahawk 6 menegaskan komitmen Broadcom terhadap teknologi Ethernet sebagai standar jaringan untuk infrastruktur AI, bersaing dengan teknologi InfiniBand milik Nvidia. "Semua jaringan ini dapat dengan mudah dibangun di atas Ethernet, Anda tidak memerlukan teknologi yang esoterik," ujar Velaga, menyoroti strategi Broadcom untuk menyediakan solusi jaringan terbuka berbasis standar bagi pasar AI yang berkembang pesat.