Broadcom ha ufficialmente lanciato il suo chip di rete di nuova generazione progettato specificamente per applicazioni di intelligenza artificiale, segnando un importante passo avanti nella tecnologia delle infrastrutture per l’IA.
Il chip switch Tomahawk 6, che ha iniziato a essere spedito ai clienti nel fine settimana e sarà ampiamente disponibile a luglio, offre una capacità di switching senza precedenti di 102,4 terabit al secondo in un singolo chip. Secondo Ram Velaga, Senior Vice President e General Manager del Core Switching Group di Broadcom, questo rappresenta il doppio della larghezza di banda di qualsiasi switch Ethernet attualmente disponibile sul mercato.
Le prestazioni eccezionali del chip lo rendono particolarmente adatto ad alimentare grandi cluster di IA. Grazie alle sue avanzate funzionalità di intelligenza artificiale, denominate Cognitive Routing 2.0, Tomahawk 6 è in grado di rilevare la congestione della rete e di instradare dinamicamente i dati verso altre connessioni, contribuendo così a evitare i colli di bottiglia prestazionali che tipicamente affliggono i carichi di lavoro dell’IA. Questa capacità è fondamentale per i processi di training dell’IA che richiedono il coordinamento del lavoro tra più unità di elaborazione grafica (GPU).
Il nuovo chip di Broadcom supporta sia architetture di rete IA di tipo scale-up che scale-out. In reti scale-out a due livelli, Tomahawk 6 può collegare insieme oltre 100.000 processori, e Broadcom riferisce che diversi clienti hanno già in programma di integrare il chip in cluster di IA di queste dimensioni. L’azienda afferma che il chip è progettato per soddisfare, in futuro, le esigenze di cluster IA con oltre un milione di XPU (acceleratori di IA).
Il lancio arriva in un momento strategico per Broadcom, che ha registrato una crescita esplosiva nel settore dei chip per l’IA. L’azienda ha generato 12,2 miliardi di dollari di ricavi dai chip per l’IA nell’anno fiscale 2024, con un aumento del 220% rispetto all’anno precedente. Il CEO di Broadcom, Hock Tan, ha previsto che il mercato indirizzabile per processori IA personalizzati e chip di rete potrebbe raggiungere tra i 60 e i 90 miliardi di dollari entro l’anno fiscale 2027.
Tomahawk 6 rappresenta l’impegno di Broadcom verso la tecnologia Ethernet come standard di rete per l’infrastruttura IA, in competizione con la tecnologia InfiniBand di Nvidia. “Tutte queste reti possono essere realizzate molto semplicemente su Ethernet, non servono tecnologie esoteriche”, ha dichiarato Velaga, sottolineando la strategia di Broadcom di offrire soluzioni di rete aperte e basate su standard per il mercato dell’IA in rapida espansione.