Modelli di apprendimento automatico (ML) più grandi ed efficienti svolgeranno un ruolo chiave nel soddisfare i requisiti emergenti dei carichi di lavoro di accelerazione dell'IA. La necessità di scalare significativamente le future infrastrutture di calcolo sta guidando una crescita esponenziale della larghezza di banda I/O e una maggiore portata di connettività per supportare cluster xPU più grandi, nonché architetture più efficienti in termini di risorse come la disaggregazione delle GPU e il pooling della memoria.
Le connessioni I/O elettriche (ovvero, la connettività tramite tracce di rame) supportano un'elevata densità di banda e un basso consumo energetico, ma solo per distanze molto brevi, pari o inferiori a 1 metro. I moduli ricetrasmettitori ottici plug-in utilizzati negli attuali data center e nei primi cluster di intelligenza artificiale possono aumentare la portata, ma a costi e consumi energetici insostenibili, considerate le esigenze di scalabilità dei futuri carichi di lavoro di intelligenza artificiale.
Una soluzione I/O ottica xPU (CPU, GPU, IPU) integrata può supportare larghezze di banda maggiori con elevata efficienza energetica, bassa latenza e maggiore portata, che è esattamente ciò che richiede la scalabilità dell'infrastruttura AI/ML.
Soluzione di I/O ottico basata sulla fotonica al silicio di Intel
Intel ha sviluppato un chiplet OCI bidirezionale completamente integrato da 4 Tbps basato sulla tecnologia proprietaria Intel Silicon Photonics per far fronte alle enormi esigenze di larghezza di banda delle infrastrutture di intelligenza artificiale e consentire la scalabilità futura. Questo chiplet OCI contiene un singolo circuito integrato fotonico in silicio (PIC) con laser integrati, un circuito integrato elettrico con TSV RF e un percorso per l'integrazione di un connettore ottico rimovibile/riutilizzabile.
Il chip OCI può essere combinato con CPU, GPU, IPU di nuova generazione e altre applicazioni system-on-a-chip (SoC) ad alta intensità di banda. Questa implementazione iniziale apre la strada alla connettività ottica multiterabit con una densità di banda superiore di oltre 4 volte rispetto a PCIe Gen6, un'efficienza energetica inferiore a 3 pJ/bit, una latenza inferiore a 10 ns (+TOF) e una portata superiore a 100 metri.
Abbiamo in programma di presentare il nostro chiplet OCI di prima generazione, integrato con una CPU Intel concettuale, che esegue un collegamento senza guasti su fibra (BER <10E-12 con schema PRBS31) all'OFC 2024 di San Diego, dal 26 al 28 marzo (stand Intel n. 1501). Questa implementazione iniziale di OCI è un chiplet bidirezionale da 4 Tbps compatibile con PCIe Gen5, che supporta 64 corsie dati a 32 Gbps in ciascuna direzione su decine di metri, implementate come otto coppie di fibre, ciascuna delle quali trasporta otto lunghezze d'onda DWDM. Oltre a questa implementazione iniziale, la piattaforma ha capacità di linea di vista per chiplet da 32 Tbps.
Trasmettitore OCI: spettro ottico di 8 lunghezze d'onda in una fibra monomodale standard
L'unico PIC nell'attuale stack di chip è in grado di supportare applicazioni bidirezionali fino a 8 Tbps e contiene un sottosistema ottico completo, grazie all'esclusiva capacità di Intel di integrare array laser DWDM e amplificatori ottici direttamente sul PIC. Ciò garantisce un'affidabilità di ordini di grandezza superiore rispetto ai laser InP convenzionali. Questi chip fotonici integrati in silicio sono prodotti in uno dei nostri stabilimenti statunitensi ad alto volume, che ha già spedito oltre 8 milioni di PIC con più di 32 milioni di laser on-chip in transceiver ottici plug-in per reti di data center, offrendo un'affidabilità leader del settore. Oltre ai comprovati vantaggi in termini di prestazioni e affidabilità, la tecnologia laser on-chip consente la produzione, il collaudo e la messa a punto su scala wafer, con conseguente maggiore semplicità e affidabilità a livello di sottosistema (ad esempio, nessuna fibra che collega l'ELS e il PIC) ed efficienza produttiva.
Un altro vantaggio distintivo è che OCI utilizza fibra monomodale standard e ampiamente disponibile (SMF-28), eliminando la necessità di fibra a mantenimento di polarizzazione (PMF), a differenza di altri approcci tecnici presenti sul mercato. La PMF è stata raramente utilizzata perché le vibrazioni del sistema e il movimento della fibra possono influire negativamente sulle prestazioni e sul relativo bilancio di collegamento.
Diversi gruppi Intel stanno contribuendo allo sviluppo e all'implementazione di OCI come tecnologia chiave per l'I/O ottico. Ciò evidenzia come Intel sia in grado di offrire una soluzione di elaborazione completa di nuova generazione grazie alle sue competenze all'avanguardia in ambito di semiconduttori, ottica, packaging e integrazione di piattaforme.
La comprovata piattaforma e tecnologia di fotonica al silicio di Intel è in grado di offrire le soluzioni di connettività ottica più affidabili e performanti per consentire un'intelligenza artificiale onnipresente.
