Questa nuova versione open-source incorpora configurazioni flessibili che consentono agli architetti di sistema di ottimizzare il bilanciamento tra prestazioni di ricerca e numero di vettori, due fattori che competono per lo spazio all'interno di una capacità SSD fissa. Il vantaggio che ne deriva permette ai progettisti di sistemi RAG di regolare con precisione l'equilibrio ottimale per carichi di lavoro specifici e i relativi requisiti, senza richiedere modifiche hardware.
Il software KIOXIA AiSAQ, introdotto per la prima volta nel gennaio 2025, utilizza un innovativo algoritmo di ricerca approssimata del vicino più prossimo (ANNS) ottimizzato per le unità SSD, eliminando la necessità di memorizzare i dati di indice nella DRAM. Consentendo le ricerche vettoriali direttamente sulle unità SSD e riducendo i requisiti di memoria host, la tecnologia KIOXIA AiSAQ permette ai database vettoriali di scalare senza essere limitati dalla capacità limitata della DRAM.
Quando la capacità SSD installata nel sistema è fissa, l'aumento delle prestazioni di ricerca (query al secondo) richiede un maggiore consumo di capacità SSD per vettore. Il risultato è un numero inferiore di vettori. Al contrario, massimizzare il numero di vettori richiede una riduzione del consumo di capacità SSD per vettore, il che comporta prestazioni inferiori. L'equilibrio ottimale tra queste due condizioni opposte varia a seconda del carico di lavoro specifico. Per trovare il giusto equilibrio, il software KIOXIA AiSAQ introduce opzioni di configurazione flessibili. Questo ultimo aggiornamento consente agli amministratori di selezionare il punto di equilibrio ottimale per un'ampia varietà di carichi di lavoro contrastanti all'interno del sistema RAG. Questo aggiornamento trasforma KIOXIA AiSAQ in una soluzione ANNS basata su SSD, ideale non solo per gli ambienti RAG, ma anche per altre applicazioni ad alta intensità di vettori, come le ricerche semantiche offline.
Data la crescente domanda di soluzioni di intelligenza artificiale scalabili, le unità SSD si stanno affermando come un'alternativa efficiente alle DRAM per soddisfare i requisiti di alta velocità e bassa latenza dei sistemi RAG. Il software KIOXIA AiSAQ consente di soddisfare in modo efficiente queste esigenze, abilitando l'intelligenza artificiale generativa su larga scala senza essere limitati dalle risorse di memoria.
Con il rilascio del software KIOXIA AiSAQ come open source, KIOXIA rafforza il suo impegno nei confronti della comunità dell'intelligenza artificiale, promuovendo architetture basate su SSD per un'IA scalabile.
“Siamo sempre alla ricerca di modi innovativi per aiutare sviluppatori e architetti di sistema a ottimizzare prestazioni e capacità”, ha commentato Axel Störmann, Vicepresidente e Chief Technology Officer per i prodotti di memoria e SSD di KIOXIA Europe GmbH. “Ora, con questa nuova versione del software AiSAQ, gli utenti possono sfruttare appieno il potenziale degli SSD per progettare sistemi RAG scalabili, flessibili ed efficienti. Rilasciando questa tecnologia come open source, ribadiamo il nostro impegno costante nei confronti della comunità dell'IA, fornendo soluzioni potenti e accessibili.”
Segui il link per scaricare il software open source KIOXIA AiSAQ.
