Diese neue Open-Source-Version bietet flexible Konfigurationsmöglichkeiten, mit denen Systemarchitekten das Verhältnis zwischen Suchleistung und Vektoranzahl – zwei Faktoren, die bei begrenzter SSD-Kapazität um Speicherplatz konkurrieren – präzise abstimmen können. Dadurch können RAG-Systementwickler die optimale Balance für spezifische Workloads und deren Anforderungen exakt anpassen, ohne Hardwareänderungen vornehmen zu müssen.
Die KIOXIA AiSAQ-Software, die erstmals im Januar 2025 vorgestellt wurde, nutzt einen neuartigen Algorithmus zur approximativen Suche nach dem nächsten Nachbarn (ANNS), der für SSDs optimiert ist und die Speicherung von Indexdaten im DRAM überflüssig macht. Durch die direkte Durchführung von Vektorsuchen auf SSDs und die Reduzierung des Arbeitsspeicherbedarfs ermöglicht die KIOXIA AiSAQ-Technologie die Skalierung von Vektordatenbanken ohne Einschränkungen durch begrenzte DRAM-Kapazität.
Bei fester SSD-Kapazität im System erfordert eine höhere Suchleistung (Anfragen pro Sekunde) einen höheren SSD-Speicherverbrauch pro Vektor. Dies führt zu einer geringeren Anzahl an Vektoren. Umgekehrt erfordert die Maximierung der Vektoranzahl eine Reduzierung des SSD-Speicherverbrauchs pro Vektor, was die Leistung mindert. Das optimale Gleichgewicht zwischen diesen beiden gegenläufigen Bedingungen variiert je nach Arbeitslast. Um dieses Gleichgewicht zu finden, bietet die KIOXIA AiSAQ-Software flexible Konfigurationsoptionen. Mit diesem neuesten Update können Administratoren den optimalen Punkt für eine Vielzahl unterschiedlicher Arbeitslasten innerhalb des RAG-Systems auswählen. Dieses Update wandelt KIOXIA AiSAQ in eine SSD-basierte ANNS-Lösung um, die sich nicht nur ideal für RAG-Umgebungen, sondern auch für andere vektorintensive Anwendungen wie Offline-Semantiksuchen eignet.
Angesichts der steigenden Nachfrage nach skalierbaren KI-Lösungen etablieren sich SSDs als effiziente Alternative zu DRAM, um die hohen Geschwindigkeits- und geringen Latenzanforderungen von RAG-Systemen zu erfüllen. Die KIOXIA AiSAQ-Software ermöglicht es, diese Anforderungen effizient zu erfüllen, indem sie generative KI im großen Maßstab ohne Einschränkungen durch Speicherressourcen ermöglicht.
Mit der Veröffentlichung der KIOXIA AiSAQ-Software als Open Source bekräftigt KIOXIA sein Engagement für die KI-Community, indem es SSD-zentrierte Architekturen für skalierbare KI fördert.
„Wir suchen ständig nach innovativen Wegen, um Entwickler und Systemarchitekten bei der Optimierung von Leistung und Kapazität zu unterstützen“, so Axel Störmann, Vice President und Chief Technology Officer für Speicher- und SSD-Produkte bei KIOXIA Europe GmbH. „Mit der neuen Version der AiSAQ-Software können Anwender nun das volle Potenzial von SSDs ausschöpfen und skalierbare, flexible und effiziente RAG-Systeme entwickeln. Indem wir diese Technologie als Open Source veröffentlichen, bekräftigen wir unser Engagement für die KI-Community und stellen ihr leistungsstarke und leicht zugängliche Lösungen zur Verfügung.“
Über den Link können Sie die Open-Source-Software KIOXIA AiSAQ herunterladen.
