KIOXIA AiSAQ™ 소프트웨어는 새로운 버전의 벡터 검색 라이브러리로 AI RAG를 발전시킵니다

도쿄 – 솔리드 스테이트 드라이브(SSD)의 사용을 최적화하여 검색 증강 세대(RAG) 시스템 내에서 AI 벡터 데이터베이스 검색의 유용성을 개선하기 위한 지속적인 노력의 일환으로, 메모리 솔루션의 세계적 리더인 Kioxia Corporation은 오늘 KIOXIA AiSAQ™(제품 수량화를 통한 올인스토리지 ANNS) 소프트웨어에 대한 업데이트를 발표했습니다. 이 새로운 오픈 소스 릴리스는 시스템 아키텍트가 검색 성능과 시스템의 SSD 스토리지 고정 용량에서 반대되는 요인인 벡터 수 간의 균형점을 정의할 수 있는 유연한 제어 기능을 도입합니다. 결과적으로 RAG 시스템의 설계자는 하드웨어 수정 없이 특정 워크로드와 요구 사항의 최적 균형을 미세 조정할 수 있습니다.

2025년 1월에 처음 도입된 KIOXIA AiSAQ 소프트웨어는 SSD에 최적화된 새로운 근사치 ANNS(근접 이웃 검색) 알고리즘을 사용하므로 DRAM에 색인 데이터를 저장할 필요가 없습니다. KIOXIA AiSAQ 기술은 SSD에서 직접 벡터 검색을 활성화하고 호스트 메모리 요구 사항을 줄임으로써 벡터 데이터베이스를 확장할 수 있게 해주며, DRAM 용량 제한으로 인한 제한은 대부분 없습니다.

시스템에 설치된 SSD 용량이 고정되면 검색 성능(초당 쿼리 수)을 높이려면 벡터당 더 많은 SSD 용량이 필요합니다. 이로 인해 벡터 수가 줄어듭니다. 반대로, 벡터 수를 최대화하려면 벡터당 SSD 용량 소비를 줄여야 하므로 성능이 저하됩니다. 이 두 가지 반대 조건 간의 최적의 균형은 특정 작업 부하에 따라 달라집니다. 적절한 균형을 찾기 위해 KIOXIA AiSAQ 소프트웨어는 유연한 구성 옵션을 도입합니다. 이 최신 업데이트를 통해 관리자는 RAG 시스템 간의 다양한 대조 작업 부하에 대한 최적의 균형을 선택할 수 있습니다. 이 업데이트를 통해 KIOXIA AiSAQ 기술은 RAG 애플리케이션뿐만 아니라 오프라인 시맨틱 검색과 같은 기타 벡터 요구 애플리케이션에도 적합한 SSD 기반 ANNS가 되었습니다.

확장 가능한 AI 서비스에 대한 수요가 증가함에 따라 SSD는 RAG 시스템에 필요한 높은 처리량과 낮은 지연 시간을 관리하기 위해 DRAM에 대한 실용적인 대안을 제공합니다. KIOXIA AiSAQ 소프트웨어를 사용하면 이러한 요구를 효율적으로 충족할 수 있으므로 메모리 리소스가 제한되지 않고 대규모 생성 AI를 구현할 수 있습니다.

Kioxia는 KIOXIA AiSAQ 소프트웨어를 오픈 소스로 출시함으로써 확장 가능한 AI를 위한 SSD 중심 아키텍처의 홍보를 통해 AI 커뮤니티에 대한 약속을 강화합니다.

KIOXIA의 AiSAQ 오픈소스 소프트웨어는 아래 링크를 통해 다운로드하실 수 있습니다.

Kioxia는 플래시 메모리 및 솔리드 스테이트 드라이브(SSD)의 개발, 생산 및 판매를 전문으로 하는 메모리 솔루션 분야의 세계적인 선도업체입니다. 2017년 4월, Toshiba Memory는 1987년 NAND 플래시 메모리를 발명한 Toshiba Corporation으로부터 분사되었습니다. Kioxia는 고객을 위한 선택과 사회를 위한 메모리 기반 가치를 창출하는 제품, 서비스 및 시스템을 제공함으로써 "메모리"로 세상을 고양시키는 데 전념하고 있습니다. Kioxia의 혁신적인 3D 플래시 메모리 기술인 BiCS FLASH™는 첨단 스마트폰, PC, 자동차 시스템, 데이터 센터 및 생성형 AI 시스템을 포함한 고밀도 애플리케이션에서 스토리지의 미래를 만들어가고 있습니다.