KIOXIA, GPU를 통한 7.8배의 인덱스 빌드 시간 가속화로 단일 서버에서 48억 개의 고차원 벡터 검색 데이터베이스 달성

도쿄 – Kioxia Corporation은 오늘 오픈 소스 KIOXIA AiSAQ™ 근인접 이웃 검색(ANNS) 기술을 사용하여 단일 서버에서 최대 48억 개의 벡터에 대한 고차원 벡터 검색을 성공적으로 시연했다고 발표했습니다. 또한 Kioxia는 NVIDIA cuVS를 통한 GPU 가속화를 활용하여 인덱스 빌드 시간을 크게 단축했습니다. 이 두 가지 성과는 검색 증강 생성(RAG) 검색 솔루션의 상당한 발전을 나타냅니다. 48억 개 이상의 벡터를 대규모로 배포할 수 있도록 지속적인 개발이 진행 중입니다.

대규모 벡터 데이터베이스의 인덱스 구축 시간은 업계에 있어 매우 어려운 문제입니다. Kioxia는 NVIDIA와 협력하여 1024차원의 고차원 벡터에 대해 KIOXIA AiSAQ 인덱스 빌드 시간이 최대 20배 향상되었고 엔드 투 엔드 빌드 시간이 최대 7.8배 향상되었습니다. 이 20배 개선은 CPU를 사용하는 경우 28.4일에서 4개의 NVIDIA Hopper GPU를 사용하여 인덱스를 빌드하는 경우 1.4일로 단축되고 엔드 투 엔드 테스트에서 31일에서 4일로 단축되었음을 나타냅니다.^*1

AI 애플리케이션은 이제 수십억 개의 벡터에 도달하는 벡터화된 정보의 대량에 의존할 수 있으며, 그 이상은 SSD에 저장되는 반면, DRAM만으로는 수십억 개의 규모에서도 비현실적이 됩니다. Kioxia는 KIOXIA AiSAQ 기술을 통해 확장성이 뛰어난 스토리지 아키텍처를 지원합니다. 대규모 배포를 가능하게 하는 인덱스 빌드의 GPU 가속화로 구동되는 Milvus vectorDB 환경에서 단일 쿼리 서버를 사용하여 RAG 애플리케이션 지연 시간 요구 사항을 초과하여 수십억 개의 스케일 검색을 달성합니다.

NVIDIA의 스토리지 기술 담당 부사장인 Jason Hardy는 “벡터 데이터베이스는 대규모 비정형 데이터 세트에서 의도, 컨텍스트 및 유사성을 실시간으로 이해해야 하는 애플리케이션을 위한 백본을 제공합니다.”라고 말했습니다. “Kioxia는 NVIDIA cuVS 라이브러리로 GPU 가속 인덱싱을 활용하여 전례 없는 효율성으로 인덱스를 확장하고 구축할 수 있는 고차원 벡터 데이터베이스를 지원합니다.”

작년에 처음 발표된 KIOXIA AiSAQ 오픈 소스 소프트웨어 기술은 DRAM 사용량을 줄이면서 SSD에서 직접 벡터 검색을 가능하게 하여 RAG 확장성 문제를 해결합니다. KIOXIA AiSAQ 기술은 높은 확장성을 제공하여 멀티 테넌트 환경과 대규모 모놀리식 인덱스 배포 모두에 적합합니다. 이 기술은 하이브리드 클러스터링과 그래프 검색을 결합한 혁신적인 글로벌 인덱스 알고리즘을 활용하여 극한 규모의 효율적인 벡터 검색을 제공합니다. KIOXIA AiSAQ 소프트웨어는 성능과 대용량 벡터 확장성의 균형을 맞추는 유연한 튜닝 옵션을 통해 대규모 배포에 더 쉽게 액세스하고 확장할 수 있습니다.

Kioxia Corporation의 SSD 부문 부사장인 Masashi Yokotsuka는 “벡터 데이터베이스를 수십억 개로 확장하려면 메모리와 컴퓨팅을 모두 재고해야 합니다.”라고 말했습니다. “KIOXIA AiSAQ SSD 기반 벡터 검색과 NVIDIA GPU 가속을 결합하여 인덱스를 구성함으로써 대규모 배포에서 실용적인 인덱스 빌드를 제공합니다. 업계 혁신가로서 우리는 플래시 메모리를 사용하여 AI의 경계를 계속 넓힐 것입니다.”

Kioxia는 대규모 지능형 데이터 처리를 지원하는 스토리지 기반 AI 솔루션을 발전시키기 위해 계속 노력하고 있으며 KIOXIA AiSAQ를 수조 벡터 배포로 계속 발전시키고 있습니다.

Kioxia는 플래시 메모리 및 솔리드 스테이트 드라이브(SSD)의 개발, 생산 및 판매를 전문으로 하는 메모리 솔루션 분야의 세계적인 선도업체입니다. 2017년 4월, Toshiba Memory는 1987년 NAND 플래시 메모리를 발명한 Toshiba Corporation으로부터 분사되었습니다. Kioxia는 고객을 위한 선택과 사회를 위한 메모리 기반 가치를 창출하는 제품, 서비스 및 시스템을 제공함으로써 "메모리"로 세상을 고양시키는 데 전념하고 있습니다. Kioxia의 혁신적인 3D 플래시 메모리 기술인 BiCS FLASH™는 고급 스마트폰, PC, 자동차 시스템, 데이터 센터, 생성형 AI 시스템 등 고집적 애플리케이션에서 차세대 스토리지의 미래를 만들어가고 있습니다.