퀀텀에이아이 임직원 / 사진. 퀀텀에이아이

AI 모델의 대형화와 초장문 문맥 처리 경쟁이 심화되는 가운데, 메모리 병목 문제를 해결할 차세대 압축 기술이 등장했다. 퀀텀에이아이가 고차원 데이터 처리 한계를 극복한 ‘퀀텀퀀트(QuantumQuant)’를 공개하며 AI 인프라 시장의 판도를 바꿀 기술로 주목받고 있다.

퀀텀에이아이는 기존 KV 캐시 압축 기술의 한계를 넘어선 차세대 양자화 알고리즘 ‘퀀텀퀀트’를 개발했다고 밝혔다. 이 기술은 기존 표준으로 여겨지던 ‘터보퀀트(TurboQuant)’의 구조적 문제를 수학적 접근으로 해결한 것이 특징이다.

기존 터보퀀트는 극좌표 기반 랜덤 회전을 통해 데이터를 압축하는 방식으로, 차원이 높아질수록 연산량이 기하급수적으로 증가하는 한계를 지녔다. 반면 퀀텀퀀트는 Simplex 공간에서의 합성 기반 양자화를 적용해 랜덤 회전 없이도 압축을 구현함으로써 연산 복잡도를 크게 낮췄다.

이 같은 구조적 차이는 성능으로 직결된다. 퀀텀퀀트는 초고차원 컨텍스트 벡터를 실시간으로 압축하면서도 기존 대비 수십 배 향상된 처리 효율을 확보했다. 저장 용량 역시 터보퀀트 대비 수분의 일 수준으로 줄였으며, 데이터 복원 정확도는 오히려 향상된 것으로 나타났다.

특히 정보 손실 최소화 기술이 핵심 경쟁력으로 꼽힌다. 퀀텀퀀트는 평균제곱오차(MSE) 기반 단순 복원 평가를 넘어, 정보 엔트로피까지 고려한 정밀 보정 방식을 적용했다. 이를 통해 금융 약관 분석이나 고정밀 상담 AI처럼 미세한 정보 차이가 중요한 분야에서도 높은 신뢰도를 확보할 수 있다.

업계에서는 해당 기술이 AI 인퍼런스 시장 전반에 큰 변화를 가져올 것으로 보고 있다. 고가의 고대역폭 메모리(HBM) 의존도를 낮추면서도 처리 속도를 대폭 개선할 수 있어, 대규모 AI 모델의 상용화를 가속할 핵심 기술로 평가된다.

퀀텀에이아이 관계자는 “퀀텀퀀트는 단순한 압축 기술을 넘어 데이터 표현 방식을 재정의한 결과”라며 “향후 텍스트뿐 아니라 음성, 이미지 등 멀티모달 데이터 전반에서 핵심 연산 표준으로 자리잡을 것”이라고 밝혔다.

퀀텀에이아이는 2020년 설립된 자연어처리(NLP) 전문기업으로, 금융권을 중심으로 문서·음성·텍스트 등 비정형 데이터를 정형화해 데이터 자산으로 전환하는 솔루션을 제공하고 있다. 자체 ‘Data2Vec 통합자연어처리 엔진’과 AIOCR 기반 문서 처리 기술을 바탕으로 금융·의료·법률 분야에서 고정확도 AI 서비스를 구축해왔다. 최근에는 AI 에이전트 기반 서비스로 사업 영역을 확대하고 있다.