구글, AI 저장 효율 극대화 선언···마이크론·샌디스크 등 메모리주 하락

Benzinga
Benzinga kaynağında aç
구글, AI 저장 효율 극대화 선언···마이크론·샌디스크 등 메모리주 하락
공유 Facebook Twitter LinkedIn Pinterest Email

마이크론 테크놀로지(NASDAQ:MU )와 샌디스크(NASDAQ:SNDK )를 비롯한 메모리 및 스토리지 관련 기업들의 주가가 수요일(25일) 하락세를 보였다.

이러한 움직임은 알파벳(NASDAQ:GOOGL ) (NASDAQ:GOOG ) 산하 구글 리서치(Google Research)가 AI 효율성과 관련해 기술적 발표를 한 데 따른 것이다.

구글, ‘터보퀀트(TurboQuant)’ 알고리즘 공개

화요일(24일) 구글 연구진은 ‘터보퀀트(TurboQuant)’를 소개했다. 이 첨단 양자화 알고리즘 세트는 대규모 언어 모델(LLM)에 대한 대용량 압축을 가능하게 한다.

구글 블로그 에 따르면, 이 기술은 “벡터 양자화에서 발생하는 메모리 오버헤드 문제를 최적으로 해결한다.”

이번 기술 혁신은 키-값(KV) 캐시에 초점을 맞추고 있다. 구글은 이를 자주 사용되는 정보를 저장하는 “디지털 치트 시트”라고 설명한다.

고차원 벡터는 복잡한 AI 데이터를 포착하지만 막대한 양의 메모리를 소모합니다. 구글은 터보퀀트가 모델의 정확도를 저하시키지 않으면서 키-값 메모리 크기를 “최소 6배” 줄인다고 보고했다.

LLM의 효율성 향상

터보퀀트는 폴라퀀트(PolarQuant)와 양자화 존슨-린덴스트라우스(QJL)라는 두 가지 보조 기법을 활용한다. 젬마(Gemma) 및 미스트랄(Mistral)과 같은 오픈소스 모델을 대상으로 한 테스트에서, 이 시스템은 엔비디아(NASDAQ:NVDA ) H100 GPU 가속기에서 양자화되지 않은 키에 비해 “8배의 성능 향상”을 달성했다.

구글은 이러한 기술을 통해 “최소한의 메모리로 대규모 벡터 인덱스를 구축하고 쿼리할 수 있다”고 밝혔다.

주가 움직임: Benzinga Pro 데이터에 따르면 , 수요일 정규장에서 샌디스크 주가는 3.50% 하락한 677.86달러, 웨스턴디지털은 1.63% 하락한 296.14달러, 마이크론 테크놀로지 주가는 3.40% 하락한 382.09달러에 마감했다.

사진: Nor Gal / Shutterstock

Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.

독점 속보 및 스캐너와 같은 Benzinga Pro의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요. 여기를 클릭 하여 14일 무료 체험을 시작하세요.