훈련에서 추론으로 AI 지출 변화···브로드컴·마벨 두각 나타내

Benzinga
Open on Benzinga
훈련에서 추론으로 AI 지출 변화···브로드컴·마벨 두각 나타내
공유 Facebook Twitter LinkedIn Pinterest Email

AI 데이터센터가 조용히 새로운 단계로 진입하고 있다. 이는 차세대 지출 물결에서 가장 큰 혜택을 볼 기업들의 구도를 재편할 수 있다. 스케일AI의 데이터 과학자이자 메타 플랫폼스(NASDAQ:META )의 전 수석 데이터 과학자인 스리 카나잔(Sri Kanajan)은 JP모건이 주최한 전화 회의에 참여해 AI 인프라의 진화 양상 과 실제 자금 흐름을 분석했다.

훈련은 지난 이야기, 이제는 추론이 핵심

거대 프론티어 모델에 대한 모든 관심에도 불구하고, 카나잔은 진정한 변화가 다른 곳에서 일어나고 있다고 말한다. 컴퓨팅 자본지출이 예상보다 빠르게 훈련에서 추론으로 이동하고 있다. 디스틸레이션, 양자화, 체인 오브 씽크, 다단계 최적화 같은 기술들이 추론을 더 저렴하고 효율적으로 만드는 반면, 훈련 주기는 점점 더 적은 수익을 내고 있다.

카나잔은 2027년까지 추론이 증분 컴퓨팅 지출의 대부분을 차지할 것으로 예상하며, 2025~2026년 이미 그 방향으로 기울기 시작했다고 전망한다.

실질적인 시사점은? 기업들은 더 이상 가장 큰 모델을 원하지 않는다는 것이다. 그들은 작업을 수행하는 가장 저렴한 모델을 원한다.

브로드컴과 마벨이 두각을 나타내다

이러한 변화는 승자도 재편한다.

카나잔은 브로드컴(NASDAQ:AVGO )을 주요 수혜자로 지목했는데, 이는 알파벳(NASDAQ:GOOGL ) (NASDAQ:GOOG ) 구글(TPU), 아마존(NASDAQ:AMZN )의 인퍼런시아(Inferentia), 메타의 MTIA 추론을 구동하는 맞춤형 ASIC 개발 덕분이다. 더 작고, 더 저렴하며, 더 효율적인 모델이 중요한 세상에서 브로드컴은 바로 그 흐름의 중심에 위치한다.

마벨 테크놀로지(NASDAQLMRVL ) 역시 추론 워크로드가 고가의 훈련 중심 NVLink 및 인피니밴드 패브릭보다 이더넷과 PCIe에 크게 의존함에 따라 혜택을 본다. AI 네트워크가 표준화되고 다중 공급원으로 이동함에 따라 마벨의 솔루션은 관련성을 높인다.

그러나 승자는 칩을 넘어선다.

셀레스티카(NYSE:CLS )는 업계가 화이트박스, OCP(Open Compute Project) 기반 하드웨어로 기울어지는 가운데, 특히 운영사들이 여러 공급업체로부터 조달할 수 있는 저렴하고 표준화된 추론 랙을 추구함에 따라 유리한 위치에 있다.

한편, 아리스타 네트웍스(NYSE:ANET )는 최고 성능의 훈련 네트워크를 계속 주도하고 있지만, 카나잔은 추론 분야에서 이더넷으로의 광범위한 전환이 향후 몇 년간 더 많은 네트워킹 수혜 기업들에게 기회를 열어줄 것이라고 지적했다.

표준화 + 전력 제약 = 호재

변화를 주도하는 또 다른 요소는 전력이다. 훈련은 여전히 막대한 전력을 소모하며(추론보다 5~10배 높은 경우가 많음), 많은 데이터센터는 대규모 훈련 클러스터를 최대 가동률로 운영할 전력망 용량을 갖추지 못했다. 반면 추론은 분산 서버와 에지 클러스터에서 더 잘 확장된다.

이러한 역학은 추론을 단순히 저렴하게 만들 뿐만 아니라 배포도 용이하게 한다.

AI의 다음 단계는 가장 큰 모델을 구축하는 것이 아니다. AI를 더 저렴하고, 빠르며, 운영하기 쉽게 만드는 것이 핵심이며, 브로드컴과 마벨은 지출이 이러한 방향으로 전환됨에 따라 혜택을 볼 수 있는 위치에 있다.

사진: YAKOBCHUK V on Shutterstock.com

Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.

독점 속보 및 스캐너와 같은 Benzinga Pro의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요. 여기를 클릭 하여 14일 무료 체험을 시작하세요.