비탈릭 부테린, 로컬 AI 확대…노트북이 챗GPT 대체할까?

BeInCrypto
Apri BeInCrypto
비탈릭 부테린, 로컬 AI 확대…노트북이 챗GPT 대체할까?

이더리움 공동 창시자인 비탈릭 부테린이 지역 인공지능(AI)이 일상의 많은 업무를 처리할 수 있을 만큼 발전했다고 말합니다. 부테린은 자신의 노트북에서 알리바바의 Qwen3.8-Flash-Next를 실행하고 속도 결과를 공개했습니다.

챗GPT와 달리, 이 환경은 클라우드 서버와 전혀 통신하지 않습니다. 모델이 컴퓨터에 직접 설치되어 해당 기기에서 요청을 바로 처리합니다.

비탈릭 부테린의 로컬 AI 테스트, 실용적인 속도 입증

그가 사용하는 노트북에는 AMD의 스트릭스 헤일로 칩이 탑재되어 있습니다. 대부분의 컴퓨터는 프로세서와 별도의 그래픽카드가 작업을 분담하며, 각 부품마다 독립적으로 메모리를 사용합니다. 스트릭스 헤일로는 이 둘을 한 칩에 통합하여 하나의 메모리 풀을 함께 사용하도록 설계되었습니다.

이런 구조는 중요합니다. AI 모델은 실행 전 메모리 내에 모두 적재되어야 합니다. 일반 그래픽카드는 8~24기가바이트의 메모리만 제공하는데, 이 용량은 대형 모델에는 턱없이 부족합니다. 스트릭스 헤일로를 탑재한 기기는 최대 128기가바이트의 메모리를 쓸 수 있습니다. 이 덕분에 한 대의 노트북에서도 서버 하드웨어가 필요했던 대형 모델을 실행할 수 있게 되었습니다.

그가 공개한 속도는 일상적인 업무에는 충분히 빠릅니다. 짧은 질문에는 읽기 편한 속도로 답변이 나왔습니다. 질문이 수만 단어에 달하는 등 매우 길어지면 출력 속도가 느려졌습니다. 따라서 아주 긴 문서는 여전히 약점입니다.

알리바바는 8월 26일에 이 모델의 오픈 웨이트를 공개했습니다. 팀은 이 모델이 1,250억 개 파라미터를 담고 있지만, 한 번에 동작하는 것은 60억 개에 불과하다 밝혔습니다. 그래서 메모리 요구량이 비교적 적다고 설명합니다.

부테린은 이를 Qwen3.8-Flash라 불렀으나, 알리바바는 다운로드 가능한 버전을 Qwen3.8-Flash-Next라는 이름으로 출시합니다. 상위 버전인 Qwen3.8-Max는 8월에 강력한 벤치마크 점수를 기록했습니다.

Qwen 3.8 flash is truly impressive, and llama.cpp has been rapidly getting better and better at processing it

columns are: pre-existing prompt, new prompt, generated, input tok/s, output tok/s

This is on my laptop (strix halo). I think we're very close to the point where you… pic.twitter.com/v5Ze4Fv5Wr

— vitalik.eth (@VitalikButerin) September 17, 2026
Vitalik Buterin. Source: X

프라이버시가 계산에 변화를 주는 이유

부테린은 순수 속도를 넘는 두 번째 이점을 제시합니다. 로컬 모델은 기기에서 바로 답변하므로, 제공업체가 요청 데이터를 받지 않습니다.

보다 복잡한 작업에서는 분할 처리 방식을 제안합니다. 로컬 모델이 처리 가능한 부분을 맡고, 민감한 정보를 삭제한 후 더 큰 호스팅 시스템에 전달하는 방식입니다.

“로컬 모델을 사용해 더욱 강력한 모델에 질의를 보낼 때 개인정보가 유출되지 않도록 조율할 수 있습니다.”

실제로는, 로컬 모델이 이름, 지갑 주소, 개인 코드를 질문에서 미리 제거한 뒤 나머지 질의만 외부 시스템에 전송합니다. 이런 선별 과정을 거치면 기기 외부로 나가는 정보가 줄어듭니다. 하지만 이를 통해 모든 민감 정보가 절대 빠져나가지 않는다고 확신할 수는 없습니다.

노트북의 로컬 AI와 클라우드 서비스 비교 그래픽노트북의 로컬 AI와 클라우드 서비스 비교 그래픽. 출처: 비인크립토(BeInCrypto)

이러한 주장은 그의 기존 입장과 일치합니다. 그는 EU 채팅 통제 논쟁에서 감시에 대해 경고한 바 있으며, 암호화폐 이용자들도 AI 에이전트에 대한 규제 강화를 요구해왔습니다.

5월에 제기된 집단 소송에서는 오픈AI가 챗GPT 사용자 질의를 메타와 구글에 공유했다고 주장합니다.

클라우드 제공업체들이 여전히 선두를 지키고 있습니다. 그러나 로컬 성능의 향상으로 일상 작업 부담이 서버에서 벗어나고, 저렴한 공유 메모리 하드웨어가 점점 널리 보급되고 있습니다.

개인 통제를 위해 사람들이 어느 정도까지 기능을 포기할지는 여전히 미지수입니다.

kr.beincrypto.com 에서 Phil Haunhorst의 원본 기사 비탈릭 부테린, 로컬 AI 확대…노트북이 챗GPT 대체할까? 읽기