Vitalik Buterins Einsatz für lokale KI: Kann Ihr Laptop ChatGPT ersetzen?

BeInCrypto
Abrir em BeInCrypto
Vitalik Buterins Einsatz für lokale KI: Kann Ihr Laptop ChatGPT ersetzen?

Ethereum-Mitgründer Vitalik Buterin sagt, dass lokale künstliche Intelligenz (KI) bald einen großen Teil alltäglicher Aufgaben übernehmen kann. Er hat das Modell Qwen3.8-Flash-Next von Alibaba auf seinem eigenen Laptop getestet und die Geschwindigkeits-Ergebnisse veröffentlicht.

Im Unterschied zu ChatGPT verbindet sich dieses System nie mit einem Cloud-Server. Das Modell läuft direkt auf dem Gerät, und das Gerät beantwortet die Anfrage selbstständig.

Vitalik Buterins lokaler KI-Test zeigt nutzbare Geschwindigkeit

Sein Laptop nutzt den Strix Halo Chip von AMD. In den meisten Computern wird die Arbeit zwischen Prozessor und einer separaten Grafikkarte aufgeteilt, wobei jede ihren eigenen Speicherbereich hat. Strix Halo platziert beides auf einem einzigen Chip, sodass sie denselben Speicher gemeinsam nutzen können.

Dieses Design ist wichtig, da ein KI-Modell vollständig in den Speicher passen muss, bevor es genutzt werden kann. Eine typische Grafikkarte bietet acht bis 24 Gigabyte, was für ein Modell dieser Größe zu wenig ist. Strix Halo Geräte sind hingegen mit bis zu 128 Gigabyte ausgestattet, die von beiden Teilen des Chips verwendet werden. Ein Laptop kann daher ein Modell ausführen, das früher spezielle Server-Hardware benötigte.

Die von ihm veröffentlichten Geschwindigkeiten sind für alltägliche Arbeiten schnell genug. Kurze Anfragen werden mit einer angenehmen Lesegeschwindigkeit beantwortet. Bei sehr langen Anfragen mit mehreren zehntausend Wörtern nimmt die Geschwindigkeit jedoch ab, sodass große Dokumente noch eine Schwachstelle bleiben.

Alibaba hat die offenen Gewichte am 26. August veröffentlicht. Das Team gibt an, dass das Modell 125 Milliarden Parameter enthält, aber jeweils nur sechs Milliarden gleichzeitig nutzt, sodass der Speicherbedarf gering bleibt.

Buterin nennt es Qwen3.8-Flash, auch wenn Alibaba die herunterladbare Version als Qwen3.8-Flash-Next anbietet. Die größere Version, Qwen3.8-Max, erreichte starke Benchmark-Ergebnisse im August.

Qwen 3.8 flash is truly impressive, and llama.cpp has been rapidly getting better and better at processing it

columns are: pre-existing prompt, new prompt, generated, input tok/s, output tok/s

This is on my laptop (strix halo). I think we're very close to the point where you… pic.twitter.com/v5Ze4Fv5Wr

— vitalik.eth (@VitalikButerin) September 17, 2026
Vitalik Buterin. Source: X

Warum Datenschutz die Entscheidung beeinflusst

Buterin sieht neben der reinen Geschwindigkeit noch einen weiteren Vorteil. Ein lokales Modell verarbeitet die Anfrage direkt auf dem Gerät, sodass kein Anbieter die Anfrage erhält.

Für anspruchsvollere Aufgaben schlägt er eine Aufteilung vor. Das lokale Modell würde übernehmen, was möglich ist, und sensiblere Informationen aus allen Anfragen entfernen, bevor diese an ein größeres, externes System weitergeleitet werden.

„Nutzen Sie Ihr lokales Modell, um Anfragen an leistungsstarke Modelle zu koordinieren, damit Ihre Anfragen keine persönlichen Informationen preisgeben."

In der Praxis würde das lokale Modell beispielsweise Namen, Wallet-Adressen oder privaten Code aus einer Anfrage entfernen und nur die restliche Frage weitergeben. Diese Filterung verringert, was das Gerät verlässt. Ein vollständiger Schutz vor dem unabsichtlichen Weiterleiten sensibler Daten ist damit jedoch nicht garantiert.

Vergleichsgrafik: Lokale KI auf Ihrem Laptop im Vergleich zu einem Cloud-DienstVergleichsgrafik: Lokale KI auf Ihrem Laptop im Vergleich zu einem Cloud-Dienst. Quelle: BeInCrypto

Dieser Ansatz passt zu seiner bisherigen Haltung. Er hat bereits vor Überwachung im Zusammenhang mit dem Kampf um die EU-Chatkontrolle gewarnt, und auch Krypto-Nutzer fordern striktere Regeln für KI-Agenten aus ähnlichen Gründen.

Eine im Mai eingereichte Sammelklage wirft OpenAI vor, ChatGPT-Anfragen von Nutzern an Meta und Google weitergegeben zu haben.

Cloud-Anbieter sind weiterhin führend bei neuen Entwicklungen. Aber mit jeder Verbesserung der lokalen Leistung wird mehr Routinearbeit vom Server verlagert, und günstige Geräte mit gemeinsam nutzbarem Speicher verbreiten sich zunehmend.

Die offene Frage bleibt, wie viel Leistungsfähigkeit die Nutzer für mehr Kontrolle eintauschen möchten.

Lesen Sie die Originalgeschichte Vitalik Buterins Einsatz für lokale KI: Kann Ihr Laptop ChatGPT ersetzen? von Phil Haunhorst auf de.beincrypto.com