Le cofondateur d’Ethereum, Vitalik Buterin, soutient la décision de Moonshot AI de retirer les compétences avancées en hacking de son nouveau modèle Kimi K3.1 Pro. À ses yeux, limiter ce que l’IA peut faire est préférable à limiter qui peut l’utiliser.
Cependant, cette mesure de sécurité a un coût mesurable. Moonshot affirme que le modèle filtré a résolu 81 % des tâches lors de son test interne de hack, tandis que la version non filtrée en a résolu 90,5 %.
Pourquoi Vitalik Buterin préfère imposer des limites à l’IA plutôt que de contrôler les utilisateurs
Buterin a exposé sa position, arguant qu’il est bien moins nocif de discriminer les cas d’usage que de discriminer les utilisateurs.
I am okay with Kimi 3.1 deliberately leaving out top-end offensive cyber capabilities from their training data.
— vitalik.eth (@VitalikButerin) October 26, 2026
Discriminating against use cases is MUCH less bad than discriminating against users. And the world does need all the time it can get to prepare, harden, check old…
Moonshot, une startup d’IA basée à Pékin, prévoit de publier les poids ouverts du modèle d’ici le 4 novembre. N’importe qui pourra alors le télécharger et l’exécuter sur son propre matériel.
Pour cette raison, la société explique avoir retiré les données liées à la cybersécurité de son corpus d’entraînement et des environnements d’apprentissage par renforcement. En revanche, les tâches générales de codage ont été conservées.
Selon Vitalik Buterin, les attaques alimentées par l’IA frapperont tôt ou tard avec toute leur intensité. D’ici là, les développeurs ont besoin de temps pour renforcer leurs systèmes, vérifier les anciens codes et valider les nouveaux logiciels.
La menace est déjà visible. Plus tôt cette année, Binance Research a constaté que l’IA parvient à hacker les smart contracts environ deux fois mieux qu’elle n’identifie les failles.
Abonnez-vous à notre chaîne YouTube pour retrouver toutes les analyses de nos experts et journalistes
https://www.youtube.com/watch?v=PqnAlVdpZO8&t=243sQue se passera-t-il si la première vague de risques liés à l’IA tourne mal ?
Buterin a également mis en garde contre l’alternative. Si cette première vague se passe mal, il s’attend à voir apparaître des modèles verrouillés, des contrôles d’identité (KYC) à tous les niveaux, et une surveillance intrusive.
Dans ce scénario, l’accès à l’IA pourrait dépendre de justificatifs ou de la nationalité. Certains deviendraient alors des utilisateurs de seconde, troisième, voire quatrième classe, écrit-il.
Vitalik Buterin s’est toujours prononcé en faveur de l’exécution de modèles d’IA ouverts sur son propre matériel, comme l’ont démontré ses tests locaux sur son ordinateur portable.
Pour autant, il n’attend pas que ce filtrage tienne indéfiniment. Lorsqu’un utilisateur a demandé si d’autres laboratoires finiraient tout de même par développer ces fonctionnalités, il a répondu qu’ils le feraient.
En fait, selon les chiffres de Moonshot, le modèle concurrent ouvert DeepSeek V4.1-Flash atteint déjà 85,7 % sur le même test de référence.
Pour Vitalik Buterin, la sécurité de l’IA est donc devenue une course contre la montre, et non un blocage définitif. Cette course favorise les défenseurs qui mettent en place ses mesures redondantes de sécurité crypto avant que les attaquants ne les rattrapent.
Lisez l’article original Vitalik Buterin soutient une IA qui a volontairement limité ses compétences en hack par Phil Haunhorst sur fr.beincrypto.com