Сооснователь Ethereum Виталик Бутерин поддержал решение Moonshot AI убрать продвинутые хакерские функции из новой модели ИИ Kimi K3.1 Pro. По его мнению, ограничивать возможности ИИ куда лучше, чем вводить фильтры для пользователей.
Такая мера влечет за собой ощутимые потери в производительности. В Moonshot рассказали, что версия модели с фильтрами справилась с 81% заданий во внутреннем тесте на поиск эксплойтов, тогда как версия без фильтров — с 90,5%.
Бутерин за ограничения для ИИ
Виталик Бутерин пояснил свою позицию: дискриминация сценариев использования наносит куда меньший ущерб, чем дискриминация пользователей.
Moonshot — пекинский стартап в сфере искусственного интеллекта — выпустит открытые веса модели к 4 ноября. После этого ее сможет скачать и запускать на собственной технике любой желающий.
В преддверии релиза компания сообщила, что удалила из обучающей выборки и среды с подкреплением все кибернетические данные. Базовые задачи по программированию в обучении оставили.
Виталик Бутерин считает, что атаки с использованием ИИ неизбежно обрушатся на рынок. У разработчиков еще осталось немного времени: важно усилить защиту, проверить старый код и убедиться в безопасности новых программ.
Угроза уже проявляется: весной Binance Research выяснила, что ИИ эксплуатирует уязвимости в смарт-контрактах примерно вдвое эффективнее, чем находит их.
К чему приведет негативный сценарий
Бутерин предупредил и о другом сценарии. Если первая волна вызовет серьезные проблемы, появятся закрытые модели, проверки Know Your Customer (KYC, принудительная идентификация личности) для всего, — тотальный надзор.
В таком мире доступ к ИИ будет зависеть от гражданства и документов. Пользователей разделят на второй, третий и даже четвертый сорт, считает он.
Виталик Бутерин давно выступает за запуск открытых моделей ИИ на собственном оборудовании. Об этом свидетельствуют и его эксперименты с локальным запуском ИИ на ноутбуке.
При этом он не ждет, что ограничения удержатся надолго. Когда пользователь спросил, создадут ли другие лаборатории такие возможности, Бутерин ответил — да, обязательно создадут.
В Moonshot отметили: конкурент — открытая модель DeepSeek V4.1-Flash — уже получила 85,7% баллов по этому же тесту.
Читайте оригинальную статью Виталик Бутерин поддержал ИИ «без зубов»: Kimi лишили хакерских навыков от Phil Haunhorst на ru.beincrypto.com