Сооснователь Ethereum Виталик Бутерин заявил, что не видит ни одного нормального плана по управлению переходом к искусственному суперинтеллекту (ASI). По его словам, человечество, возможно, застряло перед выбором между «наивным» и «наивным в квадрате» сценариями.
Поводом стала дискуссия вокруг прогнозного сценария под названием «ИИ 2040» и его критиков. По мнению Бутерина, обе стороны «заперты во взаимно несовместимых картинах мира» относительно того, насколько быстро развивается искусственный интеллект.
Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал , обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
В чем суть спора об ИИ
По словам Бутерина, сценарий «ИИ 2040» предполагает появление суперинтеллекта к 2040 году почти в любом варианте развития событий. Исключением стали бы лишь титанические усилия, чтобы полностью его остановить.
Критики же, по наблюдению разработчика, называют такой прогноз наивным в оценке способности людей к координации. При этом, по мнению Бутерина, они сами не замечают наивности в допущении, что переход к суперинтеллекту по умолчанию пройдет гладко.
Виталик подчеркнул, что позиция критиков имеет смысл лишь в мире, где ИИ остается «обычной технологией». В мире же, где суперинтеллект возможен уже к 2030 году, она, по его словам, не выдерживает критики.
Сам Бутерин признался, что испытывает неопределенность. По его словам, будь он уверен хоть в одном из сценариев, то примкнул бы к соответствующему лагерю. Однако пока Виталик не понимает, в каком из миров живет человечество.
Опасения по поводу концентрации власти
Отдельно Бутерин выразил дискомфорт от риторики некоторых крупных ИИ-компаний. Его настораживает установка вида «открытый код — это плохо, а хороший исход тот, где наши парни получают контролирующее мировое господство».
По его мнению, в «нормальном» мире подобные заявления должны включать все политические тревожные сигналы одновременно. Сам суперинтеллект Виталик рассматривает как огромный риск концентрации власти.
Именно поэтому Бутерин продвигает платформу под названием d/acc. Она включает развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии.
Ценность этих направлений в том, что они полезны в обоих сценариях будущего. При этом Виталик положительно оценил, что план «ИИ 2040» стал более дружелюбным к открытому коду и даже предписывает его.
Как найти компромисс
Ключевым разработчик Ethereum считает поиск сделки, приемлемой для обеих сторон.
«Выигрышной будет договоренность, которую обе стороны примут исходя из своих нынешних убеждений, пусть и по разным причинам», — отметил Виталик.
Бутерин предложил заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное». В качестве примеров он назвал суперпандемии, уровень безработицы выше 25% или появление автономного оружия.
Если достаточное количество подобных триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезнее рассматривать замедление или паузу. По его идее, критики примут это, ожидая, что триггеры не сработают, а обеспокоенные — ожидая обратного.
Отдельно Бутерин обратился к главам технологических гигантов. По его словам, будь он на месте Илона Маска или Марка Цукерберга, то перестроил бы социальные платформы под поиск подобных взаимовыгодных сделок. Однако он признал, что и эта идея наивна.
Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал , а также вступайте в сообщество BeInCrypto ! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!
Читайте оригинальную статью Бутерин раскритиковал ИИ-гигантов за мечты о «мировом господстве» от Igor Kokorev-Shirokov на ru.beincrypto.com