Илон Маск резко высказался о безопасности ИИ. Он написал, что надеется на доброжелательность искусственного интеллекта к людям, и поддержал серьезное предупреждение инвестора Навала Равиканта.
Маск опубликовал сообщение через минуту после того, как оставил комментарий «Интересный диалог» под тредом гендиректора Anthropic Дарио Амодеи. Топ-менеджер до этого защищал свои прогнозы о рисках ИИ от обвинений в излишнем пессимизме.
Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал , обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
Зачем Амодеи подчеркивает риски ИИ
Обсуждение запустил инвестор Гэвин Бейкер. Управляющий из Кремниевой долины заявил, что слухи об Амодеи расходятся быстро, потому что совпадают с тем, как глава Anthropic обычно говорит на публике.
Амодеи не согласился с тем, что говорит только об опасностях. По его словам, два главных эссе делят внимание между рисками и выгодами поровну. Короткие интервью часто выглядят мрачно, потому что такие ролики собирают клики, добавил гендиректор.
По словам Амодеи, работа Machines of Loving Grace о плюсах ИИ появилась именно потому, что члены отрасли слишком сгущали краски.
Он также назвал глубинную причину: обычные люди не доверяют компаниям, госструктурам и IT-индустрии. Из-за этого недоверие переносится и на искусственный интеллект — подозрения копились десятилетиями.
Это недоверие сказывается и на регулировании. Амодеи в июне предложил обязательно тестировать ведущие модели вместо добровольных обещаний. Он через несколько дней обратился к G7 и предупредил об опасности разрозненных национальных правил.
«Самая справедливая критика в адрес компаний, занимающихся ИИ, в том числе Anthropic — мы до сих пор не выполнили главное обещание: принести пользу миру», — заявил Амодеи.
Маск вступает в спор о добрых намерениях ИИ
Маск назвал диалог интересным и тем самым обратил внимание на сложность спора. Кроме упора Амодеи на регулирование, обсуждение затрагивает и философские вопросы. Навал Равикант сформулировал их так: нельзя создать бога и посадить его на поводок.
Маск повторил эту мысль почти дословно: «Надеюсь, ИИ будет к нам добр». В его сдержанном признании звучит предупреждение: если люди потеряют контроль над суперинтеллектом, обществу останется надеяться только на добрую волю собственного творения.
Маск уже высказывался в поддержку Anthropic. Гендиректор Tesla ранее раскритиковал закрытость OpenAI и отметил, что Амодеи выбрал другой путь.
Последний также поспорил с привычным для Кремниевой долины взглядом. По его словам, регулирование не всегда ведет к концентрации власти. Закон Калифорнии SB 53 о безопасности ИИ, который поддерживает Anthropic, освобождает от требований компании с выручкой ниже $500 млн.
Похожий спор возник в июне, когда Виталик Бутерин выступил против растущего национализма в сфере ИИ.
Амодеи назвал два подхода, которые считает правильными. Первый предложила администрация Трампа — проверять продвинутые модели до выхода. Второй выдвинул глава Google DeepMind Демис Хассабис — создать регулятора по образцу FINRA (американская саморегулируемая организация на рынке брокеров и дилеров).
Амодеи в конце вернулся к своему самому громкому обещанию. ИИ в области биологии может вылечить большинство болезней человека за пять–десять лет, уверен он. В Anthropic и Pfizer уже считают искусственный интеллект в медицине ключевой инфраструктурой.
Глава Anthropic связал эту цель с историей из своей жизни: его отец умер от гепатита C незадолго до появления действенных лекарств. При этом Амодеи не стал делать громкую рекламу. Фразы вроде «ИИ вылечит рак», по его мнению, звучат пусто. Помогает само лечение болезни, а не слоганы.
Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал , а также вступайте в сообщество BeInCrypto ! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!
Читайте оригинальную статью Илон Маск поддержал Дарио Амодеи по поводу рисков ИИ от Phil Haunhorst на ru.beincrypto.com