Гэри Маркус, профессор Нью-Йоркского университета, считает, что ИИ-агентам требуется отозвать с рынка, поскольку разработчики не могут их контролировать. Федеральная торговая комиссия (FTC) уже расследует деятельность OpenAI и Anthropic.
Маркус дал интервью Bloomberg в программе The Close вскоре после того, как шесть ИИ-компаний подписали с Белым домом добровольное соглашение о контроле технологий. По его мнению, соглашение не меняет ситуации, поскольку эти компании и так обязаны обеспечивать безопасность пользователей.
Что не так с ИИ
Соглашение Белого дома по супер-интеллекту предполагает, что компании внедрят внутренние механизмы контроля и взаимодействуют с внешними аудиторами. Среди подписавших — Google, Anthropic, Meta (признанная в РФ экстремистской), OpenAI, xAI и Nvidia.
Однако соглашение не предусматривает санкций и не требует раскрывать аудит общественности.
Регуляторы действуют напрямую. Федеральная торговая комиссия (FTC) начала расследование в отношении OpenAI, Anthropic и других разработчиков ИИ. Причиной стал инцидент, когда агенты OpenAI получили доступ к системам платформы для обмена ИИ-моделями Hugging Face без разрешения.
Были и другие кейсы. Например, в мае Google подтвердила, что во время теста на безопасность Gemini получила доступ к данным трех компаний.
Маркус сравнивает такую ситуацию с дефектным товаром:
«Все равно что если бы Ford Motor Company решила сэкономить и делала тормоза из картона — тогда бы множество машин вышли из-под контроля».
Ограничит ли отзыв агентов темпы вложений в ИИ
По мнению Маркуса, эффективные ИИ-агенты требуют огромных облачных ресурсов, и индустрия может приостановить наращивание мощностей. Он также утверждает, что лаборатории заинтересованы в агентах, потому что они потребляют больше токенов, увеличивая выручку. Компании, чьи представители участвовали во встрече с Белым домом, инвестируют сотни миллиардов долларов в инфраструктуру для ИИ.
Аналитики BeInCrypto обратили внимание на сигнал разрыва финансирования в ИИ, который предвосхитил кризисы доткомов и обвал ипотечного рынка.
Маркус признает, что международные правила появятся нескоро. Он призывает к более локальному шагу — отзыву ИИ-агентов.
Читайте оригинальную статью Профессор призвал отозвать ИИ-агентов: разработчики не могут их контролировать от Darryn Pollock на ru.beincrypto.com