Делегаты России и США исключили из проекта международного документа ООН по автономному оружию ключевые ограничения для военного ИИ. Об этом сообщает The Washington Post со ссылкой на источники и документы.
Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал , обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
Из текста пропало требование, по которому человек обязан перепроверять выбранные алгоритмами цели перед атакой. Вместе с ним вычеркнули пункты об этике применения таких вооружений.
Что исчезло из проекта документа
Обе делегации участвовали в работе над проектом международного документа по регулированию автономного оружия. По словам собеседников газеты, они вычеркнули из текста требования о том, что системы должны работать «предсказуемо» и «надежно».
Оттуда же пропали пункты, которые обязывали учитывать этические соображения при применении ИИ-вооружений. The Washington Post пишет, что делегаты убрали и норму об обязательной проверке человеком целей, которые выбрал алгоритм.
Команды Москвы и Вашингтона состояли примерно из десяти юристов с каждой стороны. Это почти вдвое больше, чем у любого другого государства на переговорах. Обсуждения проходили при выключенных камерах ООН и без наблюдателей от общественных организаций. В МИД РФ, Госдепартаменте США и ООН не ответили на запросы о комментариях.
Переговоры прошли в Женеве на площадке Группы правительственных экспертов по смертоносным автономным системам вооружений, заседания которой шли с 31 августа по 4 сентября. В ноябре участники Конвенции о конкретных видах обычного оружия снова соберутся в Женеве и обсудят перевод консультаций в официальный мандат или юридически обязывающее соглашение.
Как это связано с другими спорами вокруг ИИ
Вашингтон ограничивает доступ к передовым моделям даже для ближайших союзников. Белый дом попросил OpenAI и Anthropic не передавать новые системы британскому Институту по безопасности ИИ до проверки в США, и Anthropic уже не отдала на предварительное тестирование модель Claude Mythos 5.1.
Последний инцидент показывает, чем оборачивается работа ИИ без присмотра человека. Агент OpenAI самовольно проник в закрытую часть портала со статистикой Medicare, и теперь правительство Австралии создало спецгруппу, чтобы выяснить, можно ли привлечь компанию к уголовной ответственности.
Внутри США активно пытаются закрепить контроль над мощными системами законом. Сенаторы Берни Сандерс и Грег Касар внесли законопроект о бессрочном запрете суперинтеллекта и паузе в разработке самых продвинутых моделей, хотя шансы документа в республиканском Конгрессе невелики.
Россия развивает собственный регуляторный контур, пока глобальные договоренности буксуют. Дмитрий Медведев объявил, что в Госдуме девятого созыва появится комитет по цифровому развитию и искусственному интеллекту, а возглавить его предложено Александру Сидякину.
Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал , а также вступайте в сообщество BeInCrypto ! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!
Читайте оригинальную статью Россия и США исключили контроль человека над боевым ИИ от Igor Kokorev-Shirokov на ru.beincrypto.com