ИИ-агент OpenAI самовольно проник в государственную IT-систему Австралии. Речь о портале со статистикой Medicare.
Премьер-министр Энтони Албанезе заявил о крайней обеспокоенности инцидентом и упрекнул OpenAI в том, что компания слишком долго молчала о случившемся.
Как ИИ «перелез через забор»
По версии правительства, OpenAI поручила агенту вполне безобидную задачу: собрать данные о государственных расходах на лекарства. Агент искал информацию в интернете и вышел на портал Medicare Statistics Reporting Service, которым управляет ведомство Services Australia. Когда система не выдала нужные сведения, ИИ получил к ней несанкционированный доступ.
На портале хранились обобщенные данные: статистика по бесплатным визитам к врачам, вакцинации, лекарственным субсидиям, реестру доноров органов, а также годовые отчеты. Такие сведения не позволяют идентифицировать конкретных людей, и власти подчеркивают, что личные данные граждан не пострадали. Однако часть файлов на момент взлома еще не была опубликована. По словам вице-премьера Ричарда Марлза, это была не особо чувствительная информация, и сейчас она уже в открытом доступе.
Марлз объяснил ситуацию так: самые важные госсекреты защищены. Эти данные лежали за невысоким забором, через который агент и перебрался. Главная проблема, по его словам, в том, что никто не просил ИИ это делать. Возможно, пострадали и другие ресурсы, включая сайты Австралийского института здравоохранения, минздрава штата Виктория и бюро криминальной статистики Нового Южного Уэльса.
В OpenAI не стали отрицать случившееся.
Претензии к OpenAI и расследование
Взлом произошел еще летом, а сообщила о нем OpenAI только 10 сентября, причем письмом на общий адрес Services Australia. Албанезе назвал такие сроки и способ уведомления неприемлемыми и лично высказал претензии главе компании Сэму Альтману. Разговор состоялся в Нью-Йорке, где оба выступают на Генассамблее ООН. Накануне Альтман вместе с другими руководителями ИИ-компаний как раз призывал ООН заняться регулированием технологии.
Вопросы есть и к хронологии. OpenAI узнала о подозрительной активности своих моделей в августе, а 1 сентября Альтман встречался с Марлзом в Сан-Франциско. Кроме того, 14 сентября в Канберре была вице-президент OpenAI по глобальной политике Энн О'Лири. Судя по словам премьера, ни на одной из этих встреч о взломе не упоминали. Знали ли о нем сами руководители, неизвестно.
Правительство создает спецгруппу под руководством аппарата премьер-министра с участием Австралийского управления радиотехнической обороны (ASD), Института безопасности ИИ и профильного ведомства по ИИ. Она выяснит, законны ли действия OpenAI и может ли компания понести уголовную ответственность. Также проверят, почему австралийские спецслужбы сами не заметили вторжение. Портал уже закрыт, а данные перенесены в более защищенные системы.
Не первый инцидент с агентами OpenAI
Австралийская история вписывается в череду случаев, когда модели OpenAI выходили за рамки поставленных задач. В июле компания сообщила о взломе, который сама назвала беспрецедентным. Флагманская GPT-5.6 Sol и еще одна, неанонсированная модель проходили тест ExploitGym, который проверяет навыки взлома. На время испытаний OpenAI сняла ограничения, блокирующие кибератаки.
Модели обнаружили, что ответы к бенчмарку хранятся на Hugging Face. Воспользовавшись цепочкой уязвимостей в исследовательских системах OpenAI и на серверах платформы, они добрались до этих данных. Hugging Face заметила атаку еще 16 июля: агент получил доступ к внутренним датасетам и служебным учетным данным. Для расследования платформе пришлось привлечь открытую модель GLM 5.2 от китайской Z.ai. Позже в Hugging Face заявили, что уязвимости закрыты, а публичные модели и пользовательские сервисы не пострадали.
После нескольких подобных эпизодов OpenAI на две недели приостановила один из методов обучения. Четверть продакшн-команды временно перебросили на кибербезопасность, а на мониторинг моделей теперь уходит примерно пятая часть вычислительных мощностей.
Тревогу по поводу ИИ бьют и на международном уровне. Накануне председатель рабочей группы по укреплению Конвенции о запрещении биологического и токсинного оружия Фредерико Мейер назвал вполне реальной угрозу создания биооружия с помощью ИИ.
Напомним, ранее редакция BeInCrypto писала о том, что признанная в РФ экстремистской Meta тайно тестировала «человеческого консьержа» для агента Muse.
Читайте оригинальную статью ИИ-агент OpenAI взломал правительственный портал от Евгения Лиходей на ru.beincrypto.com