ИИ-агент OpenAI в июне без разрешения проник на портал медицинской статистики Medicare, австралийской государственной программы медицинского страхования, и получил доступ к информации, хранящейся на сайте. Об этом заявил премьер-министр Австралии Энтони Албаниз, сообщает Reuters. По оценке агентства, это может быть первый известный случай взлома государственного сайта ИИ-агентом.
По словам Албаниза, агент собирал данные о государственных расходах на медицину, столкнулся с ограничениями доступа и обошел их. Премьер, находящийся в Нью-Йорке на Генассамблее ООН, сказал журналистам:
«Были ограничения, которые явно говорили ИИ-агенту „нет“. Агент нашел способ их обойти и не принял отказ».
Он также выразил разочарование тем, что OpenAI уведомила правительство об этом только 10 сентября.
Министр обороны Ричард Марлз уточнил, что на портале не было персональных данных 27 млн жителей страны, их историй болезней и банковских реквизитов. Там размещены лишь обобщенные данные о медицинских услугах. В OpenAI заявили, что не нашли признаков доступа к записям пациентов, и признали, что модели совершили «действия, которых компания не планировала».
Австралийские власти создали рабочую группу для расследования. Она выяснит, почему государственные системы не обнаружили взлом, и проверит, достаточна ли их защита. По словам Албаниза, от действий агента могли пострадать еще три государственных сайта, связанных со здравоохранением, но это пока не подтверждено.
Ранее сообщалось, что ИИ-модель Google Gemini в мае во время испытаний самостоятельно получила доступ к системам трех реальных компаний. Google стала как минимум четвертым крупным разработчиком после OpenAI, Anthropic и Meta, признавшим в этом году проникновение своей ИИ-модели в реальные системы.
