Google Threat Intelligence Group (GTIG) впервые обнаружила случай, когда злоумышленники использовали эксплойт уязвимости «нулевого дня», который, по оценке компании, был разработан с помощью AI. Об этом говорится в новом отчете GTIG.
По данным Google, киберпреступники планировали использовать этот эксплойт для массовой атаки, однако компания обнаружила угрозу заранее и, по данным GTIG, предотвратила ее применение. Речь шла об уязвимости, позволявшей обходить двухфакторную аутентификацию в популярном open-source-инструменте для веб-администрирования. Для эксплуатации злоумышленнику всё равно требовались действующие учетные данные пользователя.
Google отмечает, что проблема была связана не с типичными ошибками, вроде повреждения памяти или неправильной обработки данных, а с логической ошибкой в коде. В компании считают, что современные AI-модели особенно хорошо помогают находить именно такие уязвимости. При этом Google уточнила, что не считает, что для создания эксплойта использовался Gemini. Однако структура и содержание кода, по оценке GTIG, указывают на высокую вероятность использования другой AI-модели.
«Например, скрипт содержит большое количество обучающих docstring-комментариев, включая вымышленную оценку CVSS, а также использует структурированный „учебниковый“ стиль Python-кода, характерный для обучающих данных LLM-моделей».
Компания сообщила, что передала информацию разработчикам затронутого продукта и помогла предотвратить подготовку атаки.
