Anthropic расследует возможную утечку доступа к своей закрытой сверхмощной ИИ-модели Claude Mythos — инструменту в области кибербезопасности, который компания не выпускает в открытый доступ из-за его потенциальной опасности, пишет Би-би-си. По данным Bloomberg, небольшая группа пользователей получила доступ к модели через закрытый форум, минуя стандартные разрешения.
«Мы расследуем сообщение о несанкционированном доступе к Claude Mythos Preview через среду одного из наших партнеров», — говорится в заявлении Anthropic. По имеющимся данным, человек, через которого был получен доступ, имел разрешение на работу с моделями Anthropic в рамках контракта с третьей стороной. Глава компании по кибербезопасности SmartTech Ралука Сачану назвала произошедшее «скорее всего, злоупотреблением доступом, а не классическим взломом».
Признаков того, что модель была использована в преступных целях, пока нет — Anthropic сообщает, что не обнаружила свидетельств компрометации своих систем. Тем не менее Сачану предупредила, что, когда мощные ИИ-инструменты используются вне предусмотренных контрольных рамок, риск состоит не только в инциденте, связанном с безопасностью, но и в распространении возможностей, которые можно применить для мошенничества и кибератак.
Anthropic предоставила доступ к Mythos ограниченному кругу технологических и финансовых компаний в рамках проекта Glasswing, чтобы задействовать возможности модели для защиты, а не атак. Однако, как оказалось, безопасность всей цепочки зависит от того, насколько строго контролируют доступ к модели сами партнеры.
Ранее сообщалось, что Claude Mythos Preview была представлена как модель с беспрецедентными возможностями в области кибербезопасности: она автономно находит уязвимости нулевого дня в операционных системах и браузерах. Из-за этих возможностей Anthropic отказалась от ее публичного релиза.
