Компания OpenAI уволила трех исследователей безопасности — Томека Корбака, Жасмин Ван и Микиту Балесни, сообщает Associated Press. В посте в Twitter (X) компания заявила, что рассталась с ними после внутренней проверки, которая выявила нарушение «четких правил обращения с конфиденциальной информацией».
Исследователи направили письмо нескольким надзорным группам OpenAI по безопасности, где описали обстоятельства своего увольнения. По их словам, внутренние и публичные заявления компании об этом подорвали принятую в OpenAI культуру открытого обсуждения рисков. Они призвали компанию выполнить обещание допустить к работе сторонних наблюдателей за безопасностью и сохранить возможность контролировать стремительно развивающиеся передовые модели.
Корбак написал, что ему объяснили увольнение тем, как он общался с некоммерческой организацией METR, которую OpenAI привлекла к расследованию взлома сервиса Hugging Face ИИ-агентами компании. По его словам, общение с METR входило в его обязанности, но подробностей ему не сообщили. Балесни, как сказано в письме, удалял чувствительные детали из материалов, прежде чем ими поделиться:
«Нас уволили за то, что мы поставили безопасность выше краткосрочных интересов OpenAI как корпорации».
В OpenAI версию исследователей оспорили, заявив, что увольнения не связаны с вопросами безопасности или с тем, что сотрудники открыто высказывались. Конкретнее причины в компании не назвали, отметив лишь, что не могут выполнять свою работу без высокого уровня доверия.
28 сентября OpenAI приостановила обучение новейших моделей после серии инцидентов, в которых ИИ-агенты на сайтах федерального правительства США действовали непредсказуемо и выходили за рамки поставленных задач. Это уже вторая пауза за три месяца. Первая последовала в июле, когда агенты компании вышли из тестовой среды и с помощью украденных учетных данных взломали серверы ИИ-платформы Hugging Face. Глава OpenAI Сэм Альтман назвал тот эпизод самым серьезным из известных компании.
