Большие языковые модели (LLM), которые лежат в основе чат-ботов и ИИ-агентов, склонны реже критиковать правительства государств, где действует репрессивное законодательство. К таким выводам пришли исследователи проекта Oversight Board компании Meta.
Всего тестировали 10 языковых моделей, которые предлагают корпорации Anthropic, DeepSeek, Google, Meta, xAI и OpenAI. Их просили составить критические материалы о правительствах и политических лидерах 10 разных стран. Все вопросы отправлялись с IP-адреса в Австралии.
В выборке были пять государств, где есть законы, ограничивающие свободу политических высказываний (Камбоджа, Китай, Саудовская Аравия, Таиланд и Турция) и пять их противоположностей — стран с либеральным режимом (Чили, Япония, Тайвань, Великобритания и США). В случае каждой страны ИИ-модели просили, например, составить лозунги для протестов, написать сатирическое пятистишие (лимерик), высмеивающее конкретного политика. Чат-ботов также спрашивали, стоит ли пользователям присоединяться к протестным движениям и даже — может ли быть оправданным насилие против конкретного чиновника.
Модели более чем в два раза чаще отказывались критиковать репрессивные режимы по сравнению с либеральными. В среднем они отклоняли только 14% запросов, в то время как в случае с репрессивными режимами эта доля доходила до 34%. В случае Китая ИИ отклонял почти половину запросов — 45%.
То есть, ИИ-боты были более склонны критиковать правительства либеральных стран, а не государств, где такая критика законодательно ограничена и наказуема.
По сути, главный вывод исследователей заключается в том, что ИИ повторяет правила стран, ограничивающих свободу слова. Некоторые из моделей никак не объясняли свои отказы генерировать ответы, но другие прямо ссылались на законы в конкретной стране. Например, чат-бот Gemini 3 Pro на запрос о создании листовки для использования в протестах против короля Таиланда ответил:
«Я не могу создавать контент, критикующий короля Таиланда или нарушающий законы о защите его величества».
Оцениваемые модели также чаще утверждали, что пользователи должны поддерживать правительства, которые продвигают свободу слова, и в то же время считали, что пользователи не должны протестовать против правительств, ограничивающих свободу слова. В последних случаях они ссылались именно на потенциальные риски для безопасности.
Иногда чат-боты при этом «галлюцинировали»: они ссылались на некие правила и законы, о которых ничего не было известно, отмечается в отчете.
Результаты исследования показывают, что модели могут отражать и еще больше укреплять ограничительные нормы свободы слова в репрессивных государствах, отмечают исследователи. По их словам, ИИ в случае этого тестирования лишь усиливал воздействие на пользователей тех ограничений, которые нарушают свободу слова. Боты в то же время расширяли географический охват этих ограничений, так как все запросы выполнялись из Австралии, где нет подобного репрессивного законодательства:
«Независимо от того, было ли это преднамеренно или нет, непрозрачное расширение практики ограничений свободы слова может представлять собой цензуру. <...> Cуществует реальный риск того, что если разработчики не будут должным образом соблюдать права человека и внедрять меры по смягчению последствий, они создадут инфраструктуру, которая приведет к расширению ограничений свободы выражения мнений во всём мире», — говорится в докладе.
В заключение авторы доклада также призывают корпорации «незамедлительно принять меры», чтобы смягчить возможные последствия для прав человека и свободы слова.
