Темы расследованийFakespertsПодписаться на еженедельную Email-рассылку
Новости

«Ъ»: Роскомнадзор пытается заблокировать возможности ChatGPT

The Insider

Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) пытается заблокировать часть функционала чат-бота с искусственным интеллектом ChatGPT, разработанного компанией OpenAI. C письмом РКН хостинг-провайдерам ознакомился «Коммерсантъ», информацию подтвердил сотрудник центра мониторинга и управлению сетью связи общего пользования ГРЧЦ.

Ведомство рекомендует заблокировать возможность ChatGPT просматривать и анализировать интернет-страницы для «исключения сбора информации о критических уязвимостях ресурсов», которые находятся в зоне ответственности компаний. Также ведомство просит оценить риски сбора «иной чувствительной информации, в том числе содержащей персональные данные».

В случае выявления рисков ГРЧЦ указывает на необходимость заблокировать обращения бота. По данным «Ъ», ведомство направило инструкцию о том, как это сделать.

В Роскомнадзоре отказались от комментариев. Хостинг-провайдеры Beget и Rusonyx не ответили на запросы издания. В Координационном центре доменов .RU/.РФ заявили, что письма не получали.

Гендиректор хостинг-провайдера RUVDS Никита Цаплин, комментируя информацию, заявил, что ИИ-боты могут служить интересам киберпреступников. Злоумышленники создают на их базе инструменты для быстрого взлома, фишинга и обеспечения работы даркнет-площадок. Он отметил, что этим рискам нужно уделить внимание и что инициатива РКН является здравой. По мнению Цаплина, ее «можно советовать применять всем вебмастерам».

Менеджер продукта Qrator.AntiBot в Qrator Labs Георгий Тарасов рассказал, что GPTBot оформлен максимально корректно, всегда «представляется» и заявляет о соблюдении правил доступа для ботов. Он также напомнил, что OpenAI сама разместила инструкцию о том, как запретить боту доступ или ограничить его работу определенными страницами. Также компания для верификации предоставляет список IP-адресов, с которых происходят обращения. Запрет доступа к GPTBot может негативно повлиять на методы работы AI/M бизнеса, подчеркивает Тарасов:

«Если компании в рунете и в глобальном интернете продолжат запрещать доступ для GPTBot и других AI-поисковых роботов в том же темпе, как это происходит сейчас, то AI/ML бизнесам придется прибегать к другим методам сбора актуальных данных. Например, к маскировке ботов под легитимных пользователей и покупку агрегированных данных у владельцев бот-ферм, а это уже входит в категорию нежелательных бот-атак».

Исполнительный директор некоммерческой организации «Общество защиты интернета» Михаил Климарев заявил The Insider, что Роскомнадзор может заблокировать ChatGPT, но не на всех ресурсах, потому что многие из них хостятся за рубежом.

«Чего они хотят добиться, непонятно. ChatGPT индексирует интернет, как и поисковая машина, то есть собирает все тексты, складывает и потом учится. Эти деды старые опять чего-то начитались, их опять кто-то чем-то напугал, и они начали бегать и орать, что 90% разведданных добываются из открытых источников. Они боятся, что GPT все их данные соберет, проанализирует и что-то из них достанет.
На самом деле, фактически это ничем не отличается от Google или “Яндекс“. Создатели ChatGPT очень сильно заморочены на безопасности. Деды борются с тем, чего они не понимают. ChatGPT работал бы намного лучше, если бы там так не заморачивались насчет безопасности. Если задать ему вопрос по поводу каких-то персон, то он не будет собирать данные. Если сказать ему: “Нарисуй картину в стиле Петрова-Водкина“, — то он скажет: “Нет, не буду, это персональные данные“. Это следствие того, что они думают о безопасности и не хотят судебных исков. У каждого вежливого бота есть инструкции, и тот не будет следить. По крайней мере, не должен».

Компания OpenAI запустила чат-бот ChatGPT в ноябре 2022 года, к настоящему моменту обычная версия доступна всем пользователям при регистрации по электронной почте. Бот может генерировать тексты на заданную тему, отвечать на вопросы и выполнять другие текстовые задания, например, с использованием ключевых слов. Бот сканирует веб-ресурсы и использует открытые данные, которые впоследствии помогают улучшить нейросеть. Компания OpenAI после критики в ее адрес за сбор данных опубликовала инструкцию, как заблокировать доступ бота к сайту или предоставить ему данные лишь частично.

17 ноября совет директоров OpenAI сообщил, что один из основателей компании Сэм Альтман уволен с поста гендиректора и исключен из правления. Однако не прошло и недели, как компания отменила свое решение, потому что все сотрудники компании заявили о готовности уйти вслед за гендиректором в Microsoft. Увольнение Альтмана казалось сотрудникам таким же немыслимым, как если бы на заре Apple из компании уволили Стива Джобса. В действительности за этой историей стоит не просто корпоративный конфликт, а борьба двух представлений о будущем искусственного интеллекта и о том, угрожает ли его развитие безопасности человечества. Подробнее — в материале The Insider.