Российские IT-компании получат возможность с одобрения Минцифры передавать проверку больших моделей искусственного интеллекта (ИИ) на соответствие закону и «традиционным духовно-нравственным ценностям» независимым испытательным лабораториям. Об этом «Ведомостям» рассказали источники в одной из компаний-участниц обсуждений, в профильной IT-ассоциации, а также собеседник в Минцифры. Переговоры прошли в конце июля — начале августа на площадке АНО «Цифровая экономика» — там разрабатывают подзаконные акты к закону об ИИ.
Закон вводит для больших фундаментальных моделей два статуса — суверенной и национальной модели. Чтобы получить любой из них, разработчик должен подтвердить, что модель соответствует российскому законодательству и «традиционным духовно-нравственным ценностям». При этом сам закон — рамочный, и конкретные правила еще предстоит прописать в подзаконных актах. Как говорил 7 июля в Госдуме статс-секретарь — замминистра цифрового развития Иван Лебедев, порядок такой проверки определит правительство, а готовить документы будут Минцифры, ФСБ и ФСТЭК. Первый проект архитектуры норм, по его словам, уже подготовлен.
Отдельного акта с перечнем духовно-нравственных ценностей писать не планируют — они уже закреплены в указе президента № 809, рассказал «Ведомостям» источник, знакомый с обсуждением подзаконного акта. Вместе с бизнесом собираются разработать специальные бенчмарки для проверки моделей на соответствие закону и ценностям, а испытательную лабораторию, по словам собеседника, может создать правкомиссия по цифровизации с подачи Минцифры. Разработчику нужно будет подать заявление с описанием архитектуры модели, данными о разработчике и механизмах фильтрации; лаборатория проверит ответы модели по бенчмаркам и протестирует устойчивость к промпт-инъекциям — попыткам обойти встроенные ограничения через инструкции во входных данных. По итогам лаборатория направит в правкомиссию заключение, которое станет одним из условий присвоения статуса национальной или суверенной модели и, соответственно, доступа к господдержке — например, в госзакупках.
При этом всеобщей обязательной проверки всех ИИ-моделей на рынке не будет: она нужна только тем разработкам, которые претендуют на статус суверенных или национальных, а вместе с ним — на доступ к данным госинформсистем и приоритетное использование в отдельных отраслях, уточнил собеседник в Минцифры. Источники также рассказали, что с IT-отраслью договорились, что экспертизу сможет проводить не одна назначенная организация, а несколько аккредитованных лабораторий. По задумке разработчик сначала сам проверит модель по риск-ориентированной методике, а лаборатория оценит его выводы и выборочно протестирует устойчивость модели. Итоговое решение о статусе всё равно при этом останется за Минцифры, а безопасность для госсистем отдельно проверят ФСБ и ФСТЭК.
Госдума приняла во втором и третьем чтениях закон о поддержке развития искусственного интеллекта в России 8 июля. Документ прошел нижнюю палату парламента за два дня: 7 июля депутаты одобрили его в первом чтении. Путин подписал закон 26 июля.
