Руководители крупнейших американских компаний, занимающихся разработками в сфере искуственного интеллекта, подписали соглашение об усилении контроля за ИИ-моделями. Документ был подписан на встрече в Белом доме, его опубликовал в своих соцсетях президент Дональд Трамп.
Документом закрепляются обязанность технологических компаний разработать стандарты для ИИ-моделей и их ответственность за свои разработки. Отдельно, например, прописывается, что компании обязаны следить, чтобы их модели не взламывали другие системы. Для того чтобы оценить, работает ли искуственный интеллект так, как задумано их разработчиками, компании должны будут обращаться к независимым аудиторам.
Под документом — подписи представителей OpenAI (соучредитель Грег Брокман), Anthropic (гендиректор Дарио Амодей), Meta (сооснователь Марк Цукерберг), Google (главный исполнительный директор Сундар Пичаи), xAI (руководитель Илон Маск) и Nvidia (президент Дженсен Хуанг).
Перед церемонией подписания соглашения выступил Цукерберг. Он подтвердил, что компании договорились разработать «надежные внутренние механизмы контроля» для своих систем искусственного интеллекта. Следом президент США Дональд Трамп заявил, что рассматривает возможность создания специального совета из 10 человек, который будет заниматься именно контролем за безопасностью инструментов ИИ.
Он также добавил, что вскоре появится отдельная должность, человек на которой будет руководить политикой Белого дома в отношении ИИ. Кому может достаться это место, неясно. Кто войдет в анонсированный Трампом совет по безопасности — тоже.
«В каком-то смысле это почти конституция. И его подписали крупнейшие люди мира, и я подписал его как президент. И это действительно форма защиты», — прокомментировал Трамп само соглашение.
Инциденты с новейшими моделями искусственного интеллекта участились в последние месяцы. Например, в минувшую пятницу компания OpenAI раскрыла, что проверяет ряд летних инцидентов, связанных с нежелательным поведением моделей. Неконтролируемую активность ИИ-агентов ранее фиксировали на сайтах американских Минюста и Минторга, а также властей Калифорнии, Мэриленда, Иллинойса, Техаса и Нью-Йорка. В июне агент OpenAI без разрешения проник на портал медицинской статистики Medicare — австралийской государственной программы медицинского страхования. В истории страны это стало первым подобным инцидентом.
Хотя большинство людей в мире позитивно воспринимают искусственный интеллект и ожидают, что он улучшит жизнь в их странах, в США негативные эмоции по отношению к технологии преобладают над позитивными, показал недавний опрос Gallup и Microsoft. Основной опасностью сейчас, однако, является скорее не «восстание машин», а кибератаки, в которых ИИ могут использовать (и уже используют) злоумышленники, пояснил The Insider автор Telegram-канала e/acc Степан Гершуни. Подробнее — в материале по ссылке.
