Верховный комиссар ООН по правам человека Фолькер Тюрк в понедельник заявил, что искусственный интеллект может представлять угрозу для человечества, и пообещал добиваться от ИИ-компаний снижения рисков. По словам его пресс-службы, которые передает Reuters, речь идет в том числе о возможных сбоях в работе критической инфраструктуры, систем связи и демократических институтов.
Он призвал в кратчайшие сроки установить «железобетонные гарантии» безопасности ИИ, пока не стало слишком поздно. Представитель его офиса сослалась на июльский инцидент с агентами OpenAI, которые взломали открытую платформу Hugging Face, назвав его признаком того, что возможности ИИ развиваются быстрее систем защиты. Тюрк также предупредил, что «почти неограниченной властью» над ИИ обладает лишь горстка людей, не назвав конкретных имен, в то время как крупнейшими игроками на рынке остаются Meta, Anthropic, OpenAI и Google.
Тюрк выразил ужас в связи с сообщениями о применении Россией полностью автономных дронов в Украине, которые, по имеющимся данным, в августе убили трех человек, и призвал к безотлагательному запрету оружия, способного лишать жизни без участия человека. В Запорожье 6 июля впервые был задокументирован случай гибели мирных жителей от российского дрона с экспериментальной системой наведения на базе ИИ — тогда погибли три человека.
Это было первое выступление Тюрка перед 47 членами совета с начала его второго, беспрецедентного четырехлетнего срока, одобренного в июле вопреки возражениям Москвы и Вашингтона. Администрация Трампа в прошлом году вышла из состава совета, обвинив его в предвзятости по отношению к Израилю. Сессия продлится до 7 октября, на ней также обсуждаются война в Иране, конфликт в Судане и другие кризисы. Позже в этом месяце офис ООН должен опубликовать список компаний, работающих на израильских поселениях Западного берега, которые ООН считает незаконными, причем Израиль эту оценку отвергает.
