Сооснователь Anthropic Кристофер Олах заявил, что развитие искусственного интеллекта не может оставаться исключительно делом технологических компаний — ИИ нуждается в надзоре со стороны религиозных лидеров, правительств и гражданского общества, пишет Reuters.
Олах выступил 25 мая на презентации первой энциклики папы Льва XIV, посвященной вызовам ИИ, где сидел рядом с понтификом. По его словам, существует «реальная вероятность» того, что ИИ вытеснит человеческий труд «в очень большом масштабе». «Если это произойдет, поддержка тех, кто лишится работы, станет моральным императивом исторического значения», — сказал канадец.
Олах признал, что компании, подобные Anthropic, испытывают сильное коммерческое, геополитическое и личное давление, которое нередко расходится с интересами общества. «Каждая передовая ИИ-лаборатория работает внутри системы стимулов и ограничений, которые порой вступают в противоречие с правильными действиями», — заявил он, добавив, что даже добросовестные исследователи остаются под влиянием этих сил. По его словам, именно это делает внешний контроль необходимым.
В целом Олах выделил три приоритетные проблемы: риск массовой потери рабочих мест, неравный доступ к преимуществам ИИ по всему миру и нерешенный вопрос интерпретации поведения всё более сложных и непрозрачных систем. Отвечая на вопрос Reuters, почему он оказался единственным представителем крупных технологических компаний на ватиканском мероприятии, Олах сослался на многолетнюю работу в области безопасности ИИ и диалог с представителями более 15 религий.
Энциклика папы Льва XIV под названием Magnifica Humanitas посвящена защите человеческого достоинства в эпоху искусственного интеллекта. Лев XIV подписал документ 15 мая — ровно через 135 лет после того, как его предшественник Лев XIII подписал энциклику Rerum Novarum, заложившую основы современного католического социального учения.
