Новости
Глава OpenAI Сэм Альтман заявил, что в ближайшем будущем искусственный интеллект позволит любому человеку имитировать голос и даже внешность другого настолько точно, что это будет неотличимо от реальности.
«Сейчас это голосовой звонок, а скоро это будет видео или FaceTime, которые невозможно будет отличить от настоящих», — сказал Альтман во время выступления в Вашингтоне на встрече с замглавы ФРС США Мишель Боуман. Он выразил тревогу из-за того, что некоторые банки до сих пор используют голосовую аутентификацию для перевода крупных сумм. «Это меня пугает. Вы просто произносите кодовую фразу — и перевод проходит».
По его словам, ИИ уже научился обходить большинство способов проверки личности, кроме паролей. И в будущем риски возрастут: с развитием ИИ-фейков мошенники смогут массово создавать поддельные видео- и видеозвонки. же сейчас фиксируются случаи, когда мошенники используют ИИ для имитации голосов, чтобы вымогать деньги или обманывать сотрудников компаний, говорит Альтман.
Альтман, оправдываясь, заявил, что OpenAI не разрабатывает инструменты для имитации личности и не причастна к надвигающемуся кризису. Однако видеогенератор Sora от OpenAI теоретически может использоваться для создания подобных фейков. «Мы пытались предупредить: если технология не вышла в открытый доступ, это не значит, что её не существует. Кто-нибудь в любом случае выпустит её. И это произойдёт очень скоро», — заявил он.
Ранее Альтман также презентовал мобильное устройство верификации Orb Mini — устройство выглядит как смартфон и имеет два больших датчика на передней панели для сканирования сетчатки глаза. Соавтор проект Алекс Блания заявлял, что планируется превратить Orb Mini в мобильное устройство для точек продаж и, возможно, продать технологию датчиков производителям устройств.
Отношение Альтмана к развитию искусственного интеллекта стало причиной громкого скандала с его увольнением из OpenAI и последующим возвращением после резонанса. По слухам, тому способствовали конфликты с Ильей Суцкевером, который возглавляет исследовательскую группу в OpenAI. Особенно Суцкевера беспокоила возможная опасность технологий OpenAI для общества и тот факт, что Альтман уделял этому недостаточно внимания. В итоге из Open AI ушел сам Суцкевер.