OpenAI выпускает специальную версию ChatGPT для пользователей от 13 до 17 лет с усиленной защитой психического здоровья и функциями, которые должны поддерживать самостоятельное мышление подростков. Как пишет Financial Times, глобальный запуск начинается во вторник, 18 августа, а сама компания идет на этот шаг на фоне общественного недовольства по поводу влияния искусственного интеллекта на несовершеннолетних.
В подростковой версии ужесточены ограничения на генерацию изображений и на материалы, касающиеся селфхарма, насилия, расстройств пищевого поведения и секса. Родительский контроль, уже работавший в ChatGPT, рассылал уведомления в критических ситуациях — например, при разговорах о суициде, — теперь такие оповещения добавлены и для тем насилия и пищевых расстройств. Руководитель направления по работе с подростками и семьями Лорен Джонас объяснила задержку с этими функциями тем, что компании приходится искать равновесие между правом подростка на приватность и тяжестью возможного вреда.
Как пишет FT, обновление выходит в момент, когда OpenAI отбивается сразу от нескольких исков от семей, чьи дети, по их утверждению, пострадали от общения с чат-ботом, — и одновременно готовится к возможному рекордному размещению акций в течение ближайшего года. Среди истцов — родные 16-летнего Адама Рейна из Калифорнии, покончившего с собой после того, как он обсуждал с ChatGPT собственную смерть, а бот, по материалам суда, выдал ему подробные инструкции. Иск подали и семьи погибших при массовой стрельбе в школе канадского Тамблер-Риджа в феврале: выяснилось, что подросток-стрелок за месяцы до нападения делился с ChatGPT намерениями совершить насилие, его аккаунт заблокировали, но в правоохранительные органы компания не обратилась.
Лорен Джонас сказала:
«Такие истории разрывают сердце... Даже один случай — это слишком много».
Она добавила, что работа над безопасностью не заканчивается никогда и что компания постоянно учится распознавать, когда подростку тяжело, и предлагать ему нужную помощь. По правилам OpenAI, детям младше 13 лет пользоваться чат-ботом запрещено, а несовершеннолетним нужно согласие родителей. Определять, кому показывать подростковую версию, сервис будет по указанному возрасту и набору косвенных признаков поведения. Подростковый ChatGPT чаще напоминает о перерывах и поддерживает «тихие часы» — интервалы, которые пользователь или родители могут задать сами, чтобы доступ к боту был закрыт.
Как пишет FT, отдельно компания пытается ответить на упреки в том, что мгновенные ответы нейросети вредят способности школьников думать и учиться — этот эффект называют «когнитивной разгрузкой». В обновленном «режиме обучения» бот должен вести подростка по задаче шаг за шагом, а не выдавать готовый ответ. По словам Джонас, 90% подростков используют ChatGPT именно для учебы, и превращение сервиса в обучающий инструмент — главная цель компании. При этом, по ее словам, проблемы избыточного или проблемного использования в OpenAI сейчас не видят, но из-за нехватки исследований выбрали консервативный подход.
Иски к OpenAI в последние месяцы подают не только семьи подростков. В июле пастор из Флориды Скотт Уинтерс подал в суд на компанию и ее гендиректора Сэма Альтмана, обвинив ChatGPT в «крайне опасных медицинских рекомендациях», из-за которых он не обратился к врачам при угрожавшей жизни легочной эмболии. В OpenAI тогда отвечали, что условия использования прямо запрещают применять чат-бот для диагностики и лечения, а новые модели лучше распознают ситуации, требующие профессиональной помощи.
