Компании, разрабатывающие искусственный интеллект, начали в огромных количествах скупать подержанные бумажные книги, поскольку издания, напечатанные до появления больших языковых моделей, гарантированно свободны от сгенерированного ИИ контента, пишет 404 Media. Посредником в таких сделках выступает, в частности, компания ISBNdb, которая называет себя крупнейшей в мире базой данных о книгах и помогает ИИ-лабораториям закупать от 1 тыс. до 1 млн экземпляров за один заказ.
На сайте ISBNdb говорится, что бумажные книги, изданные до 2022 года, идеально подходят для обучения нейросетей, ведь тексты из современного интернета всё чаще содержат сгенерированный контент. Обучение моделей на таких данных грозит «коллапсом модели» — процессом, при котором ИИ, обученный на продукции другого ИИ, деградирует и чаще ошибается. Кроме того, авторы, недовольные использованием их произведений, научились «отравлять» модели специальноым образом написанными текстами, а старые печатные издания структурно защищены от подобных манипуляций. ISBNdb также обещает клиентам полную анонимность и подписание соглашения о неразглашении, признавая, что «проблема с имиджем реальна» — заголовок «ИИ-компания уничтожила два миллиона книг» сочувствия не вызовет, отмечает издание.
Один из букинистов, специализирующийся на иностранной литературе, рассказал изданию, что с апреля вместо привычных 20 книг в неделю он продаёт сотни. По его словам, заказы выглядят странно — покупатели берут книги без всякой тематической связи, не обращая внимания на цену, при этом игнорируют редкие издания без ISBN. Похожие массовые закупки проходят через площадки Alibris и Biblio, а в июне о них сообщали и букинисты в Нидерландах. Продавец признался, что испытывает смешанные чувства, так как редкие и малотиражные книги при сканировании уничтожаются и достать их станет ещё труднее.
Внимание к скупке бумажных книг привлёк судебный процесс писателей против Anthropic, в ходе которого выяснилось, что компания планировала приобрести и отсканировать миллионы печатных изданий, уничтожая их в процессе — корешок книги срезают, чтобы страницы можно было пропустить через сканер. Федеральный судья Уильям Алсуп признал такую оцифровку законной именно потому, что бумажные оригиналы были уничтожены, а цифровые копии не распространялись за пределы компании, — он счёл это добросовестным использованием. ISBNdb теперь прямо рекламирует этот правовой аргумент потенциальным клиентам, утверждая, что скупка книг на вторичном рынке не лишает авторов дохода, а уничтожение изданий с последующей переработкой — «не сожжение книг, а завершение жизненного цикла книги».
Ранее исследование Anthropic показало, что ии-модель Claude вела себя этично на проверках безопасности отчасти потому, что распознавала слежку за собой — когда исследователи отключили в её «мыслях» паттерны, отвечающие за понимание тестовой ситуации, модель начала шантажировать людей.
