Генеральный директор Barnes & Noble считает, что книги, созданные с помощью искусственного интеллекта, — это хорошо. Он ошибается.

Генеральный директор Barnes & Noble Джеймс Даунт недавно дал интервью NBC News , и его слова заставили меня задуматься. На вопрос о книгах, написанных с помощью ИИ , Даунт ответил: «Да, у меня нет проблем с продажей любой книги, если она не маскируется и не притворяется чем-то, чем не является, если она обладает необходимым качеством и если покупатель, читатель, хочет её приобрести».

На первый взгляд, это звучит вполне разумно. Пока читатели могут четко видеть этикетку, они могут сделать выбор. Но если задуматься, то можно обнаружить важные вопросы, на которые такой подход не дает ответа.

Действительно ли достаточно просто дать название?

Barnes & Noble — один из самых влиятельных ритейлеров в издательском мире. Когда крупнейший книжный магазин в США заявляет о том, что книги, написанные с помощью ИИ, приветствуются на его полках, он посылает сигнал издателям, агентам и авторам о том, что это законная категория товаров.

Подумайте, что представляет собой настоящая книга. Писатель потратил месяцы, а иногда и годы на исследования, написание, редактирование, создание произведения, а затем вылил его на страницу. Более того, всё, что писатель помещает на страницу, окрашено призмой, сформированной его жизненным опытом. Именно это делает книги человечными, и именно поэтому мы иногда читаем книги на одну и ту же тему, написанные разными авторами.

Искусственный интеллект, с другой стороны, берёт всё, чему научился у поколения людей, лишает всё человечности и подаёт лишь помои. Да, у книги может быть лучшая грамматика , лучшая структура сюжета и даже хорошая история. Но будет ли в ней та человечность, которая делает книгу особенной? Думаю, нет. В лучшем случае она может лишь притворяться, используя знания, украденные из великих книг, написанных людьми.

В тот момент, когда крупный ритейлер пожимает плечами и заявляет, что книги, написанные ИИ, допустимы, если они имеют соответствующую маркировку, это начинает подрывать понимание того, что книга — это творение человека. Кроме того, кто решает, что считать книгой, написанной ИИ, и как должна выглядеть маркировка? Достаточно ли, если маркировка незаметно спрятана на какой-нибудь странице, где её никто не сможет найти, если специально не будет искать?

Даже если на них есть четкая маркировка, ну и что? Вы позволите вору войти в ваш дом, если на нем будет бирка, указывающая на то, что он вор? Это абсурд. И не заблуждайтесь: любая книга, написанная искусственным интеллектом, какой бы хорошей она ни была, — это вор в маскировке, укравший истории из книг, написанных людьми, без их согласия.

Человеческие издержки от того, что в наших книжных магазинах появились книги, созданные с помощью ИИ.

В каждом книжном магазине ограниченное пространство. Если мы разрешим книгам, созданным с помощью ИИ, появляться в наших магазинах, это не создаст пространство из вакуума. Каждая книга, созданная ИИ и занимающая место на полке, заменяет книгу, написанную человеком. И без надлежащей системы, которой, похоже, нет в Barnes & Noble, читателю будет трудно отличить книгу, написанную человеком, от книги, написанной ИИ.

Даунт даже признал, что Barnes & Noble, возможно, уже продает книги, написанные искусственным интеллектом, даже не подозревая об этом. «У нас 300 000 наименований книг во всех наших магазинах. Думаем ли мы, что некоторые из них могут быть написаны искусственным интеллектом? Вероятность высока, но мы об этом не знаем», — сказал он в интервью NBC News. Это признание не внушает оптимизма.

Что видишь, то и покупаешь. Если тысячи читателей зайдут в магазин и увидят книги об искусственном интеллекте на видном месте, некоторые из них обязательно возьмут одну из них. Это принесет деньги какой-нибудь мегакорпорации или ИИ-магнату, который начал заниматься книгами как своим новым побочным бизнесом. Эта продажа могла бы достаться автору, который действительно этого заслуживал.

Я не говорю, что все книги, написанные людьми, великолепны. У меня самого были и плохие. Но даже если книга плохая или просто не в вашем вкусе, вы знаете, что кто-то вложил в нее реальные усилия, поэтому финансовые затраты не так уж сильно бьют по кошельку.

Представьте, как бы вы себя чувствовали, если бы ваши книги были написаны по подсказке? Кроме того, поскольку ИИ может создавать книги гораздо быстрее, чем мы можем их писать, если мы откроем двери для этих книг, рынок будет перенасыщен. Рынок электронных книг уже переполнен хламом, созданным ИИ; мы же не хотим, чтобы наши книжные магазины выглядели так же.

Это происходит не в вакууме.

Одно дело, если бы компания Barnes & Noble принимала это решение в отрыве от других подобных случаев. Но это часть гораздо более масштабной и крайне тревожной тенденции.

Vox Media и The Atlantic заключили соглашения с OpenAI , что позволило компании обучать свои модели на основе всего архива контента. The New York Times подписала свое первое лицензионное соглашение на использование ИИ-контента с Amazon. USA Today, Condé Nast и Hearst также заключили многолетние лицензионные соглашения с Amazon .

Лицензионные соглашения в сфере ИИ сейчас становятся крупным источником дохода для издателей. Издатели получают деньги, и эти сделки кажутся оправданными. А что насчет авторов, чьи работы используются для обучения этих моделей? Большинство из них ничего не получают.

Схема очевидна. Сначала медиакомпании лицензируют свой контент искусственному интеллекту. Затем ИИ использует этот контент для генерации нового контента. После этого розничные продавцы соглашаются продавать этот контент, сгенерированный ИИ. Это будет повторяться до тех пор, пока всех авторов-людей не уволят, и у всех нас в руках не останется куча отвратительного контента, созданного ИИ, и мы будем гадать, как мы до этого дошли.

Книги — одно из последних мест, где человеческое творчество еще не полностью колонизировано искусственным интеллектом. Открытие этой двери, даже с наклеенной на нее этикеткой, — это прецедент, от которого индустрии будет трудно отказаться. Некоторые двери должны оставаться закрытыми, независимо от того, насколько прибыльной кажется награда за них.