Мошенники наводнили интернет фальшивыми книгами, состряпанными ИИ

Авторы продолжают находить на Amazon то, что выглядит как созданные с помощью искусственного интеллекта (ИИ) имитации и пересказы их книг. Причём мало что могут сделать против такого вида мошенничества.


Хороший пример — Мелани Митчелл, которая опубликовала в 2019 году книгу «Искусственный интеллект: руководство для думающих людей». Несколько лет спустя ChatGPT, чат-бот с генеративным ИИ, разработанный компанией OpenAI, спровоцировал бум ИИ. Побочный эффект этого бума застал Мелани Митчелл врасплох: состряпанное с помощью ИИ подобие её книги появилась на площадке электронной коммерции Amazon.

А было так: Митчелл узнала, что при поиске её книги на Amazon сайт выдаёт не только её произведение, но и другую электронную книгу с таким же названием, опубликованную в сентябре 2023 года. В подделке было всего 45 страниц, на которых идеи Митчелл были изложены корявым, неуклюжим слогом. У автора нелегального пересказа по имени Шумайла Маджид в интернете не нашлось ни биографии, ни фотографий, ничего. Зато по клику на имя Шумайлы сайт выдавал десятки созданных по аналогичной схеме «пересказов» недавно опубликованных других изданий.

Митчелл предположила, что подделку создали с помощью ИИ. По просьбе журналистов стартап Reality Defender, который специализируется на выявлении плагиата, проанализировать эрзац-продукт на основе книги Митчелл. И да, специализированное программное обеспечение (ПО) определило с вероятностью 99%, что электронную брошюру слепили средствами ИИ.

Компания Amazon удалила контрафактный текст. Представительница маркетплейса Эшли Ваничек заверила, что компания не разрешает торговать контентом, созданным с помощью ИИ. По этому поводу можно добавить: если вообще узнает о подобном.

Другой пример — мемуары исследовательницы компьютерных технологий Фей-Фей Ли с длинным названием «Миры, которые я вижу: любопытство, исследование и открытия в эпоху ИИ». При поиске этой книги на Amazon сайт показывает более десятка различных «аннотаций» на её основе. Но в этом случае халтурщики поступили хитрее. Они разместили предупреждение с таким текстом: «Отказ от ответственности! Это не книга Фей-Фей Ли и не связана с ними. Это независимое издание, в котором подробно изложена книга Фей-Фей Ли. Это краткое изложение». Но и в таком случае покупатель приобретает убогую версию краденого, и тоже слепленную «на коленке» усилиями ИИ, как определило ПО стартапа Reality Defender.

Неряшливо подделанные «пересказы» чужих книг — давняя проблема на Amazon. В 2019 году журналисты The Wall Street Journal обнаружили, что многие теневые дельцы использовали хитрости с путаницей на обложках, чтобы замаскировать контрафакт, но сути явления это не меняет.

Число надёрганных с помощью ИИ выдержек из чужих текстов под видом оригинальных электронных книг резко возросло. Это отметила эксперт в области издательской индустрии Джейн Фридман. Плагиата всё больше, хотя Amazon в сентябре 2023-го ограничил «авторам» возможности по загрузке на сайт тремя книгами в сутки. Фридман сказала, что едва автор научной литературы успевает отпраздновать выход своей книги, как спустя несколько дней ему попадаются в продаже «пересказы» его труда.

Когда Митчелл узнала об имитациях на основе её книги, то заинтересовалась вопросами законности таких проделок плагиаторов. И теперь сомневается, что сможет успешно подать на кого-либо в суд. В частности, по закону ей будет сложно защитить авторское право на название книги. То есть, суд можно и выиграть. Но кто станет бесконечно бегать по судам из-за анонимных, по сути, фальшивок, которые выскакивают по всему интернету, как грибы после дождя?

Некоторые юристы по авторскому праву даже говорят, что собственно «пересказы» — это законно. Правда, лишь до тех пор, пока в них нет плагиата слово в слово. Логика здесь, наверно, та же, что и в переизданиях хрестоматий по литературе. В общем, кто-то запускает ИИ, он перефразирует, сократит, и на этом можно безнаказанно заработать.

Пока автор действительно не подаст в суд на продавца такого вот «пересказа», создав прецедент для основанной на состоявшихся судебных примерах юридической системы, законность ИИ-халтурок — вопрос открытый. И хотя Amazon удалил «сокращённую книгу» Митчелл, у писательницы даже нет планов постоянно отслеживать новые случаи. Да и кто бы стал тратить живые человеческие силы на то, что «штампует» ИИ?

Издательская индустрия пока что тоже в растерянности. Литературный агент Митчелл отреагировал на историю с плагиатом её книг словами: «Это просто новый мир, в котором мы живём».