Исследование, опубликованное компанией по обнаружению применения искусственного интеллекта (ИИ), показало, что ИИ-вздор о «сиропах фенхеля для успокоения желудка» и «жевательных мармеладках из цитрусовых для повышения иммунитета» стало экспертным мнением в траволечении.
Originality.ai – компания, которая предлагает свои инструменты университетам и бизнесу, сообщает, что в период с января по сентябрь 2025 года она отсканировала 558 книг, предлагаемых онлайн-магазина Amazon по тематике растительных лекарственных средств, и обнаружила, что 82% изданий, «скорее всего, были написаны» с помощью ИИ.
«Это потрясающий факт о масштабах распространения немаркированного, непроверенного, неконтролируемого контента с использованием искусственного интеллекта, который полностью заполонил платформу [Amazon]», – пишет автор исследования Майкл Фрайман.
«Сейчас выходит огромное количество публикаций о травах, которые являются абсолютной ерундой, – говорит эксперт по лечебным травам Сью Спринг из Ливерпуля. – Искусственный интеллект не будет знать, как разобраться во всем этом мусоре, который не имеет абсолютно никакого значения. Это сбило бы и людей с толку».
Одна из книг, написанных, по всей видимости, с помощью искусственного интеллекта, «Руководство по природному лечению», является бестселлером №1 Amazon в категориях «Средства по уходу за кожей», «ароматерапия» и «растительные лекарственные средства». В предисловии книга рекламируется как «средство обретения уверенности в себе», призывающая читателей «заглянуть внутрь себя» в поисках решений.
Автором «Руководства по природному лечению» указана Луна Филби. На странице онлайн-магазина она представлена как «35-летняя травница из прибрежного городка Байрон-Бей, Австралия» и основательница бренда My Harmony Herb. Сара Уинн, основательница журнала Wildcraft, называет эту книгу «источником вдохновения».
Однако ни Луна Филби, ни My Harmony Herb, ни Wildcraft Journal, ни Сара Винн, судя по всему, неизвестны за пределами страницы на Amazon, что, по словам Фраймана, указывает на то, что они, вероятно, не существуют.
Корреспонденту The Guardian также не удалось найти никаких свидетельств существования этой пары, а инструментарий Originality.ai помечает все доступные ознакомительные отрывки текста книги как сгенерированные искусственным интеллектом со «100% вероятностью».
ИИ-детектор выявил несколько признаков ИИ-контента, включая широкое использование эмодзи листиков и авторов на природную тематику с фамилиями Роза, Папоротник и Гвоздика.
По меньшей мере в 29 книгах, которые, по-видимому, были созданы с помощью искусственного интеллекта, также упоминались работы противоречивых травников Барбары О’Нил и Альфредо Боумена, которые оба пропагандировали недоказанные методы лечения рака.
Эти книги являются частью более масштабной тенденции продаж на Amazon непроверенного контента, созданного с использованием ИИ.
В прошлом году грибников-любителей предупредили, чтобы они не покупали книги, продаваемые на платформе, которые, по-видимому, написаны ИИ и содержат сомнительные советы о том, как отличить ядовитый гриб от съедобного.
Глава Ассоциации издателей Дэн Конвей заявил, что его организация призывает Amazon начать маркировать контент, созданный с помощью ИИ.
«Любая книга, написанная с помощью ИИ, должна быть помечена соответствующим образом, а мусор, связанный с ИИ, должен быть удалён в срочном порядке», – говорит он.
«У нас есть руководства, определяющие, какие книги могут быть выставлены на продажу, и у нас есть проактивные и пассивные методы, которые помогают нам обнаруживать контент, нарушающий наши правила, независимо от того, создан ли он ИИ или нет. Мы тратим значительное ресурсы на то, чтобы обеспечить соблюдение наших рекомендаций, и удаляем книги, которые не соответствуют им», – заявили в Amazon.
Факты, выявленные Originality.ai относительно лечебных трав, являются серьёзным сигналом. В данном случае это напрямую касается здоровья людей, но давайте представим, что какую-то деталь в поезде или автомобиле сделает ИИ, галлюцинируя, а не опираясь на реальные параметры безопасности и надёжности.
