Очевидно не всем: ИИ для проверки грибов смертельно опасен

Специалисты предупреждают, что не следует определять, можно ли есть собранные дикорастущие грибы, с помощью искусственного интеллекта (ИИ).


Public Citizen — некоммерческая организация из США по защите прав потребителей. В своём новом отчёте её специалисты предостерегли грибников, особенно неопытных, от использования инструментов распознавания съедобных грибов с помощью ИИ. И пояснили, что сбор грибов —рискованное занятие, требующее достаточных навыков. Предупреждение подготовили и опубликовали из-за роста в последнее время интереса у публики к программному обеспечению (ПО) и приложениям для идентификации грибов. Статистику поисковых запросов специалисты выбирали из данных веб-приложения Google Trends.

Директор по исследованиям Public Citizen Рик Клейпул согласен с тем, что приложения с ИИ — довольно мощные инструменты для получения знаний, в том числе о флоре и фауне. Но есть исключения, и среди них — грибы, потому что просто фотографировать их и пропускать фото через специализированные приложения недостаточно.

Клейпул пояснил, что опытным грибникам во время так называемой тихой охоты помогают обоняние, осязание, а порой они даже пробуют встреченные грибы на вкус. А ещё лучше брать грибы в знакомых местах, зная местные условия, поскольку в разных частях страны растут похожие, но разные виды.

Фотографии шляпки недостаточно, чтобы точно определить вид гриба с полной уверенностью, отметил Клейпул. Важно также, что у гриба под шляпкой, каково соотношение ширины шляпки, толщины и основания ножки. Кроме того, грибники должны обращать внимание на то, где растёт гриб, например, на земле или на дереве. А если на дереве, то желательно знать и его вид тоже.

В Северной Америке встречаются более 5000 видов достаточно крупных грибов, и о большинстве из них до сих многое неизвестно. Но точно известно, что 75 видов вызывают отравления, в том числе со смертельным исходом. Ещё 36 под серьёзным подозрением, так как предположительно ядовиты. Также известно, что 40 видов — условно съедобные, потому что ядовиты сырыми, но пригодны в пищу после варки.

Ещё несколько важных фактов: с 1999 по 2016 год только в США зарегистрировали не менее 133 тыс. отравлений грибами, из которых 704 серьёзно повредили здоровью, а 52 привели к смерти.

Клейпул рассказал, что точность ПО для распознавания грибов анализировали на предмет безопасности, и результаты пугают. Так, в 2022 году австралийские специалисты по токсинам изучили три таких приложения с ИИ. Оказалось, что те верно распознали грибы только в 50% случаев. В остальном не раз принимали ядовитые за съедобные.

Однако недостатки ИИ при определении безопасности грибов не ограничиваются только приложениями. Клейпул сообщил, что в 2023 году маркетплейс Amazon ломился от книг для грибников, состряпанных ИИ. И многие из них содержали опасную дезинформацию. Причём в ряде таких книг о грибах на Amazon даже не было данных о том, что их сгенерировал ИИ, а не составил реальный знаток. Это вызвало скандал, так как сообщили тогда об опасной литературе более 400 СМИ.

Так, представители Нью-Йоркского микологического общества, то есть специализирующееся на изучении грибов, отмечали, что Amazon и другие торговые площадки наводнены сгенерированными ИИ книгами о поисках и распознаванию съедобных растений. И обратились к общественности с просьбой покупать литературу только известных авторов и опытных грибников, в противном случае ошибка может стоить кому-то жизни.

То, что ИИ срастается с интернет-поиском также вызывает беспокойство, считают в Public Citizen. Например, в прошлом году поисковик Google выдал пользователю пошаговую инструкцию по приготовлению Amanita ocreata, смертельно ядовитого гриба из семейства мухоморовые (показанного на иллюстрации). Известно также, что генеративный ИИ и сам «малюет» неточные изображения некоторых видов грибов, тем самым также сбивая с толку неопытных грибников.

Клейпул добавил, что идентификация пригодных в пищу грибов — лишь один из многих примеров, когда чрезмерно доверяющие технологии ИИ сильно рискуют. А всё потому, что автоматизировать экспертизу индивидуальных объектов пока ещё не удалось. Да и возможно ли такое вообще?