Детекторы ИИ ложно обвинили студентов в плагиате

Специальное программное обеспечение, которое называют детекторами искусственного интеллекта, неверно оценивает оригинальность студенческих работ, что приводит к несправедливым обвинениям.


Всё чаще становится известно, что некоторые детекторы ИИ ложно «уличают» учащихся в использовании опять же искусственного интеллекта при подготовке домашних заданий и написании курсовых работ.

Так, согласно данным издания Bloomberg Businessweek, студентка с расстройством аутистического спектра пожаловалась, что имеет врождённую склонность излагать мысли шаблонно. И эти последствия специфического заболевания антиплагиат неверно истолковал как сгенерированное ИИ. В результате девушке вынесли письменное предупреждение о предполагаемом плагиате в её студенческой работе.

Журналисты Bloomberg протестировали 500 текстов учащихся Техасского университета A&M. Для эксперимента выбрали работы, сданные на проверку вообще до появления чат-бота ChatGPT. Тексты прогнали через сервисы обнаружения «соавторства» ИИ, такие как Copyleaks и GPTZero.

Сервисы пометили 1–2% ученических трудов как «вероятно» написанные ИИ, а некоторые тексты ПО даже оценило как плагиат со 100-% уверенностью. Таким образом точность детекторов ИИ оказалась под большим сомнением. Действительно, многое из подвергнутого перепроверке точно написали людьми, и плоды их умственных усилий точно не попадали в массивы данных, на которых обучали так называемые языковые модели, то есть ИИ.

Хотя тестовая выборка при эксперименте была сравнительно небольшой, она явно указала на масштабную проблему. В общем, инструменты для обнаружения ИИ ненадёжны и могут приводить к ложным обвинениям людей в недобросовестности. Риски для студентов при этом очень высоки, ведь из-за несовершенства ПО могут пострадать и репутация, и будущая карьера молодёжи. Да и вообще всех, кто попадёт под подозрение в нечестности, если их тексты прогонят через детектор ИИ с ложноположительными результатами сканирования.

Например, исследование, проведённое в 2023 году в Стэнфордском университете, показало, что детекторы ИИ пометили более половины сочинений, написанных студентами, для которых английский не является родным языком, как сгенерированные ИИ. Что неудивительно, ведь те, кто учатся на иностранном языке, всегда будут отличаться меньшим словарным запасом, чем носители языка, а потом создавать более шаблонные тексты, с более затасканным вокабуляром.

Итан Моллик, профессор менеджмента в Уортонской школе бизнеса Пенсильванского университета, раскритиковал инструменты выявления плагиата с ИИ-составляющей. Он сказал, что с моральной точки зрения из-за ложных срабатываний вообще неправильно использовать детекторы ИИ, которые очерняют студентов и вредят тем, кто «никогда не сможет доказать свою невиновность».

В отчёте исследователи также процитировали соучредителя сервиса Copyleaks. Алон Ямин признал, что ни одна система обнаружения не является точной на 100% и должна использоваться лишь для выявления подозрительных вещей, а не для окончательных обвинений.

Соучредитель GPTZero Эдвард Тиан также признал, что у детекторов ИИ есть «слепые зоны». И добавил, что его компания уже провела работу против предвзятости, в частности, относительно студентов, изучающих английский как иностранный.

А в OpenAI, компании-разработчике чат-бота ChatGPT, недавно заявили, что не будут выпускать инструмент для проверки текста с помощью ИИ. При этом представители научно-исследовательской организации сослались на опасения, что такое ПО может повредить, например, студентам, изучающим английский как второй язык.

Вместе с тем ранее издание ReadWrite сообщало, что более половины опрошенных студентов бакалавриата в Великобритании обращаются к ИИ, лишь бы успешно завершить обучение.