Новый инструмент OpenAI поможет вам распознать текст, написанный ChatGPT

OpenAI выпустила инструмент, который поможет вам определить, был ли текст написан человеком или искусственным интеллектом. Тем не менее, производитель ChatGPT предупреждает, что его аналог теста Войта-Кампфа из Blade Runner также может дать неверный результат.


Инструмент включает поле, в которое вы можете вставить текст длиной не менее 1000 символов. Затем он выдает вердикт, например, «Классификатор считает, что текст вряд ли был сгенерирован ИИ» или «Классификатор считает, что текст, возможно, сгенерирован ИИ».

В ходе небольшого практического эксперимента, организованного обозревателем Уиллом Шанклином, ChatGPT попросили написать эссе о миграционных маршрутах птиц, которые инструмент обнаружения затем описал как «возможно, сгенерированные ИИ». Между тем, он оценил несколько статей, написанных людьми, как «вызывающие доверие, и, вероятно, созданные без использования ИИ».

Таким образом, хотя инструмент может давать ложные показания в любом направлении, проведенный тест (хотя и с предельно малым размером выборки) предполагает, по крайней мере, некоторую степень точности. Тем не менее, OpenAI предостерегает от использования только этого инструмента для определения подлинности контента. Также в описании разработчики предупреждают, что приложение лучше всего работает с текстом состоящим из 1000 слов и более.

Стартап ChatGPT столкнулся с давлением со стороны преподавательского сообщества в ноябре, после выпуска своего инструмента, который создает контент, написанный искусственным интеллектом, который иногда может сойти за текст, написанный человеком. Модель естественного языка создает эссе за считанные секунды на основе простых текстовых подсказок — даже при при необходимости создать текст в узкой тематике, например, при сдаче выпускного экзамена по бизнесу и праву — предоставляя студентам новую заманчивую возможность для списывания. В результате государственные школы Нью-Йорка запретили использование бота в своих сетях Wi-Fi и школьных устройствах.

На данный момент ChatGPT — основной, и при этом, достаточно прибыльный бизнес-проект для OpenAI. Сообщается, что ранее в этом месяце компания получила инвестиции в размере 10 миллиардов долларов от Microsoft, которая планирует интегрировать ее в Bing и Office 365. В конце прошлого года OpenAI якобы обсуждала продажу акций по оценке в 29 миллиардов долларов, что сделало бы ее одним из самых ценных стартапов США.

Хотя ChatGPT в настоящее время является лучшей общедоступной системой искусственного интеллекта для генерации естественного языка, Google, Baidu и другие компании работают над альтернативными моделями. LaMDA от Google достаточно убедителен, чтобы один из исследователей, работавших над проектом, в прошлом году отказался от своей работы в поисковом гиганте, заявив, что чат-бот разумен. (Склонность людей проецировать чувства и сознание на алгоритмы — это концепция, о которой мы, вероятно, еще услышим в ближайшие годы.)

На данный момент Google выпустил только значительно ограниченные версии своего чат-бота для бета-тестирования, предположительно из моральных соображений. Остается открытым вопрос о том, насколько быстро тесное сосуществование с искусственным интеллектом приведет к необходимости глобального переосмысления устоявшихся этических и социальных норм.