Нейросеть поможет участникам чатов стать вежливее и корректнее
Онлайн-дискуссии по вопросам, которые вызывают разногласия и эмоции, часто превращаются в неприятные и агрессивные споры, которые могут нанести вред психическому здоровью и социальным отношениям участников. Как можно сделать такие дискуссии более конструктивными и уважительными? Исследователи из Университета Карнеги-Меллона и Университета Джорджии предложили использовать искусственный интеллект (ИИ) для помощи пользователям в переформулировании своих комментариев перед публикацией, чтобы сделать их более качественными и вежливыми.
В своей статье, опубликованной в журнале Proceedings of the ACM on Human-Computer Interaction, они описали свой подход, названный Rewrite. Это ИИ-инструмент, который анализирует текст комментария пользователя и предлагает ему альтернативные варианты формулировки, которые могут быть более убедительными, аргументированными, доброжелательными или сдержанными. Пользователь может выбрать один из предложенных вариантов или оставить свой комментарий без изменений. Целью инструмента является не только улучшить качество и вежливость онлайн-дискуссии, но и обучить пользователей лучшим практикам коммуникации по сложным темам.
Для создания инструмента исследователи использовали глубокое обучение и обработку естественного языка. Они обучили свою модель на большом корпусе текстов, содержащих различные стили и тона выражения. Затем они протестировали свой инструмент на реальных пользователях, которые участвовали в онлайн-дискуссиях по трем поляризующим темам: аборты, иммиграция и глобальное потепление. Они сравнили качество и вежливость комментариев пользователей до и после использования инструмента.
Результаты эксперимента показали, что инструмент Rewrite был полезен для улучшения онлайн-дискуссии по нескольким параметрам. Во-первых, пользователи, которые использовали инструмент, написали более длинные и подробные комментарии, чем те, кто не использовал его. Во-вторых, пользователи, которые использовали инструмент, получили более высокие оценки за качество и вежливость своих комментариев от других участников дискуссии. В-третьих, пользователи, которые использовали инструмент, чувствовали себя более уверенно и комфортно в своей коммуникации по сложным темам.
Исследователи отмечают, что их подход имеет ряд преимуществ перед другими методами улучшения онлайн-дискуссии, такими как модерация или фильтрация контента. Он не нарушает свободу слова и не цензурирует мнения пользователей, не навязывает пользователям определенный способ выражения, а предоставляет им выбор и контроль над своими комментариями. И, наконец, по мнению разработчиков, новый инструмент способствует развитию навыков критического мышления и эффективной коммуникации у пользователей.
Исследователи признают, что их инструмент имеет некоторые ограничения и потенциальные риски. Например, ИИ может быть использован для манипуляции или дезинформации, если пользователи будут задействовать его для создания ложных или вводящих в заблуждение комментариев. Кроме того, инструмент может быть неточным или неприемлемым в некоторых контекстах или культурах, если модель не будет учитывать различия в языке и нормах поведения. Поэтому ученые подчеркивают, что необходимо дальнейшее развитие и тестирование инструмента, а также включение пользователей в процесс его создания и оценки.
В заключение, разработчики полагают, что при правильном использовании ИИ может быть использован для создания более доброго и безопасного цифрового ландшафта. Они надеются, что их инструмент Rewrite будет способствовать более качественной и вежливой онлайн-дискуссии по поляризующим темам, а также повысит уровень грамотности и осведомленности пользователей по этим темам.
Стоит отметить, что Rewrite не первая попытка привлечь нейросети для того, чтобы модерировать контент и фильтровать нежелательные или нарушающие правила сообщения. Например, сервис Perspective API от Google позволяет оценивать токсичность комментариев и предупреждать пользователей или администраторов о потенциально оскорбительном или агрессивном содержании.
В своей статье, опубликованной в журнале Proceedings of the ACM on Human-Computer Interaction, они описали свой подход, названный Rewrite. Это ИИ-инструмент, который анализирует текст комментария пользователя и предлагает ему альтернативные варианты формулировки, которые могут быть более убедительными, аргументированными, доброжелательными или сдержанными. Пользователь может выбрать один из предложенных вариантов или оставить свой комментарий без изменений. Целью инструмента является не только улучшить качество и вежливость онлайн-дискуссии, но и обучить пользователей лучшим практикам коммуникации по сложным темам.
Для создания инструмента исследователи использовали глубокое обучение и обработку естественного языка. Они обучили свою модель на большом корпусе текстов, содержащих различные стили и тона выражения. Затем они протестировали свой инструмент на реальных пользователях, которые участвовали в онлайн-дискуссиях по трем поляризующим темам: аборты, иммиграция и глобальное потепление. Они сравнили качество и вежливость комментариев пользователей до и после использования инструмента.
Результаты эксперимента показали, что инструмент Rewrite был полезен для улучшения онлайн-дискуссии по нескольким параметрам. Во-первых, пользователи, которые использовали инструмент, написали более длинные и подробные комментарии, чем те, кто не использовал его. Во-вторых, пользователи, которые использовали инструмент, получили более высокие оценки за качество и вежливость своих комментариев от других участников дискуссии. В-третьих, пользователи, которые использовали инструмент, чувствовали себя более уверенно и комфортно в своей коммуникации по сложным темам.
Исследователи отмечают, что их подход имеет ряд преимуществ перед другими методами улучшения онлайн-дискуссии, такими как модерация или фильтрация контента. Он не нарушает свободу слова и не цензурирует мнения пользователей, не навязывает пользователям определенный способ выражения, а предоставляет им выбор и контроль над своими комментариями. И, наконец, по мнению разработчиков, новый инструмент способствует развитию навыков критического мышления и эффективной коммуникации у пользователей.
Исследователи признают, что их инструмент имеет некоторые ограничения и потенциальные риски. Например, ИИ может быть использован для манипуляции или дезинформации, если пользователи будут задействовать его для создания ложных или вводящих в заблуждение комментариев. Кроме того, инструмент может быть неточным или неприемлемым в некоторых контекстах или культурах, если модель не будет учитывать различия в языке и нормах поведения. Поэтому ученые подчеркивают, что необходимо дальнейшее развитие и тестирование инструмента, а также включение пользователей в процесс его создания и оценки.
В заключение, разработчики полагают, что при правильном использовании ИИ может быть использован для создания более доброго и безопасного цифрового ландшафта. Они надеются, что их инструмент Rewrite будет способствовать более качественной и вежливой онлайн-дискуссии по поляризующим темам, а также повысит уровень грамотности и осведомленности пользователей по этим темам.
Стоит отметить, что Rewrite не первая попытка привлечь нейросети для того, чтобы модерировать контент и фильтровать нежелательные или нарушающие правила сообщения. Например, сервис Perspective API от Google позволяет оценивать токсичность комментариев и предупреждать пользователей или администраторов о потенциально оскорбительном или агрессивном содержании.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Возможно, целлофановые пчелы — спасение человечества: они миллионы лет делают то, что нужно нам как воздух
Поразительно, но удивительный продукт ученые нашли почти полвека назад, но почему-то до последнего времени не обращали на него внимания...
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Авиация в США наконец-то уходит… с дискет: почему так поздно и как с этим обстоят дела в России?
Американцы потратили на выход из 90-х чудовищные суммы, но далеко не факт, что все заработает в срок и как надо...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Загадочный астероид неожиданно ускорился: у астрофизиков заканчиваются объяснения и гипотезы
Пожалуй, это самый интересный космический детектив за последнее время, и пока он далек до финала...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...