Нейросеть поможет участникам чатов стать вежливее и корректнее

Онлайн-дискуссии по вопросам, которые вызывают разногласия и эмоции, часто превращаются в неприятные и агрессивные споры, которые могут нанести вред психическому здоровью и социальным отношениям участников. Как можно сделать такие дискуссии более конструктивными и уважительными? Исследователи из Университета Карнеги-Меллона и Университета Джорджии предложили использовать искусственный интеллект (ИИ) для помощи пользователям в переформулировании своих комментариев перед публикацией, чтобы сделать их более качественными и вежливыми.


В своей статье, опубликованной в журнале Proceedings of the ACM on Human-Computer Interaction, они описали свой подход, названный Rewrite. Это ИИ-инструмент, который анализирует текст комментария пользователя и предлагает ему альтернативные варианты формулировки, которые могут быть более убедительными, аргументированными, доброжелательными или сдержанными. Пользователь может выбрать один из предложенных вариантов или оставить свой комментарий без изменений. Целью инструмента является не только улучшить качество и вежливость онлайн-дискуссии, но и обучить пользователей лучшим практикам коммуникации по сложным темам.

Для создания инструмента исследователи использовали глубокое обучение и обработку естественного языка. Они обучили свою модель на большом корпусе текстов, содержащих различные стили и тона выражения. Затем они протестировали свой инструмент на реальных пользователях, которые участвовали в онлайн-дискуссиях по трем поляризующим темам: аборты, иммиграция и глобальное потепление. Они сравнили качество и вежливость комментариев пользователей до и после использования инструмента.

Результаты эксперимента показали, что инструмент Rewrite был полезен для улучшения онлайн-дискуссии по нескольким параметрам. Во-первых, пользователи, которые использовали инструмент, написали более длинные и подробные комментарии, чем те, кто не использовал его. Во-вторых, пользователи, которые использовали инструмент, получили более высокие оценки за качество и вежливость своих комментариев от других участников дискуссии. В-третьих, пользователи, которые использовали инструмент, чувствовали себя более уверенно и комфортно в своей коммуникации по сложным темам.

Исследователи отмечают, что их подход имеет ряд преимуществ перед другими методами улучшения онлайн-дискуссии, такими как модерация или фильтрация контента. Он не нарушает свободу слова и не цензурирует мнения пользователей, не навязывает пользователям определенный способ выражения, а предоставляет им выбор и контроль над своими комментариями. И, наконец, по мнению разработчиков, новый инструмент способствует развитию навыков критического мышления и эффективной коммуникации у пользователей.

Исследователи признают, что их инструмент имеет некоторые ограничения и потенциальные риски. Например, ИИ может быть использован для манипуляции или дезинформации, если пользователи будут задействовать его для создания ложных или вводящих в заблуждение комментариев. Кроме того, инструмент может быть неточным или неприемлемым в некоторых контекстах или культурах, если модель не будет учитывать различия в языке и нормах поведения. Поэтому ученые подчеркивают, что необходимо дальнейшее развитие и тестирование инструмента, а также включение пользователей в процесс его создания и оценки.

В заключение, разработчики полагают, что при правильном использовании ИИ может быть использован для создания более доброго и безопасного цифрового ландшафта. Они надеются, что их инструмент Rewrite будет способствовать более качественной и вежливой онлайн-дискуссии по поляризующим темам, а также повысит уровень грамотности и осведомленности пользователей по этим темам.

Стоит отметить, что Rewrite не первая попытка привлечь нейросети для того, чтобы модерировать контент и фильтровать нежелательные или нарушающие правила сообщения. Например, сервис Perspective API от Google позволяет оценивать токсичность комментариев и предупреждать пользователей или администраторов о потенциально оскорбительном или агрессивном содержании.