ИИ стал судьей и палачом для книг в школах Мейсон-Сити

Школьный совет Мейсон-Сити, штат Айова, начал использовать технологию искусственного интеллекта для составления списков потенциально запрещенных книг из районных библиотек в преддверии 2023/24 учебного года.


В мае 2023 года законодатели штата Айова приняли сенатский файл 496, который вводит новые ограничения на содержание книг в школьных библиотеках и классах. Согласно этому закону, книги должны быть «соответствующими возрасту» и не содержать «описаний или визуальных изображений полового акта». Это вызвало беспокойство среди учителей, родителей и студентов, которые опасаются цензуры и нарушения свободы слова.

Но реализация этого закона оказалась нетривиальной задачей.


— Бриджит Эксман, помощник суперинтенданта по учебной программе и обучению в школьном округе Мейсон-Сити.

Для того, чтобы проверить соответствие книг новым требованиям, школьный совет Мейсон-Сити решил использовать технологию искусственного интеллекта (ИИ). Он заключил контракт с компанией BookScan, которая предлагает программное обеспечение для анализа текстов и изображений в книгах. Компания утверждает, что ее ИИ может определить «неприемлемый» контент и выдать список книг, которые нужно удалить из библиотек или пометить специальными ярлыками.

Однако эта инициатива также вызывает критику и сомнения. Некоторые эксперты по ИИ говорят, что такое программное обеспечение может быть неточным, субъективным или предвзятым. Например, оно может ошибочно пометить книгу как запрещенную из-за контекста, жанра или стиля. Кроме того, некоторые авторы и издатели обвиняют компанию BookScan в нарушении авторских прав и требуют прекратить сканирование их книг без разрешения.

В результате школьный совет Мейсон-Сити столкнулся с протестами и судебными исками от разных сторон. Студенты организовали петиции и акции в защиту своих любимых книг. Некоторые учителя отказались сотрудничать с компанией BookScan и скрывали книги от сканеров. В конце концов рассерженные родители подали в суд на школьный совет за то, что он пытается «отнять у детей право на образование и культуру».

Школьный совет Мейсон-Сити пока не комментирует ситуацию. Он заявил, что продолжает работать над реализацией закона SF 496 и что будет рассматривать все жалобы и предложения по поводу выбора книг.

На данный момент ИИ пометил 19 книг для удаления:

• «Убийство мистера Гриффина» Лоис Дункан
  
• «Продавец» Патриции МакКормик
  
• «Суд тумана и ярости» Сары Дж. Маас
  
• «Понедельник не наступит» Тиффани Д. Джексон
  
• «Трюки» Эллен Хопкинс
  
• «Девятнадцать минут» Джоди Пиколт
  
• «Рассказ служанки» Маргарет Этвуд
  
• «Возлюбленный» Тони Моррисон
  
• «В поисках Аляски» Джон Грин
  
• «Бегущий за ветром» Халеда Хоссейни
  
• «Крэнк» Эллен Хопкинс
  
• «Тринадцать причин почему» Джей Эшер
  
• «Абсолютно правдивый дневник индейца, работающего неполный рабочий день» Шерман Алекси
  
• «Американская трагедия» Теодора Драйзера
  
• «Пурпурный цвет» Элис Уокер
  
• «Лента» МТ Андерсона
  
• «Огни ночной пятницы» Базза Биссинджера
  
• «Сплетница» Сесили фон Цигесар
  
• «Я знаю, почему птица в клетке поет» Майя Энджелоу