Кто достоин пособия: Теперь решает искусственный интелект
Вскоре Невада станет первым штатом, где искусственный интеллект ускорит принятие решений по апелляциям о выплатах по безработице.
План властей разрешить ИИ принимать такие решения рискован, предупреждают эксперты. Вердикт ИИ по заявкам на пособие по безработице может привести к ошибкам, которые суды не могут отменить, вторят знатоки права.
Судя по цифрам бюджета Невады на 2024 год, Департамент занятости, обучения и реабилитации штата (DETR) выплатит Google за технологию ИИ почти 1,5 млн $. Запуск новинки состоится в течение «следующих нескольких месяцев», сообщили изданию Gizmodo официальные лица Невады.
Первый в своём роде ИИ в Неваде будет опираться на облачный сервис Google под названием Vertex AI Studio. Подключившись к серверам Google, чиновники настроят систему так, чтобы она ссылалась только на информацию из базы данных DETR. По мнению официальных лиц, это обеспечит «более индивидуальный подход» к решениям и «более точные результаты».
Согласно контракту, DETR, по сути, передаст данные из протоколов слушаний по апелляциям по безработице и постановлений, после чего ИИ от Google обработает эти данные, загрузит в облако, а затем сравнит информацию с предыдущими делами.
— Карл Стэнфилд, администратор по информационным технологиям DETR.
Это очень заманчиво для властей, поскольку в Неваде уже накопилось более 40 000 апелляций. Вал обращений связан с резким ростом числа заявок на пособие по безработице в результате пандемии. И в то же время ситуация выглядит парадоксальной, поскольку наблюдается «непредвиденная нехватка персонала», как сообщали в DETR ещё в июле 2024 г.
Для верности решение ИИ затем будут проверять госслужащие, чтобы предотвратить любые ошибки. Помимо прочего, безупречной работе с данными грозят так называемые галлюцинации, при которых ИИ мог бы буквально выдумать факты, способные повлиять на исход того или иного дела.
Представитель Google Эшли Симмс заявила Gizmodo, что технологический гигант будет сотрудничать с государством, чтобы «выявлять и устранять любую потенциальную предвзятость» и «помочь влястям соответствовать всем законным требованиям». Согласно руководящим принципам штата, при использовании ИИ агентство должно уделять приоритетное внимание этичному использованию системы, «избегая предвзятости и обеспечивая справедливость и прозрачность в процессах принятия решений».
Если рецензент утвердит решение ИИ, то документ подпишут, и он вступит в силу. В противном случае контролирующий клерк отредактирует решение и отправит отзыв, чтобы в DETR смогли разобраться, что пошло не так.

Журналисты Gizmodo отметили, что использование ИИ таким образом представляет собой совместный эксперимент чиновников и Google с серьёзными последствиями. Генеративному ИИ позволят влиять на решения правительства, результат которых — или выплаты многих тысяч долларов безработным жителям Невады, или лишение людей этих средств.
Эксперты, в том числе учёные-юристы и один из бывших чиновников Министерства труда США, предупредили журналистов о риске того, что контролёры решений ИИ могут ощутить на себе опасное давление. Суть в том, что в DETR делают упор на скорости обработки апелляций.
Если система будет работать идеально, ИИ гарантирует, что безработные Невады быстрее станут получать пособия. Но если сотрудники соответствующего департамента в спешке не уследят за галлюцинациями или ошибками, то количество апелляций может увеличиться, поскольку заявители будут протестовать против любых ошибочных решений ИИ.
Также существует вероятность того, что решения ИИ могут «подорвать способность истца обжаловать это неправильное решение в гражданском суде», предупреждают эксперты. Оказывается, «окружной суд не может заменить решение апелляционного судьи своим собственным решением». А это значит, что при потенциальной безалаберности человек-рецензент поставит на решении ИИ печать, которую суд не сможет отменить, опасаются эксперты.
До сих пор неясно, какую модель ИИ будут использовать в Неваде. Но технологическая корпорация не может гарантировать идеальную точность ни одной из своих моделей ИИ. В инструкции Google по использованию искусственного интеллекта рекомендуется контролировать процесс после запуска. И прописано предупреждение, что могут «возникнуть проблемы, так как любая модель с ИИ в мире несовершенна почти по определению».
— эксперты Gizmodo.

Этот риск, по-видимому, уже вынуждал власти Невады повременить с использованием сервиса с ИИ. В 2023 году чиновники из DETR обсуждали с представителями Google возможное сотрудничество. Однако тогда директор DETR Кристофер Сьюэлл не решился запускать систему с ИИ.
Но в конечном итоге он присоединился к другим чиновникам Невады, встав на сторону искусственного интеллекта. Уже в июне 2023 г. он официально заявлял, что ИИ будет работать «так, как мы хотим». Что ж, остается надеяться, что у чиновников Невады вполне законные и гуманные планы по использованию ИИ. Кстати, в документе, посвящённом расходованию бюджета, указали: «анализ влияния на безопасность» ещё предстоит провести.
Меж тем, во время слушаний по апелляциям указывается конфиденциальная информация, безопасность которой государство обязано обеспечить. Утечки персональных данных о налогах, номеров социального страховании, информации о здоровье, составе семьи и личных финансах заявителя стали бы серьёзной проблемой.
— Валентина Бонапарт, представитель DETR.
Тем временем Сьюэлл уже спешит с заявлениями о том, что в DETR также не прочь использовать ИИ для ответов на звонки в колл-центр или для помощи гражданам в трудоустройстве.
Видимо, сомнения и опасения уже не смогут обратить прогресс вспять, чем бы это ни грозило. В ответ на обеспокоенность экспертов директор по информационным технологиям штата Невада Тимоти Галлузи пообещал, что власти полны решимости внедрять ИИ, который будет безопасным.
В Google отказались комментировать, рассматривают ли также и другие штаты возможность использования ИИ для работы с заявками на пособия по безработице.
План властей разрешить ИИ принимать такие решения рискован, предупреждают эксперты. Вердикт ИИ по заявкам на пособие по безработице может привести к ошибкам, которые суды не могут отменить, вторят знатоки права.
Судя по цифрам бюджета Невады на 2024 год, Департамент занятости, обучения и реабилитации штата (DETR) выплатит Google за технологию ИИ почти 1,5 млн $. Запуск новинки состоится в течение «следующих нескольких месяцев», сообщили изданию Gizmodo официальные лица Невады.
Первый в своём роде ИИ в Неваде будет опираться на облачный сервис Google под названием Vertex AI Studio. Подключившись к серверам Google, чиновники настроят систему так, чтобы она ссылалась только на информацию из базы данных DETR. По мнению официальных лиц, это обеспечит «более индивидуальный подход» к решениям и «более точные результаты».
Согласно контракту, DETR, по сути, передаст данные из протоколов слушаний по апелляциям по безработице и постановлений, после чего ИИ от Google обработает эти данные, загрузит в облако, а затем сравнит информацию с предыдущими делами.
Всего за 5 минут ИИ вынесет решение, на принятие которого госслужащему обычно требуется около трёх часов без использования ИИ
— Карл Стэнфилд, администратор по информационным технологиям DETR.
Это очень заманчиво для властей, поскольку в Неваде уже накопилось более 40 000 апелляций. Вал обращений связан с резким ростом числа заявок на пособие по безработице в результате пандемии. И в то же время ситуация выглядит парадоксальной, поскольку наблюдается «непредвиденная нехватка персонала», как сообщали в DETR ещё в июле 2024 г.
Для верности решение ИИ затем будут проверять госслужащие, чтобы предотвратить любые ошибки. Помимо прочего, безупречной работе с данными грозят так называемые галлюцинации, при которых ИИ мог бы буквально выдумать факты, способные повлиять на исход того или иного дела.
Представитель Google Эшли Симмс заявила Gizmodo, что технологический гигант будет сотрудничать с государством, чтобы «выявлять и устранять любую потенциальную предвзятость» и «помочь влястям соответствовать всем законным требованиям». Согласно руководящим принципам штата, при использовании ИИ агентство должно уделять приоритетное внимание этичному использованию системы, «избегая предвзятости и обеспечивая справедливость и прозрачность в процессах принятия решений».
Если рецензент утвердит решение ИИ, то документ подпишут, и он вступит в силу. В противном случае контролирующий клерк отредактирует решение и отправит отзыв, чтобы в DETR смогли разобраться, что пошло не так.

Журналисты Gizmodo отметили, что использование ИИ таким образом представляет собой совместный эксперимент чиновников и Google с серьёзными последствиями. Генеративному ИИ позволят влиять на решения правительства, результат которых — или выплаты многих тысяч долларов безработным жителям Невады, или лишение людей этих средств.
Эксперты, в том числе учёные-юристы и один из бывших чиновников Министерства труда США, предупредили журналистов о риске того, что контролёры решений ИИ могут ощутить на себе опасное давление. Суть в том, что в DETR делают упор на скорости обработки апелляций.
Если система будет работать идеально, ИИ гарантирует, что безработные Невады быстрее станут получать пособия. Но если сотрудники соответствующего департамента в спешке не уследят за галлюцинациями или ошибками, то количество апелляций может увеличиться, поскольку заявители будут протестовать против любых ошибочных решений ИИ.
Также существует вероятность того, что решения ИИ могут «подорвать способность истца обжаловать это неправильное решение в гражданском суде», предупреждают эксперты. Оказывается, «окружной суд не может заменить решение апелляционного судьи своим собственным решением». А это значит, что при потенциальной безалаберности человек-рецензент поставит на решении ИИ печать, которую суд не сможет отменить, опасаются эксперты.
До сих пор неясно, какую модель ИИ будут использовать в Неваде. Но технологическая корпорация не может гарантировать идеальную точность ни одной из своих моделей ИИ. В инструкции Google по использованию искусственного интеллекта рекомендуется контролировать процесс после запуска. И прописано предупреждение, что могут «возникнуть проблемы, так как любая модель с ИИ в мире несовершенна почти по определению».
Исследования показали, что модели Google дают неправильные или вводящие в заблуждение ответы на вопросы в 17–33% случаев и возвращают неполные ответы в 18–63%
— эксперты Gizmodo.

Этот риск, по-видимому, уже вынуждал власти Невады повременить с использованием сервиса с ИИ. В 2023 году чиновники из DETR обсуждали с представителями Google возможное сотрудничество. Однако тогда директор DETR Кристофер Сьюэлл не решился запускать систему с ИИ.
Но в конечном итоге он присоединился к другим чиновникам Невады, встав на сторону искусственного интеллекта. Уже в июне 2023 г. он официально заявлял, что ИИ будет работать «так, как мы хотим». Что ж, остается надеяться, что у чиновников Невады вполне законные и гуманные планы по использованию ИИ. Кстати, в документе, посвящённом расходованию бюджета, указали: «анализ влияния на безопасность» ещё предстоит провести.
Меж тем, во время слушаний по апелляциям указывается конфиденциальная информация, безопасность которой государство обязано обеспечить. Утечки персональных данных о налогах, номеров социального страховании, информации о здоровье, составе семьи и личных финансах заявителя стали бы серьёзной проблемой.
В Google не смогут получить доступ к этим данным или использовать конфиденциальные сведения, так как ИИ будет обрабатывать их «для других целей»
— Валентина Бонапарт, представитель DETR.
Тем временем Сьюэлл уже спешит с заявлениями о том, что в DETR также не прочь использовать ИИ для ответов на звонки в колл-центр или для помощи гражданам в трудоустройстве.
Видимо, сомнения и опасения уже не смогут обратить прогресс вспять, чем бы это ни грозило. В ответ на обеспокоенность экспертов директор по информационным технологиям штата Невада Тимоти Галлузи пообещал, что власти полны решимости внедрять ИИ, который будет безопасным.
В Google отказались комментировать, рассматривают ли также и другие штаты возможность использования ИИ для работы с заявками на пособия по безработице.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Возможно, целлофановые пчелы — спасение человечества: они миллионы лет делают то, что нужно нам как воздух
Поразительно, но удивительный продукт ученые нашли почти полвека назад, но почему-то до последнего времени не обращали на него внимания...
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Авиация в США наконец-то уходит… с дискет: почему так поздно и как с этим обстоят дела в России?
Американцы потратили на выход из 90-х чудовищные суммы, но далеко не факт, что все заработает в срок и как надо...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Загадочный астероид неожиданно ускорился: у астрофизиков заканчиваются объяснения и гипотезы
Пожалуй, это самый интересный космический детектив за последнее время, и пока он далек до финала...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...