Ученые обеспокоены влиянием искусственного интеллекта на наше общество
Профессор Ланкастерского университета в сфере международной безопасности, Джо Бертон утверждает, что ИИ и алгоритмы — это не только инструменты, которые органы национальной безопасности используют для предотвращения вредоносных действий в интернете.
Новейшие технологии могут быть использованы злоумышленниками для повышения градуса поляризации, распространения радикализма и способствования политическому насилию, что несет угрозу национальной безопасности. Более того, процессы секьюритизации, представляющие развивающиеся технологии как экзистенциальную угрозу, сыграли ключевую роль при разработке ИИ и, в результате, оказали пагубное влияние на международную безопасность.
Статья профессора Бёртона «Алгоритмический экстремизм? Секьюритизация искусственного интеллекта (ИИ) и ее воздействие на радикализм, поляризацию и политическое насилие» опубликована в журнале Technology in Society. В работе рассматривается, как ИИ был секьюритизирован на протяжении всей своей истории в представлении средств массовой информации и популярной культуры, а также в ходе изучения современных примеров поляризующего и радикализующего воздействия ИИ.
Автор приводит в пример классическую серию фильмов «Терминатор», в которой изображается геноцид, совершенный «гениальным и зловещим» искусственным интеллектом, и утверждает, что эти фильмы внесли огромный вклад в общественное мнение об угрозе ИИ. В художественном произведении появление машин с сознанием привело к разрушительным последствиям для человечества — ядерной войне и преднамеренной попытке уничтожения всего человеческого вида.
— Джо Бертон, профессор Ланкастерского университета в сфере международной безопасности.
Возможности дронов, например тех, что используются в войне на Украине, по словам профессора Бертона включают в себя полную автономность, используя такие функции как идентификация и распознавание целей. И хотя проводилась широкая и влиятельная компания о запрете «роботов-убийц» и сохранении эксклюзивности роли человека в принятии влияющих на свою и чужие жизни решений, интеграция вооруженных дронов продолжается быстрыми темпами.
В области кибербезопасности ИИ используется в значительной степени, причем наиболее распространенной областью является дезинформация и психологическая война в сети. В качестве примера подобных действий автор приводит атаку на избирательные процессы в США в 2016 году и последующий скандал с Cambridge Analytica. Эти события показали потенциал ИИ в создании мнений, связанных с поляризацией и поощрением радикальных убеждений.
Работа профессора Бертона исследует и саму технологию ИИ. В статье утверждается, что проблемы лежат в разработке алгоритмов, обучающих данных и в способах взаимодействия людей с машинами. Статья заканчивается посланием исследователям, работающим в области кибербезопасности и международных отношений.
—Джо Бертон.
Новейшие технологии могут быть использованы злоумышленниками для повышения градуса поляризации, распространения радикализма и способствования политическому насилию, что несет угрозу национальной безопасности. Более того, процессы секьюритизации, представляющие развивающиеся технологии как экзистенциальную угрозу, сыграли ключевую роль при разработке ИИ и, в результате, оказали пагубное влияние на международную безопасность.
Статья профессора Бёртона «Алгоритмический экстремизм? Секьюритизация искусственного интеллекта (ИИ) и ее воздействие на радикализм, поляризацию и политическое насилие» опубликована в журнале Technology in Society. В работе рассматривается, как ИИ был секьюритизирован на протяжении всей своей истории в представлении средств массовой информации и популярной культуры, а также в ходе изучения современных примеров поляризующего и радикализующего воздействия ИИ.
Автор приводит в пример классическую серию фильмов «Терминатор», в которой изображается геноцид, совершенный «гениальным и зловещим» искусственным интеллектом, и утверждает, что эти фильмы внесли огромный вклад в общественное мнение об угрозе ИИ. В художественном произведении появление машин с сознанием привело к разрушительным последствиям для человечества — ядерной войне и преднамеренной попытке уничтожения всего человеческого вида.
Это недоверие к машинам, связанные с ними опасения и ассоциация с биологическими, ядерными и генетическими угрозами человечеству способствовали желанию правительств и национальных агентств по безопасности влиять на разработку технологий, чтобы снизить риски и использовать их положительные возможности
— Джо Бертон, профессор Ланкастерского университета в сфере международной безопасности.
Роботы-убийцы и манипуляторы
Возможности дронов, например тех, что используются в войне на Украине, по словам профессора Бертона включают в себя полную автономность, используя такие функции как идентификация и распознавание целей. И хотя проводилась широкая и влиятельная компания о запрете «роботов-убийц» и сохранении эксклюзивности роли человека в принятии влияющих на свою и чужие жизни решений, интеграция вооруженных дронов продолжается быстрыми темпами.
В области кибербезопасности ИИ используется в значительной степени, причем наиболее распространенной областью является дезинформация и психологическая война в сети. В качестве примера подобных действий автор приводит атаку на избирательные процессы в США в 2016 году и последующий скандал с Cambridge Analytica. Эти события показали потенциал ИИ в создании мнений, связанных с поляризацией и поощрением радикальных убеждений.
Работа профессора Бертона исследует и саму технологию ИИ. В статье утверждается, что проблемы лежат в разработке алгоритмов, обучающих данных и в способах взаимодействия людей с машинами. Статья заканчивается посланием исследователям, работающим в области кибербезопасности и международных отношений.
ИИ определенно способен трансформировать общества в позитивную сторону, но также имеет негативные факторы, которые необходимо изучать. Ученым, работающим в области кибербезопасности и международных отношений, предоставляется возможность включить эти факторы в разрабатываемую повестку дня исследований ИИ и не рассматривать ИИ как политически нейтральную технологию
—Джо Бертон.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...
Запретный остров у берегов Исландии: суша, появившаяся в 1963 году, до сих пор закрыта почти для всех
Но ученым надо поторопиться, уникальный объект исчезает в буквальном смысле на глазах...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Как же на самом деле умерла Клеопатра: почему даже древние историки не смогли прийти к согласию в этом вопросе
Скорее всего, историю об укусе змеи запустил лично император Октавиан, чтобы опорочить египетскую царицу...
Прорыв в берестяных грамотах: 445 неизвестных слов, эффект Лукерьи, реальный русский язык XI–XV веков
Поразительно, но произношение 900-летней давности до сих пор присутствует в нашем языке...
Метеорит и пришельцы ни при чем: российский геолог объяснил происхождение аномалии в сибирской тайге
Кольцевую структуру видно даже со спутника, но добраться до нее крайне сложно...
Америка проигрывает болезни, которую когда-то победила с большим трудом
Положение США усугубляют действия президента Трампа и его чиновников...
Древние деревья помогли раскрыть дело 3500-летней давности: когда пал Вавилон?
Ученые до последнего момента не знали этой даты, потому что в великом городе не было… нормального календаря...
Неожиданный поворот в деле таинственного астероида 1998 KY26: он может быть… потерянным советским зондом
В этом уверен американский астрофизик Аве Лоеб. Какие доказательства предлагает известный ученый?...
Верблюды-вампиры бродили по Америке 13 миллионов лет назад: зачем им вообще понадобились такие жуткие клыки
Ученые говорят: это была эпоха, когда североамериканским континентом правили верблюды...
Не НЛО, но что тогда: ученая объяснила появление светящихся столбов над Барнаулом
Что интересно, это уникальное явление можно увидеть не только зимой и не только в Сибири...
Куда бить по астероиду, чтобы спасти Землю: ученые рассчитали идеальный ядерный выстрел
Почему раньше так не умели и насколько при выстреле важна форма космического тела...
200-летний секрет казненной королевы: почему Мария-Антуанетта была уже обречена на скорую и мучительную гибель
Одежда рассказала не только о последних днях королевы, но и открыла судьбу 9-летнего французского принца...
Эти странные деревья изменили облик всей планеты: в Англии найден самый древний лес в истории
Поразительно, но Земля стала другой всего за 4 миллиона лет. И это событие старше колец Сатурна...