ВСЛУХ

Опенгеймер: Под угрозой само существование жизни на Земле

Опенгеймер: Под угрозой само существование жизни на Земле
Внук Дж. Роберта Оппенгеймера входит в число звезд, подписавших новое открытое письмо об опасностях, которые искусственный интеллект представляет для планеты.


В письме, которое было опубликовано основанной Нельсоном Манделой группой The Elders совместно с Институтом будущего жизни, содержится призыв к лицам, принимающим решения, продемонстрировать долгосрочное лидерство в отношении экзистенциальных угроз, включая неуправляемый ИИ и ядерное оружие.

К Чарльзу Оппенгеймеру, который основал проект Оппенгеймера, чтобы продолжить миссию своего деда по сдерживанию научного прогресса международным сотрудничеством и единством, присоединились сотни других, в том числе британский миллиардер Ричард Брэнсон, пионер искусственного интеллекта Джеффри Хинтон, писательница и вдова Карла Сагана Энн Друян. и музыкант Питер Гэбриэл. В нем они предупреждают, что мир находится в серьезной опасности, поскольку мы сталкиваемся с угрозами ИИ.

Мы сталкиваемся с рядом опасностей, которые ставят под угрозу все человечество. Наши лидеры не реагируют с необходимой мудростью и срочностью. Могло быть и хуже. Некоторые из этих опасностей [ставят под угрозу] само существование жизни на Земле. Мы пока не знаем, насколько значительными будут возникающие риски, связанные с искусственным интеллектом. Мы находимся на краю пропасти

— выдержка из письма.

Помимо решения вопросов искусственного интеллекта и ядерного оружия, письмо призывает мировых лидеров срочно заняться сохраняющимися опасениями по поводу пандемий и изменения климата.

Красные линии
В сообщении в аккаунте X который, кстати, принадлежит ныне покинувшему ряды соучредителей OpenAI Илону Маску, наследник Оппенгеймера сказал, что цель призыва к действию состоит в укреплении единства.

Мы все знаем, что краткосрочные политические разногласия — это неправильный способ решения наших проблем и возможностей. Мы приветствуем людей всех сообществ, поколений и политических взглядов, которые присоединяются к нам и требуют смелого принятия решений, — продолжает он, — ради нашего общего будущего

— Чарльз Оппенгеймер.

Это заявление против разногласий отражено в самом письме, которое призывает мировых лидеров работать вместе, чтобы более решительно противостоять этим экзистенциальным угрозам.

Несмотря на то, что наследие Оппенгеймера в поп-культуре было всего лишь «разрушителем миров», создавшим ядерную бомбу, жизнь физика после Манхэттенского проекта была посвящена ядерному нераспространению и разоружению — возможно, это покаяние за то, что он совершил.

Его внук явно пытается сохранить видение мира своего знаменитого предка перед лицом холодного научного прогресса и вместе с сотнями других призывает лидеров сделать что-то с этими экзистенциальными рисками, пока не стало слишком поздно.

Тем временем известный пессимистичный исследователь искусственного интеллекта Элиэзер Юдковский вернулся в медиапространство с новым предсказанием о будущем человечества.

Если вы прижмете меня к стене и заставите меня оценивать вероятность событий, у меня возникнет ощущение, что наш текущий оставшийся график больше похож на пять лет, чем на 50 лет. Два года, может быть 10...

— Элиэзер Юдковский.

Если интересно, что означает «оставшаяся временная шкала» в этом контексте, автор заявления интерпретирует это понятие как «машинный конец всего сущего», «Терминатороподобный апокалипсис» или «адский пейзаж Матрицы».

Автор:

Мы в Мы в Яндекс Дзен
Пионер ИИ Джеффри Хинтон не уверен, что хороший ИИ победит плохой ИИКак физики симулируют путешествие во времени для решения невозможных задач