Опенгеймер: Под угрозой само существование жизни на Земле

Внук Дж. Роберта Оппенгеймера входит в число звезд, подписавших новое открытое письмо об опасностях, которые искусственный интеллект представляет для планеты.


В письме, которое было опубликовано основанной Нельсоном Манделой группой The Elders совместно с Институтом будущего жизни, содержится призыв к лицам, принимающим решения, продемонстрировать долгосрочное лидерство в отношении экзистенциальных угроз, включая неуправляемый ИИ и ядерное оружие.

К Чарльзу Оппенгеймеру, который основал проект Оппенгеймера, чтобы продолжить миссию своего деда по сдерживанию научного прогресса международным сотрудничеством и единством, присоединились сотни других, в том числе британский миллиардер Ричард Брэнсон, пионер искусственного интеллекта Джеффри Хинтон, писательница и вдова Карла Сагана Энн Друян. и музыкант Питер Гэбриэл. В нем они предупреждают, что мир находится в серьезной опасности, поскольку мы сталкиваемся с угрозами ИИ.


— выдержка из письма.

Помимо решения вопросов искусственного интеллекта и ядерного оружия, письмо призывает мировых лидеров срочно заняться сохраняющимися опасениями по поводу пандемий и изменения климата.

Красные линии
В сообщении в аккаунте X который, кстати, принадлежит ныне покинувшему ряды соучредителей OpenAI Илону Маску, наследник Оппенгеймера сказал, что цель призыва к действию состоит в укреплении единства.


— Чарльз Оппенгеймер.

Это заявление против разногласий отражено в самом письме, которое призывает мировых лидеров работать вместе, чтобы более решительно противостоять этим экзистенциальным угрозам.

Несмотря на то, что наследие Оппенгеймера в поп-культуре было всего лишь «разрушителем миров», создавшим ядерную бомбу, жизнь физика после Манхэттенского проекта была посвящена ядерному нераспространению и разоружению — возможно, это покаяние за то, что он совершил.

Его внук явно пытается сохранить видение мира своего знаменитого предка перед лицом холодного научного прогресса и вместе с сотнями других призывает лидеров сделать что-то с этими экзистенциальными рисками, пока не стало слишком поздно.

Тем временем известный пессимистичный исследователь искусственного интеллекта Элиэзер Юдковский вернулся в медиапространство с новым предсказанием о будущем человечества.


— Элиэзер Юдковский.

Если интересно, что означает «оставшаяся временная шкала» в этом контексте, автор заявления интерпретирует это понятие как «машинный конец всего сущего», «Терминатороподобный апокалипсис» или «адский пейзаж Матрицы».