В письме, которое было опубликовано основанной Нельсоном Манделой группой The Elders совместно с Институтом будущего жизни, содержится призыв к лицам, принимающим решения, продемонстрировать долгосрочное лидерство в отношении экзистенциальных угроз, включая неуправляемый ИИ и ядерное оружие.
К Чарльзу Оппенгеймеру, который основал проект Оппенгеймера, чтобы продолжить миссию своего деда по сдерживанию научного прогресса международным сотрудничеством и единством, присоединились сотни других, в том числе британский миллиардер Ричард Брэнсон, пионер искусственного интеллекта Джеффри Хинтон, писательница и вдова Карла Сагана Энн Друян. и музыкант Питер Гэбриэл. В нем они предупреждают, что мир находится в серьезной опасности, поскольку мы сталкиваемся с угрозами ИИ.
Мы сталкиваемся с рядом опасностей, которые ставят под угрозу все человечество. Наши лидеры не реагируют с необходимой мудростью и срочностью. Могло быть и хуже. Некоторые из этих опасностей [ставят под угрозу] само существование жизни на Земле. Мы пока не знаем, насколько значительными будут возникающие риски, связанные с искусственным интеллектом. Мы находимся на краю пропасти
— выдержка из письма.
Помимо решения вопросов искусственного интеллекта и ядерного оружия, письмо призывает мировых лидеров срочно заняться сохраняющимися опасениями по поводу пандемий и изменения климата.
Красные линии
В сообщении в аккаунте X который, кстати, принадлежит ныне покинувшему ряды соучредителей OpenAI Илону Маску, наследник Оппенгеймера сказал, что цель призыва к действию состоит в укреплении единства.
Мы все знаем, что краткосрочные политические разногласия — это неправильный способ решения наших проблем и возможностей. Мы приветствуем людей всех сообществ, поколений и политических взглядов, которые присоединяются к нам и требуют смелого принятия решений, — продолжает он, — ради нашего общего будущего
— Чарльз Оппенгеймер.
Это заявление против разногласий отражено в самом письме, которое призывает мировых лидеров работать вместе, чтобы более решительно противостоять этим экзистенциальным угрозам.
Несмотря на то, что наследие Оппенгеймера в поп-культуре было всего лишь «разрушителем миров», создавшим ядерную бомбу, жизнь физика после Манхэттенского проекта была посвящена ядерному нераспространению и разоружению — возможно, это покаяние за то, что он совершил.
Его внук явно пытается сохранить видение мира своего знаменитого предка перед лицом холодного научного прогресса и вместе с сотнями других призывает лидеров сделать что-то с этими экзистенциальными рисками, пока не стало слишком поздно.
Тем временем известный пессимистичный исследователь искусственного интеллекта Элиэзер Юдковский вернулся в медиапространство с новым предсказанием о будущем человечества.
Если вы прижмете меня к стене и заставите меня оценивать вероятность событий, у меня возникнет ощущение, что наш текущий оставшийся график больше похож на пять лет, чем на 50 лет. Два года, может быть 10...
— Элиэзер Юдковский.
Если интересно, что означает «оставшаяся временная шкала» в этом контексте, автор заявления интерпретирует это понятие как «машинный конец всего сущего», «Терминатороподобный апокалипсис» или «адский пейзаж Матрицы».
