Взлом, который считается первым в своем роде, подчеркивает, насколько далеко продвинулась технология дипфейков.
Есть подозрения, что лица, причастные к мошеннической деятельности, использовали легкодоступные видеозаписи для изготовления поддельных изображений сотрудников. В некоторых случаях мошеннических видеозвонков было замечено, что в разговоре участвовал только один человек, в то время как остальные участники на самом деле представляли собой дипфейки, созданные хакерами.
В этот раз в ходе видеоконференции с участием нескольких человек оказывается, что все, кого вы видите, — фальшивки
— старший суперинтендант полиции Гонконга Чан Шунь-Цзин.
В середине января финансовый сотрудник компании стал жертвой хитрой схемы, когда получил фейковое электронное письмо, заставившее его поверить в то, что необходимо провести тайную транзакцию.
Хотя сотрудник поначалу сопротивлялся, в конечном итоге он принял участие в групповой видеоконференции, на которой были продемонстрированы поддельные изображения финансового директора компании, а также других членов команды, которые, как утверждается, имели сверхъестественное сходство со своими реальными коллегами с точки зрения внешнего вида и голоса.
Они использовали технологию дипфейков, чтобы имитировать голос своих жертв, читающих сценарий
— Чан Шунь-Цзин.
Как и ожидалось, сотрудник не участвовал в какой-либо форме общения или взаимодействия с дипфейковыми аватарами; его единственной задачей было просто представиться.
Чан заявил, что несколько сотрудников компании стали жертвами мошенников, а также есть подтверждение участия еще одного сотрудника в запланированной видеоконференции.
Тревожный рост количества дипфейков может вызвать повсеместный хаос и разрушения. Это тревожное разоблачение появилось после того, как платформы социальных сетей были наводнены откровенными фейковыми видеороликами с участием Тейлор Свифт, что вызвало ожесточенную и спорную дискуссию об этических обязательствах корпораций по борьбе с созданием и распространением такого контента в Интернете.
В последнее время похитители стали использовать дипфейки как средство вымогательства выкупа у своих жертв. Иллюстрируя эту тревожную тенденцию, в мае произошел случай, когда хакер, проживающий в северном Китае, обманул человека, выманив у него ошеломляющую сумму в 622 000 долларов. Этот обманщик использовал передовые технологии искусственного интеллекта, в частности программное обеспечение для замены лиц и клонирования голоса, чтобы выдать себя за знакомого жертвы.
К счастью, Департамент полиции Гонконга предоставил ценные рекомендации по выявлению лиц, причастных к мошенническим корпоративным конференц-звонкам, с помощью технологии deepfake. Один из эффективных подходов заключается в том, что участников просят совершить движения головой или задают дополнительные вопросы в качестве средства обеспечения их подлинности, тем самым защищая от потенциальных мошеннических действий, связанных с переводом значительной суммы.