20-летняя Ольга Лоек (Olga Loiek) из Украины недавно обнаружила, что в китайских соцсетях активно распространяются ее дипфейки.
Девушка ведет свой YouTube-блог и некоторое время назад начала получать от подписчиков сообщения о том, что ее видели в китайских соцсетях. Только там она русская женщина, которая разговаривает на китайском и представляется разными именами: то Наташа, то Анна, то Грейс.
Когда Ольга начала переводить ролики своего дипфейка через Google Translate, она ужаснулась. Ее ИИ-клон рекламирует российские товары и хвалит «хорошие отношения» между Китаем и россией. Кроме того, аватар восхваляет китайскую культуру и рассказывает о том, как сильно русские женщины хотят выйти замуж за китайцев. «Если вы женитесь на русских женщинах, мы будем стирать для вас одежду, готовить и мыть посуду каждый день. Мы также дадим вам иностранных детей, столько, сколько вы захотите», — уверяет аватар.
«Это очень оскорбительно», — говорит Ольга. Особенно учитывая то, что россия напала на Украину и продолжает обстреливать ее города.
На сайтах Douyin и Bilibili десятки таких видеороликов, и пользователи уверены, что это реальная девушка. Douyin, китайская версия TikTok, пометила некоторые из этих видео как потенциально созданные искусственным интеллектом. А на сайте Bilibili некоторое ролики с дипфейком помечены логотипом HeyGen. Это компания в области искусственного интеллекта со штаб-квартирой в Лос-Анджелесе, которая была запущена в Китае в 2020 году. Она специализируется на реалистичных цифровых аватарах, генерации голоса и переводе видео. При этом HeyGen заявляет, что позволяет создавать аватары реальных людей только с их согласия. Хотя у Ольги, конечно, никто согласия не спрашивал.
Девушка и ее подписчики отправили жалобы китайским компаниям социальных сетей, после чего с десяток аккаунтов с ее аватаром были удалены.
Сама девушка рассказала подробности этой истории в своем блоге.
