В соцсети TikTok появился аккаунт под названием Deep Tom Cruise. На первый взгляд кажется, будто его завел голливудский актер Том Круз. На видео кинозвезда показывает фокусы, играет в гольф, рассказывает о встрече с Михаилом Горбачевым. На самом же деле это подделка. Некто сыграл роль Круза, очень точно повторив его мимику, движения и голос. А затем обработал видео с помощью технологии deepfake (методики синтеза изображения, основанной на искусственном интеллекте). Аналогичным образом ранее заставили сплясать на столе британскую королеву Елизавету II.
@deeptomcruise Sports!
original sound — Tom
Многие пользователи пришли в восторг от реалистичности видео, которые уже в одной только сети TikTok набрали в общей сложности почти 12 миллионов просмотров. Однако эксперты в области онлайн-безопасности выражают серьезные тревогу.
Новые технологии позволяют манипулировать общественным сознанием. Становится все сложнее провести черту между реальностью и выдумкой, все труднее верить собственным глазам.
Так, глава специализирующейся по интернет-безопасности компании SocialProof Рэйсел Тобак написала в соцсети Twitter, что мы достигли стадии «дипфейков, которые почти невозможно обнаружить».
«Дипфейки повлияют на общественное доверие, обеспечат прикрытие и правдоподобное оправдание преступников, пойманных на видео или аудио. Они будут использоваться (и уже используются) для манипулирования, унижения и причинения вреда людям», — написала она.
Другой эксперт, Генри Аджер, заявил изданию The Times: «Эта технология никуда не денется. Существует также огромное количество действительно негативных и вредоносных случаев ее использования».