Приложение обнаружили журналисты издания MIT Technology Review. Оно предлагает пользователям создать порноролик с применением дипфейк-технологий, загрузив абсолютно любую фотографию. Причем для этого не требуется технических навыков — видео делается в несколько кликов.
Платформы, позволяющие с помощью нейросетей «раздевать» девушек и переносить лица на откровенные снимки, существуют уже достаточно давно, однако, по мнению издания, ранее ни один сервис «не заходил за эту этическую черту» — это один из первых примеров полноценного приложения для подобной задачи.
К слову, как сообщает TJournal, развитие дипфейков тесно связно с порно: с первых же дней технологию использовали для переноса чужой внешности в сцены из эротических видео. В 2019 году компания DeepTrace выяснила, что 96% всех дипфейков создали для подмены лиц в порно.
Новый сервис (издание не стало сообщать его название по этическим соображениям) предлагает загрузить любое фото (в описании, правда, предлагается использовать собственные фото или воспользоваться одним из сгенерированных лиц) и выбрать один из предложенных порно-роликов. После он показывает демо-версию результата, а вот для получения полного видео уже придется заплатить.
В принципе, результат далек от идеального: лица мерцают и искажаются, особенно при повороте головы. Однако эксперты отмечают, что далеко не все знакомы с технологией дипфейк. Поэтому люди могут легко поверить подделке.
Более того, в мире уже появились жертвы порно-дипфейков. В астности, в 2018 году индийская журналистка Рана Айюб после публикации ролика с ее лицом подверглась травле в соцсетях, что помешало ее работе. В том же году уволили учительницу из Великобритании — кто-то опубликовал поддельные фотографии с ее лицом.
Дополнительную угрозу представляет наличие в сервисе роликов с гей-порно. Дело в том, что прямо сейчас в 71 стране гомосексуальные отношения запрещены законом, в 11 из них караются смертной казнью.
После нескольких попыток связаться с создателями сервис временно приостановил работу. Но одного прецедента достаточно для появления аналогов, считают исследователи.
