DeepFakes
Не так давно пользователь сайта Reddit под ником DeepFakes научил нейросеть под названием deepFakes создавать ролики с интимным содержанием в котором участвуют знаменитые личности. Своё творение он опробовал изначально на Эмме Уотсон, Мейси Уильямс, Скарлетт Йоханссон и Галь Гадот.
Пользователь использовал для этого алгоритмы машинного обучение TensorFlow.
TensorFlow – это открытая программная библиотека используемая для машинного обучения. Разработана компанией Google и создана для тренировке нейронной сети с целью достижения человеческого качества восприятия. Основное API для работы с библиотекой создано для Python.
Работает достаточно просто:
Система обучается с помощью роликов на YouTube и изображений найденных в Google. После обучения лицо максмально реалистично накладывается на исходный видео ролик и получается то самое “скандальное видео”.
Сам автор говорит, что процесс создания таких фейков не такой и сложный, как это могло бы показаться на первый взгляд. Нейросеть сама отслеживает черты лица, глаза, рот и так далее и подгоняет его под фото. Так же система сама обрабатывает видео целиком используя сотни фотографий и видео жертвы и создаёт своеобразную копию мимики. Автор отметил, что работает не со всеми видео.
По словам автора лучше всего получились ролики с использованием лица Галь Гадот (актриса игравшая роль Чудо женщины.)
После того, как автор выложил своё творение в сеть, пользователи начали сами создавать подобные ролики.
А ты ли это?!
Изначально это было создано развлечения ради, но если вдуматься, то какие от этого могут быть последствия?
Легкость, с которой кто-то может это сделать, пугает. Кроме технической проблемы, всем, у кого есть достаточно изображений лиц конкретных людей, могут создавать собственные базы данных фейковых материалов об этих людях. Люди во всем мире скачали 24 миллиарда фото в Google Photo лишь в 2015-2016 годах. Нетрудно представить, что любой программист-любитель может использовать свой собственный алгоритм для создания фейкового секс-компромата на того, кого он хочет преследовать.
Алекс Чампандард
Источник: 24tv.ua
Первое, что мне приходит в голову – это подставное видео, которое будет использоваться в качестве доказательства, например, об ограблении. Ничего не мешает подменить лицо одного из соучастников, на лицо человека, который абсолютно не виновен. Или же как пример привел один из ведущих подкаста:
Представим, что лицо заменили на лицо какой-нибудь школьницы и разослали это видео среди её одноклассников
На самом деле вся эта тема становится всё страшнее и страшнее. Опубликовав эту запись, я хотел просто поделиться мнением о том, в какое опасное время мы живём и в какое страшное время нам ещё предстоит жить нашим детям.