История Mr DeepFakes — самого скандально известного в мире сайта с ИИ-порнографией

Энтузиасты, создавшие этот сайт, разработали технологию, которая использовалась для унижения бесчисленного количества женщин. Почему правительства не вмешались и не остановили их?

Для Патриции Шлоссер все началось со звонка коллеги, чей голос звучал виновато. «Прости, но я нашел вот это. Ты в курсе?» Он прислал ссылку, ведущую на сайт под названием Mr DeepFakes. Там она обнаружила поддельные изображения самой себя: обнаженной, сидящей на корточках, закованной в цепи, совершающей половые акты с различными животными. Снимки были помечены тегами: «Патриция Шлоссер шлюховатая FUNK проститутка» (орфография оригинала сохранена).

— Они были очень откровенными, очень унизительными», — говорит Шлоссер, немецкая журналистка телерадиокомпаний Norddeutscher Rundfunk (NDR) и Funk. — Сделаны они были очень плохо, что помогло мне дистанцироваться и убедить себя: это очевидная подделка. Но было очень жутко представлять, как кто-то где-то часами сидит в интернете, ищет мои фотографии и монтирует всё это.

Сайт был в новинку для Шлоссер, несмотря на ее предыдущие громкие расследования порноиндустрии:

— Я никогда не слышала о Mr DeepFakes — порносайте, полностью посвященном фейковым видео и фото. Меня удивил его масштаб — огромное количество видеороликов с участием любой знаменитости, которую вы только знаете.

Первой реакцией Шлоссер, увидевшей себя среди них, было желание отмахнуться.

— Я пыталась загнать это вглубь сознания, что на самом деле было стратегией избегания проблемы, — рассказывает она. — Но мозг работает странно. Ты знаешь, что это фейк, но всё равно видишь это. Это не ты, но в то же время — это ты. Вот ты с собакой и на цепи. Ты чувствуешь себя поруганной, но сбитой с толку. В какой-то момент я решила: «Нет. Я зла. Я не хочу, чтобы эти изображения были в сети».

Последующий документальный фильм Шлоссер для программы STRG_F на канале NDR привел к удалению изображений. Ей также удалось разыскать молодого человека, который создал и опубликовал их, — она даже посетила его дом и поговорила с его матерью (сам злоумышленник так и не вышел из своей спальни). Однако установить личность «Мистера Дипфейка» — или того, кто стоял за сайтом, — Шлоссер не удалось, даже несмотря на помощь Bellingcat, группы расследовательской журналистики.

Росс Хиггинс из Bellingcat входил в эту команду.

— Моя специализация — расследование отмывания денег, — говорит он. — Я изучил структуру сайта, и оказалось, что он использует тех же интернет-провайдеров, что и настоящая серьезная организованная преступность.

Провайдеры указывали на связи с российской ЧВК «Вагнер» и лицами, фигурировавшими в «Панамском досье». Реклама на сайте вела на приложения, принадлежащие китайским технологическим компаниям, которые предоставляют правительству Китая доступ ко всем данным клиентов.

— Я предположил, что всё это слишком сложно устроено для простого сайта любителей, — говорит Хиггинс.

Оказалось, что именно так оно и было.

История Mr DeepFakes, крупнейшего и самого печально известного в мире сайта с неконсенсуальным дипфейк-порно, — это, по сути, история самой ИИ-порнографии (считается, что сам термин «дипфейк» придумал создатель сайта). Этот ресурс стал «эпицентром» порнографии, созданной искусственным интеллектом: его страницы, просмотренные более 2 миллиардов раз, пестрели изображениями бесчисленных знаменитостей, женщин-политиков, европейских принцесс, жен и дочерей президентов США, которых похищали, пытали, брили налысо, связывали, калечили, насиловали и душили.

И всё же весь этот контент (на просмотр которого ушло бы более 200 дней) был лишь «витриной» сайта. Его истинным «сердцем», его «машинным отделением», был форум. Здесь любой, кто хотел создать дипфейк с участием знакомого человека (девушки, сестры, одноклассницы или коллеги), мог найти исполнителя, готового сделать это за определенную плату. Это был также «тренировочный полигон» — технический хаб, где «любители» обучали друг друга, делились советами, публиковали научные статьи и решали проблемы (одной из постоянных проблем было создание дипфейка без хорошего «датасета» — набора данных. Это касалось случаев, когда нужно сделать дипфейк человека, чьих фотографий мало, — не знаменитости, а, например, знакомой, чьи фото были взяты из соцсетей).

Режиссер и активистка Софи Комптон провела много часов, наблюдая за Mr DeepFakes в ходе подготовки к съемкам отмеченного наградами документального фильма 2023 года «Другое тело» (Another Body).

— Оглядываясь назад, я думаю, что этот сайт сыграл решающую роль в распространении дипфейков в целом, — вспоминает она. — Я действительно полагаю, что существует вариант развития событий, при котором этот сайт не был бы создан, ему не позволили бы существовать или быстро закрыли, и тогда проблема дипфейк-порно сегодня была бы лишь малой частью того, что мы имеем. Без этого сайта, я думаю, не произошло бы такого взрывного роста.

На самом деле, такой сценарий был вполне возможен. Истоки Mr DeepFakes уходят в 2017–2018 годы, когда ИИ-порно только начинало зарождаться на таких платформах, как Reddit. Один анонимный пользователь Reddit и «пионер» ИИ-порно под ником «deepfakes» (которому и приписывают создание термина) дал раннее интервью Vice о потенциале технологии. Однако вскоре после этого, в начале 2018 года, Reddit запретил дипфейк-порно на своей платформе.

— У нас есть скриншоты их форумов того времени: сообщество дипфейкеров, тогда еще небольшое, паниковало и «бежало с корабля», — рассказывает Комптон.

Именно тогда и был создан Mr DeepFakes с ранним доменным именем dpfks.com. Администратор использовал тот же никнейм — dpfks — и именно он искал добровольцев-модераторов, публиковал правила, а также дипфейк-видео и подробные инструкции по использованию софта для создания порно.

— Что так удручает при чтении этих сообщений и наблюдении за зарождением всего этого, так это осознание того, насколько легко правительства могли бы пресечь это на корню, — говорит Комптон. — Люди, которые этим занимались, не верили, что им дадут полную свободу действий. Они писали: «За нами придут!», «Они никогда не позволят нам это делать!». Но поскольку они продолжали работать без каких-либо проблем, вы можете видеть, как росла их наглость. Ковид способствовал взрывному росту, так как все перестали модерировать контент. Продукция была жестокой — речь шла о полном унижении человека. Популярностью пользовались зачастую совсем молодые знаменитости — Эмма Уотсон, Билли Айлиш, Милли Бобби Браун.

Кто стоял за этим? Время от времени Mr DeepFakes давал анонимные интервью. В документальном фильме BBC 2022 года «Дипфейк-порно: Можете ли вы стать следующим?» «владелец» и «веб-разработчик» сайта под псевдонимом «deepfakes» утверждал, что согласие женщин не требуется, поскольку «это фантазия, это не реально».

Были ли деньги их мотивацией? Mr DeepFakes размещал рекламу и имел премиум-подписку с оплатой в криптовалюте — в 2020 году на одном из форумов упоминалось, что доход составлял от 4000 до 7000 долларов в месяц.

— Был коммерческий аспект, — говорит Хиггинс. — Это была подработка, но не только. Это давало некую скандальную славу.

В какой-то момент сайт «выложил 6000 изображений лица Александрии Окасио-Кортес (женщины-политика из США), чтобы люди могли создавать порнографические дипфейки с ней, — говорит Хиггинс. — Это безумие. [Там были] целые архивы с ютуберами и политиками. Посыл таков: если ты женщина в этом мире, ты можешь достичь лишь определенного уровня, потому что если ты высунешься, если у тебя хватит дерзости делать что-то публично, жди, что твой образ будет использован самым унизительным образом ради чьей-то личной выгоды».

— Самым поразительным для меня был язык, которым говорили о женщинах на этом сайте, — продолжает он. — Нам пришлось изменить формулировки в нашем отчете, чтобы не травмировать читателей, но это чистая мизогиния. Чистая ненависть.

В апреле этого года следователи начали полагать, что нашли создателя Mr DeepFakes, и отправили подозреваемому электронные письма.

4 мая Mr DeepFakes закрылся. В уведомлении на главной странице причиной была названа «потеря данных», вызванная уходом «критически важного поставщика услуг».

— Мы не будем перезапускаться, — говорилось далее. — Любой веб-сайт, утверждающий обратное, — подделка. Срок действия этого домена со временем истечет, и мы не несем ответственности за его будущее использование. Это сообщение будет удалено примерно через неделю.

С Mr DeepFakes покончено, но, по словам Комптон, это могло произойти гораздо раньше.

— Все признаки были налицо, — говорит она.

Годом ранее, в апреле 2024 года, когда правительство Великобритании объявило о планах ввести уголовную ответственность за создание и распространение материалов сексуального насилия с использованием дипфейков, Mr DeepFakes отреагировал немедленной блокировкой доступа для пользователей из Великобритании (позже эти планы были отложены в долгий ящик из-за объявления выборов 2024 года).

— Это показало, что «Мистер Дипфейк» явно не был настолько идейным, чтобы считать, что правительства ничего не могут сделать, — считает Комптон. — Если управление сайтом становилось слишком хлопотным и рискованным, они просто не стали бы этим заниматься.

Но дипфейк-порно стало настолько популярным и массовым, что ему больше не нужен «базовый лагерь».

— Те вещи, которыми эти парни так гордились — что научились делать их сами и научили других, — теперь настолько внедрены в обиход, что доступны любому в приложениях по нажатию одной кнопки, — говорит Комптон.

А для тех, кто ищет что-то посложнее, создатели — самопровозглашенные эксперты, которые когда-то скрывались на форуме сайта, — теперь открыто ищут клиентов. Патриция Шлоссер знает это наверняка.

— В рамках своего расследования я работала под прикрытием и связалась с некоторыми людьми на форумах, попросив сделать дипфейк бывшей девушки, — рассказывает Шлоссер. — Хотя часто утверждается, что сайт был посвящен только знаменитостям, это неправда. Ответ был: «Да, конечно»…

После того как Mr DeepFakes закрылся, я получила автоматическое письмо от одного из них, в котором говорилось: «Если вы хотите что-то сделать, дайте мне знать… Mr DeepFakes закрыт — но, конечно, мы продолжаем работать».