Порнографические дипфейки в школах: «Одну девочку стошнило от ужаса»

Использование приложений для «раздевания» (nudify) становится все более распространенным: сотни учителей уже сталкивались с изображениями, созданными учениками, часто — с использованием фото их сверстников.

Последствия масштабны, и проблема быстро усугубляется.

— Меня беспокоит, что это стало нормой. Он явно не скрывался. Он не чувствовал, что делает что-то запретное. Это происходило открыто, на глазах у всех. Вот что шокирует больше всего, — так директор одной из школ описывает случай, когда мальчик-подросток, сидя в автобусе по дороге домой, небрежно достал телефон, выбрал в соцсети фотографию девочки из соседней школы и с помощью приложения для «раздевания» отредактировал её снимок.

Десять лет назад хаос в классах сеяли секстинг и рассылка интимных фото. Сегодня достижения в области искусственного интеллекта (ИИ) превратили создание дипфейк-изображений или видео с обнаженкой в детскую забаву. На этих кадрах могут быть ваши друзья, одноклассники и даже учителя. Технологии позволяют «снять» одежду, заставить статичное изображение двигаться непристойно или приклеить чью-то голову к порнографическому снимку.

Директор не знает, почему выбор пал именно на эту девочку — ученицу её школы: был ли мальчик с ней знаком или выбор был случайным. О происшествии стало известно лишь потому, что его заметила другая ученица, которая поняла, что происходит, и сообщила администрации.

С родителями связались, мальчика нашли, вызвали полицию. Но стигма и стыд, связанные с сексуальным насилием на основе изображений и распространением дипфейков, таковы, что было принято решение не сообщать жертве о случившемся.

— Девочка на самом деле даже не знает, — говорит директор. — Я поговорила с её родителями, и они решили, что ей лучше не знать.

Случай в автобусе — лишь один пример того, как дипфейки и доступные технологии «раздевания» проникают в жизнь школьников, часто с разрушительными последствиями. В прошлом году в Испании, в юго-западном регионе Эстремадура, 15 мальчиков были приговорены к году условно за использование ИИ для создания фальшивых обнаженных изображений своих одноклассниц, которые они распространяли в группах WhatsApp. Пострадали около 20 девочек, большинству из которых было 14 лет, а самой младшей — 11.

В Австралии около 50 старшеклассников гимназии Бакхус Марш в штате Виктория сообщили, что их фото были подделаны и распространены. Мать одной из учениц рассказала, что её дочь была настолько шокирована откровенными изображениями, что её стошнило. В США более 30 учениц старшей школы Уэстфилд в Нью-Джерси обнаружили, что их одноклассники делятся в Snapchat порнографическими дипфейками с их лицами.

Это происходит и в Великобритании. Новый опрос 4300 учителей средних школ в Англии, проведенный Teacher Tapp по заказу The Guardian, показал, что около 10% педагогов знали о случаях создания учениками «дипфейков сексуального характера» в прошедшем учебном году.

Три четверти этих инцидентов связаны с детьми в возрасте 14 лет и младше, каждый десятый случай касался 11-летних, а 3% нарушителей были еще моложе. Это наглядно демонстрирует, насколько легко получить доступ к технологии и использовать её. Среди опрошенных учителей 7% сообщили об одном известном им инциденте, 1% — о двух случаях, и примерно такая же доля — о трех и более случаях за последний учебный год.

Ранее в этом году опрос организации Girlguiding показал, что каждый четвертый респондент в возрасте от 13 до 18 лет видел откровенный дипфейк со знаменитостью, другом, учителем или самим собой.

— Год назад я приводила примеры из США и Испании, говоря об этих проблемах, — рассказывает Маргарет Малхолланд, специалист по инклюзии и особым потребностям Ассоциации руководителей школ и колледжей. — Теперь это происходит у нас под боком, и это действительно тревожит.

Полиция кажется совершенно перегруженной масштабом этих проблем. Нам нужны более широкие решения и лучшая стратегия.

В прошлом году The Times сообщала, что две частные школы в Великобритании оказались в центре полицейского расследования по факту предполагаемого создания и распространения порнографических дипфейков. Газета писала, что полиция проверяла информацию о том, что дипфейки создавались в школе для мальчиков кем-то, кто использовал фото из соцсетей учениц школы для девочек.

Уполномоченная по правам детей в Англии, дама Рэйчел де Соуза, призвала запретить приложения для «раздевания», такие как ClothOff (расследование о котором выходило в подкасте об ИИ).

— Дети говорили мне, что их пугает сама мысль о доступности этой технологии, не говоря уже о её использовании, — отмечает она.

Найти учителей, готовых говорить об инцидентах с дипфейками, непросто. Те, кто согласился на интервью с The Guardian, настаивали на строгой анонимности. Другие свидетельства были предоставлены учеными, исследующими проблему дипфейков в школах, и специалистами по половому воспитанию.

Таня Хорек, профессор кино и феминистских медиаисследований в Университете Англия Раскин, общалась с директорами школ в рамках исследования масштабов проблемы.

— У всех были случаи с дипфейками в школах, и они рассматривали это как нарастающую проблему, — говорит она.

В одном случае 15-летняя девочка, новенькая в школе, стала мишенью учеников, создавших порнографическое дипфейк-видео с ней. Она была в таком стрессе, что поначалу отказывалась ходить в школу.

— Почти все примеры, о которых мне рассказывали, касались мальчиков, делающих дипфейки девочек, — отмечает Хорек.

— Еще одна вещь, которую я заметила, — это реальное напряжение вокруг того, как решать эти вопросы. Некоторые учителя говорили: «Да, мы просто сразу вызываем полицию, и учеников исключают» — такой вот подход, — рассказывает Хорек. — Другие же возражали: «Ну, это не выход. Нам нужен подход, основанный на восстановительном правосудии, когда мы говорим с этими молодыми людьми и выясняем, почему они это делают». Похоже, существует некоторая непоследовательность и неопределенность в том, как реагировать на такие случаи, но я думаю, учителям действительно трудно, потому что у них нет четких инструкций.

Лора Бейтс, основательница проекта Everyday Sexism («Повседневный сексизм»), считает, что в дипфейк-изображениях есть что-то особенно шокирующее. В своей книге «Новая эра сексизма: как революция ИИ переизобретает мизогинию» она пишет:

— Из всех форм насилия, с которыми я сталкиваюсь, эти ранят глубже всего — они остаются со мной. Трудно описать почему, кроме как сказать, что это ощущается как ты сама. Такое чувство, будто кто-то взял тебя и что-то с тобой сделал, а ты ничего не можешь с этим поделать. Смотреть видео, где над тобой совершают насилие без твоего согласия, — это почти внетелесный опыт.

Для детей школьного возраста удар может быть огромным. Девочки и молодые девушки чувствуют себя оскверненными и униженными. Дружеские компании в школах распадаются, возникает глубокое чувство предательства, когда ученица узнает, что другой ученик создал её сексуализированное изображение и распространил его по школе. Девочки не могут заставить себя идти на уроки, а учителя, не имея специальной подготовки, делают всё возможное, чтобы поддержать и просветить. Тем временем мальчики и юноши втягиваются в преступную деятельность, часто не понимая последствий своих действий.

— Мы видим учеников, которые очень расстроены, чувствуют себя преданными и напуганными таким видом насилия, — говорит Долли Падалия, генеральный директор благотворительной организации School of Sexuality Education, занимающейся половым воспитанием в школах и университетах. — Один пример: с нами связалась школа. Выяснилось, что ученик брал фотографии многих школьников из своей параллели и делал дипфейки. Затем они утекли в сеть, и последствия были весьма значительными. Ученики были очень расстроены. Они чувствовали себя преданными и оскверненными. Это форма насилия. Была привлечена полиция. Ученика исключили из школы, а нас попросили прийти и оказать поддержку. Школа отреагировала очень, очень быстро, но я бы сказала, что этого недостаточно. Чтобы реально предотвращать сексуальное насилие, нам нужно действовать на опережение.

По оценкам, 99% доступных в сети откровенных дипфейков изображают женщин и девочек, но есть случаи, когда мишенью становятся и мальчики. Благотворительная организация Everyone’s Invited (EI), собирающая свидетельства переживших сексуальное насилие, столкнулась как минимум с одним таким случаем:

— Один ученик рассказал команде EI, что мальчик из их параллели, который всем нравился и дружил со многими девочками, стал жертвой другого мальчика, создавшего его сексуализированное изображение с помощью ИИ. Это изображение затем разошлось по школе, причинив значительный стресс и травму.

EI также отмечает, как эти инструменты тривиализируются и используются тревожными способами, например, фильтром «преврати друга в своего парня»:

— В соцсетях вроде TikTok и Snapchat они становятся всё более доступными и нормализуются. Хотя кому-то это может показаться игрой или безобидной забавой, это отражает и укрепляет культуру, где подрываются согласие и уважение к личным границам.

На фоне широко распространенной мизогинии в школах, всё чаще мишенью становятся и учителя, сообщают EI и другие организации:

— Это то, с чем нам как обществу необходимо срочно бороться. Образование должно опережать технологии, а взрослые должны чувствовать себя подготовленными к ведению таких разговоров, а не уклоняться от них.

Сет Джеймс — ответственный за безопасность детей (Designated Safeguarding Lead, DSL) в школе и автор блога DSL Blog.

— Для всех, кто работает в школах, кажется, что технологическое развитие постоянно подбрасывает новые наборы вызовов и рисков, — говорит он. — ИИ в целом — и особенно дипфейки и приложения для «раздевания» — ощущаются как очередной поезд, несущийся по рельсам прямо на нас. «Больше просвещения» — привлекательное решение для таких проблем, потому что оно интуитивно понятно и относительно просто, но само по себе это как тушить лесной пожар водяным пистолетом. Точно так же и полиция кажется совершенно перегруженной масштабом этих проблем. Как обществу нам нужны более широкие решения и лучшая стратегия.

Он продолжает: «Нам всем стоит попытаться представить, как бы мы себя чувствовали 20 лет назад, если бы кто-то предложил изобрести карманное устройство, которое можно использовать для создания реалистичной порнографии с участием реальных людей, которых вы знаете лично. А затем предложили бы раздать по такому устройству всем нашим детям. Потому что, по сути, именно в такой ситуации мы сейчас и находимся. Мы позволяем этим вещам становиться «нормой» при нашем попустительстве».

Джессика Рингроуз, профессор социологии гендера и образования в Институте образования Университетского колледжа Лондона, работала в школах над проблемами маскулинности, гендерного неравенства и сексуального насилия. Она также является соавтором книги «Подростки, социальные сети и насилие на основе изображений» и сейчас исследует гендерное насилие, опосредованное технологиями.

— То, как молодежь использует эти технологии, не обязательно плохо, — говорит она. — Но им нужна лучшая медиаграмотность.

Она приветствует обновленные рекомендации правительства по вопросам отношений, полового воспитания и здоровья, в которых «признано, что мизогиния — это проблема, которую нужно решать в школьной системе». Однако она добавляет:

— Им нужно соединить точки. Нужно связать озабоченность гендерным и сексуальным насилием с технологиями. Нельзя полагаться на Ofcom (британский медиарегулятор) или других регуляторов в вопросе защиты молодежи. Нам нужно проактивное, превентивное образование.

Где во всем этом правительство?

— Наши новые рекомендации по вопросам отношений, полового воспитания и здоровья гарантируют, что все молодые люди будут понимать суть здоровых отношений, сексуальную этику и опасность онлайн-контента, такого как порнография и дипфейки, — заявил представитель Министерства образования. — В рамках нашей миссии «План перемен» по сокращению насилия в отношении женщин и девочек вдвое мы также предоставляем школам новые финансируемые ресурсы, чтобы помочь учителям объяснять закон и вред, связанный с онлайн-контентом, в рамках уроков, соответствующих возрасту.

Рингроуз подчеркивает срочность проблемы:

— Это происходит прямо сейчас — создание и распространение изображений без согласия. Эти технологии у людей под рукой. Любому ребенку суперлегко получить к ним доступ.

Она скептически относится к попыткам запретить смартфоны в школах и беспокоится, что это лишь затруднит обращение за помощью для тех молодых людей, которые могут стать жертвами оскорбительных изображений.

— Воздержание в таких вещах, как технологии, не работает, — говорит она. — Нужно учить людей использовать их правильно. Нам нужно включить это в учебную программу как действительно важный элемент.

Это возвращает нас к мальчику в автобусе, с которого началась эта история. Его остановили, потому что девочка в том же автобусе недавно прослушала в школе урок об онлайн-безопасности в рамках программы PSHE (личностное, социальное, медицинское и экономическое образование). Она поняла, что он делает, и рассказала учителям.

Образование работает.