Закон о запрете фейков: защита от дипфейков ИИ или угроза свободе интернета?

Критики опасаются, что пересмотренный Закон ЕС о запрете фейков превратился из целенаправленной защиты от дипфейков ИИ в широкие полномочия цензуры.

По словам защитников цифровых прав, то, что начиналось как, казалось бы, разумная попытка бороться с дипфейками, созданными искусственным интеллектом, переросло в нечто гораздо более тревожное. Широко обсуждаемый закон «Взращивайте оригиналы», «Поощряйте искусство» и «Обеспечьте безопасность развлечений (NO FAKES)», первоначально направленный на предотвращение несанкционированного цифрового копирования людей, теперь угрожает коренным образом изменить то, как функционирует Интернет.

Расширение законопроекта вызвало тревогу во всем технологическом сообществе. Она вышла далеко за рамки простой защиты знаменитостей от поддельных видео и потенциально создала масштабную систему цензуры.

От разумных мер безопасности к подходу с помощью кувалды

Первоначальная идея была не совсем ошибочной: создать защиту от систем искусственного интеллекта, генерирующих поддельные видео реальных людей без разрешения. Мы все видели, как эти тревожные дипфейки циркулируют в Интернете.

Но вместо того, чтобы разрабатывать узкие, целенаправленные меры, законодатели выбрали то, что Electronic Frontier Foundation называет «федерализованной системой лицензирования изображений», которая выходит далеко за рамки разумной защиты.

— Обновленный законопроект удваивает этот первоначальный ошибочный подход, — отмечает EFF, — предписывая совершенно новую инфраструктуру цензуры для этой системы, охватывающую не только изображения, но и продукты и услуги, используемые для их создания.

Что особенно тревожно, так это требование Закона о запрете фейков почти к каждой интернет-платформе внедрить системы, которые не только удаляли бы контент после получения уведомлений об удалении, но и предотвращали бы повторную загрузку аналогичного контента. По сути, это вынуждает платформы развертывать фильтры контента, которые оказались печально известными как ненадежные в других контекстах.

Инновационное охлаждение

Возможно, больше всего сектор искусственного интеллекта беспокоит то, что Закон о запрете фейков нацелен на сами инструменты. Пересмотренный законопроект будет касаться не только вредного контента; Это потенциально приведет к закрытию целых платформ разработки и программных инструментов, которые могут быть использованы для создания несанкционированных изображений.

Такой подход напоминает попытку запретить текстовые процессоры, потому что кто-то может использовать их для написания клеветнического контента. Законопроект включает в себя некоторые ограничения (например, инструменты должны быть «в первую очередь разработаны» для изготовления несанкционированных копий или иметь ограниченное другое коммерческое использование), но эти различия, как известно, подлежат интерпретации.

Небольшие британские стартапы, отваживающиеся на создание изображений с помощью искусственного интеллекта, могут оказаться втянутыми в дорогостоящие юридические баталии, основанные на надуманных обвинениях, задолго до того, как у них появится шанс заявить о себе. Между тем, технологические гиганты с армиями юристов могут лучше выдерживать такие штормы, потенциально укрепляя свое доминирование.

Любой, кто имел дело с системой ContentID на YouTube или аналогичными инструментами фильтрации авторских прав, знает, насколько разочаровывающе неточными. Эти системы регулярно помечают законный контент, например, музыканты, исполняющие свои собственные песни, или создатели, использующие материал в соответствии с положениями о добросовестном ведении дел.

Закон «Запрет на подделки» фактически обязывает аналогичные системы фильтрации в Интернете. Несмотря на то, что он включает в себя исключения для пародий, сатиры и комментариев, алгоритмическое обеспечение соблюдения этих различий оказалось практически невозможным.

— Эти системы часто отмечают вещи, которые похожи, но не одинаковы, — объясняет EFF, — например, два разных человека играют одно и то же произведение музыки, находящейся в общественном достоянии.

Для небольших платформ, не имеющих ресурсов масштаба Google, внедрение таких фильтров может оказаться непомерно дорогим. Вероятный результат? Многие просто будут чрезмерно цензурировать, чтобы избежать юридических рисков.

На самом деле, можно было бы ожидать, что крупные технологические компании выступят против такого радикального регулирования. Тем не менее, многие из них хранят заметное молчание. Некоторые отраслевые наблюдатели предполагают, что это не случайно — устоявшиеся гиганты могут легче покрыть расходы на соблюдение нормативных требований, которые сокрушили бы более мелких конкурентов.

— Вероятно, это не совпадение, что некоторые из этих самых гигантов согласны с этой новой версией NO FAKES, — отмечают в EFF.

Эта модель повторяется на протяжении всей истории технологического регулирования — то, что кажется регулированием, господствующим в Big Tech, часто в конечном итоге укрепляет их позиции на рынке, создавая барьеры, которые слишком дорого обходятся новичкам.

Закон о запрете фейков угрожает анонимным высказываниям

В законодательстве спрятано еще одно тревожное положение, которое может разоблачить анонимных пользователей Интернета на основе простых обвинений. Законопроект позволит любому лицу получить повестку в суд от судебного секретаря — без судебного рассмотрения или доказательств — заставляя сервисы раскрывать идентифицирующую информацию о пользователях, обвиняемых в создании несанкционированных копий.

История показывает, что такие механизмы созрели для злоупотреблений. Критики с обоснованными аргументами могут быть разоблачены и потенциально подвергнуты преследованию, когда их комментарии включают скриншоты или цитаты тех самых людей, которые пытаются заставить их замолчать.

Эта уязвимость может оказать глубокое влияние на законную критику и информирование о нарушениях. Представьте себе, что вы разоблачаете неправомерные действия корпорации только для того, чтобы ваша личность была раскрыта с помощью процесса вызова в суд.

Это стремление к дополнительному регулированию кажется странным, учитывая, что Конгресс недавно принял Закон о снятии цензуры, который уже направлен против изображений, содержащих интимный или сексуальный контент. Этот закон сам по себе вызвал опасения по поводу неприкосновенности частной жизни, особенно в отношении мониторинга зашифрованных сообщений.

Вместо того, чтобы оценивать влияние существующего законодательства, законодатели, похоже, полны решимости продвигать более широкие ограничения, которые могут изменить управление интернетом на десятилетия вперед.

Ближайшие недели будут иметь решающее значение, поскольку Закон о запрете подделок продвигается через законодательный процесс. Для всех, кто ценит свободу интернета, инновации и сбалансированные подходы к возникающим технологическим вызовам, это действительно заслуживает пристального внимания.