Фейки: как их распознать и противостоять им
Фейк — слово, которое в последнее время прочно вошло в наш лексикон. Фейки будоражат наше любопытство и в то же время тревожат и даже пугают. Но что такое фейки на самом деле? Придумал ли их щедрый на чудеса XXI век или они существовали и раньше? Почему люди готовы так быстро поверить фейкам, предпочитая их достоверной информации? Как заметить искажение фактов? Что стоит проверить, прежде чем поделиться новостью, видео или фото? На эти и многие другие вопросы о фейках порталу ПОИСК отвечает популяризатор критического мышления Никита Непряхин, автор книги «Анатомия заблуждений: Большая книга по критическому мышлению».
— Что современная наука и медиаисследования понимают под «фейком»?
— У термина «фейк» действительно много значений. Фейком сейчас называют и политическую пропаганду, и поддельную фотографию, и ошибку журналиста, и даже сатирическую новость. Иногда словом «фейк» мы выражаем свое отношение к какой-либо информации: примерно как словом «чушь» или «ересь».
Чтобы сформулировать определение, я бы выделил три ключевых свойства фейка.
Первый — недостоверность или ложность. Сообщение содержит вымышленные факты или существенные искажения. Важно понимать, что фейк — это не обязательно стопроцентная ложь. На практике большая часть фейкового сообщения может быть абсолютно достоверной — происходит смешение истинных фактов и вымысла. Второй — намеренность. Настоящий фейк создается сознательно, это не следствие чей-то ошибки или невнимательности. Третий — имитация новостного сообщения.
Итого, у нас получается, что фейк — это информационный продукт, содержащий вымышленные, существенно искаженные сведения и представляемый аудитории как достоверное сообщение о действительности.
— Является ли фейк изобретением XXI века?
— Конечно, нет. Фейки стары как мир. Намеренное распространение ложной информации сопровождает человеческую историю на протяжении тысячелетий. Уже в античности информационные манипуляции использовались в политической борьбе. В Средневековье создались поддельные документы. Например, «Константинов дар» — один из самых знаменитых исторических подлогов, выдававшийся за распоряжение императора Константина Великого. В ХIХ веке массовая пресса распространяла сенсационные мистификации. Например, в 1835 году газета Sun опубликовала серию материалов о невероятных открытиях астрономов: что якобы на Луне обнаружены леса, моря, удивительные животные и даже человекоподобные существа с крыльями. А в ХХ веке дезинформация стала одним из главных инструментов политических и пропагандистских кампаний.
Но именно в XXI веке фейки стали повседневным явлением. Скажем спасибо техническому прогрессу, благодаря которому скорость распространений и охват аудитории стали беспрецедентными. Если раньше для распространения фейка, к примеру, на миллион человек требовались усилия сотен или тысяч людей, типография, развитая система распространения, то сейчас достаточно одного смартфона и аккаунта в социальной сети. Плюс, конечно же, появились абсолютно новые технологии вроде генеративного ИИ, дипфейков, персонализации фейков с таргетированием. И к слову, термин «fake news» — действительно относительно молод, этот термин стал особенно популярен в прессе в 2010-х.
— Как провести границы между фейком, дезинформацией, мисинформацией, предвзятостью?
— Давайте возьмем какое-нибудь истинное информационное сообщение, например: «В городе закрыли три школы из ста из-за аварийного состояния».
Фейк — это сфабрикованное или существенно искаженное сообщение, выдаваемое за достоверное. Например, новостной сайт публикует выдуманную новость: «Срочно! В городе закрывают все 100 школ!».
Дезинформация — более широкий термин. Это в целом заведомо ложная или вводящая в заблуждение информация, которая распространяется с намерением обмануть. Например, я знаю, что закрыты всего три школы из ста, но, тем не менее, распространяю новость «С понедельника ни одна школа не откроется!», чтобы вызвать панику в городе.
А вот мисинформация — это ложная информация, которая распространяется без намерения обмануть. Например, родитель прочитал эту шокирующую новость, поверил ей и тут же переслал в родительский чат с комментарием: «Срочно! С понедельника дети в школу не пойдут!»
Ну, а предвзятость — это вообще из другой оперы. Это когнитивная особенность восприятия информации. Например: «Власти допустили закрытие трех школ!» и «97% школ города продолжают свою работу» — по смыслу одно и то же, но формируют разные впечатления.
А бывает, что сам факт верен, но важную деталь опускают. Например, заголовок «В городе закрывают школы» может создать впечатление, что закрытия массовые, хотя на самом деле закрыли только три школы из ста. Это искажение через умолчание.
— А где пролегает этическая и правовая граница между борьбой с дезинформацией и ограничением свободы слова?
— На этот вопрос, наверное, лучше ответит юрист, специализирующийся на этом вопросе. Но выскажу свое мнение. Мне кажется, что граница между борьбой с дезинформацией и ограничением свободы слова проходит там, где проверка достоверности превращается в подавление права человека высказывать мнение, сомневаться и критиковать. Задача фактчекинга — не запрещать людям ошибаться, а помогать обществу отличать ошибку от факта.
— Как устроена «экономика» фейков: кто и зачем их создает и как работают сети распространения?
— У любого фейка есть производители, посредники, каналы сбыта, целевая аудитория и способы монетизации. Удивительно, что недостоверная информация может приносить немалые деньги от рекламных доходов, использоваться для мошенничества или служить инструментом политического или идеологического влияния.
Производителями фейков могут быть как отдельные «частники», так и организованные группы и даже целые политические структуры. Например, в 2016 году во время американских выборов в Северной Македонии обнаружили целую фабрику по производству политических псевдоновостей.
Самый распространенный вариант монетизации — это доход от рекламного трафика. Например, вы видите ссылку «Фотографии голой X шокировали общественность…». Вы переходите по ссылке, а там куча баннерной рекламы. Или это может быть продажа товаров через фейковую новость: «Ученые открыли уникальное средство для похудения».
Последнее время фейки все чаще используются для мошеннической деятельности. Например, поддельная новость о государственных выплатах ведет на фишинговый сайт, который похищает персональные данные и деньги с карт или счетов.
— Как фейки влияют на доверие к СМИ, науке и государству?
— Напрямую. Ведь опасность фейков заключается не только в том, что люди верят ложной информации, но и в том, что они постепенно перестают доверять информации вообще, в том числе и официальным данным или научным исследованиям. Если человек постоянно встречается с фейками, у него рано или поздно может усиливаться подозрительность ко всему, а дальше — только параноидальность и вера в конспирологические теории.
— Почему ложная информация распространяется быстрее правдивой? Какие когнитивные искажения, социальные механизмы, алгоритмы платформ этому способствуют? Как все это работает с точки зрения психологии восприятия?
— Главная причина заключается в том, что наш мозг заточен не на проверку информации, а на решение других задач: быстрого реагирования, распознавания угроз, социального взаимодействия и так далее. Фейки отлично используют особенности нашего мозга: лживые новости обычно всегда просты в своей сути, неожиданны, эмоциональны.
Некоторые исследования показывали, что ложные новости распространяются гораздо быстрее. Например, анализ 126 тысяч твитов показал, что вероятность ретвита фейка или некой ложной, но эмоционально окрашенной информации на 70% выше, чем вероятность ретвита правдивого сообщения. В 6 раз больше времени требовалось правдивым историям, чтобы достичь 1500 человек, по сравнению с ложными. Это, конечно, поражает.
Но почему же так происходит? Тут работают когнитивные феномены, когнитивные искажения и особенности восприятия информации нашим мозгом.
В первую очередь, конечно же, стоит упомянуть эффект «предвзятость подтверждения» — это склонность искать, замечать, интерпретировать и запоминать информацию таким образом, чтобы она соответствовала нашим уже существующим убеждениям. Мозг не любит информацию, которая противоречит нашим установкам и мнениям. Мозг не любит ошибаться, он хочет всегда подтверждать нашу правоту. Например, человек уверен, что производители специально делают смартфоны менее долговечными, чтобы они быстрее ломались, а люди постоянно покупали новинки. И если человек увидит абсолютно фейковую, может быть, даже абсурдную публикацию типа «Производитель признался, что специально ломает телефоны каждые полгода», он будет воспринимать ее как абсолютную истину, так как эта информация подтверждает его исходную позицию.
Аналогичным образом работает феномен эмоционального заражения. Я уже говорил, что эталонные фейки всегда вызывают эмоции. Сенсационность привлекает внимание. Мозг очень быстро реагирует на эмоциональность, особенно если речь идет о страхе, угрозе безопасности, удивлении. Сравните, например, два таких заголовка: «Муниципальные службы проверяют качество воды в городе» и «Власти скрывают правду: вода в городе отравлена!». Второй вызывает страх, гнев, апеллирует к несправедливости и, конечно, вызывает срочное желание предупредить близких.
Если какой-то фейк постоянно репостят, особенно ваши знакомые или авторитетные персонажи, то начинает работать социальное доказательство: если все пересылают, значит, что-то в этом есть. То есть мы оцениваем информацию не только по ее содержанию, но и по реакции окружающих. К тому же работает эффект «эхокамеры». Давайте представим, что человек верит в тайный заговор фармпроизводителей. Он подписывается на соответствующие сообщества, лайкает определенные сообщения, смотрит тематические видео, делится публикациями. Алгоритмы платформ и социальных сетей определяют это, и далее выдают человеку похожий контент. В итоге создается впечатление, что все и повсюду об этом говорят, альтернативной точки зрения попросту не существует. Так и создается «пузырь фильтров», или эффект «эхокамеры». Человек окружает себя именной той информационной средой, которую сам хочет видеть.
Чем чаще повторяется какое-либо сообщение, чем чаще мы его встречаем на своем пути, тем охотнее мы в него верим. Так работает эффект повторения или эффект иллюзии правды. Многократное повторение одного и того же не только помогает его лучше запомнить, но и усиливает безапелляционную веру в него.
— Какие основные типы фейков выделяют исследователи и какие из них сегодня наиболее опасны с точки зрения масштаба распространения?
— Существует множество классификаций фейков. По формату – текст, фотография, аудио или видео. По манипулятивному способу – полная фабрикация, подмена контекста, монтаж, имитация источника, контент, созданный с помощью искусственного интеллекта и так далее.
И наиболее технологически сложный фейк не всегда оказывает самым опасным. Иногда, например, какая-нибудь старая фотография с новой подписью способна ввести в заблуждение больше людей, чем дорогостоящий дипфейк (от англ. deepfake — это фото, видео или аудиозапись, в которых с помощью ИИ подделаны внешность или голос человека), над которым трудилась целая команда профессионалов. Но конечно же, дипфейки создают качественно новые риски. Они позволяют имитировать голоса известных людей, инфлюенсеров, политиков, подделывать заявления государственных деятелей, организовывать финансовые мошенничества и создавать ложные видеодоказательства.
— По каким эмпирически подтвержденным признакам можно выявить фейк?
— Я бы выделил 5 основных маркеров, на которые действительно стоит обращать внимание.
Первое. Это кликбейтные заголовки и эмоциональность сообщения. «ШОК», «СРОЧНО», «Сенсация», «От нас скрывают», «Ученые в ужасе», а также призывы немедленно переслать сообщение — все это признаки фейка в первую очередь. Второе. Отсутствие первоисточника. Запомните, в официальной новости всегда должен быть указан первоисточник. Ссылки на инсайдеров, неких авторитетных экспертов без конкретного указания, неназванные научные исследования — все это должно вас насторожить. «По данным Гарварда, 90% людей…» — тут уже должны возникать вопросы. Какое конкретно исследование? Кто авторы? Где и когда опубликовано? Где ссылка на публикацию и первоисточник? Третье. Обращайте внимание на несоответствие даты, места и контекста. Как я уже говорил, в сообщении могут использоваться абсолютно реальные фотографии, но поданные под «другим соусом», иным контекстом и обстоятельствами. Цитаты могут быть вырваны из контекста, старые фотографии могут быть поданы как новые. Четвертое. Старайтесь находить признаки цифровой манипуляции. Видео якобы снято вчера, но исходный файл или архивная публикация указывают на другое, значительно более раннее время. Пятое. Искусственная имитация авторитетов и источников. Куча фейков используют поддельные логотипы СМИ, похожие домены, где отличаться может всего одна буква или символ, вымышленных экспертов типа «британских ученых» и несуществующих специалистов.
— Какие методы и инструменты фактчекинга реально работают в повседневной практике?
— По сути дела, любой фактчекинг сводится к трем вопросам: кто сообщил информацию, на чем она основана и чем она конкретно подтверждается. Можно, например, использовать алгоритм из четырех шагов, который называется методом SIFT:
Stop — остановитесь. Не нужно делать никаких резких выводов, не нужно распространять сообщение немедленно, какой бы страх или возмущение оно не вызывало. Возьмите главное правило критического мышления: выдохнуть, отложить, взять тайм-аут, отойти, подумать. Investigate — изучите источник. Кто опубликовал информацию? Существует ли такое СМИ? Какова ее репутация? Find better coverage — найдите более надежное освещение. Есть ли аналогичное сообщение у проверенных СМИ? Есть ли подтверждение у независимых реакций (помним об эффекте «эхокамеры»)? Есть ли официальные документы по этому поводу? Trace to the original – проследите сообщение до первоисточника. Постарайтесь найти исходную ссылку, первоначальное исследование, полную видеозапись, оригинальный документ или первое появление фотографии.
Ну и, конечно, пользуйтесь современными сервисами для фактчекинга. Чтобы найти уже опубликованные сообщения, воспользуйтесь Google Fact или Check Explorer. Чтобы найти другие публикации той же фотографии, можно зайти на Google Lens или TinEye. Чтобы поработать с видео, разбить его на ключевые кадры и найти их происхождение, можно использовать InVID-WeVerify. Новые сервисы постоянно появляются, если есть интерес, можно всегда отслеживать новинки.
— Чем могут быть опасны фейки для пользователя-обывателя, не работающего с информацией профессионально, а только поглощающего ее?
— Любой фейк может влиять на наши повседневные решения, даже если мы об этом не задумываемся. Ведь фейки — это не только про новости, но еще про наше здоровье, семью, финансы, безопасность, отношения с окружающими и доверие к общественным институтам.
Необязательно быть журналистом, политиком, активистом или участником общественных дискуссий, чтобы столкнуться с последствиями фейков. Иногда достаточно прочитать сообщение в чате, которому мы доверяем на 100%, поверить «эксперту», на которого мы подписаны уже много лет, или просто перейти по ссылке на якобы официальный сайт.
Лично меня больше всего меня заботит ситуация, когда человек сталкивается с медицинской дезинформацией. Например, он читает, что определенное заболевание можно вылечить народными средствами, а назначенное врачом лечение якобы опасно. Последствия, как вы понимаете, могут быть очень серьезными, если не смертельными.
Конечно, нельзя не сказать и о ситуациях, когда фейки используются для кражи денег и персональных данных. Типичные сценарии: ложные уведомление о государственных выплатах, поддельные предложения от банков или финансовых структур, всевозможные сообщения о блокировках, просьбах перевести деньги от друзей и родственников и прочее.
И главное: не всякий вред от фейков можно выразить в деньгах или конкретных издержках. Давайте не забывать, что постоянное столкновение с тревожными, противоречивыми, пугающими сообщениями и новостями может создавать перманентное ощущение тревоги, стресса, неопределенности, растерянности, беспомощности и недоверия. А это очень сильно бьет по нашему психологическому здоровью.
Беседовала Мария Хващинская
Изображение на обложке: Magnific