Слом инстинкта: как бороться с фейками
Фейковые рассылки о стрельбе в школах, педофилах, наркотических леденцах, зараженных бананах и прочих ужасах жизни не только засоряют эфир, но и отвлекают внимание от реальных угроз. Исследования показали, что городские страшилки притягивают к себе внимание, давя на страх и тревогу, а заодно помогают поддерживать социальные связи. Как бороться с распространением фейков, которое является неискоренимой частью человеческой природы, почему они годами кочуют между странами и кому это выгодно, читайте в материале «Известий».
Запало в душу
«Позвольте, жители страны, // В часы душевного мученья // Поздравить вас из заточенья // С великим праздником весны!» — это первые строки стихотворения, которое в начале пандемии разошлось по соцсетям. Подбодряющий стих кочевал со страницы на страницу с припиской «А.С. Пушкин, 1827 год»: якобы поэт написал его во время Болдинской осени, сидя на холерном карантине.
Противоречия (Болдинская осень — 1830 год, как и карантин; да и причем тут весна?) не помешали вирусному распространению. Оказалось, что Пушкину приписали произведение казахстанского поэта, которым он поздравил читателей с праздником весны. Подписчица скопировала текст и отправила в чат однокурсников с шутливой припиской «Пушкин» и указанием даты.
Но приписку восприняли всерьез. Чем дальше расходился стих, тем большим количеством деталей обрастала легенда. Многие фейки (в англ. — hoax messages), путешествуя по соцсетям и чатам, проходят примерно тот же путь, что и поздравительное стихотворение казахстанского автора.
Их не зря называют вирусными: если грубо обобщать, они распространяются и влияют на носителей подобно болезни. В 2019 году британские ученые опубликовали статью о применении математической модели, которая имитирует распространение фейков по аналогии с эпидемией инфекционных заболеваний. В соответствии с этой моделью передача псевдомедицинских советов увеличивает риск заражения на 40%.
Эта параллель наглядно прослеживается с 2020 года, когда мир охватила пандемия коронавируса. Уже в феврале ВОЗ заявила, что инфодемия (термин, обозначающий неконтролируемое распространение разной информации о кризисных событиях, которое нагнетает беспокойство общества, был впервые использован во время эпидемии атипичной пневмонии в 2003 году. — Ред.) — угроза не меньше, чем сам коронавирус.
По оценкам Роскомнадзора, в 2020 году 60% фейков были связаны с COVID-19.
Группа ученых из РАНХиГС, изучающая особенности российской инфодемии, выделила пять причин вирусного распространения фейков в моменты катастроф. Во-первых, обмен слухами и народными советами естественен для людей, которые таким образом поддерживают социальные связи. Во-вторых, из-за стресса и отсутствия ощущения контроля над жизнью люди активнее распространяют слухи и конспирологические теории. В-третьих, влияет недоверие к институтам власти и официальным источникам информации. Кроме того, в стрессовой ситуации люди склонны делиться даже той информацией, в достоверности которой сомневаются, причем вне зависимости от пола, возраста и даже уровня образования.
Доисторическая традиция
Пандемия обострила проблему, но не породила ничего нового. Волна ложных домыслов обрушивается на пользователей после терактов, преступлений против детей, массовых отравлений и других происшествий. Впрочем, самая популярная тема для фейков — политика, к такому выводу пришли ученые из Массачусетского технологического института (MIT) в 2018 году.
Исследователи проанализировали свыше 4,5 млн публикаций в Twitter, сделанных за девять лет, и выделили из них фальшивые новости. Выяснилось, что охват у записей с фейковой информацией в среднем варьируется от 1 тыс. до 10 тыс. человек, в то время как достоверные видят не более тысячи читателей.
Публикации с фейками вызывают у пользователей страх, отвращение и удивление, показал анализ команды MIT.
— Из всей информации, которая ежедневно проходит через людей, они в первую очередь обращают внимание на негатив: происшествия, аварии, теракты, ДТП, стихийные бедствия, пожары, техногенные катастрофы и т.д. Такова особенность психологии человека, — отмечает руководитель Центра урегулирования социальных конфликтов Олег Иванов. С доисторических времен такого рода информация была необходима для выживания. С развитием цивилизации она не так актуальна, однако подсознательно всё еще воспринимается нами с большим интересом и вниманием, чем позитивные новости, отмечает собеседник «Известий».
Следом у людей возникает естественное желание предупредить близких и родных об опасности. По этой причине фейки часто распространяются через родительские чаты: «У них повышенная тревожность за собственных детей, в связи с чем они в большинстве случаев не могут оценивать фейки адекватно и объективно». Так, мистификация живет и множится благодаря человеческой природе.
Попасться на крючок страха может каждый. В 2016 году подмосковный чиновник Владимир Грищенко распространил вирусную рассылку о том, что в школе детям продают жвачки с героином.
Не привязанные к повестке фальшивые новости — самые живучие. Так, годами кочует фейк о раздаче породистых щенков. Меняются порода, телефоны, регион, но суть та же. Причем хвостом за рассылкой идет сопутствующий фейк о том, что при звонке на указанные номера якобы со счета мобильного телефона снимается большая сумма денег.
Иные и вовсе перешли в онлайн из прошлого века. Городские легенды о черной карете, крадущей детей, плавно мигрировали в WhatsApp: поменялось только средство транспорта и стиль подачи. Страшилки про детей — тоже из числа тех, что переходят в разряд «зомби-фейков». Так, многочисленные домыслы о суицидальных группах, породившие устойчивый страх перед ними, навели на ложный путь участников поискового отряда, которые разыскивали 15-летнего подростка в Рязани (через два дня после того, как мальчика объявили в розыск, его нашли мертвым; по предварительной версии, бывший отчим с сообщницей убили его в процессе некоего ритуала. — Ред.). Однозначного ответа на вопрос, кто и почему придумывает эти байки, нет.
Пять лет назад родителей напугала рассылка о «феях Винкс»: чтобы стать одной из них, ребенку предлагали открыть газ и «полететь». Вероятно, изначально это была злая пародия на участников фандом Винкс.
— Их троллят подростки, и, видимо, из такого троллинга и выросла эта история насчет «включи газ, чтобы стать феей», — предполагает один из авторов исследования об инфодемии, глава исследовательской группы «Мониторинг актуального фольклора» РАНХиГС Александра Архипова. — Легенды возникают и обновляются в тот момент, когда есть некая социальная проблема и мы ее ощущаем как реальную. Реальность — это не то, что действительно происходит, а то, что нам конструируют.
А где злодей
Эксперимент пользователя Reddit с индийской аудиторией продемонстрировал силу фейков. Аноним написал по канонам вирусное сообщение о мессенджере Signal. Он описал продукт как истинно индийскую разработку (в частности, утверждал, что код написан на санскрите). Переходи на него сам и приводи друзей — получишь купон. А WhatApp, предупредил он, скоро ограничит традиционную для индийцев утреннюю рассылку. Фейк разошелся молниеносно и привел к оттоку пользователей из мессенджера.
Последствий у фейковых рассылок много, и не все они безобидны. По учебным и родительским чатам вторую неделю расходится однотипная фейковая рассылка о готовящемся нападении на образовательные учреждения. Пока в десятках регионов полиция проверяла пустышки, а родители и дети паникуют из-за призрачной угрозы, на Чукотке задержали подростка, который угрожал массовым убийством в школе. На допросе он заявил, что действовал «из хулиганских побуждений». Тем не менее у него обнаружили пневматическое оружие. Отработка фейковых угроз может оголять зоны, где есть реальная угроза.
В Новосибирске, например, из-за фейка 32 тыс. человек подали в налоговую декларации с ошибками.
— Распространение фейковых сообщений в родительских чатах — настоящая боль, — говорит руководитель отдела продвижения продуктов компании «Код Безопасности» Павел Коростелев. — Как правило, в них состоят люди старшего возраста, которые, безусловно, верят всему, что приходит на телефон. Они не то что не соблюдают, а порой и не знают о правилах цифровой гигиены, и продолжают распространять сообщения дальше.
По мнению главы Центра урегулирования социальных конфликтов Олега Иванова, вирусная рассылка фейков — «своего рода психологический терроризм, психологическая диверсия, цель которой — посеять панику в обществе».
— Повышение уровня тревожности у граждан, безусловно, влияет и на здоровье людей, но главная цель такого воздействия другая: при постоянном получении негативной информации падает доверие граждан к государству, снижается рейтинг действующей власти, — считает собеседник «Известий».
Есть и более осязаемая угроза. Фейковые сообщения часто содержат в себе не только негативную информацию, но и вредоносные фишинговые ссылки, переход по которым может привести к заражению и даже порче смартфона, отмечает эксперт по информационной безопасности компании «Киберпротект» Евгений Родыгин. Павел Коростелев добавляет, что фишинговые сайты маскируются под официальные ресурсы, чтобы выманивать у пользователей персональные данные или деньги.
— При этом важно понимать, что основной целью является именно нагнетание напряженности или травля, зачастую ни в чем не повинных людей, — подчеркивает Евгений Родыгин.
Фейковые письма, как и другие инструменты социальной инженерии, воздействуют не на каждого, обращает внимание управляющий RTM Group, эксперт в области информационной безопасности и права Евгений Царев: мошенники используют психологические приемы, «ключи», но получают таким образом «доступ» только к отдельным людям.
По его словам, социальную инженерию можно разделить на три категории: претекст (побуждающее пользователя что-либо сделать текстовое послание), фишинг (ссылка или форма для заполнения, например, с персональными данными, логинами и паролями) и вредонос (вирус, который предназначен для получения сведений или для контроля устройства пользователя): «Вот этих действий и стоит бояться больше, чем душераздирающих описаний в теле письма».
Выявить источник рассылки через ботсети, например, можно только косвенно: ее масштаб, территорию, семантику содержания, шаблоны, временные периоды и др., говорит эксперт по информационной безопасности Евгений Царев. Чтобы подтвердить умышленный характер и опасность организованной рассылки, нужны доступ к управлению ботсети или данным сервера управления.
Евгений Царев, управляющий RTM Group, эксперт в области информационной безопасности и права
Наиболее эффективная борьба с этим злом ведется на уровне оперативных мероприятий и по предварительному анализу косвенных данных.
Инициатором появления фейков в большинстве случаев являются определенные внешние силы, недружественно настроенные по отношению к России, полагает руководитель Центра урегулирования социальных конфликтов Олег Иванов: «Сегодня в мире войны ведутся в основном на информационном поле, и фейки — вполне эффективное информационное оружие». (Губернатор Псковской области Михаил Ведерников ранее заявлял, что источник недавних информационных вбросов о скулшутинге — украинские ботофермы.)
Источник некоторых фейков прямо указывает на зарубежные страны, однако это не означает, что вирусная рассылка была запущена оттуда специально. Например, в 2017 году чаты российских родителей настигла новая напасть — рассылка о наркотических леденцах. За десять лет до этого фейк наделал шума в США: панические домыслы разошлись по Сети после того, как полиция изъяла похожий на конфеты наркотик. Слухи опровергали, но фейк живет своей жизнью до сих пор.
Встряхнуть и перетряхнуть
62% россиян сразу заподозрили подвох при столкновении с фейковыми сообщениями, показали результаты опроса ВЦИОМа 2019 года. 31% респондентов признались, что повелись на фейки. Однако это выборка из тех, кто уверен, что вообще сталкивался с недостоверной информацией — почти половина опрошенных сказали, что не встречали таких новостей. «Яндекс» в исследовании поведения российских пользователей во время инфодемии подчеркивал, что большая масса поисковых запросов о фейках — не показатель доверчивости. Если человек ищет информацию про Билла Гейтса, чипирование и мировые заговоры, это не значит, что он в нее верит.
Вирусное распространение фейков — следствие того, что люди не хотят и не могут анализировать поток информации, который постоянно растет, говорит глава Центра урегулирования социальных конфликтов.
— Утрачиваются навыки критически осмысливать новости, события, их интерпретации, люди всё больше привыкают принимать на веру то, что они видят по телевизору или, как в случае с вирусными фейками, читают в сообщениях от родных и друзей, — говорит Олег Иванов. Поэтому борьба с фейками — на плечах всех людей, и способствовать ей должно развитие критического мышления, добавляет собеседник.
У государства на сегодняшний день уже есть мощный инструмент борьбы, напоминает юрист-аналитик департамента информационной безопасности «Ай-Теко», преподаватель НИУ ВШЭ Алена Геращенко: за распространение фейков существует административная и уголовная ответственность. С 2020 года законодательство было ужесточено, а у Роскомнадзора появились механизмы отслеживания вбросов: теперь жалобу на фейк могут подавать и обычные граждане.
— После поступления уведомления прокуратура проводит мониторинг такой информации. Если сложный кейс — привлекают эксперта (скорее всего, лингвиста или журналиста). Если подтверждается, что имеем дело с fake news, прокуратура возбуждает дело об административных правонарушениях, предусмотренных частями 9–11 ст. 13.15 КоАП («Злоупотребление свободой массовой информации»). И направляет требование Роскомнадзору о принятии мер по удалению информации и ограничению доступа к информационным ресурсам, — объясняет алгоритм действия собеседница «Известий».
Ведомство же может внести сведения в тестовый список ресурсов, которые не единожды распространяли недостоверную информацию. Впрочем, фейки, кочующие преимущественно в мессенджерах, в эту схему не вписываются.
Техническими инструментами — например, ботами и иными сервисами — бороться с мистификациями в чатах бесполезно, уверен руководитель отдела продвижения продуктов компании «Код Безопасности» Павел Коростелев.
— Можно предложить обучать пользователей цифровой гигиене, но старшее поколение не готово обучаться, — сетует эксперт. — Поэтому подобные рассылки будут данностью, с которой мы живем и ничего не можем поделать.
Какие бы автоматические средства премодерации сообщений мы ни применяли, человека не заменить, отмечает эксперт по информационной безопасности компании «Киберпротект» Евгений Родыгин: «Русский язык настолько богат и гибок, что злоумышленники так или иначе умудряются донести свои негативные послания до пользователей. Поэтому человеческое участие в модерации на сегодняшний день исключать не следует».
Образовательные учреждения и общественные организации распространяют инструкции, как вычислить очередной фейк в мессенджере. Самое первое правило: «Если вы сомневаетесь, считать ли подозрительное сообщение фейком, воспринимайте его как фейк». Прежде чем передать сообщение дальше (ответственным органам, а не в соседний чат), необходимо проверить достоверность информации, обратить внимание на стиль подачи и подозрительные маркеры: изобилие восклицательных знаков, призыв распространять дальше, указание на туманный источник из круга знакомых.
— Мы рекомендуем родителям формировать правила общения в закрытых чатах, а также включать режим премодерации, когда пользователи могут проверять сообщения на предмет корректности и допустимости, и в случае нарушений блокировать участников, — советует Евгений Родыгин. — В чатах должна быть настроена ограниченная регистрация и авторизация участников, лимитировано время сессии и количество сообщений. Кроме того, рекомендуется периодически «перетряхивать участников».
— Человек не в состоянии отправлять по 100 сообщений в секунду, а бот — вполне. Соответственно, необходима подсистема автоматической блокировки не на основе смысла сообщения, а на основе технических особенностей работы ботов, — добавляет собеседник «Известий».
