В издательстве «Альпина Паблишер» вышла книга «Максимальный репост. Как соцсети заставляют нас верить фейковым новостям?» Ее автор, научный журналист Борислав Козловский, объясняет, как работает массовое внушение и пропаганда, откуда возникают ложные воспоминания. The Village публикует главу о том, как устроена цензура мозга.

Вера в пропаганду

12-метровый памятник Саддаму Хуссейну, иракскому диктатору, обмотали стальным тросом и, привязав трос к танку, сдернули с постамента в центре Багдада 9 апреля 2003 года — в день, когда в город вошли морпехи США. Через два года двое американских психологов, Найан и Рейфлер, набирали подопытных для своего исследования про новости, и каждый шестой из этих подопытных называл войну в Ираке «самой важной темой американской политики».

Идея была такова: проверить, как новости помогают бороться с заблуждениями по важным для общества вопросам. Таким как война. Психологи взяли несколько сюжетов — чтобы тема была на слуху и вызывала споры: снижение налога для богатых, запрет на эксперименты с человеческими стволовыми клетками и, наконец, Ирак. Поводом для вторжения в Ирак президент США Буш-младший когда-то объявил то, что у Саддама якобы есть химическое и биологическое оружие и что он помогает террористам «Аль-Каиды»; через год официальное расследование (его авторов сам Буш в Ирак и направил) показало — и то и другое неправда. Как реагирует человек на газетную статью, которая ему об этом сообщает, если до этого он был убежденным сторонником войны и президента Буша? Подопытных делили на две группы и выдавали разные версии одной газетной статьи: первый вариант рассказывал про какую-то рабочую поездку президента и приводил эмоциональный кусок из его речи, где тот рассуждал про оружие Саддама и «мир после 11 сентября».

Во втором после слов президента пересказывалось содержание свежего доклада экспертов — что те ездили в Ирак, искали как могли, но никаких тайных лабораторий, подвалов с баллонами нервно-паралитических газов и даже намеков на их существование не нашли. В конце психологи просили заполнить анкету — оценить по пятибалльной шкале (от «полностью не согласен» до «полностью согласен») утверждение, что запрещенное оружие в Ираке было. У разоблаченной ошибочной идеи должно было поубавиться сторонников — но ничего такого экспериментаторы не увидели: результаты у двух групп почти не отличались. Больше того: на консерваторов разоблачение повлияло прямо противоположным образом. У тех, кто его читал, степень убежденности в правоте Буша только выросла. Авторы называют это «эффектом встречного огня» (backfire effect): попытки переубедить только укрепляют в собственном мнении тех, кто ошибается.

Попытка переубедить

Что происходит в мозгу у человека, когда его пытаются переубедить фактами? Через десять лет после эксперимента Найана, в 2015-м, команда нейрофизиологов из Лос-Анджелеса стала укладывать добровольцев в томограф и там испытывать их политические убеждения на прочность. Если Найана и Рейфлера интересовали в первую очередь консерваторы, «партия войны», то здесь специально отбирали по противоположному критерию — только тех, кто в анкете признался, что он ярко выраженный либерал (и что политика много значит в его жизни).

40 испытуемым, прошедшим отбор, на специальном экране внутри томографа показывали фразу, с которой либерал скорее согласится: например, «США стоит уменьшить свои расходы на военных». Следующие несколько минут прокручивали возражения: «У России вдвое больше ядерных боеголовок, чем у США» (это неправда, но психологи преувеличивали и искажали факты намеренно, чтобы эффект был сильней). На каждый тезис приходилось целых пять возражений, и для разнообразия политические тезисы были перемешаны с неполитическими («Кошки как домашние животные лучше собак») — и реакция, как и ожидалось, для политического и неполитического была разной.

Мозг тех, чье мнение не изменилось ни на йоту (по данным анкеты, заполненной потом), реагировал на политические «сухие факты» всплеском активности амигдалы, центра эмоций вроде страха или гнева. Факты воспринимались как угроза личности — и мозг эту атаку отражал как мог.

Еще на томограммах можно было увидеть, как неприятные «сухие факты» приводят в действие сеть пассивного режима работы мозга (DMN, default mode network) — ту, про которую любят писать в исследованиях медитации. Она отвечает за «отвлеченность от внешнего мира», «уход в себя» — что, наверное, тоже можно истолковать как форму защиты. И система защиты картины мира от опасных для нее фактов со своей задачей успешно справилась. Спустя два месяца надо было снова заполнить анкету: сильно ли поменялись политические убеждения после всех контраргументов. Оказалось, что почти никак: например, степень уверенности в вопросе, что аборты должны быть разрешены, упала в среднем всего на 0,07 пункта — по пятибалльной шкале.

Подготовка к концу света

Для исследования про Буша, Саддама и новостей заголовок позаимствовали — с точностью до одного исправленного слова — у научного бестселлера 1950-х. Тогда социальный психолог Леон Фестингер (это он придумал термин «когнитивный диссонанс») вместе с двумя коллегами внедрился в секту, которая ждала скорого прибытия инопланетян и даже назначила точную дату конца света: 21 декабря 1954 года. Об этом своем эксперименте Фестингер написал книгу «Когда пророчество не сбывается»: ему было интересно пронаблюдать, как будет вести себя секта, когда 21 декабря наступит, а летающие тарелки с планеты Кларион так и не появятся в небе над Чикаго. Члены секты к тому моменту уже поувольнялись с работы (у многих она до последнего момента была) и успели избавиться от всех металлических предметов в одежде и на теле, от пуговиц до сережек, потому что иначе пришельцы не пустили бы их на борт НЛО. Когда запланированное время прибытия осталось позади, первым импульсом было искать виновных — например, чужаков в группе и вокруг места приземления, которые могли отпугнуть пришельцев.

Но потом лидер секты, 54-летняя домохозяйка Дороти Мартин, получила — в режиме автоматического письма, когда внешняя сила, по ее словам, водила ее рукой — новое откровение: секта уже совершила духовный подвиг, готовясь к концу света, поэтому сам конец света откладывается, и человечество спасено. До конца жизни Дороти продолжала поддерживать контакт с внеземными сущностями и собирать вокруг себя новых сторонников. Чтобы противостоять фактам, необязательно получать уточняющие откровения от инопланетян.

Фальшивые новости

Психологи знают целый набор стратегий, которыми пользуются взрослые дееспособные люди, хорошо вписанные в общество: можно усомниться в источнике («откуда журналисты это взяли», «да кто они такие, эти эксперты»), начать придумывать возражения или просто выборочно игнорировать новую информацию. В старых работах по психологии любят писать про такое когнитивное искажение, как «ошибка подтверждения» (confirmation bias): если у нас уже сформировалось какое-то представление, дальше мы воспринимаем аргументы только в его пользу. Журнал New Yorker в своей статье про фальшивые новости вспоминает про показательное исследование 1975 года. Добровольцам давали почитать предсмертные записки — реальные и вымышленные — и просили найти среди них тексты настоящих самоубийц.

В одной группе добровольцев было почти сто из ста верных угадываний, в другой — почти одни промахи. В чем разница между группами? Ни в чем: исследователи солгали про результаты и тем и другим. Но когда обман был раскрыт — исследователи признались, что похвалы и порицания раздавали наугад — подопытных попросили самих оценить, как они справились.

И теперь у тех, кому когда-то сказали про хороший результат, оценка вышла завышенной, а у второй группы — заниженной по сравнению с реальной. Сложно избавиться от идеи, которая уже прижилась в голове, даже если она позже оказалась неправдой. Мозг умеет обманывать себя довольно изощренными способами, чтобы политическая реальность, какой мы ее видим, лучше соответствовала нашей картине мира.

Ложные воспоминания

Как насчет ложных воспоминаний? В 2010 году новостной портал Slate.com устроил сбор свидетельств очевидцев — что вы думали и чувствовали в день таких-то исторических событий? Где вас застала новость про теракт 11 сентября? А где вы были в момент знаменитого рукопожатия президента США Обамы и президента Ирана? Все читатели видели пять таких вопросов, каждый из которых сопровождался картинкой из новостей. Вот только в одном случае из пяти картинка была сфабрикованной, а событие — выдуманным (как, например, в случае с рукопожатием Обамы): психологи из Калифорнийского университета в Ирвайне и Нью-Йоркского университета уговорили редакцию Slate поставить эксперимент над своими читателями. В нем приняло участие 5269 человек, и 27% из них без колебаний заявили: они отлично помнят, как про исторический эпизод — тот самый, несуществующий — рассказывали по телевизору или писали газеты.

Люди часто стесняются признаться (тем более ученым или уважаемому СМИ), что они не помнят чего-нибудь такого, о чем знают все — и, теоретически, могли бы из этих соображений соврать. Но, вероятно, это был не тот случай. В 2013-м нейрофизиологи в процессе похожих манипуляций снимали запись электрической активности мозга. Они убедились, что подопытные действительно заняты припоминанием, а не придумыванием на лету, — эти процессы на энцефалограмме выглядят слишком по-разному. Другое дело, что сами воспоминания появились у них в голове только что, в ходе эксперимента.

Долговременная память поддается лепке как пластилин. Еще в 1970-е профессор Вашингтонского университета Элизабет Лофтус задалась вопросом, так ли правдивы подавленные воспоминания — скажем, о пережитом в детстве насилии, — которые психоаналитикам удается добыть из пациента путем долгой терапевтической работы. Преодолевая внутреннее сопротивление, люди описывают травматичные для них события 20- или 30-летней давности, о которых они предпочитали все это время не думать, и описывают в подробностях.

Есть ли здесь место для вымысла? Один из студентов Лофтус по имени Джим Коэн, вдохновившись ее лекциями, решил сделать участниками эксперимента свою семью — отца, мать и брата. Под предлогом, что это ему нужно по учебе, он попросил их повспоминать вместе с ним разные эпизоды из детства. Свои собственные воспоминания он для удобства собрал в четырех небольших брошюрах — по одной на эпизод. Среди прочего Джим описывал, как его брат потерялся в 5-летнем возрасте в торговом центре, но нашелся добрый пожилой человек, который не поленился выслушать сбивчивые объяснения ребенка и вернул его родителям. Сам брат, теперь уже взрослый, в ходе беседы стал постепенно вспоминать одну подробность за другой. К нему присоединились родители, и им было что добавить — пока Коэн, который записывал весь семейный разговор на магнитофон, не объявил, что все это выдумка от начала и до конца. Семья отказывалась ему верить. Когда эксперимент «потерявшийся в торговом центре» повторили на выборке из нескольких десятков человек, дополнить реалистичными деталями вымышленный эпизод из собственной биографии смог примерно каждый четвертый.

Споры в фейсбуке

Прошлое прошлым, а как быть прямо в момент предъявления неудобного факта? Трудно просто взять и закрыть на него глаза посреди разговора. Вот вы спорите в Facebook, а оппонент раз — и предъявляет вам аргумент. За работу берется новый когнитивный механизм — «мотивированные рассуждения» (motivated reasoning), логические выкладки с заранее известным результатом. Они не выглядят, как попытка закопать голову в песок и бежать от фактов, — наоборот, мы, как рациональные люди, принимаем в расчет мнения оппонентов и взвешиваем все за и против. Что в этом плохого? Дефект самой процедуры взвешивания. Скажем, с каким весом учитывать мнения признанных экспертов? Академик Андрей Зализняк в своей программной речи про истину и науку произнес: «В любом обсуждаемом вопросе профессионал (если он действительно профессионал, а не просто носитель казенных титулов) более прав, чем дилетант». Оказывается, оговорка в скобках — мощная лазейка, которая на практике сводит смысл всего рассуждения на нет.

Дэн Каган из Йельского университета поставил в 2010-м перед подопытными такую задачу. Представьте, что друг спрашивает у вас: видел книжку такого-то эксперта, стоит ли ему доверять? Информация к размышлению: фотография эксперта, список его регалий (член Национальной академии наук США, защитил диссертацию в одном из лучших университетов, профессор) и фрагмент его книги. Это последнее — самое интересное, потому что фрагмент (выдуманный, как и фотография с биографией) касается какого-то политически острого для США вопроса — например, он про ядерные отходы или глобальное потепление.

Отношение к глобальному потеплению в Америке еще недавно в буквальном смысле определялось партийной принадлежностью. Среди республиканцев, то есть индивидуалистов и сторонников минимального вмешательства государства в бизнес, в 2010 году было нормой считать антропогенные изменения климата выдумкой. Иначе пришлось бы признать, что государство имеет все основания регулировать выбросы, повышая налоги на бензиновые автомобили и вынуждая закрыться фабрики, которые жгут много мазута, даже если там работали ваши отец, дед и прадед. Поэтому неудивительно, что вымышленного профессора MIT, эксперта-климатолога, который в своей вымышленной книге писал про глобальное потепление как про установленный факт, среди республиканцев признали «достойным внимания экспертом» только 23%. Среди демократов таких набралось целых 88%. Выходит, что и ответ на вопрос, настоящий ли перед вами профессионал или «носитель казенных титулов», определяется тем, приятные вам вещи он говорит или нет.

Новости про ученых

Научные новости — особенно удобный материал для анализа, потому что научные коммуникаторы в сотнях университетов по всему миру (и особенно в США) сделали из своей работы чуть ли не отдельную дисциплину и искренне пытаются выяснить, что с их силой убеждения не так. Отрицателей науки, не верящих в полезность прививок или реальность изменений климата, принято считать людьми необразованными. А причиной антинаучных заблуждений — то, что широкую публику мало информировали; надо больше. Есть мы со своими дипломами хороших университетов, и есть они, окончившие девять классов и поэтому верящие в паранаучную чушь. У «нас» рациональное знание, а «их» нужно жалеть и просвещать. Профессор Гарварда Стивен Пинкер, лингвист и когнитивист, эмоционально рассказывает автору по телефону про свежее наблюдение социологов, удивившее его больше других научных открытий: «Люди думают про свою принадлежность к левому или правому крылу так, как про принадлежность к тому или другому племени.

Мнения даже по научным вопросам определяются вовсе не тем, как много вы знаете или понимаете. А тем, согласуются ли они с идеологией правого или левого крыла. Многие ученые не могут поверить, что столько людей отрицает реальность изменений климата, и говорят, что наша образовательная система никуда не годится. Но оказывается, что отрицатели глобального потепления знакомы с наукой не хуже тех, кто в глобальное потепление верит. Разница между первыми и вторыми только в том, что одни левые, а другие правые».

В ноябре 2017 года в New York Times вышла статья «Чем больше республиканец образован, тем меньше он верит в изменения климата». Кто учился дольше — тот, казалось бы, должен больше доверять науке. Но в реальности все наоборот: среди республиканцев со школьным аттестатом 27 % считают глобальное потепление реальным, а среди выпускников университета — только 8 %. Для сравнения: уровень консенсуса среди ученых-климатологов по этому вопросу — 97 %, и с 2013 года, когда его замеряли, он мог только вырасти. Почему так? Кто лучше образован — тому проще публично сомневаться. «Альтернативные факты» и неподтвержденные научные теории требуют от своей аудитории некоторой базовой эрудиции. Чтобы рассуждать за коктейлем, критикуя официальную науку, про якобы вредные соединения ртути в вакцинах или про то, что реальная причина глобального потепления не углекислый газ из заводских труб, а солнечные циклы, нужно как минимум иметь представление про соединения ртути и солнечные циклы.


Обложка: ООО «Альпина Паблишер»