Текст

антон хитров

21 октября на Netflix вышел третий сезон «Черного зеркала» — сериала-антологии, созданного британским сценаристом Чарли Брукером. Все серии рассказывают о том, как общество реагирует на гипотетические новые технологии — и это единственное, что объединяет их между собой. Как правило, в каждом эпизоде мы знакомимся с новой концепцией будущего, хотя пару раз сюжет разворачивается в наши дни. Шестисерийный третий сезон оказался рекордно длинным — в первых двух было всего по три эпизода. 

The Village посмотрел новые серии шоу с Григорием Тарасевичем, популяризатором науки и главным редактором научно-популярного журнала «Кот Шрёдингера», и попросил его прокомментировать технологии, показанные в шоу, и то, как они влияют на персонажей.

Осторожно, материал содержит спойлеры

Об эпизодах Nosedive и Men Against Fire

— В новом сезоне «Черного зеркала» есть несколько сквозных тем. Например, две серии посвящены цензурированию реальности. В первом эпизоде, Nosedive, персонажи носят линзы, c помощью которых видно рейтинг, то есть социальный статус любого человека. В пятой серии, Men Against Fire, солдатам в мозг вживляют устройство, из-за которого противники кажутся монстрами, лишенными дара речи.
Авторы предполагают, что благодаря технологиям власть или социум смогут контролировать не только то, как мы интерпретируем мир вокруг, но и непосредственно наше восприятие мира. Обсуждают ли ученые такие риски?

— Мне кажется, главная мораль всех этих сюжетов — что технологии не меняют, а обостряют человеческое. Угрозу в сериале несут не технологии, а люди.

Например, серия, где солдат вместо противника видит монстра: таких историй известно множество, начиная с древнейших времен, когда представители другого племени изображались как собакоголовые существа. На войне противника нужно расчеловечить. Когда я делал репортажи из Чечни, солдаты федеральных войск рассказывали, что чеченцы все время под наркотиками, что они не совсем люди, поскольку у них измененное сознание. Так им было проще убивать и разрушать дома. В «Черном зеркале» технологии доводят до крайности вещи, и так уже существующие. Лайкозависимое общество, разделенное на касты, — очень красивая метафора.

Могу рассказать историю, которая, может, когда-нибудь появится в сериале. Сейчас возникла дискуссия вокруг автомобилей-беспилотников. В США они уже выезжают на улицы и, по всем прогнозам, скоро вытеснят машины с водителями. Представим, что этот автомобиль-робот попадает в ситуацию морального выбора: на красный свет переходит девочка с бантиками, на зеленый — старичок. Машина не может затормозить, ей надо кого-то сбить. Высказывалась идея, что машина должна считать человека, определить его социальную функцию и принять решение на основании того, насколько он значим, но все сразу закричали, какой это фашизм. Понимаю, звучит как антиутопия.

Приведем более понятный нам пример: тяжело заболел человек. Помните, в сериале у дальнобойщицы заболел муж, но операцию сделали тому, у кого рейтинг был выше? Сейчас знаменитость, которой требуются деньги на лечение, собирает очень большую сумму. Никому не известная девочка Маша соберет поменьше. А 50-летнему слесарю помогут только родственники. По сути, рейтинги уже расставлены. Если говорить о буквальных лайках, уже сейчас их количество во многом определяет социальный капитал. Чем больше у тебя друзей, тем больше пожертвуют на твое лечение. Это уже неравенство. Так что картинка в сериале очень реалистичная. Огромное количество людей зависят от оценок, они проводят вечера, выкладывая что-то в фейсбук, в инстаграм и считая лайки. И по итогам они сами себе выставляют оценку.

— Еще одна важная деталь: в первом эпизоде показана тотальная деанонимизация. Достаточно взглянуть на человека, чтобы узнать его имя и социальный статус.

— Технически не так уж и сложно сделать распознавание лиц на таком уровне, чтобы можно было мгновенно опознать случайного прохожего. Нужны хорошие алгоритмы машинного зрения плюс хорошая связь, чтобы моментально связаться с базой данных, но ничего нереалистичного в этом нет. Правда, пока такие системы слабо работают. Мы сами себя лишаем анонимности: вам достаточно назвать свое имя и фамилию, чтобы я мог выяснить, где вы отдыхали позапрошлым летом. А скоро и имени не понадобится.

— Может, не стоит учить этому машины?

— Большинство ученых занимают такую позицию: мы создаем инструмент, а испортить его, использовать во вред могут только общество или государство.

Я и сам придерживаюсь такой точки зрения. Из соцсетей можно сделать монстра, а можно сделать благо. Я, например, познакомился с женой на сайте знакомств, в этом году мы отмечаем десять лет брака. Те же инструменты можно использовать, чтобы, наоборот, разрушить семью, как в эпизоде про компромат (третья серия, «Shut Up and Dance». — Прим. ред.). Это тоже сюжет столетней давности: помните, в одной из новелл про Шерлока Холмса нужно было выкрасть письма, чтобы не скомпрометировать какую-то барышню. Здесь, в принципе, то же самое. Разве что социальные сети дают шантажистам больше возможностей.

Григорий Тарасевич

главный редактор научно-популярного журнала «Кот Шрёдингера»


Должен сказать, те варианты антиутопии, которые на Земле уже воплощались, обходились очень примитивными технологиями. У Пол Пота не было ни компьютеров, ни интернета, но это не помешало ему истребить более миллиона человек. Во время геноцида в Руанде у хуту, вырезавших тутси, были только мачете. Ну, радио еще. Исследователи выяснили, что пропаганда по радио практически не влияла на масштаб геноцида: в тех местах, куда сигнал не доходил, крови проливалось ненамного меньше.

— Насчет пятой серии: как футурологи представляют солдат будущего? Что произведет революцию в военном деле — новые методы подготовки солдат или все-таки новое оружие массового поражения? 

— Будущее военного дела зависит не от технологий. Солдат будущего — это красиво, он пуленепробиваемый, в экзоскелете, с выходом в интернет, инфракрасным зрением. Но наличие суперсолдата, на мой взгляд, не меняет суть войны. Можно безо всяких технологий отжать у соседнего государства выгодную территорию. А в другом случае самую современную технику бросают против людей с допотопными винтовками — и все равно не могут ничего добиться, как в некоторых частях Афганистана, где до сих пор идет война.

Об эпизодах Playtest и San Junipero

— Еще два эпизода сосредоточены на симуляции реальности. Причем речь идет о полной иллюзии, как в «Матрице», которую мы, наверное, увидим очень нескоро. Персонажи эпизода San Junipero мечтают после физической смерти переселиться в виртуальный мир, который посещали и при жизни. Может ли чаемое бессмертие оказаться вот таким?

— Оцифровать сознание — одна из целей движения трансгуманистов, до этого пока очень далеко, но теоретически что-то подобное возможно. Грубо говоря, мозг кладется в питательную среду, к нему идут сигналы, и ему кажется, что он бегает и прыгает.

— В другой серии, Playtest, герой тестирует хоррор-игру с полным погружением, которая не только управляет его ощущениями, но и вытаскивает из подсознания страхи. Здесь интересная перекличка с «Миром Дикого Запада»: и там, и здесь фантасты предполагают, что индустрия развлечений будет двигать технический прогресс.

— Уже существуют игры, работающие по интерфейсу «мозг — компьютер», без участия рук. Надеваешь датчики на голову — и катаешь шарики силой мысли. Вообще-то основное назначение таких интерфейсов — помощь людям с ограниченными возможностями, но игровая индустрия, наверное, второй клиент. «Вживление» мысли, как это показано в сериале, пока невозможно, но сама идея игры, управляемой непосредственно мозгом, вполне реальна.

Судя по тому, что устройство вживляют в затылок, оно взаимодействует со зрительной корой. Эксперименты, позволяющие видеть без глаз, тоже давно ведутся — ведь в конечном итоге видят не глаза, а зрительная кора. Ученые завязывали кошкам глаза, и те с помощью камер могли различать свет и тень. Теоретически мозг можно заставить видеть любую картинку. Но на самом деле эта серия — не об играх, она об отношениях сына с матерью, о том, как он ищет себя. А неудачный эксперимент мог быть каким угодно — не та таблетка, например. В этом эпизоде ничего бы не случилось, если бы сотрудница была внимательнее.

Но история не об этом. Она о том, откуда берутся наши страхи, как они могут нас атаковать. Главный герой гибнет, потому что не понимает своих отношений с миром. В каком-то смысле он был обречен, он мог бы погибнуть во время своих путешествий по всему земному шару. Очень человеческая история, не технологическая.

— В общем, «Черное зеркало», как и любая научная фантастика, говорит больше о настоящем, чем о будущем.

— Я бы сказал, «Черное зеркало» в большей степени про настоящее, чем многие другие фантастические сюжеты, где, как правило, все завязано на каком-то допущении. «Звездные войны» — не про настоящее, это во многом сказка. Джедай отличается от неджедая на биологическом уровне. А то, что показано в «Черном зеркале», в менее гипертрофированном виде могло бы произойти здесь и сейчас, и этим сериал прекрасен.

После первой серии нового сезона я всерьез задумался о лайках. Недавно я стал пользоваться инстаграмом — и, в отличие от фейсбука, отчасти рабочего инструмента, инстаграм нужен только для собирания лайков. Что касается будущего, главный тезис, который я пытаюсь донести у себя в журнале — мы зря так плотно связываем будущее с технологиями. Правильнее будет связать его с изменением социальных систем, с изменением психологии, с новыми психотерапевтическими практиками. Зависимость от лайков — это на самом деле зависимость от внешней оценки. Так же как и войны, тоталитарные режимы берут начало в психологических проблемах. Если с этим разобраться, то и технологии будут направлены скорее во благо, чем во вред.

— Получается, не технологии формируют психологические проблемы, а наоборот?

— Да, и в основе этих проблем — детский и подростковый опыт. Авторитарные или, наоборот, недостаточно авторитарные модели воспитания. Миллиарды родителей занимаются тем, чему не обучены, и от этого, на мой взгляд, большая часть человеческих проблем. Я тоже родитель, я тоже не обучен, тоже допускаю ошибки, тоже порождаю комплексы своего ребенка. Быть родителем — сложная профессия, с которой далеко не каждый справляется. Плюс общество устроено так, что далеко не каждый может найти себя. Если бы жизнь современного мужчины была более наполненной, не были бы так популярны компьютерные игры. Если я играю, значит, в реальной жизни мне не хватает каких-то гормонов. Проблема во мне, а не в играх.

Мало кто всерьез изучал ситуацию в Донбассе. Подавляющее большинство российских граждан, которые там воюют, поехали добровольно. В чем мотивация? Почему человек без приказа ломится в соседнюю страну воевать непонятно за что? Я бы сказал, что это как затянувшаяся компьютерная игрушка. Люди хотят настоящей жизни, хотят действовать. То же самое я видел во время первой чеченской кампании: подавляющее большинство — добровольцы-контрактники. «Я в Москве милиционером работаю, конфискую у бабушек укроп, который они незаконно продают, а здесь я вчера взял боевика с рацией и позывными, здесь я живу реальной жизнью». В идеале хотелось бы, чтобы эти люди резались в игры. Если бы я снимал эпизод для «Черного зеркала», там была бы гражданская война со всем антуражем, но в виртуальной реальности. 

Мне не дает покоя первая серия про лайки и рейтинги: там важен вопрос целеполагания, осмысленности жизни. Общество усложнилось настолько, что миллионы людей в развитых странах занимаются чем-то не до конца осмысленным и понятным. Представьте себе менеджера по маркетингу компании, производящей системы автоматизации бухгалтерского учета. Врач может сказать: за прошедший месяц я вылечил сто больных. А как оценит себя менеджер по маркетингу? Жизнь при этом требует смысла, отсюда — битва за рейтинг и лайки. Чем занимается героиня первого эпизода? Составляет какие-то финансовые отчетности. Естественно, лайки для нее важнее, чем финансовые показатели ее конторы.

Интересно, что в целом персонажи этой серии довольно обеспеченные. Будь они беднее, решилась бы проблема с недостатком смысла: им пришлось бы просто зарабатывать на жизнь. Это достаточно серьезная проблема — как жить дальше, когда всем хватает еды. Мы в России еще столкнемся с ней, когда кризис закончится. 

Об эпизоде Hated in the Nation

— Напоследок — о пчелах. В шестом, заключительном эпизоде Hated in the Nation в Британии вымирают пчелы и, чтобы избежать экологической катастрофы, их заменяют роботами. Что-то вроде протеза для биосферы. Нам действительно придется так делать?

— Тенденция к вымиранию пчел действительно есть, я читал об этом. Отчасти мы и сейчас делаем протезы для биосферы, искусственно удерживая численность диких видов, причем с применением технологий: тигры и леопарды ходят с датчиками, в местах их обитания расставлены камеры и так далее. Роботы-пчелы — типичная для сериала гипербола: мы одновременно дестабилизируем природу и помогаем ей. Вполне возможно, что когда-нибудь мы сможем это делать с помощью таких роботов.


Фотографии: обложка, 1 – David Dettmann/Netflix, 2 – Jay Maidment/Netflix, 3 – Laurie Sparham/Netflix