«Мы зря связываем будущее с технологиями»: Научный журналист смотрит третий сезон «Черного зеркала» Какие из новых сюжетов cтанут реальностью?

— В новом сезоне «Черного зеркала» есть несколько сквозных тем. Например, две серии посвящены цензурированию реальности. В первом эпизоде, Nosedive, персонажи носят линзы, c помощью которых видно рейтинг, то есть социальный статус любого человека. В пятой серии, Men Against Fire, солдатам в мозг вживляют устройство, из-за которого противники кажутся монстрами, лишенными дара речи.

Авторы предполагают, что благодаря технологиям власть или социум смогут контролировать не только то, как мы интерпретируем мир вокруг, но и непосредственно наше восприятие мира. Обсуждают ли ученые такие риски?

— Мне кажется, главная мораль всех этих сюжетов — что технологии не меняют, а обостряют человеческое. Угрозу в сериале несут не технологии, а люди.

Например, серия, где солдат вместо противника видит монстра: таких историй известно множество, начиная с древнейших времен, когда представители другого племени изображались как собакоголовые существа. На войне противника нужно расчеловечить. Когда я делал репортажи из Чечни, солдаты федеральных войск рассказывали, что чеченцы все время под наркотиками, что они не совсем люди, поскольку у них измененное сознание. Так им было проще убивать и разрушать дома. В «Черном зеркале» технологии доводят до крайности вещи, и так уже существующие. Лайкозависимое общество, разделенное на касты, — очень красивая метафора.

Могу рассказать историю, которая, может, когда-нибудь появится в сериале. Сейчас возникла дискуссия вокруг автомобилей-беспилотников. В США они уже выезжают на улицы и, по всем прогнозам, скоро вытеснят машины с водителями. Представим, что этот автомобиль-робот попадает в ситуацию морального выбора: на красный свет переходит девочка с бантиками, на зеленый — старичок. Машина не может затормозить, ей надо кого-то сбить. Высказывалась идея, что машина должна считать человека, определить его социальную функцию и принять решение на основании того, насколько он значим, но все сразу закричали, какой это фашизм. Понимаю, звучит как антиутопия.

Приведем более понятный нам пример: тяжело заболел человек. Помните, в сериале у дальнобойщицы заболел муж, но операцию сделали тому, у кого рейтинг был выше? Сейчас знаменитость, которой требуются деньги на лечение, собирает очень большую сумму. Никому не известная девочка Маша соберет поменьше. А 50-летнему слесарю помогут только родственники. По сути, рейтинги уже расставлены. Если говорить о буквальных лайках, уже сейчас их количество во многом определяет социальный капитал. Чем больше у тебя друзей, тем больше пожертвуют на твое лечение. Это уже неравенство. Так что картинка в сериале очень реалистичная. Огромное количество людей зависят от оценок, они проводят вечера, выкладывая что-то в фейсбук, в инстаграм и считая лайки. И по итогам они сами себе выставляют оценку.

— Еще одна важная деталь: в первом эпизоде показана тотальная деанонимизация. Достаточно взглянуть на человека, чтобы узнать его имя и социальный статус.

— Технически не так уж и сложно сделать распознавание лиц на таком уровне, чтобы можно было мгновенно опознать случайного прохожего. Нужны хорошие алгоритмы машинного зрения плюс хорошая связь, чтобы моментально связаться с базой данных, но ничего нереалистичного в этом нет. Правда, пока такие системы слабо работают. Мы сами себя лишаем анонимности: вам достаточно назвать свое имя и фамилию, чтобы я мог выяснить, где вы отдыхали позапрошлым летом. А скоро и имени не понадобится.

— Может, не стоит учить этому машины?

— Большинство ученых занимают такую позицию: мы создаем инструмент, а испортить его, использовать во вред могут только общество или государство.

Я и сам придерживаюсь такой точки зрения. Из соцсетей можно сделать монстра, а можно сделать благо. Я, например, познакомился с женой на сайте знакомств, в этом году мы отмечаем десять лет брака. Те же инструменты можно использовать, чтобы, наоборот, разрушить семью, как в эпизоде про компромат (третья серия, «Shut Up and Dance». — Прим. ред.). Это тоже сюжет столетней давности: помните, в одной из новелл про Шерлока Холмса нужно было выкрасть письма, чтобы не скомпрометировать какую-то барышню. Здесь, в принципе, то же самое. Разве что социальные сети дают шантажистам больше возможностей.