Роботы уже повсюду. Это не железные люди с квадратными головами, как мы думали в детстве, а голосовые помощники и умные пылесосы. Экспансия идет настолько быстро, что мы не успеваем адаптировать к новому миру наши этические стандарты и правовые нормы. Вместе с «Detroit: Стать человеком» — игрой про андроидов, которую правильнее назвать интерактивным фильмом, — мы разбираем шесть главных парадоксов эпохи искусственного интеллекта.
Есть ли у роботов права? У всех людей на планете есть некий набор прав, который закреплен в национальных конституциях и международных конвенциях. У машин никаких прав нет — это вещи, которые кому-то принадлежат. Кроме одного робота — Софии, которая в прошлом году получила гражданство Саудовской Аравии, а заодно и полагающиеся по статусу правовые блага. Да, это был скорее пиар-трюк, нежели взвешенное решение, но уже скоро машины станут умнее и, вероятно, обретут некую форму самоощущения. «Люди уникальны и незаменимы, продолжительность нашей жизни ограничена», — говорит Бенджамин Кайперс, профессор информатики в Мичиганском университете.
Поэтому, по его мнению, роботы никогда не получат таких же прав, какой бы продвинутой ни была их конструкция. А, например, французский юрист Ален Бенсуссан не согласен. «Чем автономнее машины по отношению к своему владельцу, тем ближе они становятся к получению прав», — считает он. Так или иначе, идея наделить андроидов правами людям явно симпатична: в США есть организация, которая сражается с жестоким обращением с роботами, а борющаяся за права дроидов L7-37 из «Хана Соло» уже признана одним из лучших персонажей всего эпоса.
Уже в этом веке может наступить технологическая сингулярность, когда роботы будут независимо воспроизводить и совершенствовать сами себя. Кто отвечает за робота? В этом году самоуправляемая машина сбила насмерть пешехода. Расследование этой истории продолжается, но, по предварительным данным, автомобиль мог объехать жертву аварии, но решил этого не делать. В этой истории все относительно просто — производители и операторы технологий заранее взяли на себя ответственность за их безопасность. Изучающий новые технологии философ Питер Асаро говорит о дилемме сложнее: автономные машины созданы, чтобы сделать поездки безопаснее, но как быть с военными роботами? Их разрабатывают так, чтобы они причиняли максимальный ущерб противнику. Гражданских лиц искусственный интеллект рано или поздно перепутает с врагом. В теории государство может засудить поставщика оборудования и авторов кода, но мирным жителям, убитым во время конфликта, это не поможет. Еще сложнее в ситуации с машинами, которые будут выполнять двойную функцию. Например, робот-полицейский: он должен уметь и помогать людям, и причинять им вред — в зависимости от ситуации. По мнению Асаро, автономные машины полностью противоречат существующим сегодня правовым системам. Проще говоря, с сегодняшними законами за них никто не отвечает.
Смогут ли роботы вытеснить нас как вид? Мы привыкли считать человека главным биологическим видом на планете. А философ и антрополог Юваль Ной Харари самым успешным видом считает пшеницу. За счет людей она из ближневосточного сорняка превратилась в главное растение на Земле, и мы постоянно ищем способы сделать ее более устойчивой к заболеваниям, а также новые места, где ее посадить. С роботами у нас похожие отношения. Они упрощают жизнь, поэтому человечеству нужно больше машин, хороших и умных. Уже в этом веке может наступить технологическая сингулярность — ситуация, когда прогресс выйдет из-под контроля людей, а машины начнут воспроизводить сами себя. Опасность такого расклада мы все видели в «Терминаторе» — люди роботам не слишком нужны, а иногда даже мешают. С нами сложно, мы иррациональны и этим снижаем эффективность всех процессов. В общем, иногда противодействуем чистому прогрессу. Но если с пшеницей у нас симбиоз, то что будет с андроидами?
Мы дали роботам статистику и научили их использовать наши слабости, чтобы, скажем, генерировать самые кликабельные заголовки статей. Не лишаем ли мы сами себя красоты человеческого несовершенства? Что можно доверить роботу? Роботы уже сейчас отнимают рабочие места у людей. Но каждую ли позицию можно отдать им? Скажем, они могут работать судьями и выносить качественные решения. Однако основаны они на алгоритмах, а в работе судьи иногда важна эмпатия. Британский юрист и системный инженер Крис Эллиотт приводит другой пример: вы дома и по какой-то причине не приняли вовремя прописанное лекарство (например, решили немного выпить после трудного дня и не рискнули смешивать). Сможет ли робот-помощник учесть обстоятельства и не начать звонить родственникам и в неотложку? Другая проблема — это восприятие работы машины людьми. Близкий человек умер во время операции, которую делал робот. Как вы к этому отнесетесь? В 2018 году однозначно ответить очень сложно, но и андроидов пока допускают к хирургии лишь в качестве ассистентов.
Кому принадлежит то,
что делают роботы? Сейчас кажется очевидным, что продукт труда (труд ли это?) машины принадлежит ее юридическому владельцу. Но представьте мир, где роботы делают вообще все. Неужели в нем каждый предмет принадлежит какой-то технологической корпорации? И как простым людям зарабатывать деньги, если их труд больше не эффективен с точки зрения социально-экономической системы? Джулия Боссман, эксперт World Economic Forum, приводит статистику за 2014 год: три самые успешные компании Кремниевой долины получили примерно ту же выручку, что и три самые успешные компании Детройта, однако штат первых был в десять раз меньше. А тот же Питер Асаро считает корпорации ранней формой искусственного интеллекта (он, напомним, философ). В общем, роботы могут привести нас в социалистическую утопию, а еще — в мир глобальной диктатуры транснациональных корпораций. Задуматься, кажется, нужно уже сейчас.
Делают ли роботы нас хуже? Искусственный интеллект упрощает жизнь. Но хорошо ли это? Не регрессируем ли мы как вид? Ведь нам нужно все меньше и меньше думать самостоятельно, а наши реакции на мир постепенно подстраиваются под упрощающие реальность алгоритмы. Мы уже бессознательно упрощаем нашу речь с учетом конструкций, удобных поисковым машинам. Мы дали роботам статистику и научили их использовать наши слабости, чтобы, скажем, генерировать самые кликабельные заголовки статей. Не лишаем ли мы сами себя красоты человеческого несовершенства? Это тоже сложные вопросы. Как пишет психолог Найджел Барбер, технологии должны не упрощать нашу жизнь, а предоставлять человечеству новый вызов, чтобы мы могли совершенствовать работу своего мозга.
«Detroit: Стать человеком» —
новый игровой триллер от авторов Heavy Rain. Детройт — мегаполис ближайшего будущего, где высокоразвитых роботов столько же, сколько и людей. Грань между ними постепенно стирается, но вы можете влиять на ход событий. У вас тысячи вариантов выбора действий и десятки концовок. Помогите одному из трех андроидов понять, кто он на самом деле.
«Detroit: Стать человеком» — игра, которая напомнит, что делает нас людьми.