Во вторник, 24 мая, бывший главред сайта «Афиши», а ныне сооснователь проекта Luka Евгения Куйда написала в Facebook о запуске бота, созданного на основе прижизненных высказываний погибшего осенью 2015 года основателя LAM Magazine и команды Idle Conversation Романа Мазуренко. Кто-то поддержал идею с созданием «цифрового памятника», а кто-то высказал сомнения по поводу этичности проекта.

Каждый хоть раз слышал споры о том, заменит ли в ближайшем будущем искусственный интеллект человека. Многие относятся к этому равнодушно, а кто-то всерьёз опасается восстания машин. The Village узнал у экспертов, можно ли создавать ботов вместо умерших с точки зрения этики.


Леонид Зисер

студент магистерской программы «Компьютерная лингвистика» факультета гуманитарных наук НИУ ВШЭ

Чат-боты уже сейчас активно вводятся в эксплуатацию в нишевых сегментах —  я имею в виду, например, онлайн-консультирование. Причём в качестве ассистентов чат-боты, на мой взгляд, на своём месте: они помогают человеку разобраться с технологиями, при этом обходятся дешевле людей-ассистентов и всё меньше и меньше уступают им по качеству услуг. По моему опыту, в пожелания и ожидания человека, пользующегося услугами онлайн-консультанта, человеческая теплота входит в наименьшей степени, а релевантность — в наибольшей.

В недалёком будущем искусственный интеллект научится имитировать естественный, но я не вижу в этом особой проблемы. Мы вообще склонны зацикливаться на человеческой субъектности и по привычке отделяем наше «я» от мира, выделяя его в отдельную сакральную категорию — совершенно, на мой взгляд, необоснованно. Это пережитки религиозного сознания. Этика в принципе представляет собой нечёткий свод правил, который легко становится оружием социального консерватизма. В странах, испытавших меньшее влияние авраамических религий и философии гуманизма — например, в Японии — роботы куда дальше продвинулись в качестве партнёров человека.

Теперь что касается истории про Романа Мазуренко. Созданный чат-бот является монументом, который воздвигли единомышленники покойного. В этом нет обмана или манипуляции, поэтому сложно увидеть здесь нарушение этических принципов — никто после пользования программой не решит, что Мазуренко жив. Кроме того, едва ли кто-то действительно находит утешение в беседе с ботом — здесь просто виртуальный памятник хорошему человеку для своих, красивый ход.

Чат-боты ещё очень несовершенны и в большинстве своём не отвечают критерию Тьюринга: пользователь довольно быстро разоблачит искусственный интеллект.


Наталия Тышкевич

разработчик и тестировщик диалоговых агентов

В наше время воспроизвести себя хотя бы на уровне речи стало возможно благодаря технологиям, однако всегда следует помнить контекст, который фиксируется таким образом. В последнем романе Евгения Водолазкина «Авиатор» участник научного эксперимента по крионизации так пишет про себя: «Для всякого возвращения должны быть веские причины. Когда же человек возвращается не откуда-нибудь, а с того света, он имеет особые задачи. Лазарь Четверодневный свидетельствовал о всемогуществе Господнем. О чём свидетельствую я? В конечном счёте о том же. Но помимо этого, вероятно, и о времени, в которое был помещён первоначально».

Вряд ли создание чат-ботов умерших неэтично. Ведь искусственный интеллект претендует на создание копии мозга и души через копирование массива синаптических весов, но он всегда остаётся лишь имитацией. Создавая чат-ботов после смерти прототипа, надо помнить о том времени, в котором жил человек: именно воспроизведение эпохи лучше всего убеждает собеседника в интеллектуальности говорящей программы. Разница между эпохами сказывается на естественности диалога, что удобно с технической точки зрения, поскольку все неполадки в работе такой программы можно списывать на погрешность глобального времени. Также неправдоподобность бота, который имитирует человека, родившегося в позапрошлом веке, легко объяснить тем, что за это время он успел разложиться на плесень и на липовый мёд. Поэтому чем дальше от нас по временной шкале имитируемая личность, тем больше такой разговор будет похож на спиритические сеансы конца XIX века.

Создание же ботов недавно умерших людей может стать пунктом завещания — как возможность отдать своё тело на органы. Потому что речь теперь тоже является объектом донорства — не зря существует практика вознаграждения за согласие на передачу своих переписок компаниям, которые занимаются анализом больших данных. Виртуальные памятники получаются посвящены не только конкретному человеку, но и могут составить картину целой эпохи, являясь ценным материалом для историков.