Индустрия Death Tech: как работают «алгоритмы смерти»

Старые и новые подходы к цифровому бессмертию Изображение: Replica.

Вы наверняка слышали о цифровых аватарах, чат-ботах и других «виртуальных копиях» людей, которые можно создать после смерти человека. В последнее время технологии и приложения, которые приближают возможность цифрового бессмертия, принято называть индустрией Death Tech. Но к Death Tech можно отнести и другие, менее известные алгоритмы и интерфейсы, которые переосмысливают горе, утрату или, наоборот, продолжение памяти и продление жизни в цифровую эпоху. Авторка Теплицы Ольга Тараканова рассказывает о том, как технологии смерти связаны с дискриминацией, миграцией и поиском подлинной эмпатии.

Да, Death Tech не ограничивается виртуальными копиями умерших. Но прежде чем поговорить о менее раскрученных технологиях, давайте разберемся, как работает эта, раз уж она на слуху. 

Эмпатическая математика

Replika — приложение, которое обещает создать для вас «эмпатичного ИИ-друга». Пользователи iOS и Android могут скачать Replika и бесплатно сконструировать цифрового аватара, выбрав его или ее имя, гендер и внешность. Приложение для открытого пользования не позволяет создать виртуальную копию. Но основательница приложения Евгения Куйда, потеряв лучшего друга в автокатастрофе, обучила бота на архиве личной переписки. И, таким образом, еще в 2015 году создала одну из первых реальных, а не вымышленных цифровых копий умершего человека.

Изображение: Replica.
Изображение: Replica.

Разговорный движок Replika, описанный в их блоге, строится на трех основных уровнях: извлечение, генерация, оценка. Таким образом, когда вы вступаете в диалог с аватаром, запускается алгоритм, который распознает вашу реплику и проверяет, есть ли среди загруженных заранее шаблонов подходящий ответ на нее. Это модель извлечения. Если ответа нет, алгоритм приступает к генерации, а затем сразу к оценке вариантов.

Генерация, в свою очередь, держится на известных нейросетях для синтеза текста, а также на трех принципах:

  • копирования стиля — например, если вы пишете капсом, ответ вам тоже придет с элементами капса;
  • долгая память — модель запоминает имена, характеристики, эмоции, которые вы уже упоминали в переписке;
  • «эмпатическая математика» — принцип, суть которого не очевидна, но в блоге он показан на следующем примере: если отправить боту сообщение «L=?», то он ответит: «Love» («Любовь»).

Наконец, оценка предполагает взаимодействие с пользователями. Приложение регулярно просит оценить отдельные ответы и опыт общения в целом. Это самая тревожная часть самопрезентации компании: по их заявлениям, более 85% разговоров с чат-ботом улучшают самочувствие пользователей, а более 90% отдельных сообщений получают позитивные оценки. Описание приложения в магазинах также построено на апелляции к таким ценностям, как эмпатия, эмоциональное здоровье. И хотя, повторюсь, Replika используется шире, чем в связи с поиском цифрового бессмертия, другие технологии для создания «виртуальных копий» работают по таким же или близким принципам.

Эффекты износостойкости

По словам Евгении Куйды из Replika, настроить такое же массовое конструирование виртуальных копий, как цифровых аватаров с нуля, пока невозможно. Однако представим, что это стало возможным, какие технологии будут активированы тогда?

Исследовательница Мэгги Сэвин-Баден вместе с исследователем Дэвидом Берденом задаются двумя основными вопросами — о времени и об обучении. Они предлагают такой термин, как «цифровая износостойкость», выделяя в нем три аспекта: 

  • настойчивое присутствие — данные после смерти человека не исчезают, а сохраняют свое (небольшое, может быть, но все-таки) влияние в Интернете;
  • неупокоенность — если создана виртуальная копия или найдена другая форма цифрового бессмертия, то человек продолжает действовать в мире живых и после смерти;
  • диалогическое бессмертие — копия мертвого может не просто существовать, но с помощью различных интерфейсов (текстов, голосовых сообщений, звонков, действий в соцсетях) взаимодействовать с живыми.

В связи с последним Сэвин-Баден и Берден формулируют второй вопрос: как быть с тем фактом, что цифровая копия мертвого способна на обучение? То есть на изменение, и, таким образом, не фиксирует один из моментов существования человека, но запускает уже не зависимый от него процесс. Ответы на этот вопрос разработчики смогут найти только в кооперации с исследователями памяти, психологами, практиками критической педагогики.

Еще живые

Мы поговорили об алгоритмах, которые можно запустить (а можно и не запустить) после смерти. На самом деле технологии смерти сейчас иногда приступают к работе еще при жизни человека.

В начале 2010-х годов биолог Стив Хорват открыл «эпигенетические часы» — лабораторный протокол, который позволяет измерять возраст клеток. Возраст не хронологический (отсчитанный со дня рождения), а эпигенетический, то есть связанный с изменениями клеток по ходу жизни. Хорват установил, что люди, у которых эпигенетический возраст многих клеток превышает хронологический возраст, с большой вероятностью проживут недолго.

Критик Ив Зеликсон сравнивает открытие Хорвата с механизмом, которым в США пользуются многие страховые агенты. Собирая и анализируя большие данные о месте рождения, месте проживания, а также данные из медицинских учреждений, полиции, страховые компании оценивают, как велик риск, что человек умрет до истечения срока страховки. Чем выше риск, тем больше стоит страховка.

Таким образом, хотя напрямую агенты не учитывают такие факторы, как раса или класс, в результате оказываются дискриминированными, например, жители районов с высоким загрязнением воздуха или те, кто находится под большей угрозой полицейского преследования в связи с институционализированным расизмом. «Эпигенетические часы», судя по исследованиям на контрольных группах, тоже коррелируют с социальными факторами. А значит, алгоритмы страховой индустрии — еще один пример того, как технологии закрепляют социальное неравенство. В то же время опора на биологические исследования, возможно, поможет вскрыть это неравенство и ввести новые стандарты или ограничения.

Теплые технологии

Закончить хочется оптимистично. Приложение Lalo пока не запустилось, но, судя по предварительным описаниям идеи и функций, это будет один из самых тонких опытов Death Tech.

Хуан Медина, бывший разработчик Amazon, который, в частности, запустил там группу поддержки латиноамериканских сотрудников ​​[email protected], во время пандемии уволился из гиганта в связи с выгоранием. Вскоре он поехал с женой и дочерью на могилу отца и понял, что сохранил не так много воспоминаний о своем родителе, которыми мог бы поделиться с семьей. Так неожиданно появилась идея для Lalo — приложения, которое позволит сохранить индивидуальную память об умерших близких людях и обогатить коллективную.

Изображение Lalo.
Изображение Lalo.

Lalo предполагает не публичный и не частый интерфейс, как чат-боты в мессенджерах или цифровые копии в соцсетях, а общение в маленьких группах (10-15 человек), доступ к которым получают по приглашению, а информация в них хорошо защищена. Три основные функции Lalo:

  • интерфейс для сторителлинга — можно делиться фотографиями, видео, воспоминаниями, сопровождая их текстовыми или голосовыми комментариями;
  • групповые звонки, которые автоматически записываются, таким образом, те, кто не смог присутствовать на встречах памяти, смогут посмотреть их потом;
  • асинхронные разговоры — если, например, один из близких людей умершего не может в деталях вспомнить какой-нибудь его фирменный рецепт, то другой, увидев этот запрос, сможет подсказать; возможны менее инструментальные разговоры, например, воспоминания об отдельных событиях или обсуждения, как сохранить память о какой-либо работе человека.

Сейчас на сайте Lalo можно подписаться на рассылку, в которой создатели проанонсируют запуск, а также почитать несколько записей в блоге. В этих записях особое внимание уделяется памяти семей или сообществ, которые были разделены миграцией, — и действительно, Lalo выглядит как идеальное приложение для сохранения теплой связи в ситуации, когда носители памяти разбросаны по всему миру. А опыт миграции — собственный переезд или переезд близких людей — сегодня имеется у многих.

Рецепты, музыка, рутина и повседневные практики, язык и истории, сообщество — вот в чем воплощается память, как пишут разработчики Lalo. Возможно, цифровое бессмертие — это в том числе создание цифровых механизмов проявления того, что и так бессмертно.