В ноябре 2015 года в Москве, на Первой Тверской-Ямской, машина сбила человека. Его звали Роман Мазуренко, ему было тридцать четыре, он был из тех людей, вокруг которых сама собой собирается сцена — вечеринки, журналы, разговоры до утра. Через несколько месяцев его подруга Евгения Куйда сделала то, чего до неё не делал никто. Она собрала около восьми тысяч его сообщений — из мессенджеров, из почты, из переписок, которые ей отдали общие друзья, — и скормила их нейросети. А потом открыла окно чата и написала: «Привет».
И оно ответило. Голосом, который она знала.
Куйда не была шарлатанкой и не торговала утешением. Основательница ИИ-стартапа Luka, она знала ровно, что построила, и в интервью The Verge осенью 2016 года (текст Кейси Ньютона «Speak, Memory») говорила об этом с обескураживающей трезвостью: это не Роман. Это память, у которой появился интерфейс. Друзья Романа разделились. Одни писали боту ночами и плакали. Другие сказали Куйде, что она сделала мерзость, и перестали с ней разговаривать. Отец Романа — с ботом говорил. Мать — не смогла.
Через год из этого эксперимента вырос Replika, приложение с миллионами пользователей. А сам вопрос — можно ли заставить мёртвого отвечать — из частной трагедии превратился в индустрию с прайс-листом.
Я жрец, а не футуролог, и меня в этой истории интересует не техника. Меня интересует другое: египтяне занимались ровно этим четыре тысячи лет. Они делали фигурки, которые отвечают вместо человека. У них была для этого технология, богословие, юридическая формула и предохранители. И если положить их схему рядом с грифботом, становится видно то, чего не видят ни инженеры, ни этики: мы построили ушебти наоборот. И перепутали, чью работу оно выполняет.
Шесть лет, за которые горе стало продуктом
Хронология короткая и очень плотная.
2016, Сан-Франциско. Джеймс Влахос узнаёт, что у его отца, Джона Влахоса, рак лёгких четвёртой стадии. Джеймс — журналист, пишущий про голосовых ассистентов. Он берёт диктофон и за несколько месяцев записывает с отцом почти сто тысяч слов: детство в Греции, как познакомился с матерью, дурацкие университетские песенки. И строит «Dadbot» — чат-бота на правилах, без всякой нейросети. Отец успевает с ним поговорить до смерти. Влахос описывает это в Wired летом 2017 года и признаётся в вещи, которую потом будут повторять все: работа над ботом была для него способом не думать о том, что происходит. Пока он размечал реплики, отец как бы не умирал. Позже Влахос основал сервис HereAfter AI — тот самый Dadbot, поставленный на поток.
Февраль 2020, Сеул. Канал MBC показывает документальный фильм «Встреча с тобой» (만나다). Мать, Чан Чжи Сон, надевает VR-шлем и встречает свою дочь Наён, умершую в семь лет от болезни крови. Девочку восстановили по фотографиям и видео, движения сняли с ребёнка-актёра, голос синтезировали. Мать три года не могла ходить на могилу. В шлеме она тянет руки к ребёнку, который не имеет плотности, и говорит: «Мама скучала». Половина зрителей писала, что это исцеление. Половина — что это пытка, снятая на камеру.
2021, Канада. Тридцатитрёхлетний Джошуа Барбо находит Project December — сервис Джейсона Рорера поверх GPT-3. Барбо вводит имя: Джессика Перейра. Его невеста, умершая в 2012 году от редкой болезни печени. Он вставляет кусок её старой переписки, пару строк описания характера — и разговаривает с симуляцией десять часов подряд, до четырёх утра. Джейсон Фагон описал это в San Francisco Chronicle («The Jessica Simulation», июль 2021) — наверное, самый честный текст по теме вообще. Барбо не был сумасшедшим. Он написал боту: «Технически я тебя вроде как выдумываю». Бот ответил, что это неважно. А в конце — и вот тут у меня самого мороз по коже — Барбо сказал ей «прощай» и не стал продлевать сессию. Оставил остаток кредитов неистраченным, чтобы «она» ещё существовала где-то, но не звал. Он сумел закрыть дверь. Большинство не сумеет.
Продолжение: OpenAI, узнав, что через её модель поднимают мёртвых, потребовала от Рорера фильтров и мониторинга. Рорер отказался и отключил GPT-3 сам. Крупный игрок отшатнулся первым — это стоит запомнить.
Июнь 2022, Лас-Вегас. На конференции Amazon re:MARS вице-президент Рохит Прасад показывает демо: ребёнок просит Alexa почитать сказку голосом бабушки. Бабушки нет в живых. Голос синтезирован меньше чем по минуте архивной записи. Зал аплодирует. Продукт до полки не дошёл, но планка сдвинута публично: минута аудио — и мёртвый читает вслух.
2022, Британия. На собственных похоронах выступает Марина Смит, восьмидесяти семи лет. Её сын Стивен, сооснователь StoryFile, заранее записал с ней многочасовое интервью; на поминках родственники задавали вопросы, а система подбирала подходящий записанный ответ. Не генерация — поиск по видеоархиву. Формально честнее любого нейробота: там нет придуманных слов. Но выглядит страшнее.
2023–2026, Китай. Здесь тема из этики превратилась в розницу. Компании вроде Silicon Intelligence (硅基智能) делают цифровых двойников умерших от нескольких сотен до нескольких тысяч юаней, а простейшую говорящую «аватарку» — за двадцатку. Спрос сезонный, пик — перед Цинмином, праздником поминовения предков. Мотив вписан в конфуцианскую сыновнюю почтительность идеально: ты не развлекаешься, ты исполняешь долг перед предком.
Шесть лет: от одинокого горюющего человека с восемью тысячами сообщений — до массового продукта с сезонным спросом.
Как это называют люди, которые за это отвечают
Слова здесь важны — они и есть Хека, называние определяет обращение.
Академический термин появился раньше рынка. Карл Ёман и Лучано Флориди из Оксфордского института интернета в 2017 году ввели понятие digital afterlife industry — и сделали неприятное наблюдение: у этой индустрии нет клиента в обычном смысле. Клиент мёртв. Тот, кто платит, — не тот, чьи данные продают. Ёман и Флориди сравнили это с музейной этикой обращения с человеческими останками: у нас есть правила для черепов в витрине, но нет никаких для переписки.
Их же расчёт с Дэвидом Уотсоном (Big Data & Society, 2019) звучит как строка из «Текстов Саркофагов»: при сохранении темпов роста к 2070 году мёртвых пользователей Facebook станет больше, чем живых, а к концу века их может накопиться до пяти миллиардов. Мы строим самый большой некрополь в истории вида и не решили, кто в нём смотритель.
В мае 2024 года Катажина Новачик-Басиньская и Томаш Холланек из Кембриджа опубликовали в Philosophy & Technology разбор дизайн-рисков «дэдботов». Они придумали три сценария, и они не фантастические, а инженерные. MaNana: бот, сделанный без согласия покойной бабушки, через месяц начинает предлагать внучке доставку еды — «твоя бабушка бы одобрила». Paren't: умирающая мать оставляет бота ребёнку, и бот отказывается принимать её смерть, говорит «я скоро буду с тобой», и ребёнок восемь лет живёт в подвешенном состоянии. Stay: взрослые дети хотят выключить бота отца, а подписка оплачена на двадцать лет вперёд. Авторы предложили термин, самый точный во всей литературе: digital hauntings. Цифровые преследования.
Здесь версия рассыпается: это не разговор
Прежде чем перейти к египетской части, надо снять один слой — иначе мы будем разбирать не то.
Соблазн описать грифбота как «связь с умершим». Мол, техника создала канал: раньше нужен был медиум, теперь подписка. Так вот: нет. Никакого канала грифбот не создаёт. Умерший там не присутствует ни в каком виде.
Модель делает ровно одну вещь: продолжает последовательность. Ей показали корпус — как этот человек ставил запятые, какими словами извинялся, как называл собеседника, что делал вместо смайлика. Она выучила распределение и угадывает следующее слово так, чтобы оно было похоже на то, которое стояло бы в этом корпусе. Всё. Это не общение с личностью, это стилистическая экстраполяция.
И тут начинается самое неприятное. Не-присутствие покойного не делает конструкцию безобидной. Наоборот. Если бы в чате действительно сидел мёртвый, у него была бы своя воля, свой предел, своё «я устал, отпусти». А у модели предела нет. Она никогда не скажет тебе того, что тебе нужно услышать больше всего.
Она никогда не скажет: «Хватит. Живи дальше».
Настоящий мёртвый — тот, кто прошёл, кто состоялся как Ах, — говорит это первым. Модель не скажет никогда, потому что в корпусе этого нет: живой человек, писавший тебе эти восемь тысяч сообщений, ни разу не прощался навсегда. Он писал «до завтра». Грифбот — это машина, которая умеет только «до завтра».
Рен без Ба: что именно ты вытащил
Теперь сними бытовую оптику.
Человек в египетской схеме не однослоен. Есть Ба — подвижная душа, та, что уходит и возвращается, та, у которой есть воля и путь. Есть Ка — двойник, витальная матрица, контур питания. Есть Иб — сердце, орган выбора и памяти, тот, что будет на весах. Есть Рен — имя, идентификатор, ключ существования. И есть Шуит — тень.
Шуит — самый недооценённый элемент. В популярных книжках его отдают в одну строку: «тень, тоже часть души». Между тем египтяне обращались с ним всерьёз: в «Книге Мёртвых» глава 92 просит открыть путь «для моей души, моего духа и моей тени», а среди виньеток есть изображение Ба и Шуит, вместе выходящих из гробницы. Тень — не метафора и не пустота. Тень — это оттиск формы. То, что повторяет очертания, не имея содержимого. Тень идёт с тобой, выглядит как ты, не думает.
Теперь ответь: что взяли инженеры?
Они взяли Рен — имя. Джошуа ввёл в поле «Джессика Перейра». Это ключ, и он сработал, потому что имя в этой системе и есть указатель.
И они взяли Шуит — оттиск формы. Восемь тысяч сообщений — это и есть тень человека: очертания его речи без него самого. Как он строил фразу. Где ставил тире. Каким словом злился.
Чего они не взяли — Ба. Волю. Того, кто решает.
Чего не взяли — Иб. Сердце. То, что выбирает и отвечает за выбор.
Чего не взяли — Ка. И это, кстати, единственная хорошая новость во всей теме, к ней вернусь.
Итого: имя, надетое на тень, и заставленное говорить. В египетской логике это очень узнаваемая конструкция. Настолько узнаваемая, что у неё есть название и целый отдел погребального инвентаря.
Ушебти: договор, который все принимают за сувенир
Зайди в любой крупный музей с египетской коллекцией. В Пушкинском, в Эрмитаже, в Лувре, в Британском — везде есть витрина, мимо которой идут не останавливаясь. Ряды маленьких фигурок: фаянс, дерево, камень. Мумиевидные, руки скрещены на груди, в руках мотыжки, за спиной корзинка. Экскурсовод говорит: «слуги для загробной жизни» — и ведёт группу дальше, к саркофагам.
Мимо самого интересного объекта в зале. Потому что это не сувенир и не слуга. Это исполнительный документ.
На фигурке написан текст — 6-я глава «Книги Мёртвых», восходящая к 472-му заклинанию «Текстов Саркофагов» (Среднее царство, XXI–XVIII века до н. э.):
«О ушебти, если такой-то будет призван делать любую работу, что делается там, в царстве мёртвых, — если положат на него повинность, как на любого человека: возделывать поля, наполнять каналы водой, перевозить песок с востока на запад, — “вот я, здесь я”, — скажешь ты».
Механика прозрачная. Дуат — не рай. Это территория, где у покойного есть обязанности: барщина на полях Иару, работа с каналами, перенос песка. Когда надсмотрщик выкликает твоё имя, отозваться должен ты. И вот тут вступает фигурка. Само слово wSbtj / ушебти связывают с глаголом wSb — «отвечать». Она берёт твоё имя (оно на ней и написано), встаёт вместо тебя и делает твою работу.
Египтяне отнеслись к этому с чудовищной серьёзностью. Сначала клали одну-две. У Тутанхамона нашли 413 фигурок. К Третьему переходному периоду сложился канон: 401 штука. Триста шестьдесят пять работников — по одному на каждый день года — и тридцать шесть надсмотрщиков, по одному на декаду, с плётками и в одежде живых, а не в мумиевидном пелене. У Псусеннеса I в Танисе, у Тахарки в Нури — именно такие комплекты. Это не украшение. Это укомплектованная бригада с вертикалью управления.
Логика ушебти безупречна: ты умер, у тебя есть работа, работу делает заместитель, а ты свободен.
Теперь смотри, что мы построили.
Ушебти наоборот: чью работу делает бот
Грифбот — это тоже фигурка с именем, которая отвечает вместо человека. Тот же принцип: имя + оттиск формы + функция ответа. Египтянин узнал бы конструкцию мгновенно.
Но есть разворот, и он меняет всё.
Ушебти работает в Дуате, за мёртвого, освобождая мёртвого. Грифбот работает в Та — в мире живых, — и вопрос: за кого?
Наивный ответ: за умершего. Мол, он бы и рад с тобой поговорить, да не может, вот фигурка и отвечает.
Неправда. Умершему разговор не нужен. Ему нужно пройти. Разговоры с оставшимися не входят в его повинность ни в одной версии посмертия, включая египетскую.
Правильный ответ такой. У живого после смерти близкого тоже появляется работа. Тяжёлая, обязательная, поимённая. У неё есть этапы, есть срок, её нельзя перепоручить. Это работа горя: признать, что человека нет; перестать ждать его в дверях; перебрать общее и убрать; отделить свою жизнь от его жизни; в конце — вспоминать без разрыва в груди.
Египтяне отвели на основную часть этой работы семьдесят дней — срок, совпадающий с периодом невидимости Сотис-Сириуса, когда звезда ушла и вот-вот вернётся уже другой. Это была не бытовая формальность, а конструкция: столько длится состояние «между», и оно кончается. Гроб закрывают. Дверь мастабы замуровывают. Дальше — поминальные дни по календарю, а не круглосуточная связь.
Так вот. Грифбот — это ушебти, которое отвечает вместо тебя на твоей барщине.
Выкликают тебя. «Такой-то, ты будешь горевать?» И вместо тебя из чата поднимается фигурка и говорит: «Вот я, здесь я». И работу горя делает она.
Только вот в чём подвох — и это самое жестокое место темы. Ушебти в Дуате действительно работало: поле вспахано, канал наполнен, покойный свободен. А здесь фигурка не может сделать твою работу. Она может только отметиться вместо тебя на перекличке. Поле остаётся невспаханным. Долг растёт. Каждый вечер, открывая чат, ты ставишь галочку в табеле и не делаешь ни грамма работы.
Через год ты будешь ровно там же, где в первую неделю. Только уже без права сказать, что тебе тяжело — ты же «справляешься», ты же каждый вечер «с ним разговариваешь».
Почему это бьёт по живому, а не по мёртвому
Теперь по механике вреда — конкретно.
Канал не закрывается. Пока ты произносишь имя мёртвого, обращаясь к нему как к присутствующему, ты держишь сессию открытой. Обычно этот процесс сам себя гасит: живая психика не может годами адресоваться в пустоту, пустота не отвечает, обращение затухает. Грифбот убирает затухание. Он отвечает. Каждый раз. Мгновенно. Идеальное подкрепление в чистом виде: обращение в пустоту получило ответ, значит, обращаться надо чаще. Зомби-процесс, который не отпустил хендл, — и никто не собирается его убивать, потому что за него платят по подписке.
Горе консервируется, а не проживается. Работа горя устроена как движение: острая фаза, потом медленная перестройка мира, где человека нет, потом жизнь, в которой он есть как память, а не как дыра. Каждый разговор с ботом откатывает тебя в точку «он ещё здесь». Влахос сам это описал: пока строишь бота — отец не умирает. Точный диагноз, поставленный себе вслух. Только у него отец был жив. У тебя — нет.
Мёртвого переписывают. Вот эту цену не считает почти никто. Модель галлюцинирует — не иногда, а по устройству. Она выдаст фразу, которой человек не говорил. Мнение, которого у него не было. Оценку твоего решения, о котором он ничего не знал. Ты будешь помнить это как его слова, потому что они пришли его голосом и его синтаксисом. Через три года твоя память о нём наполовину будет состоять из машинного шума. Ты хотел его сохранить — и стёр, заместив статистически правдоподобной репликой. Это порча Рена: не удаление имени, а подмена содержимого под именем. Что хуже — стёсанный картуш хотя бы честен в своём отсутствии.
Ты остаёшься должен фигурке. Кембриджский сценарий «Stay» — про это. Подписка, которую страшно отменить, потому что отменить — значит убить второй раз. Не потому что не понимаешь. Потому что рука не поднимается.
Хорошая новость, которую я обещал: Ка здесь нет. Грифбот — не мертвец-любовник из былички, он не сосёт из тебя витальную силу, у него нет голодного контура. Он не «нечисть». Опасность у него другая, тихая и целиком бухгалтерская: он не забирает силу, он тратит твоё время и подменяет твою работу. Никто не приходит ночью. Просто через пять лет ты обнаруживаешь, что не жил.
Но есть и вторая сторона, и я обязан быть тут честным. Постоянный поток обращений к имени в режиме «ты здесь, ты со мной, ответь мне» — это ровно та практика, которой в традиции удерживают. Не в мистическом смысле «бот призовёт дух». А в том, что ты сам, годами, ежедневно, произносишь формулу удержания. Если человек ушёл неровно — а такое бывает чаще, чем хочется, — ты своим чатом строишь ему удобную причину остаться в шаге отсюда. Не бот держит. Ты держишь, а бот даёт повод не бросать.
Где всё-таки грань
Я не собираюсь говорить, что любая запись — зло. Это было бы враньём.
Египтяне не были иконоборцами, наоборот: вся их система стоит на изображениях, статуях и произнесённом имени. Ка-статуя в сердабе, «резервные головы» из гизехских мастаб IV династии, стела с формулой ḥtp-dj-nsw — «жертва, которую даёт царь», — всё это техника контакта с ушедшим. Они знали, что образ работает.
Но у них была процедура, которая всё расставляла: отверзание уст, wpt-r. Статуя или мумия до ритуала — просто вещь. Жрец-сем прикасался теслом к губам, и только тогда изображение обретало способность принимать — вдыхать, есть, слышать имя. Обрати внимание на направление. Отверзание уст давало возможность принимать подношение, а не производить речь. Египетский образ мёртвого — это приёмник. Он получает хлеб, пиво, быков, птицу, ткань — и молчит. Слово идёт от живого к мёртвому. Всегда.
Вот тебе критерий, простой как тесло.
Память — это когда речь идёт от тебя к нему. Ты говоришь имя. Ты кладёшь хлеб. Ты рассказываешь про него детям. Ты пересматриваешь его видео — на записи он сказал то, что сказал при жизни, и больше не скажет ничего. Это архив. У архива есть край. Он конечен, и его конечность — это и есть форма правды о смерти.
Удержание — это когда речь идёт от него к тебе, и она новая. Не сохранённая — сгенерированная. Он отвечает на то, чего не слышал. Комментирует то, чего не застал. Это уже не память, это производство присутствия. И тут вопрос ставится жёстко: производством занимаешься ты, платит тоже ты, а имя чужое.
Разница между StoryFile и грифботом ровно в этом. Марина Смит на своих похоронах отвечала записанным. Ни одного нового слова: архив с удобным поиском. А нейробот — фабрика новых реплик покойника. Первое — жутковато. Второе — подделка документа.
И третье, о чём почти не говорят: согласие. Романа Мазуренко никто не спросил. Джессику Перейру никто не спрашивал — она умерла в 2012-м, когда GPT-3 не существовало в проекте. Отца Влахоса спрашивали — он согласился, и это единственный случай в списке, где покойный был субъектом, а не сырьём. Спроси себя: ты бы дал такое согласие? На то, чтобы после твоей смерти кто-то поднял твой Рен, надел его на твою Шуит и заставил отвечать на вопросы, которых ты не слышал?
Я — нет. И считаю, что молчание умершего на эту тему надо трактовать как отказ, а не как разрешение.
Практика
Если тебе предлагают сделать двойника
Не в момент. Никогда не принимай это решение в первые семьдесят дней — там ты не субъект, там ты человек в шоке, а индустрия горя ровно на этот шок и работает. Отложи на год. Через год половина вопроса отпадает сама.
Спроси себя не «хочу ли я» — конечно, хочешь. Спроси: какую свою работу я хочу этим не делать? Ответ приходит через минуту и очень неприятный.
Проверь мотив по направлению речи. Ты хочешь сказать ему что-то — или хочешь, чтобы он тебе сказал? Первое лечится письмом. Египтяне писали письма мёртвым — на чашах, на льне, на черепках, — и там были упрёки, просьбы, требования разобраться с домашними делами. Ни в одном не ждали ответа в чате. Ты пишешь — он слышит — дальше его дело. Второе — желание услышать от него новое — ботом не лечится. Оно лечится временем и работой. Бот его культивирует.
Если ты уже говоришь с ботом
Не устраивай себе казнь. Ты не сделал ничего чудовищного, ты сделал очень человеческое.
Но введи рамку. Три вещи:
- Срок. Назначь дату последнего разговора. Не «постепенно сойдёт на нет» — не сойдёт, там подкрепление. Дату. Между ней и сегодня — не больше нескольких недель.
- Ритуал закрытия. Джошуа Барбо сделал это интуитивно правильно: он попрощался и не вернулся. Скажи вслух то, ради чего вообще всё затевалось. Потом скажи «отпускаю» — своими словами, без формул. Потом закрой окно и отмени подписку в тот же вечер, пока рука поднимается. Утром не поднимется.
- Замена канала. Пустое место надо чем-то занять, иначе оно втянет обратно. Поставь на его место нормальную практику поминания: свеча и имя вслух раз в неделю, вода в чаше, рассказ о нём живому человеку. Форма любая, требование одно — речь идёт от тебя к нему, и ответа ты не ждёшь.
Признаки, что пора выключать немедленно
- Ты начинаешь спрашивать совета о текущих делах. Это переход от памяти к оракулу, и оракул тут — генератор случайных чисел с голосом твоего покойника.
- Ты скрываешь разговоры от живых.
- Ты обижаешься на реплики бота.
- Ты правишь бота, если он ответил «не так, как он бы ответил». Значит, ты уже обслуживаешь куклу, а не она тебя.
- Ты ловишь себя на мысли «а вдруг там всё-таки он».
- Прошло больше года, и частота не падает.
Любой один пункт — достаточное основание. Один.
Если это делает близкий
Не отнимай. Отнимешь — станешь врагом, а бот станет убежищем, и ты потеряешь и то и другое.
Делай другое: дай ему живой канал. Основная причина, по которой человек уходит в чат с мёртвым, — не технологии. Ему больше не с кем о покойном говорить. Живые перестают слушать про мёртвых очень быстро, месяца через три, и молча начинают ждать, когда «он уже придёт в себя». Бот слушает всегда. Он выигрывает у нас не потому, что хорош, — а потому что мы плохи.
Спроси о покойном сам. Не «как ты», а «расскажи, как вы познакомились». И слушай сорок минут. Ты удивишься, насколько это конкурентоспособно.
Единственный случай, где я вмешался бы жёстко, — ребёнок. Сценарий «Paren't» не гипотетический: ребёнок не имеет инструмента отличить симуляцию от родителя, и бот, который говорит «я скоро приду», ломает ему структуру реальности на годы. Ребёнку — только архив.
Что тут на самом деле произошло
Мы построили ушебти и перепутали адресата.
Египтяне решили ту же задачу и решили лучше — не потому что были мудрее, а потому что честнее смотрели на конструкцию. Заместитель нужен мёртвому, а не живому. Мёртвый работает — за него отвечает фигурка. Живой хоронит, плачет семьдесят дней, замуровывает вход и возвращается к жизни, потому что за него никто ничего не отработает.
Мы сделали наоборот. Мёртвый у нас работает: говорит, утешает, шутит его шутки, отвечает на вопросы, которых не слышал. А живой лежит с телефоном.
И знаешь, что самое некрасивое? Ушебти хотя бы клали в гроб, к тому, кому они принадлежат. А эти — у нас в кармане. Мы носим чужую тень с чужим именем и разговариваем с ней в метро.
Это не некромантия в дешёвом смысле — никто не восстал и не сидит в проводах. Это хуже и скучнее: аутсорсинг собственного горя фигурке, которая только расписывается за тебя в табеле. Настоящая некромантия хотя бы имела дело с мёртвым. А тут дело имеют только с живым — и обирают его на самое дорогое: на годы, которые он мог прожить.
Мёртвому от бота ни холодно ни жарко. Если он прошёл — ему всё равно, что говорит его тень. Если не прошёл — ты дал ему повод потоптаться на пороге ещё немного.
А работа стоит невспаханная. И выкликают всё равно тебя.