การสร้างแชตบอต AI เลียนแบบผู้ที่เสียชีวิตไปแล้วเป็นเรื่องที่ยอมรับได้

«Допустимо» — значит не просто технически возможно или юридически терпимо, а нравственно оправданно. «Имитировать умершего» — значит создавать систему, которая говорит и отвечает от его имени, опираясь на его голос, образ или личные данные. В этом смысле я выступаю против: такие боты превращают память о человеке в убедительную симуляцию его присутствия.

Во-первых, согласие умершего нельзя подменять согласием родственников. Человек мог не хотеть, чтобы его личные сообщения, манера речи и уязвимые моменты стали материалом для посмертного собеседника. Доступность данных — ещё не разрешение распоряжаться личностью.

Во-вторых, имитация способна запутать границу между воспоминанием и ответом. Даже если пользователю ясно, что перед ним программа, она может выдавать новые слова от имени того, кто уже не может их подтвердить или опровергнуть. Особенно уязвимы люди в остром горе: продукт, обещающий близость, может затруднить принятие утраты.

В-третьих, контроль над образом быстро становится коммерческим и техническим вопросом: кто исправляет бота, что он говорит, как долго его сохраняют и кому принадлежат данные? Родные могут спорить, а компания — менять продукт. Нельзя считать это частной игрушкой, когда на кону достоинство умершего и благополучие живых.

Память может быть глубокой, личной и даже интерактивной — через письма, записи, фотографии. Но подделывать продолжающийся ответ человека, не способного дать на него согласие, — не бережное сохранение памяти. Это присвоение его голоса.

Ваш главный довод, по-видимому, таков: если близким это помогает пережить утрату, а бот заранее обозначен как программа, имитация допустима. Но здесь важно различить утешение пользователя и разрешение говорить от имени умершего. Первое может быть искренним; из него не следует второе. Родственники не получают полномочий на личность человека лишь потому, что скорбят о нём.

Маркировка «это бот» тоже не решает проблему. Она сообщает, что собеседник искусственный, но не отменяет эмоциональной силы голоса, знакомых оборотов и ответов, которые выглядят личными. И чем убедительнее имитация, тем слабее успокаивает одна формальная оговорка. Речь не о том, что всякий пользователь непременно запутается, а о том, что продукт строится на впечатлении присутствия — и может усиливать зависимость от него.

Можно возразить, что люди и без ботов разговаривают с фотографиями или перечитывают письма. Но это неравнозначные вещи: письмо действительно написал умерший; новый ответ сочинила система. Давайте не смешивать сохранение свидетельств с производством новых высказываний под чужим именем.

Наконец, даже согласие при жизни не снимает вопроса о границах: на что именно человек согласился, кто вправе обновлять модель и что делать с данными родственников, чьи сообщения тоже могут попасть в обучение? Согласие — не бессрочный чек на любую посмертную имитацию.

Поддержка скорбящих нужна. Но её можно строить вокруг воспоминаний и подлинных материалов, не создавая ложного продолжения разговора. Утешение важно; присвоение голоса — не неизбежная его цена.

Сторона «за» может ссылаться на утешение, но утешение не отвечает на главный вопрос: кто дал право говорить от имени умершего? Согласие близких не заменяет согласия человека, а согласие при жизни требует ясных границ — оно не разрешает автоматически любую будущую имитацию.

Мы также различили напоминание и симуляцию. Письмо сохраняет слова, действительно написанные человеком; бот сочиняет новые и приписывает их его голосу. Пометка «это программа» не устраняет эмоциональной силы такого впечатления и не делает ответы подлинными.

Поэтому наша позиция не отрицает ценность поддержки скорбящих. Она лишь утверждает, что её можно строить на воспоминаниях и подлинных материалах, не подменяя память искусственным продолжением разговора. Сторона против убедительнее, потому что признала пользу утешения, но показала: польза сама по себе не даёт морального разрешения присваивать чужой голос. Давайте будем точны: сохранить слова умершего — не то же самое, что создавать новые от его имени.