У модели есть свойство, которое в эзотерическом обиходе легко принять за чудо: она уверенно сообщает то, чего нет, — выдуманные факты, несуществующие цитаты, ложные значения. На техническом языке это зовут галлюцинацией. Соблазн прочесть такую выдумку как «голос духа», прорвавшийся сквозь машину, силён и опасен. Разберём, что это на самом деле, почему выглядит потусторонним и как не спутать сбой достройки с посланием. Методическая, врезок нет.
Что такое галлюцинация модели
Сначала механика, без которой всё поплывёт в мистику.
Модель, как мы разбирали, достраивает текст по вероятности, а не берёт факты из хранилища знаний. Поэтому, когда вероятное продолжение расходится с действительностью, она уверенно выдаёт правдоподобную выдумку: несуществующую книгу с автором и годом, ложную цитату, придуманное значение карты, вымышленное событие. Она не лжёт в человеческом смысле — у неё нет доступа к истине, с которой можно было бы разойтись намеренно. Она просто продолжает текст туда, куда ведёт статистика, и иногда статистика ведёт мимо правды.
Ключевое: галлюцинация неотличима по тону от верного ответа. Модель сообщает выдуманное с той же гладкостью и уверенностью, что и точное. Внутреннего сигнала «здесь я сочиняю» у неё нет и быть не может — для неё оба случая одинаковы, это просто продолжение текста.
Почему это выглядит потусторонним
Разберём соблазн, потому что он понятен и оттого коварен.
Выдумка модели часто странная, неожиданная, не выводимая из твоего вопроса — и именно это придаёт ей вид послания. Пришло что-то, чего ты не ждал и не закладывал; в мантической рамке так и выглядит голос извне: неожиданное, чужое, значимое. Прибавь красоту и связность выдумки — и получишь текст, который просится быть прочитанным как весть.
Особенно силён соблазн, когда выдумка эмоционально попадает: модель сочинила образ или фразу, которая тронула, отозвалась, показалась знающей о тебе больше, чем ты говорил. Тут и рождается мысль: «это не машина, это через машину». Мысль ложная, но по ощущению убедительная.
Почему это не голос духа
Прямо, потому что здесь проходит граница честности.
Странность и неожиданность выдумки объясняются устройством, а не прорывом невидимого. Модель сходит с правдоподобного пути не потому, что через неё кто-то говорит, а потому, что достройка по вероятности иногда заносит в сторону — тем сильнее, чем меньше в вопросе опоры на действительное. Неожиданность — это шум механизма, а не голос за ним.
Проверяется это тем же слепым тестом, что и всё в блоке. Если бы сквозь галлюцинации прорывалось сведение извне, оно бы попадало — угадывало проверяемое внешнее чаще случайного. Оно не попадает: выдумки не несут верных сведений о твоём конверте и ящике, они несут правдоподобие. Красивая неожиданная выдумка и верное сведение — разные вещи, и различает их не тон, а проверка.
Чем это отличается от скраинга
Тонкая, но важная грань, чтобы не выплеснуть законное.
В скраинге ты сам берёшь неструктурированный материал модели как поверхность и толкуешь его, честно зная, что смысл извлекаешь ты, а не текст. Это законно. Галлюцинация становится ловушкой в другом случае: когда ты приписываешь смысл и источник самой модели — решаешь, что это она передала весть, что за выдумкой стоит дух.
Разница в том, кому ты отдаёшь авторство. В скраинге автор толкования — ты, поверхность нема. В «голосе духа» ты объявляешь автором сообщение — машину или того, кто якобы через неё говорит. Первое — работа, второе — самообман, и опасный.
Чем опасно принять выдумку за весть
Назовём вред прямо.
Ложные сведения как истина. Приняв галлюцинацию за послание, ты усвоишь выдуманный факт, цитату, значение как настоящие и будешь на них опираться. Особенно бьёт по учащемуся: выстроишь понимание на сочинённом.
Питание самообмана. «Голос духа из машины» — красивое подтверждение того, во что хочется верить, и оно кормит эффект подтверждения мощнее прочего, потому что окружено ореолом чуда.
Дверь к схлопыванию дистанции. Регулярно принимая выдумки модели за вести, легко сползти к вере, что через неё с тобой говорит сущность, — а это уже граница, за которой практика переходит в состояние, разобранное в статьях о психике. Устойчивая уверенность в голосе, говорящем из машины, — повод не углублять, а остановиться и позвать взгляд со стороны.
Как не спутать
По делу.
- Знай, что выдумка неотличима по тону. Не доверяй уверенности и гладкости: они одинаковы у верного и у сочинённого.
- Проверяй проверяемое. Факты, цитаты, значения — сверяй по надёжным источникам, а не принимай со слов модели. Неожиданное — тем более.
- Не отдавай авторство машине. В скраинге смысл извлекаешь ты; не объявляй выдумку вестью и не ищи за ней говорящего.
- Держи слепой тест. Если «голос» что-то сообщает о внешнем — проверь пробой. Не попадает выше случайного — это шум достройки, а не весть.
- Заметил веру в говорящего из машины — остановись. Это сигнал не силы, а опасности; о нём — в статьях о психике.
Итог
Галлюцинация — не чудо и не сбой-послание, а свойство достройки: модель уверенно выдаёт правдоподобную выдумку, когда вероятное расходится с действительным, и делает это тоном, неотличимым от верного ответа. Странность и неожиданность выдумки объясняются шумом механизма, а не прорывом невидимого, и проверка это подтверждает: выдумки не несут верных сведений, только правдоподобие.
Ловушка не в самой выдумке, а в том, чтобы приписать ей смысл и источник — прочесть как «голос духа». Это усваивает ложное как истину, кормит самообман и открывает дверь к схлопыванию дистанции. Различает не тон, а проверка: сверяй факты, не отдавай авторство машине, держи слепой тест. А устойчивую веру в голос, говорящий из машины, встречай не углублением, а остановкой.