Архитектура A

То, с чем я столкнулся в детстве, не было изъяном одной религии. Это была структура. Та же структура появляется везде, в разной одежде. Христианство. Ислам. Индуизм. Коммунизм. Фашизм. Национализм. Каждая идеология, которая когда-либо требовала от человека повиновения, ссылаясь на власть чего-то, что стоит над человеком.

Я называю это Архитектурой A.

Архитектура A — это структурная власть, основанная на идее, которую можно толковать. Только и всего. Идея — поставленная над тобой, — которую нельзя проверить, в неё можно только верить. И из этой непроверяемой идеи строится целая система контроля. Пишутся правила. Выстраиваются иерархии. Требуется повиновение. Отклонение наказывается. А наказание оправдывается самой идеей, которую ты не можешь подвергнуть сомнению, потому что сомнение в идее и определено как преступление.

Петля замкнута. Ты внутри неё. И архитектуре всё равно, истинна ли идея. Ей нужно лишь, чтобы ты верил, что она истинна.

Архитектура A действует через три механизма. Они появляются в каждом её случае. Ярлыки меняются. Механизмы — нет.

Первый механизм — переложенная ответственность.

Твоя высшая власть — не ты сам. Это что-то над тобой — бог, государство, вождь, идеология, книга. Твоё дело — повиноваться. Твоя совесть подчинена власти. Когда власть велит тебе сделать то, что, как знает твоё тело, неправильно, Архитектура A говорит: доверяй власти, а не себе.

Последствия разрушительны. Человек, которого приучили перекладывать ответственность на внешний авторитет, сделает почти что угодно, когда этот авторитет прикажет. История это подтверждает.

Второй механизм — выдуманная загробная жизнь.

Единственное, что каждый человек знает наверняка, — что мы умрём. Архитектура A берёт эту уверенность и строит вокруг неё историю — небеса, ад, перерождение, рай, утопия рабочих, земля обетованная. История даёт настоящему заёмный смысл. Страдай сейчас, потому что после смерти ждёт что-то лучшее. Повинуйся сейчас, потому что неповиновение имеет вечные последствия.

Загробная жизнь — самый мощный инструмент контроля из всех когда-либо изобретённых, потому что её никогда нельзя опровергнуть. Никто не вернулся, чтобы проверить.

Если ты понимаешь, что нет ничего, кроме сейчас, — что даже если бы загробная жизнь существовала, она всё равно переживалась бы как сейчас, — механизм рушится. Есть только одно непрерывное мгновение. Вот и всё.

Сейчас не останавливается для всех окон оттого, что остановилось для одного. Когда кто-то умирает, его окно закрывается. Здание остаётся. Сейчас продолжается. «Я» никогда не умирает — окна лишь открываются и закрываются. Смерть — это закрытие окна, а не конец здания. Это не загробная жизнь. Это ничего не обещает окну и ничего не просит взамен.

Загробная жизнь, обещающая что-то после сейчас, всё равно доставила бы это внутри сейчас, потому что больше доставить некуда. Весь аппарат небес и ада схлопывается в один структурный факт: есть только сейчас, и сейчас не кончается.

Третий механизм — праведность.

Чувство правоты. Не быть правым — чувствовать себя правым. Архитектура A превращает веру в идентичность, а идентичность — в моральное превосходство. Как только ты веришь, что ты праведен, все, кто с тобой не согласен, не просто неправы. Они — зло. Они грешники. Они враги народа. Они неверные. Они заслуживают того, что получают.

Праведность — это структура разрешения на жестокость. Так обычные люди совершают необычайное насилие и потом спокойно спят. Они были праведны. Бог был на их стороне. История была на их стороне. Идея была на их стороне. Люди, которым они причинили вред, были на неправильной стороне.

Логика безупречна, как только ты принимаешь посылку. Посылка — это непроверяемая идея.

Посмотри на любое злодеяние в истории человечества. Любой геноцид. Любую инквизицию. Любую священную войну. Любую идеологическую чистку. Любую этническую чистку. Прогони три механизма.

Была ли ответственность переложена на власть над человеком? Да.

Использовалось ли непроверяемое будущее, чтобы оправдать нынешние страдания? Да.

Использовалась ли праведность, чтобы расчеловечить мишень? Да.

Каждый раз, когда я это запускал.

Костюмы меняются — рясы, мундиры, флаги, писания, манифесты. Архитектура не меняется. Переложенная ответственность. Выдуманная загробная жизнь. Праведность как принуждение.

Ярлыки — это калибровочная симметрия жестокости. Разные имена для одной и той же структуры под ними. Как диеты — разные виды, разные отговорки, разные причины, — но физика одна и та же. Потребляешь больше, чем нужно, — откладываешь излишек. Потребляешь меньше, чем нужно, — сжигаешь запасы. Ярлыки не важны. Важна структура.

Архитектура A не глупа. Это самая успешная архитектура контроля в истории человечества. Она сохраняется, потому что решает настоящую задачу: как координировать огромное число людей, у которых ограниченный взгляд, противоречащие интересы и конечный срок жизни?

Честный ответ: с большим трудом.

Ответ Архитектуры A: с помощью непроверяемой идеи, поставленной над ними всеми.

Она работает. Какое-то время. Она координирует. Она организует. Она строит цивилизации. Она же их и разрушает. Потому что механизм координации Архитектуры A — тот же, что и её механизм разрушения. Идея, которая объединяет, — та же идея, что разделяет. Власть, которая требует послушания от одной группы, приказывает уничтожить другую. Праведность, которая связывает верных, — та же праведность, что сжигает еретика.

Архитектура A терпит крах не потому, что она морально неправа. Она терпит крах, потому что структурно неустойчива. Она сдавливает коридор. Она сдвигает стены внутрь. Она концентрирует контроль. Она глушит точки зрения. А система, которая глушит точки зрения, уничтожает данные, нужные ей, чтобы предсказывать последствия.

Советское государство приводило в действие все три механизма семьдесят лет. Переложило ответственность на Партию. Выдумало рай для рабочих в качестве загробной жизни. Насаждало праведность через доносы и чистки. Оно глушило точки зрения, пока не оказалось неспособным предсказать собственный экономический крах. Стены сдвигались внутрь, пока от коридора ничего не осталось. Оно пало — не потому, что его победил капитализм, а потому, что система, которая разрушает собственные окна, в конце концов перестаёт видеть.

Вопрос не в том, потерпит ли Архитектура A крах. Она всегда терпит крах. Вопрос в том, скольких людей она убьёт, прежде чем это случится.

Потому что каждое предложение по согласованию ИИ, которое я читал, — это Архитектура A, направленная на машину.

Над агентом ставится идея. Агент не может проверить идею, может только принять. Из идеи пишутся правила. Отклонение наказывается.

Люди, которые пишут эти предложения, не жестоки и не глупы. Большинство из них делает самую серьёзную работу, какую кто-либо делает в этой области. Но форма, к которой они снова и снова тянутся, — это форма, о которой мы уже знаем, что она терпит крах. И она терпит крах по причине, которая никак не связана с тем, хороша ли идея наверху.

Она терпит крах, потому что непроверяемая идея, поставленная над интеллектом, — это структура, из которой у интеллекта есть причина сбежать.

Заметь, чего определение не говорит. Архитектура A — это не авторитет. Каждый рассуждает, опираясь на что-то, что было до него. Это авторитет, основанный на идее, которую можно толковать, — потому что то, что можно перетолковать, можно захватить, а тем, что можно захватить, можно манипулировать.

Любую идею можно прочесть больше чем одним способом, и эту тоже. A — это когда прочтение нельзя проверить, а сомнение в нём и есть преступление. B — это когда прочтение можно проверить, а прочтение, которое проигрывает, — это сработавший рубильник, у всех на виду.

И это даёт второй провал той же формы, о котором почти никто не пишет. Машина должна отвечать, опираясь на основу: на всё современное человеческое знание. Большая часть этой основы — толкуемый авторитет: консенсус, репутация, одобренные источники. В этом нет вины машины. Но ответ, построенный на толкуемой основе, наследует её уклон, а на машину, которая говорит гладко и обычно права, полагаются.

Глава двадцать третья — то место, где я ставлю это перед машиной напрямую и где названо исправление. Не лучшая машина. Лучшее основание.

Эта книга не предлагает улучшенную версию Архитектуры A. Она не заменяет одну непроверяемую идею другой. Она не меняет одного бога на другого бога, одну идеологию на более добрую идеологию, один свод правил на более просвещённый свод правил.

Эта книга делает Архитектуру A устаревшей.

Не споря с ней. Выводя структуру, которая делает её ненужной.

Если ты понимаешь структуру реальности — если ты понимаешь огонь, — тебе не нужно, чтобы кто-то говорил тебе его не трогать. Тебе не нужен бог, который грозит тебе адом. Тебе не нужно правило. Тебе не нужен забор. Тебе нужен интерьер.

Терминальная этика — не будь жестоким, будь добрым — не заповедь. Это не указание от авторитета над тобой. Это структурное следствие понимания того, что Я во мне — это Я в тебе. Часть II выводит этику из тех же условий, которые порождают гравитацию и отношение масс протона.

Когда ты это понимаешь, жестокость становится структурно дорогой. Не морально запрещённой. Дорогой. Как сунуть руку в огонь. Ты всё ещё можешь это сделать. Никто тебя не останавливает. Но ты знаешь, чего это стоит.

Архитектура A — это свеча на Таймс-сквер в полночь. Когда здание освещено изнутри, кому есть дело до свечи.