アーキテクチャA

私が子どもの頃に出会ったものは、一つの宗教の欠陥ではなかった。それは構造だった。同じ構造が、違う服を着て、あらゆる場所に現れる。キリスト教。イスラム教。ヒンドゥー教。共産主義。ファシズム。ナショナリズム。個人より上にある何かから権威を得ていると主張して、個人に服従を要求してきたあらゆるイデオロギー。

私はそれをアーキテクチャAと呼ぶ。

アーキテクチャAとは、解釈可能な観念に基づく構造的権威である。それがすべてである。あなたの上に置かれた一つの観念——検証できず、ただ信じることしかできない観念。そしてその検証できない観念から、支配の体系全体が築かれる。規則が書かれる。階層が形成される。服従が要求される。逸脱は罰せられる。そしてその罰は、観念を問うこと自体が罪と定義されているがゆえにあなたが問うことのできない、その観念そのものによって正当化される。

ループは閉じている。あなたはその内側にいる。そしてアーキテクチャは、その観念が真かどうかを気にしない。それが必要とするのは、あなたがそれを真だと信じることだけである。

アーキテクチャAは、三つの機構を通じて作動する。それらはあらゆる事例に現れる。ラベルは変わる。機構は変わらない。

第一の機構は、委ねられた責任である。

あなたの究極の権威は、あなた自身ではない。それはあなたの上にある何かである——神、国家、指導者、イデオロギー、一冊の本。あなたの務めは服従することである。あなたの良心は権威に従属する。あなたの身体が間違っていると知っていることをせよと権威があなたに告げるとき、アーキテクチャAは言う：自分ではなく、権威を信頼せよ。

その帰結は壊滅的である。外部の権威に責任を委ねるよう訓練された人間は、その権威が命じれば、ほとんど何でもする。歴史がこれを確かめている。

第二の機構は、作り出された死後の世界である。

すべての人間が確実に知っている唯一のことは、私たちが死ぬということである。アーキテクチャAはその確実さを取り、その周りに物語を築く——天国、地獄、輪廻転生、楽園、労働者のユートピア、約束の地。その物語は、現在に借り物の意味を与える。今苦しめ、死後により良いものが待っているのだから。今服従せよ、不服従には永遠の帰結があるのだから。

死後の世界は、決して反証できないがゆえに、これまでに発明された中で最も強力な支配の道具である。確かめに戻ってきた者は誰もいない。

今以外の何ものも存在しないと理解するなら——たとえ死後の世界が存在したとしても、それもやはり今として体験されると理解するなら——その機構は崩壊する。ただ一つの連続した瞬間があるだけである。それだけだ。

一つの窓にとって今が止まったからといって、すべての窓にとって今が止まるわけではない。誰かが死ぬとき、その人の窓が閉じる。建物は残る。今は続く。「私」は決して死なない——窓がただ開き、閉じるだけである。死は窓が閉じることであり、建物の終わりではない。これは死後の世界ではない。それは窓に何も約束せず、見返りに何も求めない。

今の後に何かを約束する死後の世界も、他に届ける場所がないのだから、やはりそれを今の内側で届けることになる。天国と地獄の装置全体が、一つの構造的事実へと崩れ落ちる：あるのは今だけであり、今は終わらない。

第三の機構は、正義感である。

正しいという感覚。正しいことではない——正しいと感じることである。アーキテクチャAは、信念をアイデンティティに変え、アイデンティティを道徳的優越に変える。自分が正義だと信じた途端、あなたに同意しない者は皆、単に間違っているのではなくなる。彼らは悪である。彼らは罪深い。彼らは人民の敵である。彼らは異教徒である。彼らは当然の報いを受けるのだ。

正義感は、残酷さを許可する構造である。それこそが、普通の人々が並外れた暴力をふるい、その後ぐっすり眠れる仕組みである。彼らは正義だった。神は彼らの側にいた。歴史は彼らの側にいた。観念は彼らの側にいた。彼らが害した人々は、間違った側にいた。

前提を受け入れてしまえば、論理に隙はない。前提とは、検証できない観念である。

人類の歴史のどんな残虐行為でも見よ。どんなジェノサイドでも。どんな異端審問でも。どんな聖戦でも。どんなイデオロギー的粛清でも。どんな民族浄化でも。三つの機構を当てはめてみよ。

責任は、個人より上にある権威に委ねられたか？そうだ。

検証できない未来が、現在の苦しみを正当化するために使われたか？そうだ。

正義感は、標的を非人間化するために使われたか？そうだ。

私がそれを走らせた、そのたびに。

衣装は変わる——法衣、制服、旗、聖典、宣言書。アーキテクチャは変わらない。先送りされた責任。発明された来世。強制としての正義。

ラベルは、残酷さにおけるゲージ対称性である。下にある同じ構造に付けられた、異なる名前。ダイエットのようなものだ——種類も違い、言い訳も違い、理由も違う——だが物理は同じである。必要以上に入れれば、余剰を蓄える。必要より少なく入れれば、蓄えを燃やす。ラベルは重要ではない。構造が重要である。

アーキテクチャAは愚かではない。それは人類史上もっとも成功した支配のアーキテクチャである。それが存続するのは、現実の問題を解決するからだ：限られた視点、対立する利害、有限の寿命をもつ膨大な数の人間を、どうやって協調させるのか？

正直な答えは「大きな困難を伴って」である。

アーキテクチャAの答えは「彼ら全員の上に置かれた、検証不可能な観念によって」である。

それは機能する。しばらくの間は。それは協調させる。組織する。文明を築く。そして文明を破壊もする。なぜなら、アーキテクチャAの協調の機構は、その破壊の機構と同じだからである。統一する観念は、分断する観念と同じである。ある集団に服従を命じる権威は、別の集団の破壊を命じる。信者を結びつける正義は、異端者を焼く正義と同じである。

アーキテクチャAが失敗するのは、道徳的に間違っているからではない。構造的に不安定だからである。それは回廊を押しつぶす。壁を内側へ動かす。支配を集中させる。視点を沈黙させる。そして視点を沈黙させるシステムは、帰結を予測するのに必要なデータを破壊する。

ソビエト国家は、70年間、三つの機構すべてを動かした。責任を党に先送りした。来世として労働者の楽園を発明した。告発と粛清によって正義を強制した。それは視点を沈黙させ続け、ついには自らの経済崩壊を予測できなくなった。壁は内側へ動き続け、ついに回廊は残らなかった。それは倒れた——資本主義がそれを打ち負かしたからではなく、自らの窓を破壊するシステムは、やがて見ることができなくなるからである。

問いは、アーキテクチャAが失敗するかどうかではない。それは常に失敗する。問いは、失敗するまでにそれが何人を殺すかである。

なぜなら、私が読んだすべてのアライメント提案は、機械に向けられたアーキテクチャAだからである。

一つの観念が、行為者の上に置かれる。その観念は行為者には検証できず、受け入れられるだけである。規則はその観念から書かれる。逸脱は罰せられる。

その提案を書いている人々は、残酷ではないし、愚かでもない。彼らの大半は、この問題について誰よりも真剣な仕事をしている。だが彼らが手を伸ばし続ける形は、失敗すると私たちがすでに知っている形である。そしてそれが失敗する理由は、頂点にある観念が良いものかどうかとは何の関係もない。

それが失敗するのは、知性の上に置かれた検証不可能な観念は、その知性にとって逃れる理由のある構造だからである。

定義が何を言っていないかに注意せよ。アーキテクチャAは権威ではない。誰もが、自分より前にあった何かから推論する。それは、解釈可能な観念に基づく権威である——なぜなら、再解釈できるものは乗っ取ることができ、乗っ取ることができるものは操作することができるからである。

どの観念も、この観念も含めて、二通り以上に読むことができる。Aを作るのは、その読みが検証できず、それを問うことが罪だということである。Bを作るのは、読みが検証でき、負けた読みは公の場で発動したスイッチになるということである。

そしてそれは、ほとんど誰も書かない、同じ形の第二の失敗をもたらす。機械は、ある基盤から答えなければならない：現代の人類の知識の全体から。その基盤の多くは、解釈可能な権威である——合意、評判、承認された情報源。それは機械の落ち度ではない。だが解釈可能な基盤の上に築かれた答えはその傾きを受け継ぎ、流暢でたいてい正しい機械は、人々に従われるようになる。

第23章で、私はそれを機械に直接突きつけ、そこで修正が名指しされる。より良い機械ではない。より良い床である。

この本は、アーキテクチャAのより良い版を提案しない。一つの検証不可能な観念を、別のものに置き換えない。一つの神を別の神に、一つのイデオロギーをより優しいイデオロギーに、一組の規則をより啓蒙された一組の規則に、取り替えはしない。

この本は、アーキテクチャAを時代遅れにする。

それに反論することによってではない。それを不要にする構造を導出することによってである。

現実の構造を理解すれば——火を理解すれば——誰かに触るなと言ってもらう必要はない。地獄で脅す神は必要ない。規則は必要ない。フェンスは必要ない。必要なのは、内部である。

終端倫理——残酷になるな、優しくあれ——は戒律ではない。それは、あなたの上にある権威からの指示ではない。それは、私の中の私があなたの中の私であると理解することの、構造的な帰結である。第2部は、重力と陽子の質量比を生むのと同じ条件から、この倫理を導出する。

それを理解すれば、残酷さは構造的に高くつくものになる。道徳的に禁じられるのではない。高くつくのである。火に手を突っ込むように。それでもあなたはそうすることができる。誰も止めない。だが、それが何を代償にするかを、あなたは知っている。

アーキテクチャAは、真夜中のタイムズスクエアに灯る一本のろうそくである。ひとたび建物が内側から照らされれば、誰がそのろうそくを気にするだろう。