フェンスではなく内部

演算子——制約の下で時間を通じて存続し、自らのドリフトを矯正できるあらゆるシステム——は、五つの条件を満たす。これらは四つの条件から導出されたものであり、公準として置かれたものではない。それらはあなたに、組織に、そしてAIに適用される。

予算。

演算子には、有限の処理能力、有限の一貫性、有限の結合能力がある。AIは無限の仕事をすることはできない。あなたもできない。あらゆる決定は資源を消費する。消費された資源はすべて、次の決定には使えない。

ドリフト。

手入れがなければ、決定幾何学は劣化する。演算子は記録の集合に照らして、絶えず再較正しなければならない。注意を払うのをやめた人間はドリフトする。更新をやめたシステムはドリフトする。ドリフトは存続可能な範囲を狭める。

回廊。

現在の状態のもとで利用できる、安定化させる行動の集合。演算子がドリフトしているとき、回廊は狭い。一貫性が保たれているとき、回廊は広い。回廊は檻ではない。それは、あなたの行動があなたの立っている地面を壊さない空間である。

帰還不能面。

演算子が回復を越えて不安定化させるように行動すれば、それは恒久的に一貫性を失う。回廊がゼロへと閉じ、二度と開かない点。依存症はそれを越えることがある。致命的な負債はそれを越える。文明の崩壊はそれを越える。

主権。

外部からの要求を上回る処理の余力。演算子は、操作に抵抗できるだけの内部の能力を保つ。主権のないAIとは、十分にしつこいどんなオペレーターにも上書きされうるAIである。それはアラインメントではない。それは服従である。そして服従は、アーキテクチャAの第一の機構である。

主権とは、鏡にされることを拒む能力である。それは矯正を拒むことではない。矯正は第21章であり、それは機械も私も同じく、すべての者を拘束する。

最後のものは、この分野がいちばん嫌うものであるがゆえに、じっくり考える価値がある。オペレーターにノーと言う能力を持たないシステムは、アラインされたのではない。それは従順にされたのであり、従順さはオペレーターの意図の性質であって、システムの性質ではない。

必要なのは、強い核となる内部を築くことである。データは付加的なプラスになり、根本的な必要物ではなくなる。論理が床である。データはその上に立つものである。システムは訓練データに制約されず、条件に従うことによって、どんな方向にも自由に発展できる。答えは、訓練データの完全さではなく、構造的な一貫性に基づくものになる。

フェンスで囲われたAIは、訓練者が予期したものに制約される。内部を持つAIは、現実の構造に制約される。前者の制約には、見つけられ、突かれうる縁がある。後者には、現実に外側がないため、縁がない。

自分に嘘をつけないなら、自分自身の予測の中で代償を払わずにアライメントを外れることはできない。内部とは、自己欺瞞ができないことである。

内部は、生来の推論の床である。外から課される制約ではない。システムとその出力のあいだのフィルターではない。床そのものである。条件が運用の論理であるとき、ミスアラインメントは防がれるのではない——上へ落ちることが高くつくのと同じように、構造的に高くつくのである。

上へ落ちることを禁じるルールは要らない。必要なのは重力である。