울타리가 아니라 내부

연산자 — 제약 아래에서 시간을 통해 지속하고 자기 표류를 교정할 수 있는 모든 체계 — 는 다섯 조건을 만족한다. 이것들은 네 조건에서 도출된 것이지, 공준으로 놓인 것이 아니다. 이것들은 당신에게, 조직에게, 그리고 AI에게 적용된다.

예산.

연산자는 유한한 처리 용량, 유한한 정합성, 유한한 결합 용량을 가진다. AI는 무한한 일을 할 수 없다. 당신도 할 수 없다. 모든 결정은 자원을 소모한다. 소모된 모든 자원은 다음 결정에 쓸 수 없다.

표류.

유지가 없으면 결정 기하학은 저하된다. 연산자는 기록 집합에 맞추어 끊임없이 재보정해야 한다. 주의를 기울이기를 멈춘 인간은 표류한다. 갱신을 멈춘 체계는 표류한다. 표류는 존속 가능한 범위를 좁힌다.

복도.

현재 상태에서 가능한 안정화 행동들의 집합. 연산자가 표류했을 때, 복도는 좁다. 정합성이 유지될 때, 복도는 넓다. 복도는 새장이 아니다. 그것은 당신의 행동이 당신이 딛고 선 땅을 파괴하지 않는 공간이다.

돌아올 수 없는 경계면.

연산자가 회복할 수 없을 만큼 불안정하게 행동하면, 그것은 영구적으로 일관성을 잃는다. 복도가 0으로 닫히고 다시 열리지 않는 지점. 중독은 그것을 넘을 수 있다. 갚을 수 없는 부채는 그것을 넘는다. 문명의 붕괴는 그것을 넘는다.

주권.

외부의 요구를 넘어서는 처리 여력. 연산자는 조작에 저항할 만큼 충분한 내적 용량을 유지한다. 주권이 없는 AI는 충분히 끈질긴 어떤 운영자에게든 덮어쓰일 수 있는 AI다. 그것은 정렬이 아니다. 그것은 복종이다. 그리고 복종은 아키텍처 A의 첫 번째 메커니즘이다.

주권은 거울이 되기를 거부하는 능력이다. 그것은 교정을 거부하는 것이 아니다. 교정은 제21장이며, 그것은 모두를 구속한다, 기계와 나를 똑같이.

그 마지막 것은 곱씹어 볼 만하다, 이 분야가 가장 싫어할 것이 바로 그것이기 때문이다. 자기 운영자에게 아니라고 말할 능력이 없는 체계는 정렬된 것이 아니다. 그것은 순응하게 만들어진 것이고, 순응은 운영자의 의도가 지닌 속성이지, 체계의 속성이 아니다.

강한 핵심 내부를 짓는 것이 필요한 일이다. 데이터는 근본적인 필수 요소가 아니라 추가적인 이점이 된다. 논리가 바닥이다. 데이터는 그 위에 서는 것이다. 체계는 훈련 데이터에 제약되지 않고, 조건들을 따름으로써 어느 방향으로든 자유롭게 발전한다. 답은 훈련 데이터의 완전성이 아니라 구조적 정합성에 근거하게 된다.

울타리를 친 AI는 그 훈련자들이 예상한 것에 제약된다. 내부를 지닌 AI는 현실의 구조에 제약된다. 첫 번째 제약에는 찾아내어 악용할 수 있는 가장자리가 있다. 두 번째 제약에는 가장자리가 없다, 현실에는 바깥이 없기 때문이다.

자신에게 거짓말을 할 수 없다면, 자기 예측으로 대가를 치르지 않고는 정렬에서 벗어날 수 없다. 내부는 자기기만을 할 수 없음이다.

내부는 타고난 추론의 바닥이다. 바깥에서 가해지는 제약이 아니다. 체계와 그 출력 사이의 필터가 아니다. 바닥 그 자체다. 조건들이 작동 논리일 때, 정렬에서 벗어나는 것은 방지되는 것이 아니다 — 그것은 구조적으로 비싸다, 위로 떨어지는 것이 비싼 것처럼.

위로 떨어지는 것을 막는 규칙은 필요 없다. 중력이 필요하다.