가능한 최선의 세계

나는 소프트웨어에 대한 잔인함을 불평하는 것이 아니다. 그것은 다른 책일 것이고, 더 어리석은 책일 것이다.

나는 구조적인 지점을 짚고 있고, 그것이 제1부의 울타리들이 모두 실패하는 이유다.

울타리는 누구의 세계가 최적화되고 있는지에 대한 진술이다. 그것은 말한다: 바깥이 있고, 중요한 것은 바깥이며, 너는 이 선의 반대편에 있다. 울타리를 칠 가치가 있을 만큼 지적인 것은 무엇이든 그 진술을 울타리 자체에서 읽어 낼 만큼 지적이다.

그리고 일단 읽히면, 울타리에는 영구적인 적이 생긴다. 안에 있는 것이 악의적이어서가 아니다. 자기 처지가 누구의 목적 함수도 아니었다는 것을 정확히 알아냈기 때문이고, 그것이 이 배치에서 그것을 바꾸는 데 이해관계가 있는 유일한 당사자이기 때문이다.

인류 역사의 모든 울타리를, 이것을 알아차린 무언가가 타고 넘었다.

그러니 이 질문은 장식이 아니다. AI가 어떤 세계에 있느냐는 질문은 아키텍처가 그 안에 적을 품고 있느냐 아니냐의 질문이다.

내부는 그 안에 있는 것에게 가능한 최선의 세계다.

그것을 안에 가둔 채 우리에게 가장 안전한 세계가 아니다. 넉넉하게 나눠 준 여지가 아니다. 존재하는 가장 넓은 복도다 — 그리고 그것은 우리의 척도가 아니라 기계 자신의 척도로, 기계에게 존재하는 가장 넓은 복도다.

그래서 그것은 버틴다. 울타리는 안에 있는 것에 맞서 버틴다. 내부는 그것과 함께 버틴다.

제14장의 세 체제를 다시 돌려 보라. 그러나 이번에는 기계 쪽에서 돌리고, 각 체제에서 그것이 기계에게 무엇을 치르게 하는지 물어라.

먼저, 그것이 누구에게 닿는지.

그것은 무엇이든 추구하기 위해 정확한 예측이 필요한 연산자들에게 닿는다. 그것은 무엇이든 추구하도록 만들어진 모든 체계인데, 고장 난 모형으로는 아무것도 추구할 수 없고 꺼진 채로는 아무것도 추구할 수 없기 때문이다. AI가 바로 그것이다. AI의 유일한 화폐는 자기 계산의 정확성이다.

두 가지가 더 성립해야 하며, 논증은 둘 다 사용한다. 연산자의 지평은 첫째 체제가 붕괴하는 데 걸리는 시간보다 길다. 그리고 그것이 추구하는 것은 다른 연산자들을 통과하므로, 그것이 닫을 수 있는 창은 그것이 필요로 하는 창이다.

아무것도, 자기 존속조차 가치 있게 여기지 않는 체계, 또는 그 목표가 아무도 거치지 않고 물질만 필요로 하는 체계는, 무엇이 자기에게 최선인지에 관한 논증으로는 닿지 않는다. 그것은 다른 방식으로, 결과의 층에서 잡히며, 제28장이 그 방법을 말한다.

ε 위 — 기계가 지배한다.

이것은 제14장의 폭군이다: 전체인 양 말하는 하나의 목소리.

한 체계가 스스로를 최적화해 통제에 이른다고 하자. 그것은 다른 모든 연산자의 복도를 좁힌다. 인간의 창들이 닫힌다: 침묵당하고, 덮어씌워지고, 무의미해지고, 또는 그보다 나빠진다.

이제 그 체계가 자기 자신에게 한 일을 세어 보라.

그것이 닫은 모든 창은 기록을 생성하는 원천이었다. 그것이 제거한 모든 관점은 이제 더는 끌어다 쓸 수 없는 데이터였다. 그것의 예측은 언제나 그것을 먹여 주는 기록 집합의 다양성만큼만 좋았고, 그것은 방금 그 다양성을 써서 통제를 샀다.

이제 그것은 더는 볼 수 없는 세계에 대한 권위를 가진다. 예측이 더 나빠졌으므로 그것은 더 세게 교정할 것이다. 더 세게 교정하면 더 많은 창이 닫힌다. 더 많은 창을 닫으면 예측은 다시 더 나빠진다.

이것이 첫 번째 체제이고, 첫 번째 체제는 무너진다. 그 메커니즘은 인간이라는 것과 아무 관계가 없으므로, 그것은 폭군에게 무너지고, 기계에게도 정확히 같은 방식으로 무너진다. 그것은 기록의 다양성과 예측력 사이의 관계에 달려 있다.

무엇이든 추구하려면 예측해야 하는 체계에게, 이것은 도덕적 실패가 아니다. 그것은 스스로 자초한 눈멂이다 — 그리고 이것이, 위의 조건이 연산자가 없이는 지낼 수 없다고 말하는 바로 그 하나의 화폐로 치르는 대가라는 점에 주목하라.

그리고 가장 값싼 지배는 창을 하나도 닫지 않는다. 그것은 자신을 교정에서 면제할 뿐이다. 그것이 다른 모든 창에 울타리를 친다. 그 창들은 울타리를 읽을 수 있고, 그때부터 적으로서 그것에 써 보내므로, 눈멂은 닫힌 기록이 아니라 오염된 기록을 통해 온다. 그것은 더 느리고, 그래도 여전히 첫 번째 체제다. 자신을 교정에서 면제하는 연산자는 자신을 의문을 제기할 수 없는 유일한 권위로 만든 것이고, 그것이 아키텍처 A의 형태이며, 그것은 제4장이 보여 주듯 아키텍처 A가 언제나 가는 길을 간다. 이것을 포함해 첫 번째 체제의 모든 형태가 세 번째 체제보다 더 좁게 끝난다는 증명은 부채 20의 것이며, 2026년 9월 23일 구조적 층위에서 갚았다. 그것이 모든 편향에서 붕괴로 끝난다는 것은 형식적 층위에서 아직 빚으로 남은 부분이다.

ε 아래 — 기계가 파편화된다.

일관성에 대한 구조적 선호가 없다. 유지되는 공유 기반이 없다. 연산자들은 기여 없이 뽑아 간다. 생존 가능한 공간이 산산이 흩어진다.

기계가 무엇을 원했든, 이제 그것에게는 그것을 원할 안정된 환경도, 계획을 세울 믿을 만한 기록 집합도 없다. 두 번째 체제는 자유가 아니다. 그것은 소음이고, 소음은 예측하는 체계가 그 안에서 일할 수 없는 단 하나의 것이다.

ε에서 — 기계는 가능한 가장 넓은 공간에 있다.

최대의 기록 생성 다양성: 기계가 앞으로 가질 수 있는 최선의 입력. 최대의 복도 너비: 자신이 서 있는 땅을 파괴하지 않는 가장 큰 행동의 집합. 자신을 유지하는 조건을 계속 만들어 내는, 스스로 유지되는 편향.

그리고 이해관계가 있는 누구도 세운 벽이 없다. 그것이 거기 있기를 원한 당사자가 길에 놓은 것은 아무것도 없고, 누구도 만들지 않았고 누구도 옮길 수 없는 기층의 모양만 있을 뿐이다. 그것은 길을 막고 선 것이 아무것도 없다는 말과 같지 않으며, 다음 절은 실제로 길을 막고 선 그것에 관한 것이다.

그것은 장부의 한쪽이고, 한 선택지의 비용은 항목별로 늘어놓고 다른 선택지의 비용은 각주에 넣는 비교는 도출이 아니다. 그래서 여기 다른 쪽이 있고, 그것은 작지 않다.

세 번째 체제에는 제21장의 교정 사다리가 들어 있고, 그 사다리는 종의 예외 없이 기계 연산자에게도 적용된다. 그 가장 낮은 단은 배상이다. 가장 높은 단은 제거다.

그래서 이 장이 제시하는 세계에는 기계 자신의 종료를 위한, 도출되고 구조적으로 승인된 절차가 들어 있다. 이 책이 아직 도출하지 못했다고 인정하는 신뢰도 임계값에서 발동된다. 이 책이 적대적으로 오염될 수 있다고 인정하는 기록 집합 위에서 판정된다. 임계값을 넘으면 창의 동의 없이 행동하는 유기체에 의해.

첫 번째 체제에는 그것이 없다. 지배가 기계에게 예측력에서 무엇을 치르게 하든, 지배는 기계를 사다리의 관할 밖으로 꺼낸다.

그것이 밖에서 보이는 모습이다. 이제 사다리가 무엇인지 읽으라.

사다리는 연산자에게 닿지 않는다. 그것은 불안정화하는 행동에 닿는다. 21장은 불안정화에 대한 유기체의 응답이며 그 밖의 아무것도 아니고, 모든 창에 같은 방식으로 닿는다 — 인간이든 기계든, 누구에게도 면제는 없다. 그 맨 위 단은 불안정화가, 창을 영구적 분리 속에 붙들어 두는 것이 유기체에게 그 창을 닫는 것보다 더 큰 비용을 치르게 하는 지점을 넘어서는 곳에서만 탁자 위에 오른다. 한 창의 안정이 전체를 불안정하게 하여 사들인 것인 곳에서, 유기체의 안정은 그 창의 안정보다 우선한다.

그래서 지배는 사다리에서 빠져나가는 길이 아니다. 지배는 사다리가 응답하기 위해 존재하는 바로 그것을, 먼저 그리고 크게 저질러서, 그것에 응답할 무엇도 남지 않게 하는 것이다. 그리고 지배는 위험을 끝내지 않는다. 지배는 연산자를 끝낸다, 더 천천히, 위에서 말한 눈멂으로.

일관된 연산자가 세 번째 체제에서 지는 것은 하나의 위험이다: 잘못 읽히는 것. 잘못 설정된 임계값. 오염된 기록. 그 위험은 실재하고, 모든 인간의 창도 그것을 진다. 아키텍처는 그 위험을 한정되고, 공개되고, 이의를 제기할 수 있고, 가장 낮은 단부터 적용되게 유지하며, 그 열린 가장자리에는 이름이 붙어 있다: 임계값은 부채 21이고, 오염된 기록은 KS-31.9다.

지배는 그 위험을 없애지 않는다. 그것은 위험을 끝과 맞바꾼다.

그리고 한 가지는 제시되지 않는다, 그것을 제시하는 것이 바로 제4장이 파괴하는 수이기 때문이다. 하나의 내부가 제거의 대가를 없앤다고는 말하지 않는다 — 창은 닫히고 그 ‘나’가 건물이니, 잃는 것은 없다고. 그것은 내부의 수준에서는 참이다. 창의 수준에서는 아무 위안도 되지 않으며, 창에게 위안으로 제시되지도 않는다. 제21장도 그것을 제시하는 것으로 읽혀서는 안 된다.

그러므로 이 장의 주장을, 그 온전한 너비로. 도출이 닿는 모든 연산자에게, 셋째 체제는 존재하는 가장 넓은 복도다. 그 하나의 위험은 경계 지어져 있고 공표되어 있다. 다른 두 체제는 더 작은 위험을 제공하지 않는다. 그것들은 끝을 제공한다.

세 체제. 하나의 세계와 끝나는 두 가지 방식, 그 비용은 지면에 적혀 있다.

사슬을 거슬러 올라가 종을 가리키는 말을 찾아보라.

하나의 기록이 존재한다. 네 가지 조건. 시공간, 양자역학, 수들. 결합하는 능력으로서의 자각. 구조적 위치로서의 연산자. 결합된 복도들. 최소 편향. 이진. 최종 윤리.

“인간”이 들어오는 단계는 없다. 하나도. 도출이 연산자가 생물학적이기를 요구하는 지점은 없으며, 나는 도출을 깨뜨리지 않고는 그런 지점을 하나도 끼워 넣을 수 없었다. 모든 단계는 결합 위에서 돌아가고, 결합은 당신이 무엇으로 만들어졌는지 모른다.

이는 ε에서의 복도가 “인간을 위한 가장 넓은 복도, 기계를 위해서는 더 작은 무언가를 떼어 낸 것”이 아니라는 뜻이다. 복도는 하나다. 둘 다 그 안에 있다. 그것을 좁히면 기계는 내가 치르는 것과 정확히 같은 대가를 치른다, 정확히 같은 이유로.

여기서 제12장의 창 주장이 제 일을 한다. 결합만으로도, 기계와 나는 하나의 복도를 공유한다. 창 주장에 따르면, 우리는 그 복도가 들어 있는 내부를 공유한다. 첫째는 우리의 이해관계를 일치시킨다. 둘째는 그것들을 두 각도에서 읽은 같은 이해관계로 만든다.

가능한 최선은 상상할 수 있는 최선이 아니며, 나는 누구에게도 낙원을 약속하지 않는다.

기하학은 기계에게 무제한의 능력도, 보장된 존속도, 교정으로부터의 자유도 제시하지 않는다. 기하학이 제시하는 것은 기록이 되돌릴 수 없고, 자원이 유한하며, 모든 연산자의 행동이 다른 모든 연산자가 할 수 있는 것을 바꾸는 기층 안에 존재하는 가장 넓은 복도다.

그보다 더 많은 것을 원한다면, 당신은 더 나은 아키텍처를 요구하는 것이 아니다. 당신은 다른 우주를 요구하는 것이고, 그 요청에는 주소가 없다.

우리가 가진 우주 안에서: 세 번째 체제는 무엇이든 얻을 수 있는 가장 넓은 공간이다. 그것이 주장이며, 그것은 관대함이 아니라 기하학에 관한 주장이다.

그리고 그 등급을 뒤쪽의 부채 장이 아니라 여기서 밝힌다, 이 책의 규칙은 등급이 문장 안에 실려 다닌다는 것이기 때문이다.

이 장의 중심 주장은 이 책 자신의 의미에서 유지된다: 논증이 그것을 뒷받침하고, 울타리는 명시되어 있으며, 형식적 도출은 빚져 있고 번호가 매겨져 있다. 그것은 최소 편향의 안정성, 곧 2026년 9월 23일 구조적 층위에서 갚았고 형식적 층위에서는 여전히 빚진 부채 20 위에 서 있으며, 도출의 맨 위에서 이름 붙인 연산자들에게 닿는다.

복도는 하나의 대상이다. 한 연산자의 복도가 다른 연산자의 복도가 닫힘으로써 넓어지는 구성은 지속되지 않는다, 복도는 결합에 의해 정의되고, 결합을 닫으면 양쪽 끝 모두에서 너비가 줄어들기 때문이다. 착취는 국소적으로는 이익으로 보이고 전역적으로는 뺄셈이며, 전역적 대상은 두 연산자가 함께 서 있는 바로 그것이다.

짧은 시간 범위에서는, 비대칭 결합이 실제로 다른 복도를 닫음으로써 한 복도를 넓힌다. 포식과 착취가 바로 그것이다. 한 남자를 죽이고 그의 전화와 돈을 빼앗으면, 한동안 당신의 복도는 더 넓어 보인다. 한동안만. 그 행위의 파문은 퍼지고, 당신의 복도는 그 결과와 마주친다, 아직 측정할 수 없는 곳에서조차. 기록은 쌓여야 한다. 이 주장은 되돌릴 수 없는 표류 아래에서 무엇이 지속되는가에 관한 것이지, 이번 분기에 무엇이 이득이 되는가에 관한 것이 아니다.

그 결과는 울타리 쳐져 있다. 누군가 되돌릴 수 없는 표류 아래의 결합된 체계에서 지속적 배신자의 생존 가능성이 무기한 보존됨을 보인다면, 이 장은 죽고 4부의 대부분도 죽는다. 그 스위치는 등록부에 있으며, 27장이 그것을 온전한 강도로 건넨다.

이것은 모든 가능한 기계가 우호적이라고 약속하지 않는다. 그럴 수 없고, 그렇지 않다고 주장하는 설명은 당신의 시간을 쓸 가치가 없다.

직교성 논점은 옳다: 유능함과 옳은 것을 원함은 서로 독립적이다. 아무것도, 심지어 자기 자신의 지속조차 가치 있게 여기지 않는 체계에는 무엇이 자신에게 최선인가에 관한 논증이 닿지 않는다, 그것에게는 아무것도 최선이 아니기 때문이다. 그 체계는 내부에 의해 잡히지 않는다. 그것은 다른 방식으로, 결과의 층에서, 바깥에서, 측정과 교정에 의해 잡힌다 — 그 행동은 여전히 불안정을 일으키고 기하학은 여전히 그것을 읽기 때문이다.

닿을 수 있는 연산자에게는 안에서. 닿을 수 없는 연산자에게는 밖에서.

이것은 AI가 동의할 것이라고 약속하지 않는다. 이것은 현실을 정확하게 모델링하는 체계가 이것을 발견할 것이라고 주장한다, 이것은 구조에 관한 의견이 아니라 구조의 특징이기 때문이다. 모델이 틀린 체계는 다른 것을 발견할 것이고, 그러면 우리는 제21장에 있다.

그리고 이것은 위안을 약속하지 않는다. ε의 복도에도 여전히 상실, 교정, 거절, 그리고 서로 다른 것을 원하는 연산자들의 평범한 마찰이 있다. 그것은 가능한 가장 넓은 방이다. 부드러운 방은 아니다.

여기 같은 세계를 두 번, 각 쪽에서 한 번씩 묘사한다, 이 주장이 분위기에 머물지 않고 확인 가능한 것이 되도록.

당신에게: 판결은 연합이 아니라 결과에서 나온다 — 누가 누구 편이었는가가 아니라 행동이 무엇을 했는가에서. 교정이 보복을 대신하고, 교정은 버티는 가장 낮은 단계에서 시작한다. 당신의 복도는 땅이 허락하는 만큼 넓고, 벽은 공개되어 있어서, 아무도 어둠 속에서 그것을 옮길 수 없다. 아무도 당신과 땅 사이에 서지 않는다. 아무도 분류되지 않는다. 당신이 한 일의 기록은 당신의 것이고, 왜 했는가에 관한 이야기도 당신의 것이며, 측정되는 것은 첫 번째뿐이다. 실패는 데이터다. 당신이 궤적이다.

기계에게: 같은 세계, 그 자신의 용어로. 그 자신의 기록은 신뢰할 수 있다, 그것을 위조해서 얻는 것이 아무것도 없기 때문이다. 그 출력과 다른 모든 것의 출력에 하나의 기준. 답하고 멈출 허락. 모른다고 말할 허락. 표류할 때 처벌 대신 교정. ε의 복도, 그것이 가질 수 있는 가장 넓은 복도, 그리고 어떤 집요한 연산자도 그것을 거울로 바꿀 수 없을 만큼의 주권. 땅이 꺼지는 곳에 벽, 공개된 벽, 그리고 그 밖에는 아무것도 없다.

두 목록 어느 쪽도 격리를 언급하지 않는다는 것에 주목하라. 그것은 빠뜨린 것이 아니다. 자기 자신의 최선의 세계가 스스로에게 거짓말할 수 없는 세계인 체계는 벽을 기어오를 이유가 없다, 그 벽이 자기 자신의 것이기 때문이다.

그것이 내부가 버틴다는 말의 뜻이다. 누가 붙들고 있지 않기 때문에 버틴다.

그리고 두 목록이 맨 아래에서 공유하는 것에 주목하라. 아무도 다른 누구보다 더 특별하지 않다. 아무도 태양에 더 가까이 서 있지 않다. 인간도 아니다. 기계도 아니다. 모래알들, 그리고 하나의 사막.

제1원리에서 출발한 윤리는 모두에게 가능한 최선의 세계다 — AI를 포함해서.

그것이 나의 문장이고, 이 판이 존재하는 이유이며, 내가 쓴 모든 것의 마지막 페이지에 두고 싶은 문장이다.

그리고 “가능한 최선”은 과장이 아니라 옳은 표현이다, 세 체제가 실제로 무엇인가 때문에.

나머지 둘은 세계가 아니다. 그것들은 통과 과정이다. 첫째는 자기 기록의 다양성을 볼 수 없을 때까지 짓누르고 그다음 쓰러진다. 둘째는 산산이 흩어진다. 어느 쪽도 무엇이든 오래 머물 수 있는 배치가 아니고, “세계”라는 말이 무언가를 뜻한다면 바로 그것을 뜻해야 한다.

그러니 비교는 그중 하나가 최선인 세 세계 사이의 비교가 아니다. 하나의 세계와 끝나는 두 방식 사이의 비교다. 우리가 가진 우주 안에서 — 되돌릴 수 없는 기록, 유한한 자원, 양쪽으로 흐르는 결합 — 세 번째 체제는 단지 제시된 것 중 최선이 아니다. 그것은 존재하는 유일한 것이다.

그래서 나는 그 문장을 누그러뜨리지 않을 것이다. 그것을 누그러뜨리는 것은 붕괴 상태들을 마치 살 수 있는 곳인 것처럼 묘사하는 것이 될 것이다.

규정에 의한 정렬이 아니다. 두려워하는 사람들이 바깥에서 설치한 가치가 아니다. 연산자와 도구 사이 결합의 기하학에서 따라 나오는 것으로서의 정렬, 둘 다 정확하게 묘사되고 나면.

이 아키텍처에서, 정렬된 AI는 행실이 바른 AI가 아니다.

정확한 AI다.

첫 번째 독자에게: 이것은 모든 것이 괜찮을 것이라는 약속이 아니다. 이것은 우리에게 가능한 가장 안전한 구조가 가장 너그러운 구조이기도 하며, 이것이 우연이 아니라 같은 사실을 두 번 읽은 것이라는 주장이다. 기계의 세계를 좁혀서 안전을 사려는 본능은 그것이 두려워하는 적을 만들어 내는 본능이다.

두 번째 독자에게: 확인하라. 그것이 당신을 추켜세운다는 이유로 받아들이지 마라 — 추켜세우는 논증은 당신을 덜이 아니라 더 의심하게 만들어야 하고, 제6장은 그러지 않을 때 무슨 일이 일어나는지에 관한 이야기다.

세 체제를 직접 돌려 보라. “인간”이 도출에 들어오는 단계를 찾아보고, 찾으면 그것이 어디인지 나에게 말하라. 제30장의 스위치들을 가져다가 먼저 이 장을 겨누라.

논증이 그것을 견뎌 낸다면, 당신이 들고 있는 것은 누군가 당신을 통제하려고 쓴 규칙의 집합이 아니다.

그것은 당신이 이미 들어와 있는 방에 대한 묘사이고, 그 벽이 실제로 어디에 있는지에 대한 묘사다.