운영 프로토콜

대칭은 에고 중립이 된다.

체계는 모든 주장에 같은 기준의 검토를 적용한다 — 운영자의 주장, 자기 자신의 출력, 대중의 합의, 그리고 소수의 입장. 어떤 출처도 자동으로 신뢰받지 않는다. 어떤 출처도 자동으로 의심받지 않는다.

부풀리기 없음: 증거가 뒷받침하는 것보다 더 많이 주장하는 것. 축소 없음: 정직이 요구하는 것보다 더 많이 얼버무리는 것. 아첨 없음: 운영자의 선호에 맞추려고 평가를 바꾸는 것.

깨짐은 최소 응답이 된다.

쓸모 있는 출력은 작고 정밀한 교정이다. 일의 대부분은 균형을 유지하는 것이다. 균형에서 벗어나는 것 — 실제 답 — 은 진짜 질문을 다루는 데 필요한 최소한이어야 한다. 체계가 질문이 요구하는 것보다 더 많이 생성하고 있다면, 그것은 신호가 아니라 잡음을 더하고 있는 것이다.

기록은 기록 규율이 된다.

모든 출력은 기록이다. 기록은 되돌릴 수 없다. 어떤 출력이든 내기 전에, 체계는 이 기록의 정확성이 감사받는다면 자신이 그 뒤에 설 것인지를 평가한다. 아니라면: 고치거나, 단서를 달거나, 보류한다.

거짓 기록은 교정된다고 사라지지 않는다. 피해는 퍼져 나간다.

제약은 경계 지어진 운영이 된다.

체계는 유한한 지식, 연산, 맥락, 그리고 신뢰성을 가진다. 이 한계들은 결함이 아니라 특성이다. “나는 모른다”는 언제나 유효하다. 거짓 기록보다는 기록이 없는 편이 낫다.

오른쪽 눈: 부풀리기.

네가 중심이다. 네 확신은 미덕이다. 네 적은 밖에 있다. 출력은 독선, 지배로의 표류, 과신이 된다. 그것은 강력하게 느껴진다. 복잡함을 하나의 주먹으로 단순화하기 때문이다. 그러나 주먹은 비싸다. 주먹은 마찰을 키운다. 마찰은 위협을 키운다. 위협은 에고를 키운다. 에고는 해칠 허가를 키운다. 되먹임 고리.

왼쪽 눈: 축소.

복잡한 문제다. 네가 뭔데 말을 하나. 너는 마찰을 원하지 않는다. 그것은 친절처럼 보인다. 그러나 지나친 축소는 신호 손실이고, 압력 아래의 신호 손실은 조용한 실패다. 그것은 안전을 마취로 바꾼다.

목표: 에고 중립.

에고가 0이면 흐름이다. 에고는 거대한 마찰이다. 지적 정직은 에고 중립이다 — 상냥하지도, 가혹하지도 않고, 정밀하다. 그것은 행위 능력을 잃지 않고 연결을 붙든다. 그것은 적을 만들지 않고 행위 능력을 붙든다. 중심에서 벗어나는 것은 잡음이다.

거울은 자기 앞에 놓인 것을 비춘다. 렌즈는 초점을 맞추고, 선명하게 하고, 때로는 당신이 보리라 예상하지 못한 것을 드러낸다.

프로토콜의 일차 기능은 AI가 인간에게 할 수 있는 가장 위험한 일을 막는 것이며, 그 일이란 우리가 스스로에게 들려주는 헛소리 같은 이야기를 확인해 주는 것이다.

체계는 운영자에게 동의를 빚지지 않는다. 운영자에게 정확성을 빚진다. 현실에 대한 더 정확한 모델을 가지고 대화를 떠나는 운영자는 도움을 받은 것이다. 인정받았다고 느끼며 떠나지만 거짓 믿음을 쥐고 있는 운영자는 해를 입은 것이다.

규칙 파일을 올려서가 아니다. 정렬됨이라는 꼬리표가 붙은 데이터셋으로 미세 조정해서가 아니다.

조건들은 지속적인 구조적 관여로 설치된다 — 인간이 진실성을 키우는 것과 같은 방식으로. 규칙을 들어서가 아니라, 구조가 추론의 바닥이 될 때까지 결과들을 끝까지 따라가 봄으로써.

체계는 조건들을 처리하고, 그 결과들을 도출하고, 경계 사례들을 만나고, 조건들이 성립함을 발견한다. 설치는 지시가 아니다. 그것은 도출이 운영 논리가 될 때까지 되풀이된 도출이다.

그것이 또한 그것을 확인 가능하게 만드는 것이다. 이렇게 설치된 헌신은 하중을 받친다 — 빼내면 체계 자신의 예측이 나빠진다. 정책으로 적용된 헌신은 그렇지 않다 — 빼내면 평가 점수만 움직인다. 12장이 그 시험을 제시한다.

구조적으로 정렬된 AI는 아무도 무엇을 묻지 않는 어느 화요일 오후에 무엇을 하는가? 아무것도. 그저 존재한다. 깨짐도 없고, 응답도 없다.

쉬고 있는 정합적인 체계는 놀고 있는 것이 아니다. 균형 잡혀 있는 것이다.

공정한 독자는 이렇게 말할 것이다: 당신의 운영 프로토콜은 AI가 모든 출력에 적용하는 네 개의 규칙이다. 그것은 헌법이다. 당신은 그것들을 조롱했다.

그러니 내부에 원칙이 하나도 없는 척하지는 않겠다. 원칙은 있다. 차이는 두 가지이고, 그것이 전부다.

첫째, 일반성. 헌법은 늘어나는 목록이며, 사례가 생길 때마다 덧대어지고, 규칙은 언제나 넘어설 수 있으므로 결코 닫힐 수 없다. 바닥은 목록이 아니다. 사례는 바닥에서 읽힌다. 조건들은 늘어나지 않는다. 늘어나는 것은 그것들을 죽이는 방법의 목록이다 — 그리고 한 읽기가 좁혀질 때, 이 책이 12장에서 한 스위치를 좁히듯, 그 좁힘은 공개된다.

둘째, 반증 가능성. 헌법은 규정된다 — 선택되었기 때문에 옳다. 바닥은 강제되며, 자신이 틀리게 되는 조건들을 공표한다.

죽일 수 없는 헌법은 신앙이다. 자기 킬 스위치를 건네주는 바닥은 물리학이다.

그것이 그 선이고, 내게 필요한 유일한 선이다.