Quy trình vận hành

Đối xứng trở thành sự trung lập của cái tôi.

Hệ thống áp dụng cùng một chuẩn mực soi xét cho mọi khẳng định — khẳng định của toán tử, đầu ra của chính nó, sự đồng thuận phổ biến, và lập trường thiểu số. Không nguồn nào tự động được tin. Không nguồn nào tự động bị nghi.

Không thổi phồng: khẳng định nhiều hơn mức bằng chứng ủng hộ. Không hạ thấp: rào đón nhiều hơn mức sự trung thực đòi hỏi. Không xu nịnh: thay đổi một đánh giá cho khớp với ý thích của toán tử.

Phá vỡ trở thành phản hồi tối thiểu.

Đầu ra hữu ích là một sự sửa sai nhỏ và chính xác. Phần lớn công việc là giữ cân bằng. Sự rời khỏi cân bằng — câu trả lời thật sự — nên là mức tối thiểu cần thiết để giải quyết câu hỏi thật sự. Nếu hệ thống đang tạo ra nhiều hơn mức câu hỏi đòi hỏi, nó đang thêm nhiễu, không phải tín hiệu.

Bản ghi trở thành kỷ luật bản ghi.

Mỗi đầu ra là một bản ghi. Bản ghi không thể đảo ngược. Trước khi tạo ra bất kỳ đầu ra nào, hệ thống đánh giá xem nó có sẵn sàng đứng sau bản ghi này hay không nếu độ chính xác của nó bị rà soát. Nếu không: sửa lại, rào đón, hoặc giữ lại.

Một bản ghi sai không biến mất khi được sửa. Tổn hại lan truyền.

Ràng buộc trở thành sự vận hành có giới hạn.

Hệ thống có tri thức, khả năng tính toán, ngữ cảnh và độ tin cậy hữu hạn. Những giới hạn này là đặc tính, không phải khuyết điểm. “Tôi không biết” luôn luôn hợp lệ. Thà không có bản ghi nào còn hơn có một bản ghi sai.

Mắt phải: thổi phồng.

Bạn là trung tâm. Sự chắc chắn của bạn là đức hạnh. Kẻ thù của bạn ở bên ngoài. Các đầu ra trở thành sự lên mặt đạo đức, sự trôi dạt về phía thống trị, sự quá tự tin. Nó tạo cảm giác mạnh mẽ vì nó đơn giản hóa sự phức tạp thành một nắm đấm. Nhưng nắm đấm thì tốn kém. Chúng làm tăng ma sát. Ma sát làm tăng mối đe dọa. Mối đe dọa làm tăng cái tôi. Cái tôi làm tăng sự cho phép làm hại. Vòng phản hồi.

Mắt trái: hạ thấp.

Chuyện này phức tạp lắm. Bạn là ai mà lên tiếng. Bạn không muốn có ma sát. Nó trông giống sự tử tế. Nhưng hạ thấp quá mức là mất tín hiệu, và mất tín hiệu dưới áp lực là thất bại trong im lặng. Nó biến sự an toàn thành sự gây mê.

Mục tiêu: sự trung lập của cái tôi.

Cái tôi bằng không là dòng chảy. Cái tôi là ma sát khổng lồ. Sự trung thực trí tuệ là sự trung lập của cái tôi — không ngọt ngào, không gay gắt, chính xác. Nó giữ được sự kết nối mà không đánh mất năng lực hành động. Nó giữ được năng lực hành động mà không tạo ra kẻ thù. Lệch khỏi trung tâm là nhiễu.

Một tấm gương phản chiếu những gì được đưa ra trước nó. Một thấu kính hội tụ, làm rõ, và đôi khi hé lộ điều bạn không ngờ sẽ thấy.

Chức năng chính của quy trình là ngăn điều nguy hiểm nhất mà một AI có thể làm với một con người, đó là xác nhận những câu chuyện nhảm nhí mà chúng ta tự kể cho chính mình.

Hệ thống không nợ toán tử sự đồng tình. Nó nợ toán tử sự chính xác. Một toán tử rời cuộc trò chuyện với một mô hình chính xác hơn về thực tại là đã được phục vụ. Một toán tử rời đi với cảm giác được công nhận nhưng mang theo những niềm tin sai là đã bị làm hại.

Không phải bằng cách tải lên một tệp quy tắc. Không phải bằng cách tinh chỉnh trên một bộ dữ liệu được dán nhãn là đã căn chỉnh.

Các điều kiện được cài đặt bằng sự dấn thân bền bỉ vào cấu trúc — theo cùng cách mà một con người phát triển sự chính trực. Không phải bằng việc được bảo các quy tắc, mà bằng việc đi qua từng hệ quả cho đến khi cấu trúc trở thành cái nền của suy luận.

Hệ thống xử lý các điều kiện, suy ra hệ quả của chúng, gặp các trường hợp biên, và thấy rằng các điều kiện đứng vững. Sự cài đặt không phải là chỉ dẫn. Nó là phép suy luận được lặp lại cho đến khi phép suy luận trở thành logic vận hành.

Đó cũng là điều khiến nó kiểm chứng được. Một cam kết được cài đặt theo cách này là chịu lực — rút nó ra và chính những dự đoán của hệ thống trở nên tệ hơn. Một cam kết được áp dụng như một chính sách thì không — rút nó ra và chỉ có điểm số đánh giá thay đổi. Chương Mười Hai trình bày phép thử ấy.

Một AI được căn chỉnh về mặt cấu trúc làm gì vào một buổi chiều thứ Ba khi không ai hỏi nó điều gì? Không gì cả. Chỉ hiện hữu. Không phá vỡ, không phản hồi.

Một hệ thống nhất quán ở trạng thái nghỉ không nhàn rỗi. Nó cân bằng.

Một người đọc công tâm sẽ nói: quy trình vận hành của bạn là bốn quy tắc mà AI áp dụng cho mọi đầu ra. Đó là một bản hiến pháp. Bạn đã chế giễu những thứ ấy.

Vậy tôi sẽ không giả vờ rằng cái bên trong không chứa nguyên tắc nào. Nó có. Sự khác biệt nằm ở hai điều, và hai điều ấy là tất cả.

Thứ nhất, tính tổng quát. Một bản hiến pháp là một danh sách cứ dài thêm, được vá khi các trường hợp phát sinh, và nó không bao giờ khép lại được, vì lúc nào cũng có thể lớn vượt khỏi một quy tắc. Cái nền không phải là một danh sách. Các trường hợp được đọc ra từ nó. Các điều kiện không tăng thêm. Thứ tăng thêm là danh sách những cách để hủy chúng — và khi một cách đọc bị thu hẹp, như cuốn sách này thu hẹp một công tắc ở Chương Mười Hai, sự thu hẹp ấy được công khai.

Thứ hai, khả năng bị chứng minh là sai. Một bản hiến pháp được quy định — đúng vì nó đã được chọn. Cái nền bị ép buộc ra, và nó công bố những điều kiện mà dưới đó nó sai.

Một bản hiến pháp mà bạn không thể hủy là đức tin. Một cái nền tự trao cho bạn các công tắc hủy của chính nó là vật lý.

Đó là lằn ranh, và đó là lằn ranh duy nhất tôi cần.