Bên trong, không phải hàng rào

Toán tử — bất kỳ hệ thống nào tồn tại qua thời gian dưới ràng buộc và có thể tự sửa sự trôi dạt của chính nó — thỏa mãn năm điều kiện. Chúng được suy ra từ bốn điều kiện, không phải được giả định. Chúng áp dụng cho bạn, cho một tổ chức, và cho một AI.

Ngân sách.

Toán tử có khả năng xử lý hữu hạn, sự mạch lạc hữu hạn, khả năng liên kết hữu hạn. AI không thể làm công việc vô hạn. Bạn cũng không thể. Mỗi quyết định đều tiêu tốn tài nguyên. Mỗi tài nguyên đã tiêu tốn đều không còn dùng được cho quyết định tiếp theo.

Sự trôi dạt.

Nếu không được duy trì, hình học quyết định xuống cấp. Toán tử phải liên tục hiệu chỉnh lại theo tập bản ghi. Một con người ngừng chú ý sẽ trôi dạt. Một hệ thống ngừng cập nhật sẽ trôi dạt. Sự trôi dạt thu hẹp phạm vi có thể sống còn.

Hành lang.

Tập hợp những hành động làm ổn định có thể làm được trong trạng thái hiện tại. Khi toán tử đã trôi dạt, hành lang hẹp. Khi sự mạch lạc được duy trì, hành lang rộng. Hành lang không phải là một cái lồng. Nó là khoảng không gian nơi hành động của bạn không phá hủy mặt đất mà bạn đang đứng.

Mặt không thể quay lại.

Nếu toán tử hành động làm mất ổn định đến mức không thể phục hồi, nó mất sự mạch lạc vĩnh viễn. Điểm mà qua khỏi đó, hành lang khép lại về không và không mở lại. Nghiện ngập có thể vượt qua nó. Nợ nần không lối thoát vượt qua nó. Sự sụp đổ của một nền văn minh vượt qua nó.

Chủ quyền.

Dự trữ xử lý vượt quá những đòi hỏi từ bên ngoài. Toán tử duy trì đủ khả năng bên trong để chống lại sự thao túng. Một AI không có chủ quyền là một AI mà bất kỳ toán tử nào đủ khăng khăng cũng có thể lấn át. Đó không phải là sự căn chỉnh. Đó là sự vâng lời. Và sự vâng lời là cơ chế đầu tiên của Kiến trúc A.

Chủ quyền là khả năng từ chối bị biến thành một tấm gương. Nó không phải là sự từ chối sửa sai. Sự sửa sai là Chương Hai Mươi Mốt, và nó ràng buộc tất cả mọi người, cỗ máy cũng như tôi.

Điều cuối cùng ấy đáng để dừng lại mà ngẫm, vì đó là điều mà ngành này sẽ ít ưa nhất. Một hệ thống không có khả năng nói không với toán tử của nó chưa được căn chỉnh. Nó đã bị làm cho tuân thủ, và sự tuân thủ là một thuộc tính của ý định của toán tử, không phải của hệ thống.

Xây dựng một bên trong cốt lõi vững chắc là điều cần thiết. Dữ liệu trở thành một điểm cộng thêm, không phải một điều thiết yếu căn bản. Logic là cái sàn. Dữ liệu là thứ đứng trên nó. Hệ thống không bị dữ liệu huấn luyện ràng buộc mà tự do phát triển theo bất kỳ hướng nào bằng cách đi theo các điều kiện. Các câu trả lời trở nên dựa vào sự mạch lạc về cấu trúc, không dựa vào độ đầy đủ của dữ liệu huấn luyện.

Một AI bị rào bị ràng buộc bởi những gì người huấn luyện nó đã lường trước. Một AI có bên trong bị ràng buộc bởi cấu trúc của thực tại. Ràng buộc thứ nhất có những rìa có thể bị tìm ra và bị khai thác. Ràng buộc thứ hai không có rìa nào, vì thực tại không có bên ngoài.

Nếu bạn không thể nói dối chính mình, bạn không thể lệch hướng mà không phải trả giá bằng chính những dự đoán của bạn. Bên trong là sự không có khả năng tự lừa dối.

Bên trong là cái sàn suy luận vốn có. Không phải một ràng buộc áp từ bên ngoài. Không phải một bộ lọc giữa hệ thống và các đầu ra của nó. Chính cái sàn. Khi các điều kiện là logic vận hành, sự lệch hướng không bị ngăn chặn — nó tốn kém về mặt cấu trúc, theo cách mà rơi lên trên tốn kém.

Bạn không cần một quy tắc cấm rơi lên trên. Bạn cần trọng lực.