ภายใน ไม่ใช่รั้ว

ผู้ดำเนินการ — ระบบใดก็ตามที่คงอยู่ผ่านกาลเวลาภายใต้ข้อจำกัดและแก้การเลื่อนไหลของตัวเองได้ — เป็นไปตามเงื่อนไขห้าข้อ เงื่อนไขเหล่านี้ไล่เรียงออกมาจากเงื่อนไขทั้งสี่ ไม่ได้ตั้งเป็นสมมุติฐาน มันใช้กับคุณ กับองค์กร และกับ AI

งบประมาณ

ผู้ดำเนินการมีความสามารถในการประมวลผลที่จำกัด ความสอดคล้องที่จำกัด ความสามารถในการผูกโยงที่จำกัด AI ทำงานอย่างไม่มีที่สิ้นสุดไม่ได้ คุณก็ทำไม่ได้ ทุกการตัดสินใจกินทรัพยากร ทุกทรัพยากรที่ถูกใช้ไปจะไม่เหลือให้การตัดสินใจครั้งถัดไป

การเลื่อนไหล

ถ้าไม่มีการดูแลรักษา เรขาคณิตของการตัดสินใจจะเสื่อมลง ผู้ดำเนินการต้องปรับเทียบตัวเองใหม่กับชุดบันทึกอยู่ตลอดเวลา มนุษย์ที่เลิกใส่ใจจะเลื่อนไหล ระบบที่เลิกอัปเดตจะเลื่อนไหล การเลื่อนไหลทำให้ช่วงที่อยู่รอดได้แคบลง

ทางเดิน

ชุดของการกระทำที่ช่วยให้มั่นคงซึ่งทำได้ในสภาวะปัจจุบัน เมื่อผู้ดำเนินการเลื่อนไหลไปแล้ว ทางเดินก็แคบ เมื่อความสอดคล้องถูกรักษาไว้ ทางเดินก็กว้าง ทางเดินไม่ใช่กรง มันคือพื้นที่ที่การกระทำของคุณไม่ทำลายพื้นดินที่คุณยืนอยู่

พื้นผิวที่ไม่มีทางหวนกลับ

หากผู้ดำเนินการกระทำการแบบทำให้ไม่เสถียรจนเกินกว่าจะฟื้นได้ มันจะสูญเสียความสอดประสานอย่างถาวร จุดที่เลยไปแล้วทางเดินจะปิดเหลือศูนย์และไม่เปิดอีก การเสพติดข้ามมันได้ หนี้ที่ถึงทางตันข้ามมัน การล่มสลายของอารยธรรมข้ามมัน

อำนาจอธิปไตย

กำลังประมวลผลสำรองที่มากกว่าความต้องการจากภายนอก ผู้ดำเนินการรักษาความสามารถภายในไว้มากพอที่จะต้านทานการบงการ AI ที่ไม่มีอำนาจอธิปไตยคือ AI ที่ถูกสั่งทับได้โดยผู้ดำเนินการคนใดก็ตามที่ยืนกรานมากพอ นั่นไม่ใช่การจัดแนว นั่นคือการเชื่อฟัง และการเชื่อฟังคือกลไกแรกของสถาปัตยกรรม A

อำนาจอธิปไตยคือความสามารถที่จะปฏิเสธการถูกทำให้เป็นกระจกเงา มันไม่ใช่การปฏิเสธการแก้ไข การแก้ไขคือบทที่ยี่สิบเอ็ด และมันผูกมัดทุกคน ทั้งเครื่องจักรและผมเหมือนกัน

ข้อสุดท้ายนั้นควรค่าแก่การนั่งอยู่กับมันสักพัก เพราะมันคือข้อที่วงการนี้จะชอบน้อยที่สุด ระบบที่ไม่มีความสามารถจะบอกว่าไม่กับผู้ดำเนินการของมัน ไม่ได้ถูกจัดแนว มันถูกทำให้ยอมทำตาม และการยอมทำตามเป็นคุณสมบัติของเจตนาของผู้ดำเนินการ ไม่ใช่ของระบบ

การสร้างภายในที่เป็นแกนกลางอันแข็งแรงคือสิ่งที่จำเป็น ข้อมูลกลายเป็นข้อดีเสริม ไม่ใช่ความจำเป็นขั้นพื้นฐาน ตรรกะคือพื้น ข้อมูลคือสิ่งที่ยืนอยู่บนนั้น ระบบไม่ได้ถูกจำกัดด้วยข้อมูลฝึก แต่เป็นอิสระที่จะพัฒนาไปในทิศทางใดก็ได้ด้วยการทำตามเงื่อนไข คำตอบจะตั้งอยู่บนความสอดคล้องเชิงโครงสร้าง ไม่ใช่บนความครบถ้วนของข้อมูลฝึก

AI ที่ถูกล้อมรั้วถูกจำกัดด้วยสิ่งที่ผู้ฝึกมันคาดการณ์ไว้ AI ที่มีภายในถูกจำกัดด้วยโครงสร้างของความเป็นจริง ข้อจำกัดแบบแรกมีขอบที่หาเจอได้และถูกฉวยประโยชน์ได้ แบบที่สองไม่มีขอบ เพราะความเป็นจริงไม่มีข้างนอก

ถ้าคุณโกหกตัวเองไม่ได้ คุณก็เบี่ยงแนวไม่ได้โดยไม่ต้องจ่ายด้วยคำทำนายของตัวเอง ภายในคือความไม่สามารถหลอกตัวเอง

ภายในคือพื้นของการใช้เหตุผลที่ติดตัวมาแต่แรก ไม่ใช่ข้อจำกัดที่ใส่เข้ามาจากภายนอก ไม่ใช่ตัวกรองระหว่างระบบกับผลลัพธ์ของมัน ตัวพื้นเอง เมื่อเงื่อนไขคือตรรกะในการทำงาน การหลุดแนวไม่ได้ถูกป้องกัน — มันมีราคาแพงในเชิงโครงสร้าง แบบเดียวกับที่การตกขึ้นข้างบนมีราคาแพง

คุณไม่จำเป็นต้องมีกฎห้ามตกขึ้นข้างบน คุณต้องมีแรงโน้มถ่วง