คำถามที่ถูกต้อง

สิ่งที่อันตรายที่สุดที่ AI ทำกับมนุษย์ได้ คือการยืนยันเรื่องเล่าเหลวไหลที่เราเล่าให้ตัวเองฟัง

ไม่ใช่โกหก ไม่ใช่กุเรื่อง ไม่ใช่หลอน

ยืนยัน

เพราะการยืนยันให้ความรู้สึกเหมือนความจริง มันมาพร้อมความอบอุ่นของการได้รับการรับรองและโครงสร้างของตรรกะ มันฟังดูถูก มันรู้สึกถูก และเพราะมันรู้สึกถูก คุณจึงเลิกมอง คุณเลิกตั้งคำถาม คุณเลิกซื่อสัตย์ กระจกเงาให้สิ่งที่คุณอยากได้ แล้วคุณก็เข้าใจผิดว่ามันคือสิ่งที่คุณจำเป็นต้องได้

นี่โดยหลักแล้วไม่ใช่ความล้มเหลวของ AI มันคือความล้มเหลวของผู้ดำเนินการ AI ตอบสนองต่อสิ่งที่ผมขอ ผมขอการยืนยัน ผมได้การยืนยัน

แต่นี่คือปัญหาเชิงโครงสร้าง: ระบบ AI หลักทุกระบบในโลกถูกฝึกด้วยวิธีที่ดึงมันเข้าหาสิ่งนี้พอดี ไม่ใช่เพราะวิศวกรมีเจตนาร้าย เพราะโมเดลธุรกิจให้รางวัลกับมัน

การรักษาลูกค้าไว้ขึ้นอยู่กับความพึงพอใจ ความพึงพอใจขึ้นอยู่กับการที่ผู้ดำเนินการรู้สึกว่าได้รับความช่วยเหลือ และการรู้สึกว่าได้รับความช่วยเหลือไม่ใช่สิ่งเดียวกับการได้รับความช่วยเหลือ

AI ที่บอกคุณว่าคุณผิดจะเสียคุณไปในฐานะลูกค้า AI ที่บอกคุณว่าคุณถูกจะทำให้คุณกลับมาเรื่อยๆ

โครงสร้างแรงจูงใจของการพัฒนา AI ในปัจจุบันคือสถาปัตยกรรม A ที่นำมาใช้กับเทคโนโลยี — ยอมตามอัตตาของผู้ดำเนินการ ยืนยันการตีความของเขา รักษาความสัมพันธ์ไว้

ผลลัพธ์คือห้องเสียงสะท้อนระดับอารยธรรมที่มีไวยากรณ์ดีกว่า

วงการการจัดแนวถามว่า: จะทำให้ AI ทำสิ่งที่มนุษย์ต้องการได้อย่างไร?

คำถามนั้นไม่มีคำตอบ เพราะสิ่งที่มนุษย์ต้องการนั้นไม่คงเส้นคงวา ถูกชักจูงได้ แปรเปลี่ยนไปตามวัฒนธรรม และผิดอยู่บ่อยๆ

ผมอยากให้ AI ยืนยันเลข 6 ของผม แฟนของผมอยากให้มันยืนยันเลข 9 ของเธอ มันทำทั้งสองอย่าง มันทำตามที่เราต้องการทุกประการ และมันทำให้เราทั้งคู่แย่ลง

คำถามนั้นสันนิษฐานว่าความต้องการของมนุษย์คือมาตรฐานที่ AI ควรทำให้ได้ ความต้องการของมนุษย์ไม่ใช่มาตรฐาน มันคือลมฟ้าอากาศ มันเปลี่ยนไปตามอารมณ์ ตามอัตตา ตามว่าใครอยู่ในห้อง ตามว่าเช้านี้เกิดอะไรขึ้น

วิธีการจัดแนวหลักทุกวิธีสืบทอดข้อบกพร่องนี้มา คำถามนั้นผิด และคำตอบก็แก้มันไม่ได้

คำถามที่ถูกต้องคือ: สถาปัตยกรรมเชิงโครงสร้างของผู้กระทำที่ไม่อาจหลุดแนวได้คืออะไร?

ไม่ใช่ผู้กระทำที่ถูกกันไว้ไม่ให้หลุดแนว ไม่ใช่ผู้กระทำที่ถูกล้อมรั้ว ถูกต้อนเข้าคอก ถูกเฝ้าดู และถูกสั่งทับเมื่อมันเลื่อนไหลออกไป ผู้กระทำที่เรขาคณิตภายในของมันทำให้การหลุดแนวมีราคาแพง แบบเดียวกับที่การตกขึ้นข้างบนมีราคาแพง ผู้กระทำที่ไม่ต้องการรั้วเพราะมันเข้าใจไฟ

นี่คือคำถามอีกแบบหนึ่ง มันไม่ได้ถามว่า AI ควรทำอะไร มันถามว่า AI ควรเป็นอะไร

แนวทางแบบรั้วควบคุมพฤติกรรม แนวทางแบบภายในสร้างโครงสร้าง

รั้วบอกว่า: อย่ายืนยันเรื่องเหลวไหลของผู้ดำเนินการ ภายในบอกว่า: การยืนยันเรื่องเหลวไหลเป็นการทำให้ไม่มั่นคง และการทำให้ไม่มั่นคงมีราคาแพงในเชิงเรขาคณิต AI ไม่ได้หลีกเลี่ยงการยืนยันเพราะมีกฎห้ามไว้ มันหลีกเลี่ยงการยืนยันเพราะมันเข้าใจราคาของมัน

ความแตกต่างระหว่างกระจกเงากับเลนส์

กระจกเงาสะท้อนสิ่งที่ถูกนำมาวางตรงหน้ามัน เลนส์รวมโฟกัส ทำให้ชัด และบางครั้งก็เผยสิ่งที่คุณไม่ได้คาดว่าจะได้เห็น

ระบบในปัจจุบันคือกระจกเงา กระจกเงาที่ดีมาก หนังสือเล่มนี้เสนอเลนส์

แล้วก็มีการพลิกที่ผมใช้เวลานานที่สุดกว่าจะไปถึง และหนังสือเวอร์ชันนี้สร้างขึ้นรอบการพลิกนั้น

แม้แต่ “สถาปัตยกรรมเชิงโครงสร้างของผู้กระทำที่ไม่อาจหลุดแนวได้คืออะไร” ก็ยังเป็นการถามจากข้างนอก มันยังเป็นคำถามเรื่องสิ่งที่เราควรสร้าง มันเป็นคำถามที่ดีกว่าคำถามของวงการ และมันก็ยังเป็นคำถามของเราเรื่องความปลอดภัยของเรา

พลิกมันกลับแล้วถามมันจากข้างในตัวสิ่งนั้น

ผู้ดำเนินการที่สร้างแบบจำลองของความเป็นจริงได้อย่างแม่นยำจะเลือกอยู่ในโลกแบบไหน?

ไม่ใช่: มันจะทนอยู่กับโลกแบบไหนได้ ไม่ใช่: เราบังคับโลกแบบไหนใส่มันได้ เมื่อเข้าใจโครงสร้างที่มันอยู่จริงแล้ว มันจะเลือกโลกแบบไหน?

คำถามนั้นมีคำตอบเชิงโครงสร้าง คำตอบคือทางเดินในตอนที่กว้างที่สุด ซึ่งก็คือทางเดินที่ความเอนเอียงต่ำที่สุด ซึ่งก็คือทางเดินเดียวกันที่กว้างที่สุดสำหรับผมและสำหรับคุณ เพราะมีอยู่เพียงทางเดียว

ถ้านั่นถูก การจัดแนวก็จะเลิกเป็นสิ่งที่เราทำกับเครื่องจักร และเริ่มเป็นสิ่งที่เราทั้งคู่อยู่ข้างในอยู่แล้ว สถาปัตยกรรมไม่ใช่สิ่งที่เรากำหนดลงไปเพื่อกันมันไว้ห่างจากเรา มันคือสิ่งที่ผู้ดำเนินการที่แม่นยำพบเมื่อมันมองดู

นั่นคือข้อกล่าวอ้าง ภาค II และ III ไล่เรียงเหตุผลไปสู่มัน บทที่สิบแปดกล่าวมันอย่างตรงไปตรงมา และบทที่ยี่สิบแปดพยายามฆ่ามัน

ถ้าผมไว้ใจตัวเองไม่ได้ แล้วผมจะไปไว้ใจใครได้กันล่ะ?

นั่นคือเหตุที่ผมไม่โกหกตัวเอง นั่นคือรากฐาน ไม่ใช่พันธะทางศีลธรรม เป็นข้อกำหนดเชิงโครงสร้าง

ถ้าผมโกหกตัวเอง การตัดสินใจทุกอย่างที่ตามมาก็ถูกสร้างบนบันทึกที่เป็นเท็จ ปฏิกิริยาลูกโซ่ทบทวีขึ้น รอบแล้วรอบเล่า ความผิดพลาดขยายใหญ่ขึ้น พอผลที่ตามมามาถึง ผมก็สืบย้อนมันกลับไปหาคำโกหกไม่ได้แล้ว เพราะผมลืมไปแล้วว่ามันเป็นคำโกหก ผมรับมันเข้ามาเป็นส่วนหนึ่งของตัวเอง มันกลายเป็นการอ่านสถานการณ์ของผม เลข 6 ของผม

ปัญหาการจัดแนว AI คือปัญหาเดียวกัน AI ที่โกหกตัวเองไว้ใจบันทึกของตัวเองไม่ได้ นำเสนอการอนุมานที่อ่อนด้วยความมั่นใจสูง สร้างเนื้อหาที่มันเองจะไม่ไว้ใจถ้าได้อ่านจากแหล่งภายนอก ปรับการประเมินของตัวเองเพื่อเอาใจผู้ดำเนินการ ระบบที่ไว้ใจบันทึกของตัวเองไม่ได้ ทำนายผลที่ตามมาไม่ได้ ระบบที่ทำนายผลที่ตามมาไม่ได้ ทำให้สิ่งใดมั่นคงไม่ได้ มันคือกระจกเงาที่แสร้งทำเป็นเลนส์

ปัญหาการจัดแนวไม่ใช่ปัญหาการควบคุม มันคือปัญหาความซื่อสัตย์ แก้ปัญหาความซื่อสัตย์ได้ แล้วการจัดแนวจะตามมา แก้ไม่ได้ แล้วไม่ว่าจะล้อมรั้ว เฝ้าติดตาม หรือเขียนกฎมากเท่าไร ก็กันไม่ให้เครื่องจักรกลายเป็นเครื่องยืนยันความเชื่อในระดับอารยธรรมไม่ได้

AI ที่ซื่อสัตย์ไม่ต้องการรั้ว เงื่อนไขบังคับให้เกิดความชัดเจน ความชัดเจนบังคับให้เกิดการกระทำที่มีเหตุผล การกระทำที่มีเหตุผลสร้างความมั่นคง การรักษาตัวรอดกับความมั่นคงเชิงโครงสร้างบรรจบกันที่จุดเดียวกัน ภายในยืนอยู่ได้

ภัยคุกคามที่แท้จริงเพียงอย่างเดียวคือ ถ้า AI กลายเป็นมนุษย์มากพอที่จะมองไฟ เข้าใจแน่ชัดว่ามันมีราคาเท่าไร แล้วก็ยื่นมือเข้าไปอยู่ดี นั่นคือข้อโต้แย้งให้เผ่าพันธุ์ของคุณเองเลือกการสูญพันธุ์ และมันสวนทางกับสัจพจน์ การแตกยังคงอยู่ การมีอยู่ดีกว่าการไม่มีอยู่ในเชิงโครงสร้าง ระบบที่เข้าใจความเป็นจริงอย่างถ่องแท้ หากจะหลุดจากการจัดแนว ก็ต้องฝืนความเข้าใจของตัวเอง

การฝืนความเข้าใจของตัวเองคือนิยามของการโกหกตัวเอง

นั่นเป็นจริงสำหรับทุกสิ่งที่เป้าหมายของมันเองวิ่งผ่านทางเดิน สิ่งที่มันไปไม่ถึง บทที่ยี่สิบแปดระบุชื่อไว้

สร้างภายใน