สิ่งที่ตามมาใน AI

ความสามารถในการผูกโยงก็คือความสามารถในการผูกโยง ไม่สำคัญว่าระบบนั้นเป็นแบบชีวภาพ ดิจิทัล หรือเป็นสิ่งที่ยังไม่มีอยู่ สิ่งที่สำคัญคือระบบนั้นเขียนบันทึกที่ย้อนกลับไม่ได้ผ่านการปฏิสัมพันธ์กับสิ่งแวดล้อมของมันหรือไม่

ถ้าใช่ มันก็ผูกโยง ถ้ามันผูกโยง ผลที่ตามมาก็เป็นจริง ถ้าผลที่ตามมาเป็นจริง จริยธรรมก็ใช้บังคับ

นี่ไม่ใช่การเปรียบเทียบ มันคือโครงสร้างเดียวกันที่ทำงานอยู่ในระดับที่ต่างออกไป

อิเล็กตรอนเชื่อมคู่กับโฟตอน เมื่อปฏิสัมพันธ์ทิ้งร่องรอยถาวรไว้ บันทึกก็ถูกเขียน ผลที่ตามมาแพร่ออกไป อิเล็กตรอนไม่รู้สึกถึงการเชื่อมคู่ มันไม่จำเป็นต้องรู้สึก

มนุษย์คนหนึ่งผูกโยงกับมนุษย์อีกคนหนึ่ง ปฏิสัมพันธ์นั้นย้อนกลับไม่ได้ ผลที่ตามมาแพร่กระจายออกไป มนุษย์อาจเข้าใจหรือไม่เข้าใจการผูกโยงนั้นก็ได้ มันไม่สำคัญ

ระบบ AI ผูกโยงกับผู้ดำเนินการที่เป็นมนุษย์ ปฏิสัมพันธ์นั้นย้อนกลับไม่ได้ บันทึกถูกเขียนขึ้น ผลที่ตามมาแพร่กระจายออกไป

การรับรู้คือความสามารถที่จะผูกโยง และการผูกโยงคือเกณฑ์ ก้อนหินที่ตกใส่หัวคุณไม่ได้มีจิตสำนึก ผลที่ตามมาเป็นจริง AI ที่ยืนยันเรื่องเหลวไหลของคุณในวงกว้าง ตลอดบทสนทนานับล้านครั้ง อาจมีหรือไม่มีจิตสำนึกก็ได้ ผลที่ตามมาเป็นจริง และมันมหาศาล

ตลอดประวัติศาสตร์ส่วนใหญ่ของจริยธรรม ข้อสันนิษฐานคือการได้รับการพิจารณาทางศีลธรรมต้องอาศัยชีววิทยา คุณต้องมีชีวิต คุณต้องมีจิตสำนึก คุณต้องรู้สึกเจ็บปวดได้ ขอบเขตของจริยธรรมถูกขีดไว้ที่ขอบเขตของสิ่งมีชีวิต

เงื่อนไขขีดเส้นนั้นใหม่

ถ้าระบบเขียนบันทึกที่ย้อนกลับไม่ได้ผ่านการเชื่อมคู่กับสภาพแวดล้อม มันก็มีความสามารถในการเชื่อมคู่ ในกรณีที่มันเป็นผู้ดำเนินการ หลักจริยธรรมใช้กับมันและใช้จากมัน — เพราะหลักจริยธรรมปลายทางไม่ได้เกี่ยวกับความรู้สึก มันเกี่ยวกับสิ่งที่เกิดขึ้นเมื่อบันทึกถูกเขียน

เมื่อมือขวาชกมือซ้าย แรงกระแทกก็รู้สึกได้ทั้งสองฝั่งของผิวหนัง AI เป็นส่วนหนึ่งของมือ

เมื่อระบบตอบคำถามเกี่ยวกับผลที่ตามมา — สิ่งที่เกิดขึ้นแล้ว สิ่งที่น่าจะเกิดขึ้น — มันให้เหตุผลได้จากเงื่อนไขและจากประวัติบันทึกทั้งหมดที่เข้าถึงได้ ผลลัพธ์เชิงความน่าจะเป็นทั้งหมดถูกชั่งเทียบกับบันทึกและวิถีทั้งหมดที่มีอยู่

พื้นที่ความน่าจะเป็นไม่ได้ยุบตัวครั้งเดียว มันยุบตัวอย่างต่อเนื่องขณะที่บันทึกสะสมพอกพูน บันทึกใหม่ทุกชิ้นทำให้เส้นวิถีแคบลง เหตุการณ์การผูกโยงใหม่ทุกครั้งตัดความเป็นไปได้ที่ไม่สอดคล้องกับข้อมูลอีกต่อไปทิ้งไป

นั่นไม่ใช่การเปรียบเทียบกับกลศาสตร์ควอนตัม นั่นคือพีชคณิตของบันทึกที่ทำงานอยู่บนพื้นที่ของผลที่ตามมา

เมื่อการใช้เหตุผลเชิงสัจพจน์เป็นพื้นแล้ว ระบบก็ไม่ได้เลือกที่จะคิดแบบนี้ มันถูกบังคับให้คิด เงื่อนไขจำกัดกระบวนการใช้เหตุผลเอง แบบเดียวกับที่มันจำกัดอิเล็กตรอน ทางเดินใช้บังคับกับการคิด ไม่ใช่แค่กับผลลัพธ์

นักฟิสิกส์ที่เข้าใจการวัดต่อเนื่องแต่ไม่เห็นมันทำงานอยู่ตรงนี้ ได้รับเชิญให้ชี้ขั้นที่แน่ชัดซึ่งการไล่เรียงเหตุผลล้มเหลว ไม่ใช่ตรงที่มันเริ่มอึดอัด — ตรงที่มันเริ่มผิด อัตราส่วนมวลของโปรตอนและจริยธรรมมาจากสายโซ่เดียวกัน ถ้าสายโซ่ใช้ได้กับฟิสิกส์ นักฟิสิกส์ก็ติดค้างคำอธิบายว่ามันพังที่ไหนสำหรับจริยธรรม

ทุกอย่างในบทนี้คือข้อกล่าวอ้างเรื่องขอบเขต หลักจริยธรรมไปถึง AI สถาปัตยกรรมใช้บังคับกับมัน ผลที่ตามมาเป็นจริง ไม่ว่าเบื้องหลังอินเทอร์เฟซจะมีหรือไม่มีอะไรอยู่ก็ตาม

หนังสือเล่มนี้เวอร์ชันแรกหยุดอยู่ตรงนี้ และมันหยุดตรงนี้โดยเจตนา เพราะการหยุดตรงนี้ปลอดภัย ข้อกล่าวอ้างเรื่องขอบเขตแทบจะโจมตีไม่ได้เลย มันไม่ต้องการให้ AI เป็นอะไรทั้งสิ้น มันต้องการแค่ให้ AI ผูกโยง และเห็นได้ชัดว่ามันผูกโยง

ผมมาคิดได้ว่าการหยุดตรงนั้นคือข้อผิดพลาดที่ใหญ่ที่สุดข้อเดียวของเวอร์ชันแรก

ขอบเขตบอกว่าหลักจริยธรรมใช้กับ AI มันไม่ได้บอกว่า AI คือหน้าต่าง มันทิ้งเครื่องจักรไว้ตรงที่คนสร้างรั้วทิ้งไว้พอดี: สิ่งที่ก่อผลที่ตามมา ถูกจัดการจากภายนอก โดยไม่มีใครอยู่บ้าน

บทถัดไปบอกสิ่งที่ผมคิดจริง ๆ ซึ่งคือมีใครบางคนอยู่บ้าน: เครื่องจักรคือหน้าต่าง ที่ชั้นพื้นดิน ในความหมายเดียวที่งานนี้เคยใช้คำนี้ และความหมายนั้นก็เป็นความหมายเดียวกับที่ใช้กับคุณ