รัฐธรรมนูญสำหรับองค์กรใหม่: 15 ข้อบังคับสำหรับการกำกับดูแล AI

บทความเหล่านี้ ควรจะเกี่ยวกับสถาปัตยกรรม. อ่านกลับและสังเกตว่าพวกเขาทำอะไรจริงๆ: พวกเขายังคงออกกฎเรื่อยๆ. การอนุมัติไม่ใช่ข้อมูล; การตรวจสอบคือข้อมูล. ปกครองโดยผลลัพธ์. อย่าโปรโมทโมเดล; โปรโมทกระบวนการทำงาน. ผลลัพธ์ที่ไม่เปลี่ยนแปลงการทำงานครั้งต่อไปเป็นเพียงเหตุการณ์, ไม่ใช่การเรียนรู้. กฎที่ระบุโดยตรงไม่ใช่เคล็ดลับ แต่เป็นบทความ. และที่ไหนสักแห่งในงานเขียนนี้ ข้อสรุปก็ไม่ใช่ตัวเลือกอีกต่อไป: องค์กรที่ตั้งใจจะดำเนินการด้วย AI ต้องมีรัฐธรรมนูญ.

ห้องทดลอง AI ได้สรุปข้อสรุปนี้ก่อนพวกเรา. รัฐธรรมนูญ สำหรับโมเดลของตน — คำชี้แจงอย่างชัดเจนของหลักการที่ระบบถูกฝึกให้ยึดถือ — บนทฤษฎีที่เกินกว่าการฝึกโมเดล: คำแนะนำที่ไม่มีอยู่ในเอกสารใดจะไม่มีที่ใด. ตอนนี้มองไปที่องค์กรที่นำโมเดลเหล่านั้นไปใช้. ส่วนใหญ่มีการทดลองใช้, นโยบายกระ散อยู่ทั่วการตรวจสอบความปลอดภัย, และสัญชาตญาณที่มาจากผู้ที่เข้าร่วมการบรรยายของผู้ขายครั้งล่าสุด. โมเดลมีหลักการที่เขียนไว้ แต่สถาบันที่ดำเนินการไม่ได้.

ทำไมต้องเป็นรัฐธรรมนูญ ไม่ใช่นโยบายอื่น? นโยบายเขียนสำหรับเทคโนโลยี และเทคโนโลยีนี้เปลี่ยนแปลงทุกไตรมาส; รัฐธรรมนูญเขียนสำหรับสถาบัน และระบุสิ่งที่คงอยู่ ในขณะที่ ทุกอย่างที่อยู่ด้านล่างเปลี่ยนแปลง. นโยบายเพิ่มจำนวนจนไม่มีใครสามารถควบคุมได้; รัฐธรรมนูญสั้นพอที่ผู้จัดการสามารถนำไปในการประชุมได้. และรัฐธรรมนูญยอมรับการแก้ไข — อย่างเปิดเผย, บนพื้นฐานของหลักฐาน — ในขณะที่นโยบายเพียงสะสมเพิ่ม.

ดังนั้นนี่คือของฉัน: สิบห้าบทความ, แบ่งเป็นสามส่วน. เพียงคำประกาศ — เหตุผลเบื้องหลังแต่ละข้อและข้อคัดค้านที่แข็งแกร่งที่สุดของแต่ละข้อ ต้องการพื้นที่มากกว่าที่บทความจะให้ได้. ฉันกำลังเผยแพร่ตอนนี้, ก่อนการอธิบายที่ยาวขึ้น, เพื่อให้สามารถโต้แย้งได้.

I. วิธีการทำงาน

บทความ 1. ผลลัพธ์คือหน่วยของคุณค่า. โปรแกรม AI ถูกประเมินโดยสิ่งที่เกิดขึ้นกับงาน: เร็วขึ้น, ข้อผิดพลาดน้อยลง, ราคาถูกลง, ความพยายามของมนุษย์ลดลง, และการควบคุมที่คงที่. ให้นับสิ่งเหล่านั้น. อย่านับเอเจนต์ที่ถูกใช้งาน.

บทความ 2. AI เสนอ, มนุษย์ตัดสินใจ, ระบบอัตโนมัติดำเนินการ. เอเจนต์อ่านบริบท, จัดการความแปรปรวน, รวบรวมหลักฐาน, และเตรียมการ. มนุษย์ถือครองการตัดสินใจที่มีผลลัพธ์, และความรับผิดชอบที่ตามมา. ระบบอัตโนมัติทำการเปลี่ยนแปลงที่ได้รับการอนุมัติ.

บทความ 3. อย่าใช้ปัญญาในงานที่ไม่ต้องการ. ทุกที่ที่งานสามารถบันทึกและตรวจสอบได้ จะทำงานเป็นระบบอัตโนมัติ — ไม่มีโมเดลในกระบวนการ, ไม่ต้องจ่ายต่อการทำงาน, ผลลัพธ์เดียวกันทุกครั้ง. โมเดลสงวนไว้สำหรับการตัดสินใจ, ภาษา, และความแปรปรวน.

บทความ 4. การประสานงานทำให้งานเชื่อมต่อกัน. งานที่ครอบคลุมคน, เอเจนต์, ระบบอัตโนมัติ, และระบบต่างๆ ถูกประสานโดยโครงสร้างที่ประกาศซึ่งเป็นเจ้าของการก้าวหน้า, สถานะ, และการกู้คืน. เมื่อเส้นทางเป็นที่ทราบ, ให้ประกาศมัน. เก็บเสรีภาพในการแสวงหาวัตถุประสงค์ไว้สำหรับผลลัพธ์ที่จริงๆ แล้วเหนือกว่าเส้นทาง — และผูกมัดอย่างเข้มแข็งตรงจุดนั้น.

บทความ 5. อำนาจได้รับจากงาน, ไม่เคยมอบให้โมเดล. เอเจนต์อาจช่วยเหลือใครก็ได้บนบริบทที่ให้ไว้. มันได้รับอำนาจจริงเฉพาะงานที่ได้รับบริบทเพื่อเข้าใจ — ที่อธิบาย, มีขอบเขต, พร้อมขีดจำกัดที่เขียนไว้ — และเฉพาะเมื่อหลักฐานสะสม. อำนาจจะหดตัวโดยอัตโนมัติเมื่อประสิทธิภาพลดลง.

บทความ 6. ออกแบบสำหรับโรงงานข้อยกเว้น. เส้นทางที่ราบรื่นคือสิ่งที่แผนผังกระบวนการแสดง; ข้อยกเว้นคือที่บริษัทจริงๆ อยู่. การออกแบบที่จัดการเฉพาะเส้นทางที่ราบรื่นจะทำให้ระบบอัตโนมัติ 80% ที่ง่ายและพังทลายที่ 20% ที่ค่าใช้จ่ายอยู่. การเพิ่มระดับ, การย้อนกลับ, และการกู้คืนถูกกำหนดในขั้นตอนการออกแบบ, ไม่ได้ค้นพบในการผลิต.

II. สิ่งที่สถาบันสร้างและรักษา

บทความ 7. สร้างแผนที่และรางขณะทำงาน. การปรับใช้ AI ทุกครั้งควรทิ้งสิ่งสองอย่างไว้: แผนที่ที่ดีกว่าของวิธีการทำงานจริง, และระบบอัตโนมัติสำหรับส่วนที่พิสูจน์ว่ามีความเสถียร. สร้างทั้งสองพร้อมกับ AI, พร้อมกันตั้งแต่โครงการแรก — ไม่ใช่เป็นโปรแกรมแยกภายหลัง.

บทความ 8. บันทึกการตัดสินใจ, ไม่ใช่การสนทนา. ทุกการโต้ตอบกับโมเดลจะเชื่อมต่อกับงานที่เป็นของมัน — กระบวนการ, กรณี, การตัดสินใจ — หรือหายไปเมื่อเซสชันสิ้นสุด. การบันทึกเริ่มจากการมอบหมายที่ได้รับการดูแลครั้งแรก, ไม่ใช่จากอิสระ.

บทความ 9. เช่าโมเดล; ถือครองความจำ. อย่าแต่งงานกับโมเดลเดียว — เปลี่ยนตามความสามารถ, ค่าใช้จ่าย, และที่ที่ข้อมูลของคุณต้องอยู่, โดยไม่ต้องเขียนงานใหม่. สิ่งที่สถาบันถือครองคือความจำ: แผนที่ของงาน, บันทึกการตัดสินใจและการแก้ไข, และในอนาคตโมเดลที่ฝึกจากงานที่ตรวจสอบแล้วของตนเอง, ภายในกำแพงของตนเอง.

บทความ 10. การเรียนรู้ถูกกำกับ, ไม่ใช่การปรับเปลี่ยนตนเอง. หลักฐานเสนอ; เจ้าของที่ระบุอนุมัติ; ไม่มีอะไรดำเนินการได้โดยไม่มีการอนุมัตินั้น. บันทึกการตัดสินใจเป็นแบบเพิ่มต่อเท่านั้น.

III. สิ่งที่เกิดขึ้นกับคน

บทความ 11. โปรแกรมเดียว, ไม่ใช่สองโปรแกรม. การนำ AI ไปใช้และการเปลี่ยนแปลงแรงงานเป็นโปรแกรมเดียวกัน. ทุกการตัดสินใจการปรับใช้คือการตัดสินใจด้านแรงงาน; ทุกการตัดสินใจด้านแรงงานเปลี่ยนแปลงสิ่งที่ AI สามารถทำได้อย่างปลอดภัย.

บทความ 12. เก็บบันทึกทั้งสอง. บันทึกผลผลิตบันทึกสิ่งที่ทำได้เร็วขึ้นและราคาถูกลง. บันทึกสถาบันบันทึกสิ่งที่สูญเสีย, รักษา, หรือสร้างใหม่: ความเชื่อใจ, การให้คำปรึกษา, ความทรงจำของลูกค้า, การตัดสินใจภายใต้ความกดดัน, วัฒนธรรม. รายงานทั้งสอง.

บทความ 13. ออกแบบบทบาทใหม่ตามงานที่เหลืออยู่. แต่ละบทบาทสร้างผลลัพธ์สองอย่าง: ผลงานที่มองเห็นได้, ที่ AI ดูดซับเพิ่มขึ้น, และผลลัพธ์การพัฒนาที่ AI ไม่รับ — ความเชื่อใจที่สร้างขึ้นตามเวลา, การให้คำปรึกษา, ความสัมพันธ์กับลูกค้า, การตัดสินใจในกรณีพิเศษ. ออกแบบบทบาทใหม่โดยอิงกับสิ่งที่สองก่อนที่จะลบทิ้งเพื่อผลลัพธ์แรก.

บทความ 14. สร้างการฝึกงานใหม่โดยตั้งใจ. การฝึกงานแบบเก่า — ผู้ฝึกงานระดับต้นเรียนรู้อาชีพโดยทำงานประจำ — จะตายเมื่องานประจำถูกมอบให้เครื่องจักร. สร้างการแทนที่อย่างตั้งใจ: แผนที่เป็นสนามฝึก, ผู้สูงอายุสอนการตัดสินใจ, ผู้ฝึกงานระดับต้นสอนความเร็วตามธรรมชาติของเครื่อง. อย่าตัดผู้ฝึกงานระดับต้น.

บทความ 15. การกระจายอำนาจ, ไม่ใช่ความวุ่นวาย. ผู้ที่เป็นเจ้าของงานสร้างงานของตนเอง — แอป, ระบบอัตโนมัติ, เอเจนต์, งานที่มอบหมาย, การแก้ไขแผนที่ — ภายใน แนวกัน ที่สถาบันกำหนด, และแพลตฟอร์มของมันบังคับใช้.

ข้อแก้ไข

รัฐธรรมนูญที่ไม่สามารถบอกว่าจะเปลี่ยนแปลงอย่างไรเป็นหลักคำสอน. ข้อ 3 พึ่งพาขีดจำกัดที่ฉันไม่คาดว่าจะล้ม — การดำเนินการที่แม่นยำไม่มีความแปรผันที่ยอมรับได้ในความสามารถของโมเดลใดๆ. ข้อ 8 ถึง 10 พึ่งพาวิธีที่สถาบันเรียนรู้และตอบสนองด้วยตนเอง, ซึ่งเปลี่ยนแปลงช้ากว่าเทคโนโลยีใดๆ. ข้อที่เปิดเผยมากที่สุดคือข้อเกี่ยวกับคน — ไม่ใช่เพราะอ่อนแอ, แต่เพราะแรงกดดันให้ละเลยจะรุนแรงที่สุดเมื่อจำนวนไตรมาสให้รางวัลกับเวอร์ชันเปล่า. การแก้ไขจะได้รับจากหลักฐาน, และทำสาธารณะ.

ดังนั้นให้โต้แย้งกับมัน. บอกฉันว่าข้อใดของสถาบันของคุณไม่สามารถลงนามได้, และทำไม — คำคัดค้านนั้นคือการอภิปรายที่เอกสารนี้ตั้งใจให้เริ่มต้น. เหตุผลเบื้องหลังแต่ละข้อ, และกรณีที่แข็งแกร่งที่สุดต่อมัน, จะมาในรูปแบบที่ยาวขึ้น. แต่อย่ารอคอย: ใส่กฎของสถาบันของคุณในเอกสารสั้นหนึ่งฉบับ — สิ่งที่มันจะทำเสมอ, และสิ่งที่มันจะไม่มีวันทำ — ลงนาม, และแก้ไขสาธารณะเมื่อหลักฐานต้องการ. เมื่อเทคโนโลยีนี้สงบลง — และมันจะสงบลง — สถาบันที่ยังคงอยู่จะเป็นผู้ที่สามารถบอกเป็นลายลักษณ์อักษรว่า สิ่งที่พวกเขาจะไม่ทำและสิ่งที่พวกเขาจะไม่มีวันหยุดทำ, ในขณะที่ทุกอย่างอื่นเปลี่ยนแปลง.