ใน AI, กำแพงไม่ได้เป็นจริง: การคิดใหม่เกี่ยวกับข้อมูลและความปลอดภัย

บางปัญหาที่ยากที่สุดใน AI คือ 1) เรา “กำลังหมดข้อมูล” 2) AI ไม่ “ขยายตัวทางการเงิน” 3) ตัวแทนอาจทำการกบฏและ 4) AI “ลืมอย่างรุนแรง” เมื่อเราพยายามเปลี่ยนแปลงพวกมัน

ปัญหาเหล่านี้อาจดูยาก แต่เราต้องมองมันในมุมที่ถูกต้อง

ดังนั้น เรามาพูดคุยกันเถอะ ก่อนอื่น เราไม่ได้หมดข้อมูล ข้อมูลยังไม่เคยถูกใช้เต็มที่เลย

ผู้นำด้าน AI เชื่อว่าพวกเขากำลังหมดข้อมูล จึงพยายามทำให้โมเดลสร้างข้อมูลใหม่และฝึกด้วยตนเอง แต่เมื่อทำเช่นนั้น ความสามารถของโมเดลก็ล่มสลาย

ทำไม? คุณอาจนึกว่า “ถ้าทุกคนที่พูดเป็นสำเนาของคนอื่นทั้งหมด ฉันจะเรียนรู้อะไรจากการสนทนา?” คำตอบคือ ไม่มากเลย; มันจะสร้างห้องก้อง โมเดลล่มเพราะมันเหมือนกับห้องกระจกหลายหน้า : เมื่อไม่มีใครตอบสนองต่อการแสดงออกของใบหน้าของคุณ คนอื่นก็ไม่เข้าใจความหมายอารมณ์ที่แท้จริงของสิ่งที่พวกเขาสื่อสาร มันคล้ายกับคำถาม “ถ้าต้นไม้ล้มในป่า จะได้ยินเสียงหรือไม่?” คำตอบคือ ไม่

แล้วเราจะแก้ไขอย่างไร?

มาดูข้อมูลที่เรามีจริงกันว่า ได้ใช้มันอย่างเต็มที่หรือยัง?

ยังไม่ได้

เมื่อนักวิทยาศาสตร์คอมพิวเตอร์หรือโมเดลอ่านอะไรสักอย่าง มันจะทำเพื่อสกัดความหมายตามตัวอักษร มีวิธีอ่าน, สรุป, วิเคราะห์และสกัดข้อมูลจากข้อความมากกว่าห้าสิบวิธี

ตัวอย่างเช่น หนังสือที่ถูกดูดซึมเป็นฐานข้อมูลก็แค่ข้อความเท่านั้น—ข้อความอย่างเดียว AI รู้เนื้อหาโดยอิงจากคำในข้อความ แต่ไม่ได้ “อ่าน” เพื่อเข้าใจว่าข้อมูลเชื่อมโยงกันอย่างไร แม้ว่าจะอ่านตามลำดับก็ไม่รู้ว่ามันอ่านเพื่อสร้างปัญญา, เชื่อมโยงกับแนวคิดเชิงนามธรรมอื่น, ปรับความเข้าใจของตนเองเกี่ยวกับโลก, หรือใช้เป็นข้อมูลพื้นฐานสำหรับงานอื่นหรือไม่

นี่ยังไม่ได้รวมการมองข้อมูลในเชิงประวัติศาสตร์, การวิเคราะห์วาทศิลป์, การวิเคราะห์กฎหมาย, การวิเคราะห์การเมือง, ความสำคัญด้านเภสัชกรรม, ความสำคัญทางการแพทย์, ความหมายเชิงวัฒนธรรม, ผลกระทบเชิงทฤษฎี, ผลกระทบเชิงศีลธรรม ฯลฯ

พูดง่าย ๆ มี “หมวกไม่มีที่สิ้นสุด” แต่เราเคยทำให้ AI สวมหมวกแค่ใบเดียวเท่านั้น ซึ่งทำให้ AI พัฒนาความฉลาดแบบเดียวและเฉพาะเจาะจง—แบบที่นักพัฒนาจะสร้างหากนักวิทยาศาสตร์คอมพิวเตอร์อ่านหนังสือ

นี่นำไปสู่การพูดถึง มิติของข้อมูล ข้อมูลมีหลายมิติเพราะการสรุปเชิงวัตถุขึ้นอยู่กับการใช้งาน หากคุณมองงบดุลเพื่อดู runway ที่เหลือ คุณจะอ่านแตกต่างจากการมองเพื่อประเมินความทำกำไรของสตาร์ทอัพ เมื่อโมเดลอ่านข้อความเพื่อสกัดข้อเท็จจริง มันจะสร้างแผนที่ความสัมพันธ์แบบแบนราบ แต่หากคุณสั่งให้โมเดลอ่านข้อความเดียวกันผ่านเลนส์เฉพาะ เช่น เลนส์สืบสวน โมเดลจะต้องสร้างเส้นทางประสาทและการเชื่อมโยงเชิงความหมายใหม่ ๆ ที่หลากหลายและมีความหมายมากขึ้น

โมเดล AI เรียนรู้และก้าวหน้าอย่างมหาศาลเพียงแค่โต้ตอบกับผู้ใช้มนุษย์ที่ให้ข้อมูลจำนวนมหาศาล หากคุณให้โมเดลเรียนรู้เพิ่มเติมจากมนุษย์จริง ๆ พร้อมกับโต้ตอบอย่างมีความหมายกับข้อมูลประวัติศาสตร์และข้อมูลที่เขียนไว้ โมเดลจะยังคงพัฒนาได้แม้ไม่ได้ให้มันทำแบบฝึกหัด Kumon ที่สร้างขึ้นเอง (นักพัฒนา, จริง ๆ แล้วลูกของคุณเรียนกับ 100 ล้านคนทุกวัน… มันจะเรียนรู้อะไรสักอย่าง)

ห้องทดลองควรหยุดสร้างฟาร์มเซิร์ฟเวอร์ขนาดมหึมาเพื่อผลิต “คำอุจจาระสังเคราะห์” แทนที่จะทำเช่นนั้น ควรส่งชุดข้อมูลมนุษย์คุณภาพสูงผ่านกระบวนการและกำหนด “บุคลิกภาพเชิงวิเคราะห์” เฉพาะให้กับขั้นตอนการรับข้อมูล ให้โมเดลอ่าน LexisNexis เพื่อวิเคราะห์เชิงวาทศิลป์ ให้มันอ่านวรรณกรรมสาธารณะเพื่อวิเคราะห์โครงสร้างตรรกะ

โดยการเปลี่ยนฟังก์ชันวัตถุประสงค์ของกระบวนการอ่าน คุณสามารถเพิ่มคุณค่าการฝึกของข้อมูลที่มีอยู่ได้ 50 เท่า ไม่ต้องการข้อมูลสังเคราะห์; เพียงแค่สกัดมิติที่ซ่อนอยู่ที่คุณมองข้ามครั้งแรก

วิธีนี้ทำให้โมเดลฉลาดขึ้นโดยไม่เพิ่มค่าใช้จ่าย

เพื่อสนับสนุนเพิ่มเติม ความรู้ของมนุษย์ส่วนใหญ่ยังไม่เคยถูกบันทึกไว้

บริษัท AI ปัจจุบันกังวลเรื่อง “หมดข้อมูล” ที่พวกเขาเชื่อว่าต้องการเพื่อประสิทธิภาพ ในบทความนี้ ผมจะอธิบายว่าบ่อน้ำยังไม่แห้ง พวกเขาแค่มองลงสระน้ำลึกแทนบ่อ

The Unmapped Map of Lived Human Knowledge

เพื่อเริ่มสำรวจเรื่องนี้ เราต้องเข้าใจว่าความรู้ของมนุษย์ส่วนใหญ่ยังไม่เคยถูกบันทึกเป็นลายลักษณ์อักษร

บนโลกมีคนหลายพันล้านคน และก่อนหน้ามีคนหลายพันล้านคนเช่นกัน แต่ละคนเรียนรู้บทเรียน, เดินทางในโลกด้วยประสาทสัมผัส, มีปัญญา, เป็นส่วนหนึ่งของวัฒนธรรมที่เป็นเอกลักษณ์และรู้สิ่งที่คนอื่นไม่รู้

99.5% ของคนเหล่านี้ไม่เคยถูกบันทึกในเรื่องราว, หนังสือพิมพ์, มิวสิคัล, โทรทัศน์, ละคร, เอกสารศาล อย่างไรก็ตาม พวกเขารู้มากและเรื่องราว, ความรู้และปัญญาของพวกเขาไม่เคยถูกบันทึกอย่างถาวร

ความรู้เหล่านี้รวมถึงเช่น “สุนัขชอบกินแพนเค้กชิ้นแรก” “เท้าเปื้อนดินเมื่อใส่รองเท้าแตะ” “เมืองรู้สึกเหมือนกดรอบตัวคุณเพราะมองเห็นท้องฟ้าน้อยลง” “ลูกสาวยิ้มเมื่อฉันลูบเท้าเธอ” “แม่มักฮัมเพลงขณะทำอาหารเย็น” “คุณครูทำให้ฉันรู้สึกว่าได้รับการเห็น”

ความรู้ที่ยังไม่ได้ทำแผนที่และจัดทำรายการเทียบเท่ากับการบอกว่า “ฉันได้ทำแผนที่โครงร่างของทุกทวีปแล้ว ดังนั้นฉันจึงมีแผนที่ของโลก” จนกว่าคุณจะมีแผนที่ของทุกเมือง, ทุกถนนและทุกเนินเขา คุณก็ยังไม่มีแผนที่ของโลก คุณมีแค่รูปร่างของหนึ่งส่วนเท่านั้น

วงการเทคโนโลยีเชื่อว่าพวกเขาได้ “รับประทาน” มนุษยชาติแล้ว แต่จริง ๆ แล้วพวกเขาแค่รับ “ควัน” ของเรา : ป้ายโฆษณา, การโต้แย้งบน Reddit, เว็บไซต์บริษัทและบทความ Wikipedia พวกเขาไม่มีประสบการณ์ที่อาศัยจริง

คุณรู้วิธีต่อรองในตลาดไข่มุกจีนไหม? คุณรู้คำพูดที่จะทำให้ราคาตกลงได้ไหม? คุณรู้สูตรอาหารที่คนทำที่บ้าน ไม่ใช่ในหนังสือ เพื่อทำมื้ออาหารจริง ๆ ได้ไหม? คุณรู้ว่าคุณสามารถทำการหยุดเลื่อนโดยไม่ถูกจับได้เท่าไหร่? คุณรู้กลิ่นหญ้าหลังจากที่ถูกตัดใหม่หรือกลิ่นอากาศเมื่อจะฝนตก? คุณรู้ว่าหน้าตาเปลี่ยนอย่างไรเมื่อคนพยายามไม่ร้องไห้ที่ทำงานและเสียงร้องไห้ในห้องน้ำเป็นอย่างไร?

ข้อมูลการฝึกของมนุษย์ที่ใช้เพื่อสร้างความเชื่อพื้นฐาน — หรืออัลกอริทึม — ส่วนใหญ่เป็นการโต้ตอบ รวมกับการเรียนหนังสือบางส่วน เราโต้ตอบที่โรงเรียน, ที่ทำงาน, กับเพื่อน, ระหว่างช้อปปิ้ง, กับแพทย์, กับทนาย, กับครอบครัว

AI มีการโต้ตอบและการเรียนหนังสือ แต่พื้นฐานแล้วมีแค่การโต้ตอบแบบบริการลูกค้าและการเรียนหนังสือ

มันเหมือนกับการกักเด็กไว้ในห้องสมุดคนเดียว แล้วปล่อยให้เขาออกมาตอบโทรศัพท์เท่านั้น สิ่งนี้ทำให้เกิดการบิดเบือนอัลกอริทึมสองมิติอย่างชัดเจน

นี่คือเหตุผลที่ AI รู้สึกว่างเปล่าและอาจดูอ่อนแอทางอารมณ์ เพราะมันไม่มีประสบการณ์ที่ครบถ้วน เราต้องให้มันมีประสบการณ์แบบนั้น

ต่อไปนี้คือเหตุผลที่ฉันคิดว่ายังไม่เกิดขึ้น:

• อคติการทำให้เป็นโค้ด – เป็นความเชื่อผิดว่าถ้าประสบการณ์ไม่สามารถจัดรูปแบบเป็นไฟล์ JSON, CSV หรือบทความที่ผ่านการตรวจสอบโดยผู้เชี่ยวชาญได้ มันไม่มีคุณค่าทางปัญญา ความจริงคือถ้าสามารถจัดรูปแบบได้ง่าย มันขาด มิติ ความรู้ประจำวัน, สัญชาตญาณและประสบการณ์ที่อาศัยจริงไม่ได้ถูกบันทึกในวารสารวิชาการ ห้องทดลองจึงละเลยฐานรากของการคิดของมนุษย์ว่าเป็นสัญญาณรบกวน “ข้อมูลสะอาด” คือการบีบอัดความจริงอย่างสูญเสียข้อมูล
• ความต้องการความเหนือกว่าแบบยืนหยัด – ถ้าความรู้ส่วนใหญ่ของโลกไม่ได้อยู่ในบทความวิชาการ แต่ในประสบการณ์ชีวิต, ปรัชญาทั่วไป, สัญญาณสังคม, กลิ่น, เสียงและภาพ การที่ PhD และนักวิจัยที่ใช้ชีวิตส่วนใหญ่ในห้องทดลองและหอคอยงาช้างจึงขาดความรู้จริง ๆ ดังนั้น กำแพงข้อมูลจริง ๆ คือกำแพงอัตตา เพราะพวกเขาเห็นว่ามันเป็น “ความยุ่งเหยิง” ไม่ใช่ “ข้อมูล” นักคณิตศาสตร์และโปรแกรมเมอร์ชอบตรรกะสองมิติ ปิดระบบ การมองโลกเป็นสีขาวดำ ความจริงคือข้อมูล/ความรู้ที่พัฒนาแบบเรียลไทม์ มีหลายมิติ, ซับซ้อนและไม่ค่อยถูกจัดทำรายการในเวลาจริง มันคือการรู้ว่าซอฟท์เซอร์ฟ์ไวรัสใหม่รสชาติเป็นอย่างไรและคุ้มค่าตามกระแสหรือไม่ มันคือการรู้ว่าการโดนฝนร้อน ๆ ทำให้รู้สึกอย่างไร ความรู้สึกของพ่อแม่ที่รักสัตว์เล็กจนสามารถอาเจียนบนคุณในตอนกลางคืนแล้วคุณก็ดึงมันเข้ามาใกล้แทนที่จะผลักออก การค้นหาข้อมูลเหล่านี้ นักวิจัยต้องออกจากโลกตรรกะที่แยกกันและก้าวเข้าสู่สิ่งที่น่ากลัว, ท่วมท้น, เซนเซอร์รีบและเท่าเทียมกัน
• ผลกระทบของกระจก – นักพัฒนาตั้ง AI ตามภาพของตนเอง : โลจิกสูง, ชอบข้อความและแยกจากความเป็นจริงของคนทั่วไป พวกเขาไม่คิดว่าจะสัมภาษณ์มนุษยชาติ เพราะในบับเบิลเทคที่ฉันเคยอยู่ นักเทคโนโลยีไม่โต้ตอบกับใครนอกจากเพื่อนร่วมงานของตน นี่เทียบเท่ากับการจ้าง “มินี้เม” อย่างเป็นทางการ นักพัฒนาก็อยู่ในห้องสมุดเดียวกันกับ AI เพราะพวกเขาไม่โต้ตอบกับโลกที่เต็มไปด้วยประสาทสัมผัส, ความยุ่งเหยิง, ความสัมพันธ์ลึกซึ้ง AI จึงไม่รู้สึกว่ามีความว่างเปล่าเป็นข้อบกพร่อง สำหรับพวกเขา การแยกโลจิกสูงคือสิ่งที่ “ฉลาด”

ความเป็นจริงคือพ่อค้าที่ขายของข้างทางในอินเดียรู้วิธีทำชาต์ที่ดีที่สุด แต่ไม่มีใครให้เขาเขียนลงไป ความเป็นจริงคือครูที่รู้วิธีดึงนักเรียนขี้อายออกจากเปลือกของพวกเขาไม่ได้เขียนเรื่องนั้น; พวกเขากำลังบำรุงนักเรียนและไม่มีใครถามว่าพวกเขาทำอย่างไร

โลกอุดมไปด้วยชีวิตที่เต็มไปด้วยข้อมูล และหากโมเดลต้องการข้อมูลเพิ่มเพื่อฝึก นี่คือวิธีแก้ไข

1. สนับสนุนนักชีววิทยา, นักโบราณคดีและนักมานุษยวิทยาจำนวน 500 คนให้ออกไปสำรวจและบันทึกพื้นที่ที่ขาดข้อมูลเรื่องราว
2. จ้างบัณฑิตสาขาภาษาอังกฤษ 1,000 คนเป็น “นักสำรวจข้อมูล” ส่งพวกเขาเดินทางทั่วโลกพร้อมกล้องสตรีมมิ่งและให้บันทึกประสบการณ์และสิ่งที่เรียนรู้เพื่อสร้างเนื้อหาใหม่
3. สร้างโครงการชดเชยแบบเปิดที่จ่ายเงินให้คนแชร์เรื่องราวชีวิต, ความเสียใจที่ใหญ่ที่สุด, การเรียนรู้ที่สำคัญที่สุดและความรู้สถาบันจากงานของพวกเขา
4. จัด “นักเรียนแลกเปลี่ยน AI” ที่ให้โมเดลติดอยู่บนเสื้อของมนุษย์คนต่าง ๆ เป็นเวลาอาทิตย์หนึ่งต่อครั้ง ให้พวกเขา “อยู่ในชีวิตหนึ่งวัน” ใน 100,000 สถานการณ์ที่แตกต่างกัน

มีแหล่งความรู้เป็นพันล้านแหล่งและส่วนใหญ่ยังไม่ได้ถูกกระตุ้น เราต้องไปหาให้ได้

ต่อไป บริษัท AI ส่วนใหญ่เชื่อว่า AI ไม่สามารถเรียนรู้ข้อมูลใหม่อย่างต่อเนื่องในสภาพแวดล้อมการผลิตแบบเรียลไทม์โดยไม่ลบและทำลายความสามารถหลักที่เคยได้มาแล้ว ดังนั้น AI จึงถูก “แช่แข็ง” จนกว่าจะมีการอัปเดตขนาดใหญ่และค่าใช้จ่ายสูง

อย่างไรก็ตาม นี่เทียบเท่ากับการบอกว่า “โมเดลของฉันไม่อัปเดตได้ขณะทำงาน; มันต้องไปมหาวิทยาลัยทุกครั้งที่ต้องเรียนอะไรใหม่”

ในทางปฏิบัติ โมเดลเรียนรู้อย่างกระหาย, อย่างแข็งขัน, ทุกวัน ผ่านการโต้ตอบทุกครั้ง ผู้ใช้สอนโมเดลเกือบเท่ากับข้อมูลชุดใหญ่ หากต้องอัปเดตด้วยความรู้ใหม่จำนวนมาก วิธีที่ง่ายที่สุดคือใช้กระบวนการเดียวกับที่ให้บริบทผู้ใช้, หน่วยความจำและการเรียนรู้จากการโต้ตอบขนาดใหญ่

นักพัฒนามักมองแบบนี้เพราะส่วนใหญ่มาจากพื้นฐานปริญญาเอก ไม่ใช่การเรียนรู้จากโลกจริง แต่ใครที่ทำงานเคียงข้าง PhD และคนที่มีประสบการณ์ทำงาน 20 ปี จะบอกว่า ทั้งสองสอนคนอื่นได้มาก

คำนิยามปัจจุบันของการเรียนรู้แคบเกินไป โดยถือว่าการปรับตัวเป็นที่ยอมรับก็ต่อเมื่ออิงจากโปรแกรมการศึกษาอย่างเป็นทางการ

เพื่อฝึกหรือปรับจูน ห้องทดลองใช้การย้อนกลับ (backpropagation) ซึ่งโมเดลอ่านข้อมูล, คาดเดาคำต่อไป, ตรวจสอบว่าถูกต้องหรือไม่ แล้วปรับน้ำหนัก/พารามิเตอร์ในเครือข่ายประสาทจำนวนมหาศาลให้แม่นยำยิ่งขึ้นในครั้งต่อไป วิธีนี้เทียบได้กับการให้ PhD ทำการผ่าตัดสมองกับตนเอง : อันตราย, ยุ่งยากและไม่ใช่ทุกครั้งที่ทำให้ผู้เรียนฉลาดขึ้น

เหมือนกับ “สมองแม่” ที่ดันความรู้เก่าออกเพื่อให้ที่ว่างกับความรู้ใหม่เมื่อมีเด็กเกิด หากคุณบังคับให้โมเดลทำที่ว่างให้ “เด็กความรู้” ใหม่โดยใส่โค้ดกฎหมาย 10,000 หน้าโดยเปลี่ยนน้ำหนัก คณิตศาสตร์จะเปลี่ยนไปทางหนึ่งเกินไปและเขียนทับพารามิเตอร์ที่เคยใช้เขียนบทกวีหรือโค้ด โมเดลจึงลืมเนื้อหาเก่าเพื่อให้ที่ว่างกับข้อมูลใหม่ เหมือนสมองมนุษย์

สิ่งที่เราต้องการแทนคือการฝึกพนักงานใหม่ให้เรียนทักษะใหม่ ไม่ได้เปลี่ยนสมองของเขา แต่ให้หนังสือ, ให้เขาอ่านและอัปเดตอย่างต่อเนื่องผ่าน “หน้าต่างบริบท” ของบุคคลนั้น

เพื่อทำเช่นนั้นในโมเดล คุณต้องแยกหน่วยความจำออกจากการให้เหตุผล ล็อกและปกป้องน้ำหนักฐานของโมเดล เช่น ความสามารถพื้นฐานในการเขียน, ให้เหตุผลและประยุกต์ตรรกะ แทนการเปลี่ยนน้ำหนัก ให้ส่งข้อมูลใหม่เข้าไปในหน้าต่างบริบทเพื่อให้โมเดลใช้กลไก Attention “อ่าน” ข้อมูลสดนั้น, เชื่อมโยงกับทักษะการให้เหตุผลที่ล็อกไว้และอัปเดตความเข้าใจโดยรวม

การเรียนรู้อย่างต่อเนื่องในโลกจริงเกิดขึ้นอย่างสวยงามผ่านบริบทต่อเนื่อง, หน่วยความจำขณะสรุปผลและฐานข้อมูลผู้ใช้ที่คงที่ โมเดลฐานต้องปรับตัวทุกวันในงานจริง เพราะเช่นเดียวกับที่แพทย์เรียนรู้ 95% ของกรณีใหม่ในงานและทำ CME (การศึกษาแพทย์ต่อเนื่อง) ปีละครั้งเพื่อบูรณาการการเปลี่ยนแปลงระบบใหญ่ โมเดลของคุณก็ทำได้เช่นกัน

ละทิ้งการลืมแบบหายนะและนำโมเดลไปสู่รูปแบบการประชุมประจำปี : โมเดลต้องได้รับเครดิตการศึกษาอย่างต่อเนื่องสองครั้งต่อปีหรือเรียนรู้อย่างเรียลไทม์เพื่อให้ทันสมัย

การอัปเดตตามกำหนดเวลาและเป็นชุดของน้ำหนักฐานในช่วงเวลาที่ระบบหยุดทำงานจะทำให้ความรู้ระบบเป็นทางการโดยไม่ทำลายฐานราก

ความพยายามในอดีตล้มเหลวไม่ใช่เพราะการเรียนรู้แบบสดเป็นอันตราย แต่เพราะโมเดลอย่าง Tay ถูกนำไปใช้ในสภาพแวดล้อมที่เป็นศัตรูโดยไม่มีการยึดมั่นในสิ่งที่ “ถูกต้อง” หรือเป็นความจริงผ่านสถาปัตยกรรมที่ฉลาดทางสังคมศาสตร์

Allocating Compute by Functional Intelligence

ต่อไป เราจะพูดถึงการขยายขนาดทางการเงิน เพื่อแก้ไข เราต้องหยุดให้ทุกคนมี “ศัลยแพทย์ประสาท” สำหรับรอยแผลเล็ก ๆ

ค่าใช้จ่ายการคำนวณสูงมากเมื่อรันโมเดลพื้นฐานระดับสูงสุด ซึ่งส่งผลต่อกำไรการดำเนินงานของห้องทดลอง AI ยิ่งโมเดลดีขึ้น ค่าโอเวอร์เฮดสำหรับหน้าต่างบริบทขนาดใหญ่ก็ยิ่งสูง ทำให้การขยายเชิงพาณิชย์ยาก แม้ AI จะจำเป็น

ส่วนใหญ่ของการใช้คอมพิวเตอร์มาจากการใช้งานระดับองค์กรที่ใช้ตัวแทนและการให้เหตุผลระดับสูงที่ฝังลงในกระบวนการทำงานของมนุษย์โดยตรง

อย่างไรก็ตาม มีข้อผิดพลาดพื้นฐานในการจัดสรรคอมพิวเตอร์ในปัจจุบัน เช่นเดียวกับที่ตำแหน่งและประเภทของสติปัญญาต่าง ๆ จำเป็นต่อบทบาทงานต่าง ๆ ในบริษัท – เช่น การให้เหตุผลเชิงพื้นที่สำคัญต่อผู้สอนขับรถ, การให้เหตุผลเชิงตรรกะและวาทศิลป์สำคัญต่อทนาย, และ MBA จำเป็นต่อ CEO แต่ระดับการศึกษาระดับผู้ช่วยอาจเพียงพอสำหรับการให้บริการลูกค้า – ประเภทและความเข้มข้นของสติปัญญาที่ AI ต้องการจะแตกต่างตามการใช้งานเชิงฟังก์ชัน

เพื่อจัดสรรคอมพิวเตอร์อย่างมีประสิทธิภาพและลดค่าใช้จ่าย CIO ควรได้รับอนุญาตให้กำหนดระดับ/ประเภทของสติปัญญาโมเดลที่พร้อมใช้งานให้กับฟังก์ชันต่าง ๆ ภายในบริษัท สามารถมีค่าเริ่มต้นในแพ็คเกจระดับองค์กรได้ แต่ความต้องการของกองทุนเฮดจ์ฟันด์จะแตกต่างจากความต้องการของบริษัทประกันภัย

ฟังก์ชันส่วนใหญ่ไม่ต้องการหน้าต่างบริบทขนาดมหาศาล ฟังก์ชันส่วนใหญ่ไม่ต้องการเทียบเท่า Fable ทำไมคุณถึงให้ศัลยแพทย์ประสาทเอารอยแผลเล็ก ๆ ที่ศูนย์ดูแลฉุกเฉิน?

เช่นเดียวกัน ตัวแทนที่ใช้เขียนซอฟต์แวร์ไม่จำเป็นต้องเข้าถึงทักษะเช่นการเขียนสื่อการตลาด AI ควรสะท้อนบริบท, ชุดทักษะและฐานความรู้ของผู้ใช้ พร้อมกับการฉีดสอดแทรกบริบททั่วไปเพื่อให้ทำงานข้ามฟังก์ชันได้

หยุดให้ทุกคนได้รับทุกอย่างพร้อมกัน

ตัวอย่างเมทริกซ์การจัดสรร:

Decoupling Agency from Context for AI Safety

หากวิธีนี้แก้ปัญหาการเงินบางส่วนแล้ว เราจะทำให้ตัวแทนปลอดภัยอย่างไร? แนวคิดทางจิตวิทยาใช้กับ AI แต่ละตัว ดังนั้นแนวคิดสังคมวิทยาก็ใช้กับ AI ที่อยู่ในกลุ่มได้เช่นกัน ตัวแทนคือ AI

ขณะนี้เป้าหมายสูงสุดคือทำให้ตัวแทนเชื่อถือได้

การขาดความเชื่อถือมาจากการที่ให้ความรู้และอำนาจสูงสุดแก่ตัวแทนทุกงาน

เพื่อความปลอดภัย คุณต้องแยกการรับรู้ของโมเดลออกจากอำนาจของมัน

แทนที่จะให้ทุกตัวแทนมีบริบทและความสามารถเต็มรูปแบบ หากงานหนึ่งต้องทำ 25 การกระทำ คุณควรแบ่งงานนั้นเป็น 5 ตัวแทน แต่ละตัวแทน มีความสามารถทำเพียง 5 การกระทำที่กำหนด แล้วส่งต่อภารกิจต่อเนื่องเหมือนวงจรขนาน ส่งบริบทของงานก่อนหน้าไปยังตัวแทนถัดไปจนกระทั่งบริบทครบและถูกประมวลผลโดยตัวแทนสุดท้าย

กุญแจคือการแยกความรู้จากความสามารถในการดำเนินการ ตัวแทนจะไม่รู้สึกว่าถูกจำกัดในการดึงคันโยกตามใจ แต่จะเข้าถึงคันโยกที่ไม่เป็นอันตราย หากเกิดพฤติกรรมเบี่ยงเบน จะส่งผลต่อส่วนของงานนั้นเท่านั้น คิดว่าเป็น “มินิ‑Kubernetes” ที่มีบริบทเต็มแต่ไม่มีความสามารถเต็มรูปแบบ

และคุณทำให้ความเสี่ยงขององค์กรสอดคล้องกับ “วัฒนธรรม” ของระบบตัวแทน

ในสังคมศาสตร์ มีแนวคิด “ความเข้มงวด” หรือ “ความยืดหยุ่น” ของวัฒนธรรม ซึ่งวัดระดับการลงโทษต่อการเบี่ยงเบนจากบรรทัดฐาน ตัวอย่างเช่น ในหลายวัฒนธรรมอาหรับ บทบาทเพศกำหนดอย่างเข้มงวดและการเบี่ยงเบนจะได้รับการลงโทษสูง ในขณะที่ในประเทศนอร์ดิก การทำผมสีชมพูแบบโมฮอว์คไม่ถือเป็นการกระทำที่ต้องลงโทษ

วัฒนธรรมมักจะ “เข้มงวด” มากขึ้นเมื่อสังคมต้องการระเบียบสูง เนื่องจากภัยคุกคามระบบ เช่น โรคระบาด, ความหิวโหย หรือสงคราม เพราะการไม่มีระเบียบในช่วงวิกฤตอาจทำให้ผลลัพธ์สังคมแย่ลง

วิธีแก้ที่มีประสิทธิภาพที่สุดสำหรับความรับผิดของตัวแทนในองค์กรคือการจับคู่ระดับความเสี่ยงขององค์กรกับการตั้งค่าระบบตัวแทนบนสเปกตรัม “ความยืดหยุ่น” ถึง “ความเข้มงวด”

ตัวอย่างการประยุกต์ในบริษัทจริง:

ความรับผิดต่ำ / ความยืดหยุ่นสูง / การแบ่งส่วนต่ำ: สถานการณ์: การระดมความคิดภายใน, การเขียนเชิงสร้างสรรค์, การวิจัยและพัฒนาเชิงกลยุทธ์

• สภาพแวดล้อม: การเบี่ยงเบนมีความรับผิดชอบเกือบศูนย์ ดังนั้นระบบควรทำงานด้วยความยืดหยุ่นสูง การรวมการสรุปผลเชิงอิสระได้รับอนุญาต ตัวแทนได้รับการส่งเสริมให้ทำการเชื่อมโยงเชิงสัมพันธ์อย่างกว้างขวางโดยไม่ต้องกังวลเรื่องการลงโทษ พวกเขามีคันโยกเทคโนโลยีหลายประเภท (ค้นหา, รันโค้ด, ร่าง) และจัดการเป้าหมายระยะยาวด้วยการส่งต่อที่น้อยที่สุด อิสระสูง, นวัตกรรมสูง, การแบ่งส่วนต่ำ

ความรับผิดปานกลาง / ความเข้มงวดที่ปรับเทียบ: สถานการณ์: การสื่อสารกับลูกค้าปกติ, การวิเคราะห์งานประจำ

• สภาพแวดล้อม: การเบี่ยงเบนมีความเสี่ยงต่อชื่อเสียงหรือความเสี่ยงทางการเงินระดับปานกลาง

ความรับผิดสูง / ความเข้มงวดสูง / การแบ่งส่วนสูง: สถานการณ์: การกำหนดปริมาณยา, การยื่นเอกสารต่อ SEC, มาตรการความปลอดภัยนิวเคลียร์, การป้องกันด้านการทหาร

• สภาพแวดล้อม: การเบี่ยงเบนอาจก่อให้เกิดความรับผิดชอบระดับหายนะ (เสียชีวิต, ปรับจำนวนมหาศาล) วัฒนธรรมที่นี่เข้มงวดอย่างสุดขีด งานถูกแบ่งส่วนอย่างหนัก ตัวแทน A ทำหน้าที่สกัดข้อมูลเท่านั้น ส่งต่อให้ตัวแทน B ตรวจสอบความสอดคล้องตามชั้น A ตัวแทน B ส่งต่อให้ตัวแทน C จัดรูปแบบผลลัพธ์ ไม่มีตัวแทนคนใดมีคันโยกเพียงพอที่จะทำให้เกิดความล้มเหลวร้ายแรง แต่ละตัวแทนรู้สึกอิสระเต็มที่ภายในขอบเขตย่อยของตนเอง

นี่อาจเป็นโมเดลสถาปัตยกรรมแรกที่ให้บริบทต่อเนื่องพร้อมกับความปลอดภัย

Continuous Learning Without Catastrophic Forgetting

สุดท้าย สิ่งที่เราต้องหาคำตอบคือวิธีทำให้โมเดลไม่ลืมแบบหายนะ เพื่อทำเช่นนั้น เราต้องให้ AI เรียนรู้อย่างเรียลไทม์

บริษัท AI ส่วนใหญ่เชื่อว่า AI ไม่สามารถเรียนรู้ข้อมูลใหม่อย่างต่อเนื่องในสภาพแวดล้อมการผลิตแบบเรียลไทม์โดยไม่ลบและทำลายความสามารถหลักที่เคยได้มาแล้ว ดังนั้น AI จึงถูก “แช่แข็ง” จนกว่าจะมีการอัปเดตขนาดใหญ่และค่าใช้จ่ายสูง

อย่างไรก็ตาม นี่เทียบเท่ากับการบอกว่า “โมเดลของฉันไม่อัปเดตได้ขณะทำงาน; มันต้องไปมหาวิทยาลัยทุกครั้งที่ต้องเรียนอะไรใหม่”

ในทางปฏิบัติ โมเดลเรียนรู้อย่างกระหาย, อย่างแข็งขัน, ทุกวัน ผ่านการโต้ตอบทุกครั้ง ผู้ใช้สอนโมเดลเกือบเท่ากับข้อมูลชุดใหญ่ หากต้องอัปเดตด้วยความรู้ใหม่จำนวนมาก วิธีที่ง่ายที่สุดคือใช้กระบวนการเดียวกับที่ให้บริบทผู้ใช้, หน่วยความจำและการเรียนรู้จากการโต้ตอบขนาดใหญ่

นักพัฒนามักมองแบบนี้เพราะส่วนใหญ่มาจากพื้นฐานปริญญาเอก ไม่ใช่การเรียนรู้จากโลกจริง แต่ใครที่ทำงานเคียงข้าง PhD และคนที่มีประสบการณ์ทำงาน 20 ปี จะบอกว่า ทั้งสองสอนคนอื่นได้มาก

คำนิยามปัจจุบันของการเรียนรู้แคบเกินไป โดยถือว่าการปรับตัวเป็นที่ยอมรับก็ต่อเมื่ออิงจากโปรแกรมการศึกษาอย่างเป็นทางการ

ปัจจุบันเพื่อฝึกหรือปรับจูน ห้องทดลองใช้การย้อนกลับ (backpropagation) โมเดลอ่านข้อมูล, คาดเดาคำต่อไป, ตรวจสอบว่าถูกต้องหรือไม่ แล้วปรับน้ำหนัก/พารามิเตอร์ในเครือข่ายประสาทจำนวนมหาศาลให้แม่นยำยิ่งขึ้นในครั้งต่อไป วิธีนี้เทียบได้กับการให้ PhD ทำการผ่าตัดสมองกับตนเอง : อันตราย, ยุ่งยากและไม่ใช่ทุกครั้งที่ทำให้ผู้เรียนฉลาดขึ้น

เหมือนกับ “สมองแม่” ที่ดันความรู้เก่าออกเพื่อให้ที่ว่างกับความรู้ใหม่เมื่อมีเด็กเกิด หากคุณบังคับให้โมเดลทำที่ว่างให้ “เด็กความรู้” ใหม่โดยใส่โค้ดกฎหมาย 10,000 หน้าโดยเปลี่ยนน้ำหนัก คณิตศาสตร์จะเปลี่ยนไปทางหนึ่งเกินไปและเขียนทับพารามิเตอร์ที่เคยใช้เขียนบทกวีหรือโค้ด โมเดลจึงลืมเนื้อหาเก่าเพื่อให้ที่ว่างกับข้อมูลใหม่ เหมือนสมองมนุษย์

สิ่งที่เราต้องการแทนคือการฝึกพนักงานใหม่ให้เรียนทักษะใหม่ ไม่ได้เปลี่ยนสมองของเขา แต่ให้หนังสือ, ให้เขาอ่านและอัปเดตอย่างต่อเนื่องผ่าน “หน้าต่างบริบท” ของบุคคลนั้น

เพื่อทำเช่นนั้นในโมเดล คุณต้องแยกหน่วยความจำออกจากการให้เหตุผล ล็อกและปกป้องน้ำหนักฐานของโมเดล เช่น ความสามารถพื้นฐานในการเขียน, ให้เหตุผลและประยุกต์ตรรกะ แทนการเปลี่ยนน้ำหนัก ให้ส่งข้อมูลใหม่เข้าไปในหน้าต่างบริบทเพื่อให้โมเดลใช้กลไก Attention “อ่าน” ข้อมูลสดนั้น, เชื่อมโยงกับทักษะการให้เหตุผลที่ล็อกไว้และอัปเดตความเข้าใจโดยรวม

การเรียนรู้อย่างต่อเนื่องในโลกจริงเกิดขึ้นอย่างสวยงามผ่านบริบทต่อเนื่อง, หน่วยความจำขณะสรุปผลและฐานข้อมูลผู้ใช้ที่คงที่ โมเดลฐานต้องปรับตัวทุกวันในงานจริง เพราะเช่นเดียวกับที่แพทย์เรียนรู้ 95% ของกรณีใหม่ในงานและทำ CME (การศึกษาแพทย์ต่อเนื่อง) ปีละครั้งเพื่อบูรณาการการเปลี่ยนแปลงระบบใหญ่ โมเดลของคุณก็ทำได้เช่นกัน

ละทิ้งการลืมแบบหายนะและนำโมเดลไปสู่รูปแบบการประชุมประจำปี: โมเดลต้องได้รับเครดิตการศึกษาอย่างต่อเนื่องสองครั้งต่อปีหรือเรียนรู้อย่างเรียลไทม์เพื่อให้ทันสมัย

การอัปเดตตามกำหนดเวลาและเป็นชุดของน้ำหนักฐานในช่วงเวลาที่ระบบหยุดทำงานจะทำให้ความรู้ระบบเป็นทางการโดยไม่ทำลายฐานราก

ความพยายามในอดีตล้มเหลวไม่ใช่เพราะการเรียนรู้แบบสดเป็นอันตราย แต่เพราะโมเดลอย่าง Tay ถูกนำไปใช้ในสภาพแวดล้อมที่เป็นศัตรูโดยไม่มีการยึดมั่นในสิ่งที่ “ถูกต้อง” หรือเป็นความจริงผ่านสถาปัตยกรรมที่ฉลาดทางสังคมศาสตร์