AI ฉลาดขึ้น แต่การรักษาความสอดคล้องกลับยากขึ้น

ตลอดชีวิตการทำงาน ผมพยายามทำความเข้าใจสติปัญญามาโดยตลอด ผมเรียนประสาทวิทยาศาสตร์เพราะสนใจ AI และคิดว่าการเรียนรู้ก่อนว่าสมองทำงานอย่างไรน่าจะเป็นจุดเริ่มต้นที่ดี เริ่มจากทำความเข้าใจสติปัญญาก่อน แล้วค่อยศึกษา “ปัญญาประดิษฐ์” การฝึกฝนดังกล่าวทำให้ผมติดนิสัยอย่างหนึ่ง เมื่อมีความสามารถหรือเทคโนโลยีใหม่เกิดขึ้น คำถามแรกที่ผมถามคือคำถามในทางปฏิบัติ สิ่งนี้ทำอะไรได้จริง และเหมาะกับการแก้ปัญหาในโลกจริงประเภทใดบ้าง

ในฐานะคนทำงานด้าน AI ผมแทบไม่เคยตื่นเต้นไปกับพาดหัวข่าวเกี่ยวกับ AI ผมมองข้ามกระแสข่าวเพื่อทำความเข้าใจไม่เพียงความก้าวหน้าครั้งสำคัญ แต่รวมถึงข้อจำกัดของความสามารถใหม่ ๆ ด้วย

จากเครื่องมือธรรมดาสู่ความน่าเชื่อถือที่มีเดิมพัน

ย้อนกลับไปในปี 2020 ขณะที่การถกเถียงเรื่องความปลอดภัยของ AI กำลังร้อนแรงและเต็มไปด้วยกระแสโฆษณาเกินจริง ผมมีคำแนะนำตรงไปตรงมาอยู่บ้าง มอง AI เป็นเครื่องมือ แม้จะทรงพลัง แต่ก็ยังเป็นเพียงเครื่องมือ ยึดอยู่กับกรณีใช้งานธรรมดา ๆ ทำงานในระดับงานย่อย ซึ่งเทคโนโลยีมีความน่าเชื่อถือเพียงพอที่จะช่วยได้ ภาพอนาคตในแง่ดีที่ผมมองไว้คือการมีเครื่องมือที่เรียบง่ายแต่มีประโยชน์

เมื่อกระแสระบบเอเจนต์เริ่มก่อตัวขึ้นในอีกสองสามปีต่อมา ผมยังคงใช้มุมมองเดิมและก็ยังไม่คล้อยตาม ระบบเอเจนต์จะมีความแข็งแกร่งได้เท่ากับงานย่อยที่อยู่เบื้องหลังเท่านั้น และในตอนนั้นผมยังไม่เห็นความน่าเชื่อถือในระดับงานย่อยที่จำเป็นต่อการทำให้ระบบเหล่านี้มีประสิทธิผล

อย่างไรก็ตาม กระแสโฆษณาเกินจริงกลับเพิ่มขึ้นเรื่อย ๆ เมื่อผมไปร่วมงาน RSA ในช่วงต้นปีที่แล้ว ช่องว่างระหว่างคำพูดกับเนื้อหาสาระยังคงเห็นได้ชัดจนยากจะมองข้าม ผู้คนยังไม่มีความเข้าใจร่วมกันด้วยซ้ำว่า “ระบบเอเจนต์” หมายถึงอะไร แต่ละคนต่างมีคำจำกัดความและมุมมองของตนเอง และผมก็กังวลเกี่ยวกับปัญหาเชิงโครงสร้างอย่างหนึ่ง ลองใช้เอเจนต์สิบตัว ซึ่งแต่ละตัวมีความแม่นยำประมาณ 95% แล้วนำมาต่อกันให้ผลลัพธ์จากตัวหนึ่งกลายเป็นข้อมูลป้อนเข้าของตัวถัดไป เมื่อถึงปลายทางของห่วงโซ่นั้น ความแม่นยำจะเหลือประมาณ 60% ความน่าเชื่อถือไม่อาจคงอยู่ได้เมื่อนำสิ่งต่าง ๆ มาซ้อนต่อกัน ถึงตอนนั้น ผมเริ่มคิดถึงระบบที่ประกอบด้วยเอเจนต์หลายตัว แต่ความกังวลของผมยังอยู่ที่ว่าระบบเหล่านั้นจะเชื่อถือให้ทำงานและสร้างความเปลี่ยนแปลงที่มีความหมายได้หรือไม่

จากนั้น การพัฒนาอย่างรวดเร็วของเอเจนต์สำหรับเขียนโค้ดก็ทำให้ผมเปลี่ยนใจ

ภายในไม่กี่เดือนหลังจากบทความของผมเกี่ยวกับเรื่องนี้ ความก้าวหน้าที่รวดเร็วอย่างน่าทึ่งทำให้ผมเห็นสิ่งหนึ่งชัดเจน ความน่าเชื่อถือในงานจริงหลายประเภทเป็นเพียงเรื่องของเวลา โมเดลที่ดีขึ้น ประกอบกับชุดเครื่องมือทางวิศวกรรมที่ดีกว่าซึ่งสร้างขึ้นโดยรอบ จะช่วยปิดช่องว่างที่ผมกังวลได้ เพดานที่ผมเคยกังวลว่าจะเป็นข้อจำกัดก็จะยกสูงขึ้น

ตอนนั้นเองที่ปัญหาที่แท้จริงเริ่มปรากฏชัด และไม่ใช่ปัญหาที่ผมเฝ้าจับตามอง เมื่อเราไว้วางใจเอเจนต์แต่ละตัวได้แล้ว เราก็ไม่ได้หยุดอยู่แค่การนำตัวแรกไปใช้งาน แต่เรานำไปใช้หลายตัว ใช้เอเจนต์เป็นฝูงในทุกหน่วยงาน แต่ละตัวมีความสามารถและทำหน้าที่ของตนเอง แล้วคำถามใหม่ที่ไม่เกี่ยวกับความน่าเชื่อถือก็เกิดขึ้น หากเอเจนต์ทุกตัวในฝูงทำสิ่งที่ถูกสร้างมาให้ทำได้ ฝูงเอเจนต์นั้นจะยังคงขับเคลื่อนไปสู่เป้าหมายที่องค์กรตั้งใจไว้หรือไม่

ความจำเป็นในการรับรู้สภาวะภายในองค์กร

ร่างกายที่มีแขนขาแข็งแรงย่อมเคลื่อนไหวได้ไม่ดีหากปราศจากการรับรู้ตำแหน่งของร่างกาย ซึ่งเป็นการรับรู้ภายในอย่างต่อเนื่องว่าทุกส่วนอยู่ตรงไหนและกำลังทำอะไร สมองน้อยไม่ได้ทำเพียงตอบสนองต่อข้อมูลป้อนกลับดังกล่าว แต่ยังคาดการณ์ด้วย เมื่อสมองสั่งการให้เคลื่อนไหว สมองจะสร้างความคาดหมายว่าการเคลื่อนไหวนั้นควรทำให้เกิดความรู้สึกอย่างไร จากนั้นจึงตรวจสอบความคาดหมายนั้นกับสิ่งที่เกิดขึ้นจริง ช่องว่างระหว่างทั้งสองคือสัญญาณที่ใช้ปรับแก้สิ่งที่จะเกิดขึ้นต่อไป การเคลื่อนไหวอย่างชำนาญเกิดจากวงจรที่คาดการณ์ผลลัพธ์และปรับแก้ตามความแตกต่าง

องค์กรที่ดำเนินงานโดยใช้เอเจนต์เป็นฝูงก็จำเป็นต้องรับรู้สภาวะของตนเองในลักษณะเดียวกัน องค์กรต้องรู้ได้อย่างต่อเนื่องว่าระบบต่าง ๆ ของตนอยู่ตรงไหน และเบี่ยงเบนไปจากสภาวะที่ตั้งใจไว้มากเพียงใด หากปราศจากการรับรู้ภายในนี้ ส่วนต่าง ๆ ที่มีความสามารถก็ไม่อาจทำงานร่วมกันอย่างประสานสอดคล้องได้ นี่ไม่ใช่กลไกตรวจจับที่ค่อยเพิ่มเข้าไปในร่างกายภายหลังเพื่อให้ปลอดภัยขึ้น แต่เป็นสิ่งจำเป็นต่อการเคลื่อนไหวของร่างกายตั้งแต่แรก

มีกรณีของชายชื่อ Ian Watermanที่ได้รับการศึกษาอย่างกว้างขวาง โดยเขาสูญเสียการรับรู้เช่นนี้ไปเกือบทั่วทั้งร่างกาย เขาเรียนรู้ที่จะเคลื่อนไหวได้อีกครั้ง แต่ทำได้ด้วยการเฝ้ามองตัวเองเท่านั้น ต้องใช้สายตาควบคุมทุกย่างก้าวและทุกครั้งที่เอื้อมมือ วิธีนี้ใช้ได้ผล แต่ก็ทำให้เหนื่อยล้าและเปราะบาง หากปิดไฟ เขาก็ไม่สามารถประสานการเคลื่อนไหวได้เลย องค์กรที่กำกับดูแลเอเจนต์ด้วยการตรวจสอบด้วยตนเองและการทบทวนเป็นระยะก็อยู่ในสภาพเช่นเดียวกับเขา องค์กรต้องออกแรงอย่างต่อเนื่องเพื่อชดเชยการรับรู้ที่ไม่เคยสร้างไว้ตั้งแต่แรก และการชดเชยนั้นมีต้นทุนสูงกว่าสิ่งที่เข้ามาทดแทน ระบบทั้งหมดจะพังทลายทันทีที่เงื่อนไขเปลี่ยนไป

ยังมีความบกพร่องอีกแบบที่แปลกประหลาดยิ่งกว่า ซึ่งควรกล่าวถึง และมีคำอธิบายไว้ในหนังสืออันน่าทึ่งของ V S Ramachandran นักประสาทวิทยา เมื่อแขนขาถูกตัดออก สมองไม่ได้หยุดทำงาน แต่ยังคงส่งสัญญาณไปยังแขนขาที่หายไป และเจ้าตัวก็รับรู้ความรู้สึกนั้นได้อย่างชัดเจน การกำกับดูแลก็ล้มเหลวในลักษณะเดียวกันได้ หากการปรับโครงสร้างหรือละเลยหน้าที่ทำให้การใช้วิจารณญาณที่แท้จริงของหน่วยงานกำกับดูแลถูกตัดทอน หน่วยงานนั้นก็ไม่ได้หยุดทำงาน การทบทวนยังคงเสร็จสิ้น และยังคงมีการจัดทำตัวชี้วัด องค์กรยังคงรู้สึกเหมือนมีการกำกับดูแล ทั้งที่การใช้วิจารณญาณเบื้องหลังได้กลวงเปล่าไปแล้ว เรื่องนี้ทำให้ผมนึกถึงคำแนะนำที่ให้ไว้ในปี 2020 เกี่ยวกับความโปร่งใส หากไม่มีความโปร่งใสก็ย่อมไม่มีการกำกับดูแล และจะไม่มีความโปร่งใสในระบบที่เพียงสร้างภาพว่ามีคนคอยตรวจสอบ

ความสอดคล้องในฐานะทรัพยากรที่ขาดแคลน

ต้นทุนของความฉลาดกำลังลดลง อีกไม่นานความฉลาดจะอยู่ในทุกขั้นตอนการทำงานและทุกเครื่องมือ ในโลกเช่นนั้น ทรัพยากรที่หายากคือความสอดประสาน ซึ่งเป็นสายใยที่เชื่อมสิ่งที่แต่ละระบบทำได้ด้วยตัวเองเข้ากับเป้าหมายที่องค์กรพยายามบรรลุ ความสอดประสานคือเนื้อเยื่อเชื่อมโยงที่ทำให้ปัญญาซึ่งกระจายอยู่ตามส่วนต่าง ๆ ยังคงมุ่งไปสู่เป้าหมายเดียวกัน

ผมใช้เวลาหลายปีศึกษาว่าสมองทำให้ส่วนต่าง ๆ มากมายทำงานร่วมกันเป็นหนึ่งเดียวได้อย่างไร ยุคของ AI แบบเอเจนต์กำลังตั้งคำถามเดียวกันนี้กับองค์กร เป้าหมายยังไม่เปลี่ยนแปลงนับตั้งแต่ปี 2020 น่าเบื่อแต่ก็ยังมีประโยชน์เช่นเดิม ตอนนี้สิ่งน่าเบื่อแต่มีประโยชน์ที่ต้องสร้างก็คือความสอดประสานนั่นเอง