การเปลี่ยนแปลงสู่เศรษฐกิจการยืนยัน

การตรวจสอบงานของ AI อาจกลายเป็นภาคส่วนสำคัญในเศรษฐกิจการเรียนรู้ของเครื่องใหม่ ซึ่งจะต้องขยายขนาดอย่างมาก และไม่สามารถทำอัตโนมัติได้ แต่เมื่อเวลาผ่านไป ‘ผู้เชี่ยวชาญ’ ของมนุษย์มีแนวโน้มที่จะเสื่อมสภาพลงในแง่ของคุณภาพ

ความคิดเห็น ภรรยาของฉันเป็นสถาปนิกในหนึ่งในระบบราชการอันซับซ้อนและเข้มงวดที่สุดในยุโรป ส่วนสำคัญของมูลค่าของการศึกษาของเธออยู่ที่การได้รับและรักษา สิทธิ์ในการลงนาม – ใบอนุญาตที่มีค่าใช้จ่ายสูงซึ่งต้องต่ออายุรายปี และช่วยให้เธอสามารถ ‘ลงนาม’ ในข้อเสนอที่อาจมีการใช้จ่ายหลายแสนหรือหลายล้านยูโรได้

เธอบอกฉันว่าสิ่งนี้ไม่ใช่ส่วนที่ยากที่สุดของงานของเธอ เนื่องจากสิ่งนี้เป็นการทำให้การคำนวณของเธอหรือของผู้อื่นเป็นทางการ และสำหรับวัตถุประสงค์นี้ การทำงานภายนอกไม่ใช่เรื่องที่ยากที่จะตรวจสอบ

โดยพื้นฐานแล้ว – เช่นเดียวกับการแต่งตั้ง CEO – ตรายางนี้ (เป็นตรายางจริงๆ) ให้ผู้มีส่วนได้ส่วนเสียสามารถ ‘เตะก้น’ ได้หากสิ่งต่างๆ ไปไม่ถูกต้อง ในการรับประกันความรับผิดชอบ นอกจากนี้ยังช่วยให้ได้รับการ การประกันภัย และความเชื่อมั่นของนักลงทุน ซึ่งจะไม่สามารถทำได้หากไม่มีการรับรองเหล่านี้

นี่เป็นครั้งที่สองในชีวิตที่ฉันเห็นกระบวนการนี้ดำเนินไปโดยตรง ครั้งแรกเมื่อ 25 ปีที่แล้ว ฉันคบหาดูใจกับแพทย์ผู้เชี่ยวชาญด้านมะเร็งในระบบราชการอื่นที่มีชื่อเสียงในเรื่องความซับซ้อนของสหภาพยุโรป ประเทศอิตาลี และได้เห็นถึงระดับที่การลงนามของผู้เชี่ยวชาญของเธอเป็นขั้นตอนสุดท้ายในห่วงโซ่แห่งความไว้วางใจที่ผู้อื่นหลายคนต้องมีส่วนร่วมด้วย

ฉันเคยได้ยินจากอดีตคู่หาดูใจของฉันในสมัยนั้น และภรรยาของฉันในสมัยหลัง ว่าอาชีพของพวกเขาเต็มไปด้วย ‘ผู้เชี่ยวชาญ’ ที่มีคุณสมบัติแต่ขายตรายางและหลีกเลี่ยงงานที่มีคุณค่าหรือสร้างสรรค์มากกว่า เนื่องจากผู้เชี่ยวชาญเหล่านี้สามารถเรียกเก็บเงินในราคาสูงได้เพราะพวกเขาเป็นทรัพยากรที่หายากและจำเป็น

ดูสิ่งนี้

หัวข้อนี้เกิดขึ้นในใจฉันเมื่อฉันพบ เอกสาร ใหม่ที่กว้างขวางวันนี้ โดยมีชื่อเรื่องว่า เศรษฐศาสตร์ง่ายๆ ของ AGI ในเอกสารนี้ นักวิจัยสามคนจาก MIT มหาวิทยาลัยวอชิงตันในเซนต์หลุยส์ และ UCLA อธิบายถึงอนาคตที่ใกล้จะเกิดขึ้น ซึ่งแรงผลักดันในการสร้างงานอัตโนมัติด้วย AI พบว่าต้องเผชิญกับความจำเป็นในการมีผู้รับผิดชอบในสถานการณ์ที่มีความเสี่ยงสูง – ซึ่งนำไปสู่เศรษฐกิจใหม่ของการยืนยัน การรับรอง และความรับผิดชอบ*

เอกสารนี้ต่างจากภาพที่สื่อถึงภาคธุรกิจที่ถูกทำลายด้วยการทำงานอัตโนมัติ โดยมีสำนักงานขนาดใหญ่ถูกย่อให้เล็กลงจนเหลือเพียง ‘ผู้ดูแล’ เพียงคนเดียว ซึ่งการตัดสินใจของพวกเขาจะถูกใช้เป็นข้อมูลฝึกอบรมเพื่อ (หวังว่าจะ) ไล่ออกแม้แต่ส่วนที่เหลือของ ‘เครื่องจักร’ นั้น

แทนที่จะเป็นเช่นนั้น ผู้เขียนเชื่อว่าข้อพิจารณาทางปฏิบัติและข้อกำหนดด้านการปฏิบัติตามกฎระเบียบจะดึงดูดความสนใจไปที่ ‘ผู้รับรอง’ ที่เป็นมนุษย์ซึ่งทำให้ฝ่ายกฎหมายของบริษัท (AI/มนุษย์/การช่วยเหลือของ AI) มีความสบายใจ:

‘สำหรับบริษัท ความเข้าใจเชิงกลยุทธ์หลักคือการยืนยันว่าไม่ใช่เพียงฟังก์ชันการปฏิบัติตามกฎระเบียบ แต่เป็นเทคโนโลยีการผลิตหลัก – และเพิ่มขึ้นเรื่อยๆ เป็นสิ่งที่สามารถป้องกันการโจมตีได้มากที่สุด นี่หมายถึงการเปลี่ยนแปลงโครงสร้าง: การลงทุนอย่างมากในการสังเกตการณ์ การขยายพื้นฐานความจริงที่ถูกต้อง และการจัดระเบียบใหม่โดยใช้โครงสร้าง “ซендวิช” (ความตั้งใจของมนุษย์ → การดำเนินการของเครื่อง → การยืนยันและรับประกันของมนุษย์)

‘ในเศรษฐกิจที่ผลผลิตดิบถูกทำให้เหมือนกัน ประโยชน์ในการแข่งขันจะย้ายไปที่ทักษะและข้อมูลที่หายากซึ่งสามารถควบคุมและรับรองระบบได้อย่างน่าเชื่อถือ – สร้างผลกระทบต่อเครือข่ายไม่ใช่ในผลผลิตเท่านั้น แต่ยังรวมถึงผลลัพธ์ที่เชื่อถือได้ด้วย’

ผู้เขียนสมมติว่าข้อจำกัดที่สำคัญที่สุดในการเติบโตอาจไม่ใช่ความฉลาด – ซึ่ง AI ได้ ‘แยกออกจากชีววิทยา’ แล้ว – แต่เป็น ความสามารถในการยืนยัน

มูลค่าเปลี่ยนไปสู่การยืนยันของมนุษย์

เอกสารอธิบายถึงการเคลื่อนไหวสู่ AGI ว่าเป็นการแยกออกจากกันระหว่างค่าใช้จ่ายในการผลิตผลลัพธ์ของเครื่องจักรและค่าใช้จ่ายในการตรวจสอบผลลัพธ์ – ซึ่งหลังยังคงถูกผูกไว้กับเวลาของมนุษย์และประสบการณ์ที่มีชีวิต

การสร้างแผน การรายงาน การออกแบบ และคำแนะนำจะกลายเป็นสิ่งที่ถูกและมากมายในสถานการณ์นี้ ในขณะที่การกำหนดว่าสิ่งเหล่านี้มีความถูกต้อง สอดคล้องกัน และปลอดภัยพอที่จะดำเนินการจะกลายเป็น ‘ฟังก์ชันที่หายาก’ ฟังก์ชันการจำกัดที่มีประสิทธิภาพในการใช้งานจะไม่ใช่ปริมาณผลลัพธ์ที่ระบบสามารถผลิตได้ แต่เป็นปริมาณผลลัพธ์ที่ สามารถยืนยันได้อย่างน่าเชื่อถือ

ดังนั้น แทนที่จะให้รางวัลทักษะที่เฉพาะเจาะจงมากขึ้นในงานที่วัดผลได้ ระบบจะ เริ่มให้รางวัลความวัดผลได้: งานที่สามารถกำหนดพารามิเตอร์ได้จะเคลื่อนไปสู่การทำให้เหมือนกันเมื่อค่าใช้จ่ายในการดำเนินการเข้าใกล้ค่าใช้จ่ายในการคำนวณ และมูลค่าจะสะสมในความจริงพื้นฐานที่มีคุณภาพสูง การบันทึกการตรวจสอบที่เชื่อถือได้ และกลไกทางสถาบันที่มอบหมายและดูดซับความรับผิดชอบ

ดังนั้น ในเศรษฐกิจการยืนยัน ประโยชน์จะไม่เกิดจากการที่สามารถผลิตเนื้อหามากขึ้น แต่เกิดจากการที่สามารถรับรองผลลัพธ์ได้ และรับประกันความเสี่ยงที่เกี่ยวข้อง

หากการทำงานอัตโนมัติยังคงเร่งความเร็วขึ้น ในขณะที่การยืนยันยังคงถูกจำกัดโดยเวลาและความสนใจของมนุษย์ เอกสารคาดการณ์ว่า เศรษฐกิจที่กลวง จะเกิดขึ้น ซึ่งในสถานการณ์นั้น เมื่อค่าใช้จ่ายในการทำงานอัตโนมัติลดลง ตัวแทนจะถูกนำไปใช้มากขึ้นเพราะเป็นเรื่องของเศรษฐกิจ – แม้ว่าความสามารถในการตรวจสอบผลลัพธ์ของพวกเขาจะไม่เติบโตในอัตราเดียวกัน ในสถานการณ์นั้น ส่วนแบ่งของงานที่ได้รับการยืนยันอย่างแท้จริงจะลดลง พร้อมกับผลเสียที่ตามมา

ในทางกลับกัน เศรษฐกิจที่เพิ่มขึ้น จะทำให้ความสามารถในการยืนยันเพิ่มขึ้นพร้อมกับการทำงานอัตโนมัติ ซึ่งจะเกี่ยวข้องกับการลงทุนอย่างตั้งใจในการฝึกอบรมแบบมีโครงสร้างเพื่อรักษาความเชี่ยวชาญ และกรอบความรับผิดชอบใหม่ที่สามารถดูดซับความเสี่ยงได้ การใช้งานจะผูกไว้กับสิ่งที่สามารถตรวจสอบและประกันภัยได้จริงๆ – โดยพื้นฐานแล้วเป็นปัญหาอุปสรรคเก่าแก่ที่ถูกนำมาเป็นศูนย์กลางอีกครั้งโดยพัฒนาการทางเทคโนโลยีที่ไม่เคยเกิดขึ้นมาก่อน:

‘ในภาคเทคโนโลยี โมเดลรายได้หลักจะเปลี่ยนจากการขายซอฟต์แวร์ (Software-as-a-Service) ไปเป็นการขายผลลัพธ์ (“Software-as-Labor”) ดังนั้น บริษัทจึงถูกประเมินหลักๆ ตามความสามารถในการดูดซับความเสี่ยงด้านหางโดย Liability-as-a-Service

‘การดำเนินการสามารถขยายได้อย่างไม่มีขอบเขต แต่ความสามารถทางกฎหมายและทางการเงินในการดูดซับความล้มเหลวที่ไม่避免ได้จะเป็นข้อจำกัดใหม่’

ผลตอบแทนที่ลดลง

แท้จริงแล้ว การรักษาความเชี่ยวชาญในโดเมนของมนุษย์เป็นสิ่งสำคัญสำหรับปัญหา เนื่องจากวัฒนธรรมการดูแลอุตสาหกรรมตามคำสั่งของผู้เขียนจะเสี่ยงต่อการเสื่อมสภาพคุณภาพของผู้ที่ ทำ การดูแล – เนื่องจากรุ่นต่อๆ ไปของผู้ดูแลจะไม่มีประสบการณ์โดยตรงและเป็นประสบการณ์ที่มีชีวิตในโดเมนที่ต้องการการยืนยัน

สามารถโต้แย้งได้ว่าในระยะนั้น คุณภาพของการดูแลจะจริงๆ เสี่ยงต่อการถูกทำให้เป็นอัตโนมัติ เนื่องจากการตัดสินใจใหม่จะถูกก่อตั้งขึ้นเพียงจากการตัดสินใจก่อนหน้า อย่างไรก็ตาม สิ่งนี้จะทำให้ผู้มีส่วนได้ส่วนเสีย ไม่มี ‘ก้น’ ที่จะเตะ หรือไม่มีแบบจำลองธุรกิจที่ใช้ได้ นอกจากนี้ยังทำให้บทบาทนี้มีความผันผวนและเต็มไปด้วยความเสี่ยงจนไม่น่าดึงดูด แม้ในช่วงเวลาที่มีการว่างงานต่ำ

การกักขังผู้เชี่ยวชาญที่มีใบอนุญาต เช่น แพทย์และสถาปนิก ในตำแหน่ง ‘การรับรอง’ ที่มีรายได้สูงแต่มีภาระหนัก มีแนวโน้มที่จะกัดกร่อนคุณค่าของพวกเขาในบทบาทนั้นเมื่อเวลาผ่านไป: ยิ่งประสบการณ์จริงในสนามของพวกเขาหายไปในอดีตมากเท่าไหร่ การตัดสินใจของพวกเขาก็จะกลายเป็น ‘ทฤษฎี’ มากขึ้นเท่านั้น เมื่อโดเมนที่ถูกทอดทิ้งของพวกเขายังคงพัฒนาไปในความไม่มีอยู่ของพวกเขา

(สิ่งนี้คุ้นเคยแม้กระทั่งในวัฒนธรรมธุรกิจก่อนยุค AI ในรูปแบบของพนักงานที่มีทักษะซึ่งเลื่อนขึ้นสู่ตำแหน่งผู้จัดการและกลายเป็นคนไม่เข้าใจพัฒนาการใหม่ๆ ในที่สุดก็ทำให้คุณค่าของพวกเขาในฐานะผู้ดูแลและผู้จัดองค์กรลดลง นอกจากนี้ยังเป็นที่คุ้นเคยสำหรับแฟน Star Trek: TNG ในรูปแบบของ Pakleds – ชาติที่ใช้เทคโนโลยีขั้นสูงอย่างกว้างขวาง แต่ไม่เข้าใจวิธีการสร้างหรือซ่อมแซมมัน)

การดำเนินการในระดับเริ่มต้นมักเป็นสนามฝึกซ้อมสำหรับผู้เชี่ยวชาญในอนาคต แต่หากการทำงานอัตโนมัติขจัดงานตามปกติออกไป การพัฒนาพิจารณาใจจะลดลง ผู้เขียนเสนอว่า

ดังนั้น เอกสารจึงบ่งบอกถึงความขัดแย้ง: ยิ่งระบบอัติคิดสามารถทำงานได้มากขึ้น สังคมก็จะพึ่งพาทรัพยากรความเชี่ยวชาญของมนุษย์ ที่ระบบเหล่านั้นอาจกัดกร่อน มากขึ้น

และให้เรารำลึกไว้ว่านี่ไม่ใช่ ปัญหาทางเทคนิค เลย ไม่ใช่สิ่งที่สามารถแก้ไขได้ด้วยวิธีแก้ปัญหาทางเทคนิค ในหลายๆ ด้าน สิ่งนี้ชี้ให้เห็นถึงสิ่งที่เทียบเท่ากับ การล่มสลายของโมเดล AI – ยกเว้นว่าในกรณีนี้ เรากำลังพิจารณาการทำลาย แบบจำลองทางเศรษฐกิจ

‘จากมุมมองนโยบาย ความท้าทายหลักคือความไม่สมมาตรทางโครงสร้างที่ลึกซึ้ง: ผลประโยชน์ของการนำ AI ไปใช้ถูกแยกออกเป็นส่วนตัว ในขณะที่ความเสี่ยงที่เป็นระบบถูกทำให้เป็นสาธารณะ บริษัทและบุคคลจับผลประโยชน์ของการทำงานอัตโนมัติ ในขณะที่การเสี่ยงด้านหางที่อาจเกิดขึ้นถูกถ่ายโอนออกไป’

‘หากไม่มีโครงสร้างพื้นฐานในการยืนยันที่ใช้ร่วมกันและราคาความรับผิดที่เข้มงวด ตลาดจะเคลื่อนตัวไปสู่ เศรษฐกิจที่กลวง – สถานะที่มีกิจกรรมที่วัดได้ระเบิด แต่มีการควบคุมของมนุษย์ที่กลวง

สรุป: วิกฤตที่แตกต่าง

ผู้เขียนกำหนดวิกฤตที่คาดการณ์ไว้ว่าเป็น ช่องว่างการวัดผล ซึ่งกระบวนการที่สามารถวัดผลได้จะถูกทำให้เป็นอัตโนมัติออกจากส่วนร่วมของมนุษย์ โดยเหลือกระบวนการ n-hard หรือ n-legal ที่ยังคงต้องการความเชี่ยวชาญของมนุษย์

อย่างไรก็ตาม ประสบการณ์ของภรรยาของฉันชี้ให้เห็นว่าความซับซ้อนหรือความยากของกระบวนการไม่จำเป็นต้องเกี่ยวข้องกับความจำเป็นในการรับผิดชอบในกระบวนการนั้น สิ่งที่เธอ ‘ลงนาม’ ในหลายๆ สิ่งอาจเป็นปัญหาหรือการคำนวณที่ไม่สำคัญในตัวเอง แต่มีผลกระทบอย่างมากต่อการละเมิด และยิ่งวัฒนธรรมธุรกิจที่มีการฟ้องร้องมากขึ้น ผู้รับประกันและนักลงทุนจะต้องการความรับผิดชอบของมนุษย์มากขึ้นในกระบวนการต่างๆ

ดังนั้น การเปลี่ยนแปลงสู่เศรษฐกิจการยืนยันอาจทำให้เกิดวิกฤตที่แตกต่างจากที่กำลังได้รับการกล่าวถึงในขณะนี้ ปัญหาในกรณีนี้จะไม่ใช่ว่า AI สามารถผลิตได้มากขึ้น แต่วิธีการที่สถาบันสามารถยืนยันสิ่งที่ผลิตได้เพียงพอเพื่อเปลี่ยนความฉลาดของเครื่องจักรให้เป็นมูลค่าที่ยั่งยืน

เนื่องจากความฉลาดของเครื่องจักรอาจขยายตัวได้ไม่มีประเด็นและความพร้อมของ เวลาเชิงกรณี ของมนุษย์ไม่สามารถตามทันความเร็วได้ ปัญหาที่อธิบายไว้ในงานใหม่นี้ดูเหมือนจะเกิดขึ้นอย่างรวดเร็ว – แม้ว่าอาจถูกบดบังไปกับผลกระทบทางเศรษฐกิจในวงกว้างของการนำ AI มาใช้

* เอกสารนี้มีความยาวเกินกว่าที่จะแบ่งออกเป็นรูปแบบปกติ และไม่เหมาะสมสำหรับการวิเคราะห์ประเภทนี้ ดังนั้น ฉันจึงตัดสินใจวิจารณ์และพิจารณาความสำคัญของเอกสารแทน และอ้างอิงผู้อ่านไปยังงานต้นฉบับเพื่อให้พวกเขาสามารถทำเช่นเดียวกัน

^† /s

เผยแพร่ครั้งแรกวันพุธที่ 25 กุมภาพันธ์ 2026