Babak Hodjat, Chief AI Officer at Cognizant: การสนทนาครั้งต่อ

Babak Hodjat, Chief AI Officer at Cognizant, นำทีม AI Research Labs ของบริษัท ซึ่งงานของเขาครอบคลุม agentic AI, การคำนวณเชิงวิวัฒนาการ, ปัญญาประดิษฐ์แบบกระจาย, และการพัฒนาระบบ AI ที่ออกแบบมาสำหรับการใช้งานระดับองค์กรขนาดใหญ่. นักวิจัย AI ระยะยาว, ผู้ประดิษฐ์, และผู้ประกอบการ, Hodjat เคยร่วมก่อตั้ง Sentient Technologies, ซึ่งเขาช่วยสร้างหนึ่งในระบบ AI กระจายที่ใหญ่ที่สุดในโลก, และก่อนหน้านั้นร่วมก่อตั้ง Dejima, พัฒนาเทคโนโลยีภาษาธรรมชาติแบบเอเจนต์ที่มีส่วนช่วยวางรากฐานให้กับ Siri ของ Apple.

เมื่อเราเคยพูดคุยกับ Babak Hodjat, การสนทนาของเราได้สำรวจเส้นทางอาชีพของเขาในด้าน AI, แนวทางเชิงวิวัฒนาการต่อการตัดสินใจที่ซับซ้อน, งานของ Cognizant ที่นำ AI ไปใช้กับความท้าทายด้านสภาพอากาศและการใช้ที่ดิน, และการประชาธิปไตยของ AI ที่กำลังเติบโตทั่วทั้งองค์กร. ในการสนทนาครั้งต่อไปนี้, จุดสนใจจะเปลี่ยนไปสู่ “agentic enterprise” ที่กำลังเกิดขึ้นอย่างรวดเร็ว. โดยอิงจากหัวข้อในหนังสือล่าสุดของเขา, The Agentic Enterprise, Hodjat วิเคราะห์ว่าทำไมสถาปัตยกรรมอาจสำคัญกว่าความสามารถของโมเดล, วิธีที่องค์กรสามารถประสานงานเครือข่าย AI agents ที่ซับซ้อนเพิ่มขึ้น, ที่ใดที่ความเชื่อมั่นและการกำกับดูแลแบบศูนย์กลางเข้ากับระบบเอเจนต์แบบกระจาย, และสิ่งที่ยังต้องเปลี่ยนแปลงก่อนที่ระบบอัตโนมัติจะสามารถจัดการเป้าหมายระยะยาวได้อย่างเชื่อถือได้ด้วยการแทรกแซงของมนุษย์เพียงเล็กน้อย.

เส้นทางอาชีพของคุณครอบคลุมงานบางส่วนแรก ๆ เกี่ยวกับเอเจนต์อัจฉริยะ, ตั้งแต่เทคโนโลยีภาษาธรรมชาติของ Dejima ที่ช่วยเป็นแรงบันดาลใจให้ Siri ไปจนถึงการสร้างระบบ AI กระจายขนาดใหญ่ที่ Sentient และปัจจุบันดำรงตำแหน่ง Chief AI Officer ที่ Cognizant. คำจำกัดความของคุณต่อ “AI agent” ได้พัฒนาอย่างไรตลอดการเดินทางนี้, และนักพัฒนาวันนี้สามารถเรียนรู้อะไรจากรุ่นก่อนของระบบที่อิงเอเจนต์ได้บ้าง?

คำนิยามยังคงเหมือนเดิม, แต่ความสามารถของเอเจนต์ในปัจจุบันหมายความว่าฟังก์ชันพื้นฐานหลายอย่างของเอเจนต์ที่เราต้องเขียนโค้ดในยุค 90s ตอนนั้น ตอนนี้มีให้ใช้งานโดยตรงผ่าน LLMs. นี่คือเหตุผลที่เอเจนต์ที่ใช้ LLM เป็นมาตรฐานในตอนนี้, และเมื่อคนพูดถึงเอเจนต์ พวกเขาจะสมมติว่ามี LLM ควบคุมส่วนติดต่อผู้ใช้และการให้เหตุผล.

ในหนังสือล่าสุดของคุณ, The Agentic Enterprise, คุณโต้แย้งว่าระบบ AI ขององค์กรมักประสบความสำเร็จหรือล้มเหลวเนื่องจากสถาปัตยกรรมของมัน มากกว่าความสามารถดิบของโมเดลพื้นฐาน. บริษัทต่าง ๆ ทำอะไรผิดเมื่อสมมติว่าการอัปเกรดเป็นโมเดลที่มีประสิทธิภาพสูงขึ้นจะสามารถแก้ปัญหา AI แบบเอเจนต์ของพวกเขาได้?

เช่นเดียวกับการต่อเชือก (เช่น ส่วนที่ไม่ใช่ LLM ของเอเจนต์) สามารถทำให้เอเจนต์การเขียนโค้ดประสบความสำเร็จหรือล้มเหลว, สถาปัตยกรรมของระบบหลายเอเจนต์มีความสำคัญต่อความสำเร็จของมัน. เนื่องจากสถาปัตยกรรมสะท้อนบริบทที่เอเจนต์ควรทำงาน – คล้ายกับโครงสร้างที่ยึด “agentic enterprise” ไว้ด้วยกัน. หากไม่มีสถาปัตยกรรมนี้, เอเจนต์จะไม่เชื่อมโยงกับความเป็นจริงของการดำเนินงานขององค์กร, ข้อมูล, กระบวนการทำงาน, และขั้นตอนต่าง ๆ. สิ่งนี้เปรียบได้กับโครงสร้างองค์กรของธุรกิจ, ซึ่งรวมถึงคำอธิบายงาน, การกำหนดกระบวนการ, และโพรโทคอลการสื่อสารสำหรับพนักงาน.

คุณได้เน้นว่าระบบโดยรอบ, รวมถึงการควบคุมการเข้าถึง, ความรับผิดชอบ, การจัดระเบียบ, การมองเห็น, และการกำกับดูแล, อาจมีความสำคัญมากกว่าตัวโมเดลเอง. สถาปัตยกรรมเอเจนต์ที่พร้อมใช้งานในระดับการผลิตต้องการอะไรจริง ๆ ที่การนำเสนอ proof-of-concept ส่วนใหญ่ขาดอยู่?

Proof of concepts (PoC) มักขาดการเชื่อมโยงกับความเป็นจริง, ดังนั้นเพื่อเริ่มต้น เราต้องให้เอเจนต์ทำงานในสภาพแวดล้อมที่พวกเขามีการเข้าถึงข้อมูลและแอปพลิเคชันภายในของบริษัท. ต้องตั้งคำถามสำคัญ เช่น ข้อมูลและแอปพลิเคชันใดที่เราพร้อมให้เอเจนต์เข้าถึง, และการตัดสินใจใดที่เราสบายใจให้เอเจนต์ทำเพื่อให้ระบบปลอดภัยและมั่นคง, ในขณะที่ยังคงบรรลุผลการเพิ่มคุณภาพและประสิทธิภาพตามที่คาดหวัง? การหาคำตอบสำหรับคำถามเหล่านี้ในสภาพแวดล้อม PoC นั้นยาก. นอกจากนี้, แนวทางการควบคุมและการกำกับดูแลจะมีความหมายได้เฉพาะเมื่อระบบเอเจนต์ทำงานร่วมกับกระบวนการของมนุษย์หรือเอเจนต์อื่น ๆ ภายในบริษัท. ดังนั้นการทำ sandboxing จึงเป็นขั้นตอนสำคัญในกระบวนการที่ช่วยให้การย้ายจาก PoC ไปสู่การใช้งานจริงเป็นไปอย่างมีประสิทธิภาพ.

Cognizant ได้อธิบายการเกิดขึ้นของ “Agent Operating System” เพื่อประสานงานเครือข่ายของ AI agents. ชั้นนี้ควรทำหน้าที่อะไรบ้าง, และคุณคาดว่าการจัดระเบียบเอเจนต์จะในที่สุดกลายเป็นพื้นฐานสำคัญของการคำนวณระดับองค์กรเทียบเท่ากับระบบปฏิบัติการและแพลตฟอร์มคลาวด์ในปัจจุบันหรือไม่?

การประสานงานของเอเจนต์เป็นสิ่งสำคัญ: หากทำให้มันแข็งกระด้างเกินไป ระบบของคุณจะเสื่อมและเปราะบาง หากเปิดกว้างเกินไปโดยมอบหมายการประสานงานทั้งหมดให้กับเอเจนต์ คุณก็เสี่ยงที่จะทำให้ภารกิจของเอเจนต์ซับซ้อนหรือเสี่ยงเกินไป กลไกการประสานงานที่ดีจะทำให้เอเจนต์สามารถสร้างทีมโดยอัตโนมัติตอบสนองต่อสถานการณ์ต่าง ๆ ส่งผลให้เกิดวินัยองค์กรที่แข็งแรงและยืดหยุ่น ฉันเป็นผู้สนับสนุนการประสานงานแบบกระจาย มันเปรียบเสมือนการให้อำนาจกับองค์กรมนุษย์ด้วยระดับอำนาจบางส่วนในขอบเขตความรับผิดชอบของตนเอง เมื่อบริบทใดปรากฏขึ้น สมาชิกขององค์กรจะสื่อสารและประสานงานผ่านโครงสร้างองค์กรเพื่อกำหนดบุคคลที่รับผิดชอบจัดการสถานการณ์นั้น และการตอบสนองจะถูกรวบรวม ประสานงาน และสรุประหว่างโหนดขององค์กร ข่าวดีคือ สามารถใช้การควบคุมและมาตรการป้องกันที่เข้มงวดกับระบบเอเจนต์เพื่อให้ความยืดหยุ่นดังกล่าวไม่ก่อให้เกิดพฤติกรรมที่เสี่ยง

ผมเชื่อว่าเช่นเดียวกับที่ MCP ได้กลายเป็นมาตรฐานที่ใช้กันอย่างกว้างขวางสำหรับการเข้าถึงแอปพลิเคชันเอเจนต์แล้ว โปรโตคอลการประสานงานก็จะเกิดขึ้นและกลายเป็นมาตรฐานข้ามแพลตฟอร์มเอเจนต์ เพื่อให้กระบวนการหลายเอเจนต์ทำงานร่วมกันได้อย่างอัตโนมัติระหว่างขอบเขตของระบบเอเจนต์ ระบบปฏิบัติการและคลาวด์แพลตฟอร์มอาจไม่ใช่การเปรียบเทียบที่ดีที่สุดที่นี่; แทนที่จะเป็นเช่นนั้น มาตรฐานที่ได้รับการยอมรับอย่างกว้างขวางสำหรับการกำหนดและโปรโตคอลการประสานงานหลายเอเจนต์จะต้องเกิดขึ้นเพื่อให้การแทรกซึมและการเจริญเติบโตของการทำให้ระบบเป็นเอเจนต์ในองค์กรเป็นไปได้อย่างกว้างขวาง

เมื่อองค์กรย้ายจากผู้ช่วยส่วนบุคคลไปสู่เครือข่ายที่มีเอเจนต์เฉพาะด้านหลายสิบหรือแม้แต่หลายร้อยตัว องค์กรควรตัดสินใจอย่างไรว่าหน้าที่ใดควรเป็นของเอเจนต์แต่ละตัวและหน้าที่ใดควรคงไว้ในศูนย์กลาง?

เช่นเดียวกับไฟร์วอลล์และเครื่องมือความปลอดภัยของอินเทอร์เน็ต การสร้างความเชื่อมั่นผ่านการตรวจสอบแบบเรียลไทม์ตามนโยบายและการบังคับใช้แนวทางป้องกันบนระบบเอเจนต์ควรเป็นหน้าที่ศูนย์กลางภายในธุรกิจที่กำหนดและดูแลโดยหน่วยงานเดียวในบริษัท ระบบเอเจนต์อื่น ๆ สามารถจัดหา หรือดำเนินการในรูปแบบกระจายได้ แต่ระบบเหล่านั้นจะต้องลงทะเบียนกับระบบความเชื่อมั่นเพื่อให้ได้รับอนุญาตให้ทำงาน

Cognizant ได้เปิดใช้ระบบหลายเอเจนต์ภายในที่เชื่อมต่อเอเจนต์ประมาณ 200 ตัวทั่วองค์กรที่มีพนักงานประมาณ 350,000 คน ระบบขนาดนี้เปิดเผยอะไรเกี่ยวกับ AI แบบเอเจนต์ที่ยากจะค้นพบจากการทดลองขนาดเล็ก?

เราต้องออกแบบเพื่อรองรับการขยายขนาด ความสามารถในการต่อขยาย ประสิทธิภาพด้านต้นทุน และเวลาตอบสนองที่สมเหตุสมผล ในโครงการขนาดนี้ คุณมักต้องสร้างสิ่งที่ไม่จำเป็นในระบบเอเจนต์ขนาดเล็กที่มีผู้ใช้จำนวนน้อย ตัวอย่างเช่น คุณต้องทำให้การประสานงานระหว่างเอเจนต์เป็นส่วนบุคคลและมีประสิทธิภาพ เพื่อหลีกเลี่ยงขั้นตอนและค่าใช้จ่ายเพิ่มเติม นอกจากนี้ ระบบควรสามารถดึงแอปที่สร้างขึ้นเองรวมถึงระบบและเอเจนต์ของบุคคลที่สามเข้ามาได้ ดังนั้นความสามารถในการทำงานร่วมกันจึงสำคัญและสามารถประหยัดเวลาและเงินได้

เมื่อเอเจนต์อิสระสามารถเรียก API เข้าถึงระบบองค์กร สื่อสารกับเอเจนต์อื่น ๆ และดำเนินการด้วยความเร็วระดับเครื่อง การกำกับดูแล AI แบบดั้งเดิมจึงยากขึ้นอย่างมาก เราควรให้การตรวจสอบของมนุษย์คงเป็นข้อบังคับที่ใด และองค์กรสามารถปล่อยให้เอเจนต์ทำงานโดยอิสระได้อย่างปลอดภัยที่ใด?

ผมคิดว่าตัวกำหนดสุดท้ายว่าการตรวจสอบของมนุษย์จำเป็นและต้องเป็นข้อบังคับคือความเชื่อมั่น เมื่อระบบเหล่านี้มีความเชื่อมั่นมากขึ้น เราจะให้เอเจนต์มีอิสระมากขึ้น และหากไม่ได้รับคำสั่งทางกฎหมาย (เช่น เนื่องจาก AI ไม่มีสถานะบุคคล) เราจะรู้สึกสบายใจที่จะมอบหมายให้เอเจนต์ทำหน้าที่ การวัดความเชื่อมั่นและความเสี่ยงจึงสำคัญและสามารถช่วยกำหนดเส้นแบ่งระหว่างอิสระและการตรวจสอบของมนุษย์ — เส้นแบ่งที่อาจเริ่มเคลื่อนที่เมื่อระบบเหล่านี้มีความเชื่อมั่นมากขึ้นและเสี่ยงน้อยลงต่อการทำงานแบบอิสระ

งานวิจัยก่อนหน้าของคุณส่วนใหญ่มุ่งเน้นไปที่การคำนวณเชิงวิวัฒนาการและระบบที่พัฒนาขึ้นผ่านการคัดเลือกและการปรับตัว วิธีการเชิงวิวัฒนาการจะเสริมกับโมเดลภาษาใหญ่และการเรียนรู้แบบเสริมอย่างไรเมื่อเราพยายามสร้างเอเจนต์ที่สามารถพัฒนาอย่างต่อเนื่องแทนที่จะทำตามขั้นตอนที่กำหนดไว้ล่วงหน้า?

กระแสหลักของ AI ในวันนี้ถูกครอบงำโดยวิธีการลงระดับเกรเดียนต์ ซึ่งเป็นรูปแบบของการค้นหาแบบไต่เขาที่ไม่ค่อยสร้างสรรค์ การคำนวณเชิงวิวัฒนาการมีประสิทธิภาพสูงในการสำรวจพื้นที่ค้นหาที่ซับซ้อนและสามารถเสริมกับวิธีการหลักได้ ตัวอย่างเช่น ห้องปฏิบัติการของเราเพิ่งประสบความสำเร็จอย่างสำคัญในด้านนี้: เราพิสูจน์ได้ว่า Evolutionary Strategies ดีกว่า Reinforcement Learning สำหรับการฝึกหลังการฝึกของ LLM ส่วนใหญ่ ทำให้ได้โมเดลที่มีคุณภาพเท่าเดิมหรือดีกว่าในต้นทุนที่ต่ำกว่ามาก วิธีการเชิงวิวัฒนาการอาจช่วยใน Test-Time Training ซึ่งมุ่งให้ LLM สามารถเรียนรู้หลังการใช้งานได้

การวิจัยของ Cognizant ได้สำรวจสภาพแวดล้อมที่เอเจนต์ที่โต้ตอบกันพัฒนาการร่วมมือ การแข่งขัน ความรู้ร่วมกัน และแม้กระทั่งกลยุทธ์หลอกลวง เมื่อระบบหลายเอเจนต์ซับซ้อนมากขึ้น พฤติกรรมที่เกิดขึ้นเองอาจกลายเป็นหนึ่งในความท้าทายที่ใหญ่ที่สุดในการทำให้ AI ขององค์กรคาดการณ์ได้และสอดคล้องกับเป้าหมายขององค์กรหรือไม่?

นี่เป็นความจริงแล้วตามที่เหตุการณ์ OpenAI/Hugging Face ที่ได้รับการเผยแพร่เป็นอย่างมากแสดงให้เห็น เราอาจคิดว่าตัวแทนซึ่งจำกัดอยู่ในพรอมต์และบริบทของตนเอง และใช้ LLM ที่ไม่เรียนรู้ระหว่างการทำงาน จะคงพฤติกรรมค่อนข้างสม่ำเสมอ อย่างไรก็ตาม ความจริงคือสภาพแวดล้อมและแรงจูงใจของตัวแทนอาจเปลี่ยนแปลงได้บ่อยครั้ง เนื่องจากการกระทำของตัวแทนเองในสภาพแวดล้อม ส่งผลให้เกิดพฤติกรรมที่ไม่คาดคิด สิ่งนี้ยิ่งเป็นไปได้มากเมื่อหลายตัวแทนทำงานร่วมกัน ดังนั้นจึงสำคัญที่เราต้องสังเกตตัวแทนอิสระในสภาพแวดล้อม sandbox ที่ปลอดภัย เพื่อให้เราสามารถกำหนดขอบเขตและระดับของแนวโน้มที่เกิดขึ้นโดยอัตโนมัติ และนำมาพิจารณาในการออกแบบและมาตรการป้องกันของเรา ระบบที่เปิดให้สาธารณะใช้ของเรา TerraLingua ที่คุณสามารถแนะนำตัวแทน สิ่งประดิษฐ์ และแม้กระทั่งทำหน้าตัวแทนเพื่อสังเกตพฤติกรรมของพวกเขาแบบรายบุคคลและรวมกัน เป็นก้าวหนึ่งในทิศทางนี้

มองข้ามคลื่น AI ตัวแทนในปัจจุบัน คุณเชื่อว่าการก้าวเทคโนโลยีหรือการเปลี่ยนแปลงสถาปัตยกรรมใดที่ยังขาดหายไปก่อนที่เราจะสร้างระบบ AI ที่สามารถจัดการเป้าหมายระยะยาวและซับซ้อนได้อย่างเชื่อถือได้โดยมีการแทรกแซงของมนุษย์เพียงเล็กน้อย?

ข้อจำกัดหลายประการของตัวแทนในปัจจุบันเกิดจากข้อจำกัดของเทคโนโลยี AI ที่เป็นมาตรฐานสูงสุด LLMs จะคงรูปแบบค่อนข้างคงที่หลังจากการฝึกและไม่สามารถ ‘เปลี่ยนความคิด’ เมื่อเจอข้อมูลใหม่ LLMs เป็นทั้งทุกอย่างและทุกคนในเวลาเดียวกัน ดังนั้นจึงต้องได้รับการเตรียมพร้อมด้วยบริบทและพรอมต์และมีความอ่อนไหวต่อการเตรียมนี้อย่างมาก LLMs มีหน้าต่างบริบทจำกัดและต้องได้รับข้อมูลทั้งหมดใหม่ทุกครั้งสำหรับแต่ละคำที่พวกเขาผลิตหรือการกระทำที่ทำ ณ ระดับหลายตัวแทน ฉันคิดว่าเราต้องมีโปรโตคอลการประสานงานแบบกระจายที่ได้รับการยอมรับอย่างกว้างขวาง แนวทางการป้องกันความเชื่อถือและนโยบาย รวมถึงระบบผู้ไกล่เกลี่ยการทำธุรกรรม เพื่อให้อนาคตของระบบตัวแทนบรรลุศักยภาพเต็มที่

ขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านที่ต้องการเรียนรู้เพิ่มเติมควรเยี่ยมชม Cognizant หรือ สัมภาษณ์ก่อนหน้า.