เอเจนต์เป็นพนักงานใหม่ตั้งแต่วันแรกเสมอ ถึงเวลาที่เราต้องออกแบบให้สอดคล้องกับมัน

ภายในปี 2027, 74% ของบริษัทคาดว่าจะใช้เอเจนต์ในบางรูปแบบ ตามการศึกษาล่าสุดของ Deloitte. เป็นเวลาหลายปีที่เราออกแบบและสร้างซอฟต์แวร์เพื่อปรับปรุงประสบการณ์ของมนุษย์ในการใช้งานแอป เว็บไซต์ ระบบปฏิบัติการ และเอกสารของเรา. ตอนนี้ ผู้ใช้ไม่ได้เป็นมนุษย์เลย. สิ่งนี้มีผลกระทบที่กว้างขวางกว่าการเปลี่ยนจากแดชบอร์ดและกระบวนการทำงานที่เรากำหนดไว้สำหรับงานของมนุษย์. เราอยู่ในช่วงเวลาที่ต้องออกแบบสภาพแวดล้อมการทำงานของเอเจนต์, พร้อมกับ ด้วย การออกแบบกระบวนการทำงานของมนุษย์เพื่อชี้นำประสบการณ์ของเอเจนต์ภายในสภาพแวดล้อมเหล่านั้น.  

เรายังอยู่ในช่วงเริ่มต้นของการเรียนรู้ว่าเอเจนต์ต้องการอะไรจากเราเพื่อให้ประสบความสำเร็จอย่างต่อเนื่องและเชื่อถือได้. สัญชาตญาณแรกคือการมองว่าการบูรณาการเอเจนต์เป็นเพียงปัญหาการกระตุ้นหรือ UI. การออกแบบ สภาพแวดล้อมการดำเนินการที่มีการกำกับดูแลอย่างดี เป็นพื้นที่ใหม่สำหรับเราในฐานะวัฒนธรรม. อย่างไรก็ตาม หลักการพื้นฐานของการออกแบบที่ดีและการจัดการที่ดีไม่ได้เปลี่ยนแปลง: เราต้องมอบบริบทที่ชัดเจน, แนวทางที่ไม่มีความกำกวม, และเจตนาที่ชัดเจนให้กับเอเจนต์.

Context: ทำไมการเขียนโค้ดถึงมาก่อน

บริบทอาจเป็นอินพุตที่สำคัญที่สุดหากเราต้องการให้เอเจนต์ส่งมอบผลลัพธ์อย่างสม่ำเสมอในระดับที่เราตั้งใจไว้. การพัฒนาซอฟต์แวร์มีการบันทึกข้อมูลมากกว่าสาขาอื่น ๆ อย่างมาก: ที่เก็บโค้ด, สคีม่า API, ความสัมพันธ์ระหว่างระบบ, การตรวจสอบโค้ดและการสนทนาของชุมชน. ดังนั้นจึงเป็นเรื่องสมเหตุสมผลที่ห้องทดลอง AI ด้านแนวหน้าเริ่มจากการเขียนโค้ด. นี่เป็นหนึ่งในไม่กี่โดเมนที่มีบริบทจำนวนมากถูกบันทึกไว้แล้ว. 

แต่เช่นเดียวกับที่พนักงานใหม่ในทีมซอฟต์แวร์จะบอกคุณ, แม้จะมีข้อมูลทั้งหมดนั้น, เอเจนต์ยังคงขาดความทรงจำเชิงสถาบันที่ฝังอยู่ในกฎที่ไม่ได้เขียนไว้และไม่มีใครบันทึก. ช่องว่างนี้เป็นเรื่องกว้างขวาง: 43% ของนักพัฒนา กังวลว่าเครื่องมือ AI ขาดบริบทเพียงพอเกี่ยวกับโครงการหรือฐานโค้ดของตน. ความรู้โดยไม่เป็นทางการครอบคลุมตั้งแต่ขนบธรรมเนียมประจำวัน เช่น ไลบรารีที่นิยมใช้สำหรับงานเฉพาะ, ไปจนถึง “ผี” ด้านการดำเนินงานที่สำคัญ: การแก้ไขด่วนในดึกที่ค้างอยู่ตลอดเวลา, หรือคอลัมน์ฐานข้อมูลที่ดูเหมือนว่างเปล่าแต่เป็นฐานของรายงานรายได้ที่กำหนดเอง. บริบทนี้อาศัยอยู่ในหัวของวิศวกรอาวุโส, ในเธรด Slack ล่าสุด, หรืออาจไม่มีอยู่เลย. มันแทบจะไม่อยู่ในฐานโค้ดเอง.  

หากเป็นเช่นนั้นในซอฟต์แวร์ซึ่งเป็นหนึ่งในสาขาที่มีการบันทึกดีที่สุด, ก็ง่ายที่จะเข้าใจว่าทำไมเอเจนต์จึงประสบปัญหาในการทำงานอย่างมีประสิทธิภาพตั้งแต่วันแรกในหลายอุตสาหกรรมอื่น. ในด้านสุขภาพและกฎหมาย, ความรู้เชิงสถาบันที่กำหนดการทำงานประจำวันถูกเรียนรู้และฝังลึกอยู่ในประสบการณ์ของคน มากกว่าการบันทึกเป็นเอกสารอย่างเป็นทางการ. เอเจนต์ด้านกฎหมายอาจไม่ทราบโครงสร้าง, โทนเสียง, หรือการโต้แย้งที่พาร์ทเนอร์คนใดคนหนึ่งชื่นชอบสำหรับสรุป, ส่วนเอเจนต์ด้านสุขภาพอาจไม่เข้าใจกระบวนการทำงานและแนวปฏิบัติการยกระดับที่คลินิกที่คับคั่งใช้เพื่อสนับสนุนการคัดกรองโดยแพทย์. การบันทึกเอกสารเพียงอย่างเดียวไม่สามารถปิดช่องว่างนั้นได้, เพราะความท้าทายไม่ได้อยู่ที่การเข้าถึงข้อมูลเท่านั้น; แต่เป็นการถ่ายทอดบริบท. เพื่อให้เอเจนต์ได้รับสิ่งที่จำเป็นต่อความสำเร็จ, เราต้องทำการรับเข้าสู่ระบบเช่นเดียวกับการรับพนักงานใหม่.

Direction: ทำไม Osmosis ไม่ได้ผล

การรับพนักงานใหม่ต้องการมากกว่าการให้วัสดุและการเข้าถึงที่เหมาะสม. เมื่อเรามีส่วนร่วมในความสำเร็จของคนรอบข้าง, เราจะให้แนวทางที่ชัดเจนเกี่ยวกับการใช้วัสดุและการเข้าถึงใหม่: ความคาดหวัง, ความชัดเจนในเป้าหมายที่เราพยายามบรรลุ, และข้อเสนอแนะตลอดกระบวนการ. ฉันนำแนวคิดเดียวกันนี้ไปใช้ในการออกแบบสำหรับเอเจนต์. ฉันให้แนวทางที่ชัดเจนและเฉพาะเจาะจง (สัมพันธ์กับงานที่ทำ). สิ่งนี้ใช้ได้กับพนักงานทุกคน, ไม่ว่าพวกเขาจะทำงานมานานแค่ไหน. อย่างไรก็ตาม, ในสถานการณ์พนักงานใหม่, แนวทางต้องลึกกว่า, เพราะพวกเขายังไม่มีบริบทเชิงสถาบันใด ๆ.

ลองนึกถึงเอเจนต์เป็นพนักงานใหม่ที่ไม่มีวันหยุดเป็นใหม่. มันกระตือรือร้นและมีความสามารถ (และจริง ๆ แล้วมีพลังงานไม่มีที่สิ้นสุด), แต่ไม่สามารถรับและเก็บกฎที่ไม่ได้เขียนไว้ได้เท่าที่คนทำได้ตามเวลา. มนุษย์เรียนรู้ผ่านการซึมซับและประสบการณ์, ในขณะที่เอเจนต์เรียนรู้จากสถาปัตยกรรมที่ถูกสร้างขึ้นโดยเจตนาในสภาพแวดล้อมการทำงานของมัน.

กับพนักงานใหม่, คุณสามารถปิดช่องว่างนั้นได้ตามเวลาโดยการตั้งคำถาม, ให้ข้อเสนอแนะ, และมุมมองใหม่ที่พวกเขาได้รับเกี่ยวกับกระบวนการและความชอบขององค์กรระหว่างทาง. การสนทนาที่เครื่องชงกาแฟหรือมื้อกลางวันทีม. กับเอเจนต์, คุณต้อง สร้างการปิดช่องว่างนั้น เข้าไปในออกแบบเอง. สิ่งนี้อาจรวมถึง: 

• ให้เอเจนต์มีหน้าต่างบริบทที่มีโครงสร้างแยกกฎที่คงทน, ข้อเท็จจริงเฉพาะงาน, และประวัติที่เกี่ยวข้อง, แทนการโยนเอกสารกองใหญ่ลงบนมัน. 
• กำหนดสิทธิ์และขอบเขตการตัดสินใจตั้งแต่ต้น: สิ่งที่มันทำได้โดยอิสระ, สิ่งที่ต้องได้รับการอนุมัติ, และสิ่งที่ต้องห้ามเข้าถึงเลย. 
• ฝังตัวอย่างที่ชัดเจนของผลลัพธ์ที่แข็งแกร่งโดยตรงในประสบการณ์, เพื่อให้เอเจนต์มีแบบจำลองที่ชัดเจนว่าการทำงานควรเป็นอย่างไร.
• แบ่งปันเส้นทางที่ตายแล้วที่คุณเคยเจอ. 

การออกแบบสภาพแวดล้อมเอเจนต์ที่มีการกำกับดูแลอย่างดีไม่ได้หมายถึงทำให้งานง่ายขึ้นสำหรับโมเดล. มันเป็นการปกป้องทีมวิศวกรมนุษย์จากหนี้เทคนิคที่มองไม่เห็น. แต่แม้เอเจนต์ที่ได้รับแนวทางที่ดีจะทำตามคำสั่งได้อย่างสมบูรณ์และยังคงพลาดจุดสำคัญ. แนวทางบอกให้มันทำอะไร, แต่ไม่ได้บอกว่ารูปแบบ “ดี” คืออะไร. ช่องว่างนั้นคือที่ที่เจตนาเข้ามา.

Intent: ทำไมเอเจนต์จึงลอยไปสู่จุดกึ่งกลาง

จำเป็นต้องระลึกว่าเอเจนต์เป็นเครื่องจักรจับรูปแบบ, ฝึกฝนจากความรู้จำนวนมหาศาลและมีแนวโน้มที่จะให้ผลลัพธ์ตามค่าเฉลี่ยสถิติ. หากไม่มีเจตนาที่ชัดเจนและเจาะจง, ผลลัพธ์ค่าเฉลี่ยนั้นคือสิ่งที่เอเจนต์จะส่งกลับ. ให้เอเจนต์ “เพิ่ม endpoint การตรวจสอบผู้ใช้” แล้วมันจะสร้างเส้นทาง Express ตามตำราโดยมีการแฮชพาสเวิร์ดพื้นฐาน. มันทำงาน, แต่ละเลยบริการตรวจสอบที่ทีมของคุณกำหนดเอง, ข้ามการบันทึกข้อมูลที่จำเป็น, และทำให้รูปแบบการแสดงข้อผิดพลาดมาตรฐานของคุณพัง. เป็นฟีเจอร์ที่พอใช้บนกระดาษ, แต่ขึ้นอยู่กับบริบท, มันกลายเป็นข้อบกพร่องด้านสถาปัตยกรรมในทางปฏิบัติ. ความง่ายที่ “บั๊ก” แบบนี้ถูกแทรกเข้ามาไม่อาจประเมินค่าได้มากพอ.

เพื่อป้องกันสิ่งนี้, แนวทางต้องจับคู่กับการตรวจสอบและบันทึกเจตนาที่ทำงานอย่างแข็งขัน. ราวด์เกลียร์ไม่ควรตรวจสอบแค่ว่าโค้ดคอมไพล์หรือไม่, แม้ว่าจะสำคัญ. ราวด์เกลียร์ต้องบังคับใช้มาตรฐานที่มีความคิดเห็น, กฎกรณีพิเศษ, และบริบทโดเมนที่ยกระดับผลลัพธ์ทั่วไปให้เป็นงานพร้อมผลิต. การบันทึกเป็นตัวบ่งชี้สถานะระบบสำหรับมนุษย์. ความสามารถในการตรวจสอบย้อนกลับนี้สำคัญต่อความเชื่อถือ.

ในการโต้ตอบระหว่างมนุษย์, มีพื้นที่ให้ความไม่แน่นอนมาก. ใครสักคนอาจแชร์เวอร์ชันแรกกับคุณ, แล้วคุณทั้งสองสามารถพูดคุยว่าจุดแข็งและจุดที่ต้องปรับปรุงคืออะไร. สิ่งนี้ทำงานได้เพราะเราไม่ได้คาดหวังให้เพื่อนร่วมงานมนุษย์ของเรากลายเป็นเครื่องอัตโนมัติ. เพื่อให้เราจับต้องพลังและสัญญาของเพื่อนร่วมงานเอเจนต์ (ที่เราต้องการให้ทำงานอัตโนมัติมากขึ้น…) เราสามารถออกแบบการตรวจสอบแนวทางเหล่านี้ได้หลายอย่าง. การแลกเปลี่ยนยังคงต้องเกิดขึ้น, แต่ไม่สามารถพึ่งพาความพยายามด้วยมือทั้งหมด. โดยการกำหนดเกณฑ์การยอมรับและกฎการตรวจสอบล่วงหน้าอย่างชัดเจน, คุณทำให้เอเจนต์สามารถรันลูปข้อเสนอแนะภายในของตนเอง. การออกแบบเพื่อป้องกันข้อผิดพลาด เป็นหลักการ UX ที่ดีอีกข้อหนึ่งที่เราสามารถนำไปใช้ในโลกใหม่นี้: ให้เอเจนต์สามารถระบุความมั่นใจต่ำก่อนทำการกระทำ, แทนที่จะเงียบ ๆ เลือกคำตอบที่ดีที่สุดโดยอัตโนมัติ.

Where the Metaphor Breaks

การเปรียบเทียบแบบพนักงานใหม่ทำงานได้, จนกระทั่งมันไม่ทำงาน. กับการจ้างคน, ประสบการณ์ทำให้เกิดความเชี่ยวชาญซึ่งนำไปสู่การตัดสินใจ. การเห็นพนักงานใหม่ของคุณทำความเข้าใจ “ทำไม” ของบริบทและแนวทางคือสิ่งที่สร้างความเชื่อมั่นตามเวลา, และโดยทั่วไปแล้วนี่เป็นการสะสม. เอเจนต์ไม่มีที่ใดที่จะสะสมและเก็บประสบการณ์นี้.

สัปดาห์แรกและสัปดาห์ที่ร้อยของพนักงานใหม่ดูแตกต่างกัน. งานแรกและงานที่พันของเอเจนต์ดูเหมือนกัน, เว้นแต่คุณจะออกแบบและสร้างสิ่งที่ทำให้มันแตกต่าง. นี่คือความท้าทายการออกแบบใหม่ของเรา.

Agent Responsibility Hinges on Design

หากความรับผิดชอบไม่สามารถอยู่ในเอเจนต์, มันต้องอยู่ในโครงสร้างรอบ ๆ มัน. คำถามสามข้อเดียวกันที่ฉันจะถามก่อนมอบงานให้พนักงานใหม่คือ: พวกเขามีบริบทอะไร? ฉันให้แนวทางอะไรแก่พวกเขา? เจตนาจริงของฉันคืออะไร?

ครั้งต่อไปที่คุณมอบงานให้เอเจนต์, อย่าเพียงตรวจสอบผลลัพธ์. ตรวจสอบอินพุตของคุณก่อน. คุณได้ให้บริบทที่พนักงานใหม่ต้องการในวันแรกหรือยัง? แนวทางของคุณชัดเจนพอที่จะถูกตีความตามตัวอักษรหรือไม่? เจตนาของคุณชัดเจนพอที่จะทำให้ “คำตอบค่ากลาง” ไม่ใช่สิ่งที่ดีที่สุดที่มันทำได้?

ด้วยคำแนะนำที่ชัดเจนนี้ (ในไบต์?), สิ่งที่น่าสนใจเกิดขึ้น: เอเจนต์ไม่จำเป็นต้องมีระยะเวลานานเพื่อให้ได้รับความเชื่อถือ. บริบท, แนวทาง, และการตรวจสอบที่คุณสร้างขึ้นตั้งแต่แรกกำหนดวิธีการทำงานของมันในทุกงาน. พนักงานใหม่ค่อย ๆ สร้างความเชื่อมั่นของคุณตามเวลา; เอเจนต์ต้องสร้างความเชื่อนั้นทุกครั้งผ่านระบบที่คุณออกแบบ. ความรับผิดชอบไม่ใช่สิ่งที่มันเติบโตขึ้น, แต่ถูกสร้างไว้ตั้งแต่ต้น. คำถามไม่ได้ว่าเอเจนต์ของคุณจะพร้อมรับความรับผิดชอบเพิ่มเมื่อไหร่, แต่คือคุณได้ออกแบบให้มันได้รับความรับผิดชอบในทุกงานเดียวกันหรือไม่.