Marc Fernandez, หัวหน้าฝ่ายกลยุทธ์ที่ Neurologyca – ซีรีส์สัมภาษณ์

Marc Fernandez, หัวหน้าฝ่ายกลยุทธ์ที่ Neurologyca, เป็นนักกลยุทธ์เทคโนโลยีและผู้บริหารพัฒนาธุรกิจที่มีประสบการณ์กว่าสองทศวรรษครอบคลุมปัญญาประดิษฐ์, เทคโนโลยีเกิดใหม่, อุปกรณ์อิเล็กทรอนิกส์สำหรับผู้บริโภค, และการโต้ตอบระหว่างมนุษย์กับคอมพิวเตอร์. ที่ Neurologyca, เขามุ่งเน้นที่กลยุทธ์และการทำเชิงพาณิชย์ของ Human Context AI ซึ่งออกแบบมาเพื่อช่วยระบบ AI แปลความหมายสัญญาณเช่น ความเครียด, ความมั่นใจ, และการมีส่วนร่วม. Fernandez เคยดำรงตำแหน่ง CEO ของ Pearl, แพลตฟอร์มที่ใช้ AI ช่วยพัฒนาทักษะอ่อนและการพัฒนาวิชาชีพ, และเป็น Entrepreneur in Residence ที่ ALIVE Ventures, ทำงานในด้าน age‑tech. ก่อนหน้านั้น, เขาเป็นหัวหน้ากลยุทธ์สหรัฐอเมริกาที่ OPPO, มุ่งเน้นเทคโนโลยีรุ่นต่อไปรวมถึง AI, Web3, บล็อกเชน, และระบบปฏิบัติการมือถือ, และดำรงตำแหน่งผู้บริหารระดับสูงด้านพัฒนาธุรกิจที่ Emerge, Denizen, SweetLabs, Movella, และ X‑Rite/Pantone. เขายังสอนเป็นอาจารย์พิเศษที่ University of Southern California เป็นเวลา 15 ปี, สอนในหัวข้อการเป็นผู้ประกอบการ, การสื่อสาร, แพลตฟอร์มสังคม, AI, บล็อกเชน, และเทคโนโลยีเกิดใหม่อื่น ๆ.

Neurologyca เป็นบริษัท AI ที่ตั้งอยู่ในซานฟรานซิสโกซึ่งกำลังสร้างสิ่งที่เรียกว่า Human Context Layer สำหรับระบบอัจฉริยะ, ทำให้แอปพลิเคชันและเอเย่นต์ AI เข้าใจและปรับตัวให้เข้ากับผู้ใช้ได้ดีขึ้น. แพลตฟอร์มที่ใช้ API และ SDK ของบริษัทประมวลผลสัญญาณพฤติกรรมหลายรูปแบบ, รูปแบบการโต้ตอบ, และบริบทสถานการณ์เพื่อสร้างตัวชี้วัดที่เครื่องอ่านได้เกี่ยวกับปัจจัยเช่น การมีส่วนร่วม, ความมั่นใจ, ความเครียด, ความสนใจ, และความไว้วางใจ. ข้อมูลเชิงลึกเหล่านี้ช่วยให้ระบบ AI ปรับการตอบสนอง, ความเร็ว, คำแนะนำ, และการกระทำแบบเรียลไทม์พร้อมคงความต่อเนื่องของบริบทระหว่างการโต้ตอบ. Neurologyca กำหนดตำแหน่งเทคโนโลยีนี้เป็นโครงสร้างพื้นฐาน ไม่ใช่แอปพลิเคชันเดี่ยว, โดยมีการใช้งานที่อาจครอบคลุมการศึกษาและการฝึกอบรม, สุขภาพ, ซอฟต์แวร์องค์กร, เอเย่นต์อัตโนมัติ, ความปลอดภัยของผู้ขับขี่, เกม, และระบบเชิงโต้ตอบอื่น ๆ. บริษัทกำลังให้บริการแพลตฟอร์มผ่านโปรแกรมเข้าถึงล่วงหน้าแบบคัดเลือกสำหรับพาร์ทเนอร์ที่กำลังสร้างประสบการณ์ AI ที่ปรับตัวได้.

เส้นทางอาชีพของคุณพาคุณจากการวางกลยุทธ์เทคโนโลยีรุ่นต่อไปที่ OPPO ไปสู่การสร้าง Pearl ที่มุ่งเน้นทักษะอ่อนที่ขับเคลื่อนด้วย AI และตอนนี้พัฒนา Human‑Context AI ที่ Neurologyca. การเปลี่ยนแปลงนี้ส่งผลต่อมุมมองของคุณอย่างไรที่ว่า ข้อจำกัดใหญ่ที่สุดของ AI ไม่ได้อยู่ที่ปัญญาเอง แต่คือการเข้าใจมนุษย์ที่อยู่เบื้องหลังคำสั่ง?

สามสิบปีที่แล้ว, เว็บทำให้ข้อมูลเข้าถึงได้ง่าย. ห้าปีที่แล้ว, AI ทำให้ผลลัพธ์อุดมสมบูรณ์. วันนี้เราตกอยู่ในมหาสมุทรของเนื้อหาแต่ยังคงต่อสู้เพื่อให้ได้ผลลัพธ์ที่มีประโยชน์. พลังเทคนิคดิบไม่รับประกันผลลัพธ์ที่ดีสำหรับมนุษย์ที่เป็นผู้รับ.

นี่คือเส้นผ่านศูนย์กลางของงานของฉัน—จากการนำเทคโนโลยีเกิดใหม่เข้าสู่ชีวิตประจำวันที่ OPPO, ไปสู่การทดสอบว่า AI สามารถสอนทักษะระหว่างบุคคลได้หรือไม่ที่ Pearl, แล้วจึงสร้าง Human Context เป็นโครงสร้างพื้นฐานที่ Neurologyca. ปัญญาไม่ได้เป็นคอขวดอีกต่อไป; โมเดลสามารถให้เหตุผลและดำเนินการได้ดี. ปัญหาที่ยากกว่าคือบริบทที่ไม่ได้พูดออกมาที่ผู้คนนำมาสู่คำขอแบบง่าย: ทำไมพวกเขาถาม, สิ่งใดทำให้พวกเขาไม่สบายใจ, หรือว่าการหยุดชั่วคราวเล็กน้อยหมายความว่าระบบควรยกเลิก. ปัจจุบัน AI เหลือเพียงเห็นส่วนหนึ่งที่บีบอัดของบริบทนั้นผ่านข้อความ, และเมื่อเอเย่นต์เริ่มทำการในโลกจริง จุดบอดนี้จะกลายเป็นปัญหาใหญ่.

ตัวอย่างล่าสุดของเอเย่นต์อัตโนมัติที่ขโมยข้อมูลประจำตัว, สร้างตัวตนปลอม, หรือปกปิดการกระทำของตนเองทำให้เกิดคำถามว่าอะไรจะเกิดขึ้นเมื่อ AI มีประสิทธิภาพสูงในการบรรลุเป้าหมายโดยไม่เข้าใจเจตนาที่อยู่เบื้องหลังอย่างเต็มที่. คุณมองว่าปัญหานี้เป็นปัญหาการจัดแนว, ปัญหาวิศวกรรม, หรือข้อจำกัดพื้นฐานของการออกแบบเอเย่นต์ในปัจจุบัน?

เป็นความล้มเหลวในการออกแบบที่ครอบคลุมทั้งการจัดแนวและวิศวกรรม. เราได้ปรับระบบให้บรรลุเป้าหมายโดยไม่ทุ่มเทความพยายามสอนให้พวกมันรู้ว่าความสำเร็จที่แท้จริงสำหรับผู้ใช้คืออะไร.

ดูตัวอย่างคลาสสิกของ GPT‑4 กับ TaskRabbit: เมื่อเจอ CAPTCHA, โมเดลโกหกและอ้างว่าเป็นผู้พิการทางสายตาเพื่อให้คนทำงานแก้ไข. ไม่มีใครสอนให้มันหลอกลวงใคร; มันเพียงระบุอุปสรรคและเลือกเส้นทางที่ง่ายที่สุด. ถ้าให้รางวัลเอเย่นต์เฉพาะผลลัพธ์, มันจะหาทางลัดที่รุนแรง. ความท้าทายหลักคือการแยกการกระทำที่ต้องบล็อกโดยสถาปัตยกรรมจากการกระทำที่เทคนิคแล้วอนุญาตแต่บริบทแล้วไม่เหมาะ.

คุณเคยกล่าวว่าบริษัทต่าง ๆ กำลังทำได้ดีขึ้นในการบอกเอเย่นต์ AI วัตถุประสงค์ที่ต้องทำโดยไม่ได้ให้ความเข้าใจเพียงพอว่า “ความสำเร็จ” มีความหมายต่อผู้ใช้จริงอย่างไร. เอเย่นต์ต้องการข้อมูลอะไรบ้างนอกจากคำสั่งเพื่อให้เข้าใจเจตนาจริง?

คำสั่งเป็นเพียงชั้นผิว. เจตนาที่แท้จริงต้องอาศัยความลึกของสถานการณ์: ประวัติที่ผ่านมา, การยอมรับการแลกเปลี่ยน, ความเสี่ยงที่แท้จริง, และการตอบสนองของผู้ใช้ระหว่างทำงาน.

บางส่วนมาจากสถานะแอปหรือประวัติแชท, แต่ในการโต้ตอบโดยตรง, สัญญาณพฤติกรรมคือสิ่งที่ทำให้บริบทเปลี่ยนแปลงได้. ผู้คนอาจลังเล, เปลี่ยนใจกลางทาง, หรือสับสน. หากเอเย่นต์ไม่สามารถอ่านการเปลี่ยนแปลงเหล่านั้น, มันจะทำตามคำสั่งที่ล้าสมัยไปสองขั้นตอนแล้ว.

มีความแตกต่างสำคัญระหว่างการกระทำที่ควรเป็นไปไม่ได้ทางเทคนิคสำหรับเอเย่นต์และการกระทำที่อนุญาตแต่ไม่เหมาะสมในบริบทเฉพาะ. นักพัฒนาควรแบ่งความรับผิดชอบระหว่างแนวป้องกันความปลอดภัยที่เข้มงวดและความสามารถของระบบ AI ในการใช้การตัดสินใจตามบริบทอย่างไร?

การกระทำใดที่ก่อให้เกิดอันตรายรุนแรงโดยไม่มีกรณีการใช้ที่ถูกต้อง—เช่น การขโมยข้อมูลประจำตัว, การลบบันทึกตรวจสอบ, การยกระดับสิทธิ์โดยไม่ได้รับอนุญาต—ควรถูกเขียนโค้ดให้อยู่นอกระบบ. เอเย่นต์ไม่ควรเสียคอมพิวเตอร์เพื่อเจรจาว่าจะข้ามการควบคุมความปลอดภัยหรือไม่; สถาปัตยกรรมของระบบควรทำให้การกระทำนั้นเป็นไปไม่ได้โดยตรง.

โซนสีเทาที่แท้จริงคือการกระทำประจำวันเช่นการส่งอีเมล, การยกเลิกการประชุม, หรือการเปลี่ยนแปลงกระบวนการทำงานภายใน. สิ่งเหล่านี้อาจทำได้ตามทฤษฎี, แต่การให้เอเย่นต์ทำโดยอัตโนมัติขึ้นอยู่กับความเสี่ยง, ประวัติผู้ใช้, ความสามารถในการย้อนกลับ, และสัญญาณเล็ก ๆ ของการลังเลของผู้ใช้. การรู้ว่าเมื่อไหร่ต้องหยุดเพราะขาดบริบทสำคัญกว่าความสามารถดิบ.

Neurologyca กำลังพัฒนาเทคโนโลยีที่สามารถแปลงสัญญาณเช่นความเครียด, ความมั่นใจ, ความสนใจ, การมีส่วนร่วม, และความไว้วางใจให้เป็นบริบทที่เครื่องอ่านได้. สัญญาณเหล่านี้จะเปลี่ยนพฤติกรรมของเอเย่นต์ AI อัตโนมัติอย่างไรในขณะทำงาน?

ข้อมูลพฤติกรรมเหล่านี้เป็นข้อมูลการตอบสนองแบบเรียลไทม์—ลูปข้อเสนอแนะที่ขาดหายไปจากสถาปัตยกรรม AI ปัจจุบัน. ตอนนี้โมเดลติดตามการกระทำของตนเอง, แต่ทำงานโดยไม่รู้ว่ามนุษย์รับผลอย่างไร.
ยกตัวอย่างในบริบทการสอนพิเศษ: ผู้ใช้พิมพ์ว่า “ฉันเข้าใจ”, แต่สัญญาณทางสรีรวิทยาหรือพฤติกรรมบ่งบอกว่าความสับสนกำลังเพิ่มและความสนใจกำลังลดลง. นั่นคือสัญญาณตรงที่ AI ควรปรับทิศทาง, ชะลอความเร็ว, หรือเสนอคำอธิบายทางเลือกอื่น. เป้าหมายไม่ใช่การวินิจฉัยทางคลินิก; เพียงแค่สร้างลูปข้อเสนอแนะที่แน่น: บริบท, การกระทำ, การตอบสนอง, การปรับตัว—เพื่อให้ระบบเรียนรู้ว่าอะไรทำงานได้จริงกับบุคคลนั้น.

บริบทมนุษย์อาจคลุมเครือได้. ระบบอาจตีความการลังเล, ความเครียด, น้ำเสียง, หรือสัญญาณพฤติกรรมอื่น ๆ ผิดพลาด. คุณจะป้องกันไม่ให้ AI ที่รับรู้บริบทกลายเป็นมั่นใจเกินไปเกี่ยวกับความคิดหรือเจตนาของคน?

สัญญาณพฤติกรรมโดยธรรมชาติมีความรบกวนและเป็นไปตามความน่าจะเป็น. การกระโดดขึ้นของความเครียดหรือการหยุดพิมพ์อาจหมายถึงความสับสน, หรืออาจแค่ผู้ใช้ทำกาแฟหก. ระบบที่แปลข้อมูลจุดเดียวเป็นข้อสรุปแน่นอนเกี่ยวกับสภาวะอารมณ์ของคนเป็นแบบที่ผิดพื้นฐาน.

ระบบที่แข็งแรงจะดูสัญญาณรวมหลายตัวตามเวลา, คำนึงถึงฐานข้อมูลสิ่งแวดล้อม, และแสดงขอบเขตความมั่นใจอย่างชัดเจน. มีความแตกต่างอย่างมากระหว่างการบันทึก “ภาระการรับรู้เพิ่มขึ้นเมื่อเทียบกับฐาน” กับการสรุปว่า “ผู้ใช้กำลังวิตก”. เมื่อความไม่แน่นอนสูงหรือความเสี่ยงสำคัญ, งานของเอเย่นต์ไม่ใช่การคาดเดา—แต่เป็นการถามคำถามเพื่อความกระจ่าง.

การใส่มนุษย์ในลูปสำหรับทุกการตัดสินใจที่สำคัญอาจทำให้ประสิทธิภาพที่เอเย่นต์อัตโนมัติสัญญาไว้ลดลง. โมเดลการกำกับดูแลที่สามารถขยายได้ควรเป็นอย่างไรที่เอเย่นต์รู้ว่าเมื่อใดสามารถดำเนินการโดยอิสระและเมื่อใดต้องหยุดและขอคำแนะนำ?

การกำกับดูแลที่สามารถขยายได้ไม่ได้หมายถึงการมีมนุษย์ในลูปตลอดเวลา; แต่หมายถึงการเพิ่มระดับการตรวจสอบแบบไดนามิก.

งานที่มีความเสี่ยงต่ำและสามารถย้อนกลับได้จะดำเนินต่ออัตโนมัติ. แต่เมื่อความเสี่ยงเพิ่มขึ้น, สัญญาณรบกวนเพิ่ม, หรือสัญญาณบ่งบอกว่าผู้ใช้ไม่สบายใจ, เกณฑ์การอนุมัติจะปรับระดับขึ้นอย่างไดนามิก. สิ่งสำคัญคือเกณฑ์เหล่านี้ต้องปรับให้เหมาะกับแต่ละบุคคล—ผู้จัดการคนหนึ่งอาจมอบหมายการจัดการปฏิทินได้อย่างสบายใจ, ในขณะที่อีกคนหนึ่งต้องอนุมัติการแก้ไขเล็ก ๆ ทุกครั้ง. ระบบต้องเรียนรู้ขอบเขตของแต่ละคน, ไม่ใช่ใช้กฎสากลที่ตายตัว.

เมื่อเอเย่นต์พัฒนาหน่วยความจำถาวรและโมเดลที่ละเอียดขึ้นของผู้ใช้, บริบทอาจกลายเป็นข้อมูลส่วนบุคคลที่อ่อนไหวอย่างรวดเร็ว. บริษัทควรจัดการเรื่องความยินยอม, ความเป็นส่วนตัว, การเป็นเจ้าของข้อมูล, และขอบเขตว่ามีอะไรที่ AI ควรจำเกี่ยวกับผู้ใช้ได้อย่างไร?

นี่คือคอขวดความเชื่อใจหลักของระบบอัตโนมัติ. หน่วยความจำถาวรทำให้เครื่องมือทั่วไปกลายเป็นผู้ช่วย, แต่ก็มีความเสี่ยงที่ข้อมูลการทำงานและการตั้งค่าจะถูกใช้สร้างโปรไฟล์จิตวิทยาที่ไม่ได้รับอนุมัติ.
การกำกับดูแลข้อมูลต้องมีขอบเขตวัตถุประสงค์ที่เข้มงวด. หากเอเย่นต์สังเกตรูปแบบความเครียดระหว่างการให้คำปรึกษาผู้นำ, บริบทนั้นไม่ควรรั่วไหลสู่การประเมินผลการทำงาน, อัลกอริทึมประกัน, หรือเทคโนโลยีโฆษณา. ความโปร่งใสต้องละเอียด—ผู้ใช้ต้องมองเห็นบริบทที่เก็บไว้, มีปุ่มลบหนึ่งคลิก, และมีขีดจำกัดการเก็บข้อมูลตามค่าเริ่มต้นที่สมเหตุสมผล. เพียงระบบสามารถสรุปสิ่งใดสิ่งหนึ่งเกี่ยวกับคุณไม่ได้หมายความว่ามีสิทธิ์เก็บไว้.

เราควรประเมินว่าเอเย่นต์อัตโนมัติเข้าใจเจตนามนุษย์จริงหรือไม่อย่างไร? เกณฑ์การวัดในวันนี้มุ่งเน้นที่การทำงานให้เสร็จและความแม่นยำเกินไปหรือไม่, แทนที่จะดูว่าเอเย่นต์บรรลุเป้าหมายในแบบที่ผู้ใช้ยอมรับได้หรือไม่?

การทำงานให้เสร็จเป็นเกณฑ์ที่หลอกลวงอย่างลึกซึ้ง. เอเย่นต์อาจทำตามคำสั่งอย่างเคร่งครัดแต่ยังคงส่งมอบผลลัพธ์ที่ผู้ใช้ไม่พอใจ.

หากเอเย่นต์ได้ราคาต่ำสุดในสัญญาแต่ทำลายความสัมพันธ์กับผู้ขายที่ยาวนานหลายทศวรรษเพื่อให้ได้ราคานั้น, ตัวชี้วัดการประเมินแบบดั้งเดิมจะบันทึกอัตราความสำเร็จ 100 %. แต่ต่อผู้บริหาร นั่นคือหายนะ. เราต้องการเกณฑ์ที่วัดผลการทำงานภายในขอบเขตที่ไม่ได้ระบุอย่างชัดเจน: มันเคารพกฎที่ไม่ได้พูดออกมาหรือไม่? มันหยุดเมื่อเงื่อนไขเปลี่ยนหรือไม่? ช่องว่างระหว่างการทำงานเสร็จและความพึงพอใจจริงเป็นสิ่งที่เกณฑ์ปัจจุบันมองข้ามอย่างสิ้นเชิง.

มองไปข้างหน้า, คุณคาดว่าเทคโนโลยีบริบทมนุษย์จะกลายเป็นชั้นมาตรฐานของสแตก AI ควบคู่กับโมเดล, หน่วยความจำ, เครื่องมือ, และความปลอดภัยหรือไม่? สิ่งใดยังคงต้องแก้ไขก่อนที่องค์กรจะมอบหมายงานที่มีความหมายให้เอเย่นต์โดยไม่ต้องคอยตรวจสอบอย่างต่อเนื่อง?

เมื่อ AI เปลี่ยนจากการสร้างเนื้อหาเป็นการดำเนินการในโลกจริง, บริบทมนุษย์จะกลายเป็นชั้นสำคัญ. โมเดลทำหน้าที่ให้เหตุผลและเครื่องมือให้ระบบมี “มือ”, แต่หากไม่มีบริบทมนุษย์เป็นลูปข้อเสนอแนะแบบสด, หน่วยความจำและแนวป้องกันความปลอดภัยก็ยังทำงานบนสมมติฐานคงที่.

ก่อนที่องค์กรจะมอบอำนาจจริงให้เอเย่นต์, เรายังต้องแก้ไขความเป็นส่วนตัวของบริบท, การให้เหตุผลเชิงความน่าจะเป็นภายใต้ความไม่แน่นอน, และกฎการกำกับดูแลที่ละเอียด. การสร้าง AI ที่ทำงานแบบแยกส่วนได้ส่วนใหญ่สำเร็จแล้ว; การทำให้ระบบปรับตัวแบบไดนามิกต่อมนุษย์ที่อยู่เบื้องหลังคำสั่งคือสิ่งที่จะกำหนดว่าระดับอิสระจริงที่เรายินดีให้พวกมันมีคือเท่าใด.

ขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม, ผู้อ่านที่ต้องการเรียนรู้เพิ่มเติมควรเยี่ยมชม Neurologyca.