Andrew Missey, CTO และผู้ร่วมก่อตั้ง Convos – สัมภาษณ์ซีรีส์

Andrew Missey ซีทีโอและผู้ร่วมก่อตั้ง Convos เป็นนักวิศวกรซอฟต์แวร์และผู้นำผลิตภัณฑ์ที่มีประสบการณ์ครอบคลุมการพัฒนาผลิตภัณฑ์ AI การออกแบบซอฟต์แวร์ เครือข่าย และวิศวกรรมแบบเต็มรูปแบบ ก่อนที่จะร่วมก่อตั้ง Convos เขาได้ช่วยพัฒนาและเปิดตัวสองแพลตฟอร์มสร้างสรรค์และการตลาดที่มีพลังงาน AI ที่ Forum3 โดยรวมการวิศวกรรมแบบมือเข้ากับการจัดการผลิตภัณฑ์ทางเทคนิค ในบทบาทก่อนหน้าของเขา tại N-able (NABL ) Autoshop Solutions และ Brand IQ เขาได้สร้างแอปพลิเคชัน frontend ระบบ backend แผงควบคุมลูกค้า และเครื่องมือซอฟต์แวร์ภายในโดยใช้เทคโนโลยี เช่น Svelte, NestJS, Angular และ JavaScript ประสบการณ์หลายด้านนี้ทำให้เขาเชื่อมโยงการดำเนินการทางเทคนิคกับกลยุทธ์ผลิตภัณฑ์เมื่อเขานำการพัฒนาแพลตฟอร์มการสื่อสารที่ขับเคลื่อนด้วย AI ของ Convos

Convos เป็นแพลตฟอร์มการส่งข้อความที่ควบคุมด้วย AI ที่ออกแบบมาเพื่อช่วยให้แคมเปญทางการเมืองและบริษัทสื่อสารแทนที่การส่งข้อความแบบ one-way ด้วยการสนทนาส่วนตัวสองทางที่มีประสิทธิภาพ แพลตฟอร์มนี้แปลงคำตอบเป็นผลการวิเคราะห์ความรู้สึกในแบบเรียลไทม์ การจำแนกหัวข้อ ผลลัพธ์จากการเรียกใช้การกระทำ เมตริกการมีส่วนร่วม และข้อมูลผู้ลงคะแนนเสียงที่มีโครงสร้างที่แคมเปญสามารถใช้เพื่อปรับปรุงการเข้าถึงได้ ระบบ AI ที่ปิดนี้ทำงานภายในวัสดุและข้อความที่ได้รับการอนุมัติจากแคมเปญ ในขณะที่ให้คุณสมบัติ เช่น การแบ่งส่วนติดต่อ ประวัติการสนทนา การติดตามลิงก์ การส่งออกข้อมูล และการตรวจสอบตามหลังที่มุ่งเน้นไปที่การปฏิบัติตามข้อกำหนด Convos ยังสามารถเสริมโครงสร้างพื้นฐานการส่งข้อความที่มีอยู่ขององค์กรได้ แทนที่จะกำหนดให้พวกเขาต้องแทนที่ระบบการสื่อสารปัจจุบัน

คุณร่วมก่อตั้ง Convos หลังจากสังเกตเห็นว่าการส่งข้อความทางการเมืองและองค์กรส่วนใหญ่กลายเป็นการสื่อสารแบบ one-way คุณได้รับแรงบันดาลใจจากสิ่งใดที่ทำให้คุณเชื่อว่ามีโอกาสที่จะเปลี่ยนการส่งข้อความแบบมวลเป็นการสนทนาที่ขับเคลื่อนด้วย AI และคุณเผชิญกับความท้าทายทางเทคนิคที่ยิ่งใหญ่ที่สุดในการสร้างแพลตฟอร์มนี้?

แรงบันดาลใจมาจากการที่ฉันอยู่ด้านที่ได้รับข้อความ

เมื่อประมาณช่วงการเลือกตั้งปี 2024 ฉันถูกท่วมท้นด้วยข้อความทางการเมือง เช่นเดียวกับหลายคน ใน某จุด ฉันเริ่มตอบกลับพวกมัน ฉันจะถามคำถามหรือตอบกลับ แต่ไม่มีใครตอบกลับมาเลย ข้อความเหล่านั้นถูกส่งออกไปหลายล้านข้อความ แต่เมื่อคุณพยายามมีการแลกเปลี่ยนจริงๆ ก็ไม่มีใครอยู่ที่ปลายทาง

มันทำให้ฉันรู้สึกว่ามีโอกาสที่พลาดไปอย่างมาก คนที่อยู่ด้านที่ได้รับข้อความนั้นได้เข้าร่วมแล้ว พวกเขากำลังถามคำถามที่แท้จริง แต่ไม่มีการตอบกลับใดๆ ที่จะถูกส่งไป

ดังนั้นความคิดเบื้องหลัง Convos จึงง่ายๆ คือการเปลี่ยนการออกอากาศให้เป็นการสนทนาอย่างแท้จริง โดยไม่ต้องมีห้องที่เต็มไปด้วยคนเพื่อจัดการมัน

ความท้าทายทางเทคนิคที่ยิ่งใหญ่ที่สุดคือสามสิ่ง คือ ขนาด ละตันซี และการปฏิบัติตามข้อกำหนด

ขนาดคือสิ่งที่ชัดเจน คุณกำลังจัดการการสนทนาหลายพันครั้งในเวลาเดียวกัน และการสนทนาแต่ละครั้งมีสถานะและประวัติของมันเอง ละตันซีมีความสำคัญมากกว่าที่คนคาดหวัง หากใครส่งข้อความกลับและคำตอบใช้เวลานานเกินไป โอกาสก็หายไป การส่งข้อความรู้สึกเหมือนจะเกิดขึ้นทันที และประสบการณ์ต้องตรงกับแบบนั้น

การปฏิบัติตามข้อกำหนดคือส่วนที่ยากที่สุด และเป็นสิ่งที่เราให้ความสำคัญตั้งแต่เริ่มต้น การส่งข้อความทางการเมืองมีการควบคุมอย่างเข้มงวด และการทำผิดไม่ใช่ตัวเลือก ส่วนใหญ่ของการวิศวกรรมในระยะแรกของเราไปสู่การทำให้แน่ใจว่าระบบยังคงอยู่ในข้อความและเคารพการยินยอมและการเลิกใช้ในลักษณะที่ไปไกลกว่าการแคตช์คำว่า “หยุด” เพียงอย่างเดียว

Convos ดำเนินการที่จุดตัดระหว่าง AI การสนทนา การส่งข้อความขนาดใหญ่ และการวิเคราะห์ความรู้สึกแบบเรียลไทม์ คุณได้เรียนรู้อะไรเกี่ยวกับการใช้ระบบ AI ที่ต้องมีส่วนร่วมกับคนหลายพันคนในขณะเดียวกันก็รู้สึกเป็นส่วนตัวและแท้จริง?

บทเรียนที่ยิ่งใหญ่ที่สุดคือ “ส่วนตัวในระดับใหญ่” คือสิ่งที่คุณต้องสร้างให้สำเร็จ มันไม่เกิดขึ้นโดยอัตโนมัติ

เมื่อคุณกำลังดำเนินการการสนทนาหลายพันครั้งในเวลาเดียวกัน ความ诱惑คือการรักษามันให้เป็นกลุ่มใหญ่ แต่บุคคลที่ได้รับข้อความไม่สนใจกลุ่มของคุณ มันคือการแลกเปลี่ยนแบบตัวต่อตัว และมันจะต้องรู้สึกแบบนั้น ซึ่งหมายความว่าการสนทนาแต่ละครั้งต้องมีบริบทและประวัติของมันเอง เพื่อที่คำตอบจะตอบสนองต่อสิ่งที่บุคคลนั้นพูด ไม่ใช่เฉลี่ยของทุกคน

เรายังได้เรียนรู้ที่จะให้ความสนใจกับสิ่งที่คนบอกเราอย่างแท้จริง การตอบกลับไม่ใช่แค่การตอบกลับ มันถือความรู้สึกด้วย บางคนสามารถตอบกลับด้วยคำถาม ด้วยความกระตือรือร้น ด้วยความ沮หาย หรือด้วยสัญญาณที่ชัดเจนว่าพวกเขาต้องการถูกปล่อยให้คนอื่น อ่านความแตกต่างเหล่านั้นอย่างถูกต้องคือสิ่งที่ทำให้หรือทำลายการมีส่วนร่วม

สุดท้าย ความจริงใจมาจากการฟัง ไม่ใช่การฟังที่ฉลาด การแลกเปลี่ยนที่รู้สึกเป็นมนุษย์ที่สุดคือสิ่งที่ตอบคำถามที่แท้จริงและเคารพเวลาของผู้อื่น

คุณได้โต้แย้งว่าหลายองค์กรมุ่งเน้นไปที่มาตรฐานแบบจำลองมากเกินไป ในขณะที่มองข้ามบุคลิกภาพและรูปแบบการสื่อสาร ทำไมคุณเชื่อว่าบุคลิกภาพกำลังจะกลายเป็นปัจจัยที่สำคัญในการใช้งาน AI ในองค์กร และองค์กรควรประเมินมันอย่างไร?

มาตรฐานการวัดความสามารถ มันไม่ได้วัดความเหมาะสม

แบบจำลองสามารถทำคะแนนได้สูงมากในการให้เหตุผลหรือการเขียนโค้ด แต่ยังอาจเป็นตัวเลือกที่ไม่ถูกต้องสำหรับการสนทนากับผู้ลงคะแนนเสียง วิธีที่มันแสดงออกมา ทั้งความอบอุ่นหรือความเป็นทางการ ว่ามันรู้ว่าเมื่อใดควรจะสั้น มันสำคัญมากเมื่อมีคนจริงๆ อยู่ที่ปลายทาง

ในโลกของเรา แบบจำลองไม่ได้กำลังแก้ปัญหาทางคณิตศาสตร์ มันกำลังเป็นตัวแทนของแคมเปญในการส่งข้อความ มีเสียงของแคมเปญเอง และแบบจำลองจะต้องตรงกับมัน ไม่ใช่การบังคับให้มันเป็นของตัวเอง หากโทนไม่ถูกต้อง ไม่สำคัญว่าแบบจำลองพื้นฐานฉลาดแค่ไหน การมีส่วนร่วมจะล้มเหลว

มีศักยภาพในการทำงานที่เราไม่พบในมาตรฐานการวัด แบบจำลองสามารถให้คำแนะนำที่ละเอียดถึงสิ่งที่จะพูด สิ่งที่จะหลีกเลี่ยง และวิธีการจัดการหัวข้อเฉพาะ แบบจำลองจะต้องปฏิบัติตามคำแนะนำเหล่านั้นอย่างสม่ำเสมอตลอดการแลกเปลี่ยนแบบยาวๆ บางแบบจำลองดีกว่าแบบอื่นในการยึดคำแนะนำที่ซับซ้อนโดยไม่หลุดออกจากการสนทนา

นั่นคือเหตุผลที่บุคลิกภาพกำลังจะกลายเป็นปัจจัยที่แท้จริงในการใช้งาน AI ในองค์กร เมื่อแบบจำลองมีความสามารถมากขึ้น ช่องว่างด้านความสามารถระหว่างพวกมันจะแคบลง สิ่งที่เหลือคือตัวละคร มันสื่อสารอย่างไร และมันจะอยู่ภายในขอบเขตที่คุณกำหนดให้หรือไม่

วิธีการประเมินคือไม่ใช่บนกระดานผู้นำ มันคือการทดสอบแบบจำลองในกรณีการใช้งานจริงของคุณ โดยใช้เนื้อหาจริงของคุณ และอ่านผลลัพธ์เหมือนผู้ใช้ปลายทางของคุณ เราให้แบบจำลองผ่านการแลกเปลี่ยนที่เหมือนกับที่พวกมันจะจัดการในผลิต และตัดสินจากว่าการสนทนารู้สึกถูกต้องหรือไม่ ซึ่งบอกเรามากกว่าคะแนนมาตรฐานการวัดใดๆ

ทีมของคุณได้ทดสอบแบบจำลองชั้นนำหลายตัวและพบความแตกต่างที่สำคัญในการทำงานของพวกมันข้ามงานต่างๆ คุณได้เรียนรู้อะไรเกี่ยวกับความแข็งแกร่งและความอ่อนแอของ LLM ที่สำคัญในปัจจุบัน และทำไมบางตัวจึงเหมาะสมกับการสนทนามากกว่าตัวอื่น?

สิ่งที่เราได้เรียนรู้คือไม่มีแบบจำลองที่ดีที่สุดแบบเดียว มีเพียงแบบจำลองที่ดีที่สุดสำหรับงานที่กำหนดเท่านั้น

บางแบบจำลองยอดเยี่ยมในการปฏิบัติตามคำแนะนำอย่างแม่นยำ ซึ่งสำคัญเมื่อคุณต้องการให้ระบบอยู่ภายในขอบเขตที่เข้มงวด บางแบบจำลองแข็งแกร่งกว่าในโทนการสนทนาแบบธรรมชาติ บางแบบจำลองเร็วกว่า ซึ่งเป็นความแข็งแกร่งในตัวมันเองเมื่อความล่าช้าเป็นส่วนหนึ่งของประสบการณ์ บางแบบจำลองดีกว่าในการให้เหตุผลผ่านคำขอที่ซับซ้อน แต่รู้สึกตึงหรือใช้เวลานานเกินไปในการตอบกลับในระหว่างการแลกเปลี่ยนแบบไม่เป็นทางการ

สำหรับการสนทนาโดยเฉพาะ คุณสมบัติที่สำคัญไม่ใช่คุณสมบัติที่ได้รับการยอมรับเสมอ ความเร็วสำคัญ ความสม่ำเสมอสำคัญ การรู้ว่าเมื่อใดควรจะสั้นสำคัญ แบบจำลองที่เขียนคำตอบที่สวยงามสามย่อหน้าอาจเป็นตัวเลือกที่ไม่ถูกต้องเมื่อคำตอบที่ถูกต้องคือประโยคเดียว

ไม่มีสิ่งเหล่านี้ปรากฏบนกระดานผู้นำ คุณเพียงแต่เรียนรู้สิ่งเหล่านี้โดยการนำแบบจำลองไปสู่งานจริงและให้ความสนใจกับวิธีการจัดการมัน

หลายบริษัทกำลังใช้กลยุทธ์แบบจำลองหลายแบบแทนการอาศัยผู้ให้บริการ AI เพียงรายเดียว ข้อดีของการสร้างระบบที่สามารถสลับระหว่างแบบจำลองคืออะไร และพิจารณาการออกแบบใดที่จำเป็นในการทำให้สิ่งนี้เป็นไปได้?

ข้อได้เปรียบหลักคือคุณไม่ได้ถูกบังคับให้ใช้แบบจำลองเดียว

หากคุณสร้างทุกอย่างรอบๆ ผู้ให้บริการรายเดียว คุณจะถูกบังคับให้ใช้ข้อจำกัดของพวกเขา คือ ราคา อัตราการจำกัด ความล่าช้า การหยุดทำงาน และตารางการเผยแพร่ของพวกเขา กลยุทธ์แบบจำลองหลายแบบทำให้คุณสามารถส่งงานไปยังแบบจำลองที่จัดการได้ดีที่สุด และให้คุณมีที่ไปเมื่อผู้ให้บริการรายหนึ่งมีวันไม่ดี

มันทำให้คุณสามารถจับคู่ต้นทุนกับงานได้ ไม่ทุกการมีส่วนร่วมต้องการแบบจำลองที่มีพลังและแพงที่สุด คุณสามารถส่งงานง่ายๆ ไปยังแบบจำลองที่เบากว่า และสำรองแบบจำลองที่มีพลังสำหรับกรณีที่ยากกว่า ซึ่งทำให้ผลต่างที่แท้จริงในระดับใหญ่

การออกแบบคือสิ่งที่ทำให้สิ่งนี้เป็นไปได้ และการตัดสินใจหลักคือการสร้างชั้นการแยกข้อมูลระหว่างแอปพลิเคชันของคุณและแบบจำลองใดๆ ระบบของคุณไม่ควรพูดกับ API ของผู้ให้บริการรายเดียวทั่วทั้งโค้ดเบส มันควรพูดกับอินเทอร์เฟซภายในของคุณ และอินเทอร์เฟซนั้นตัดสินว่าแบบจำลองใดจัดการคำขอจริงๆ

เมื่อคุณมีสิ่งนี้ คุณสามารถเพิ่มลอจิกการกำหนดเส้นทาง การallback เมื่อผู้ให้บริการล้มเหลว และความสามารถในการเปลี่ยนแบบจำลองโดยไม่ต้องเขียนแอปพลิเคชันใหม่ คุณยังต้องการการจัดการพรอมต์และเอาต์พุตที่สอดคล้องกันระหว่างแบบจำลอง เนื่องจากแต่ละแบบมีพฤติกรรมที่แตกต่างกันเล็กน้อย และระบบของคุณต้องทำให้ความแตกต่างเหล่านั้นกลมกลืนกัน

มันใช้เวลามากขึ้นในตอนแรก แต่มันซื้อความยืดหยุ่นที่ยากที่จะเพิ่มในภายหลัง

คุณเน้นย้ำว่าแบบจำลอง AI มีการพัฒนาอย่างรวดเร็ว โดยการเปิดตัวใหม่บางครั้งเปลี่ยนลักษณะการทำงานในลักษณะที่ไม่คาดคิดได้ องค์กรควรสร้างสมดุลระหว่างความปรารถนาที่จะนำแบบจำลองล่าสุดมาใช้กับความต้องการความเสถียร ความน่าเชื่อถือ และประสิทธิภาพที่คาดการณ์ได้อย่างไร?

คำตอบที่ซื่อสัตย์คือแบบจำลองใหม่ไม่ใช่การอัปเกรดจนกว่าคุณจะพิสูจน์แล้วว่ามันคือการอัปเกรด

การเปิดตัวใหม่ๆ น่าตื่นเต้น และมีความกดดันที่จะนำสิ่งใหม่ๆ มาใช้ทันที แต่เราได้เห็นแบบจำลองใหม่ๆ ที่เปลี่ยนพฤติกรรมในลักษณะที่เราไม่คาดคิด สิ่งที่ทำงานได้อย่างน่าเชื่อถือเริ่มตอบสนองในลักษณะที่แตกต่าง และในระบบการผลิต การเปลี่ยนแปลงเล็กๆ เหล่านี้บวกกัน

วิธีที่เราจัดการกับมันคือการเรียบง่าย ไม่มีแบบจำลองใดเข้าสู่ระบบของเราจนกว่าเราจะทดสอบมันเอง เมื่อมีการเปิดตัวใหม่ เราไม่ได้พึ่งพาผลลัพธ์หรือการประกาศ เรานั่งลงและทดสอบมันผ่านการแลกเปลี่ยนที่เหมือนกับที่มันจะจัดการในผลิต และเราอ่านเอาต์พุตด้วยตัวเราเอง

ขั้นตอนการทำด้วยมือนี้ไม่ใช่สิ่งที่สามารถข้ามได้สำหรับเรา แบบจำลองอาจดูเหมือนดีกว่าบนกระดาษ แต่ยังสามารถจัดการการแลกเปลี่ยนจริงในลักษณะที่เราไม่สบายใจที่จะนำไปสู่ผู้ลงคะแนนเสียง การทดสอบแบบจำลองกับสถานการณ์จริงที่ระบบของเราจัดการทุกวันและดูว่ามันจัดการอย่างไรคือวิธีเดียวที่จะรู้

นี่คืออีกจุดที่ชั้นการแยกข้อมูลมีประโยชน์ เนื่องจากแอปพลิเคชันของเราไม่ขึ้นอยู่กับแบบจำลองใดแบบจำลองหนึ่ง เราสามารถนำการเปิดตัวใหม่เข้ามา ทดสอบมันกับสถานการณ์จริงที่เราจัดการ และเปรียบเทียบมันกับแบบจำลองที่เรากำลังใช้อยู่อย่างแท้จริง หากมันผ่านเกณฑ์ เราจะเปลี่ยน หากไม่ เรารอ

การหลอกลวงยังคงเป็นหนึ่งในอุปสรรคที่ยิ่งใหญ่ที่สุดต่อการนำ AI ไปใช้ในองค์กร โดยเฉพาะอย่างยิ่งเมื่อแบบจำลองทำงานกับชุดข้อมูลขนาดใหญ่และข้อมูลที่ซับซ้อน เทคนิคที่เป็นประโยชน์ใดที่ได้พิสูจน์แล้วว่ามีประสิทธิภาพในการลดการหลอกลวงในระบบการผลิต?

เทคนิคที่มีประสิทธิภาพที่สุดที่เราได้พบคือการจำกัดข้อมูลที่แบบจำลองได้รับอนุญาตให้รู้

การหลอกลวงจำนวนมากมาจากการที่แบบจำลองถูกขอให้ตอบจากความรู้ทั่วไปของมันเอง โดยที่มันจะเติมช่องว่างด้วยสิ่งที่ฟังดูถูกต้อง เราทำสิ่งที่ตรงกันข้าม AI ของเราทำงานจากข้อมูลที่แคมเปญให้มาเท่านั้น ไม่มีการเข้าถึงอินเทอร์เน็ตแบบเปิด และไม่ได้พึ่งพาความทรงจำที่คลุมเครือของโลก

หากคำตอบไม่อยู่ในเนื้อหาที่ให้มา คำตอบที่ถูกต้องคือการบอกว่าไม่มีข้อมูลนั้น

เรายังตรวจสอบการมีอยู่ของคำตอบเพื่อให้แน่ใจว่ามันตรงกับข้อมูลที่แคมเปญให้มา แม้ว่าแบบจำลองจะสร้างคำตอบแล้วก็ตาม คำตอบนั้นจะถูกตรวจสอบกับข้อมูลของแคมเปญก่อนที่จะถูกส่งไปไหน

นอกเหนือจากนั้น เทคนิคที่เป็นประโยชน์คือการให้ข้อมูลที่จำเป็นและรั้วระวัง ให้แบบจำลองบริบทและข้อมูลที่เกี่ยวข้องสำหรับงานที่อยู่ตรงหน้า มากกว่าข้อมูลที่ไม่แยกแยะกันจำนวนมาก บริบทที่มีประสิทธิภาพยิ่งลดพื้นที่ให้หลงไป

เรายังตั้งข้อจำกัดที่ชัดเจนเกี่ยวกับสิ่งที่ระบบได้รับอนุญาตให้ทำและสิ่งที่สามารถพูดได้ และเรากำกับดูแลการสนทนาแบบเรียลไทม์ มากกว่าการให้ความไว้วางใจกับแบบจำลอง คุณไม่จับปัญหาโดยการเชื่อใจแบบจำลอง คุณจับปัญหาโดยการดูเอาต์พุต

ในพื้นที่ที่มีการควบคุมอย่างการข้อความทางการเมือง คำตอบที่หลอกลวงคือความรับผิดชอบ ดังนั้นเราจึงออกแบบระบบให้เลือกความโปร่งใสมากกว่าการเดา

เมื่อองค์กรใช้ตัวแทน AI ในการสนับสนุนลูกค้า การสื่อสาร การตลาด และการดำเนินงาน คุณเห็นข้อผิดพลาดที่ทีมซ้ำๆ กันเมื่อเปลี่ยนจากโครงการนำร่องไปสู่การนำไปใช้ในระดับผลิต?

ข้อผิดพลาดที่ฉันเห็นบ่อยที่สุดคือทีมทดสอบว่าตัวแทนของพวกเขาทำงานได้ แต่ไม่ทดสอบว่ามันสามารถถูกทำลายได้หรือไม่

ฉันไม่สามารถนับได้ว่าบริษัทใดบริษัทหนึ่งได้เปิดตัว AI ชาตบอท และภายในหนึ่งวัน มีคนออนไลน์สามารถหลอกลวงมันให้พูดสิ่งที่ไม่เคยตั้งใจให้พูดได้ มันถูกพูดออกนอกขอบเขตหรือหลอกให้พูดในลักษณะที่ไม่เหมาะสม และมันกลายเป็นภาพหน้าจอที่ทุกคนแชร์กัน

สิ่งนี้เกิดขึ้นเพราะในโครงการนำร่อง ทุกคนมีพฤติกรรมดี คุณกำลังทดสอบตัวแทนโดยใช้คำถามที่สมเหตุสมผล และมันดูเหมือนดี การผลิตคือสิ่งที่ตรงกันข้าม เมื่อมีสิ่งใดสาธารณะ มีคนบางส่วนที่พยายามจะหลอกลวงมัน

หากคุณไม่ได้ทดสอบกรณีการโจมตี คุณไม่ได้ทดสอบจริงๆ คุณต้องพยายามทำลายระบบของคุณเองก่อนที่ใครจะทำ มันผลักดันให้ระบบและให้อินพุตที่แปลกและไม่เป็นมิตร และดูว่ามันรักษาขอบเขตเมื่อมีคนพยายามโจมตีแบบโจ่งแจ้ง

ข้อผิดพลาดที่ซ้ำๆ กันอีกอย่างคือการคิดว่าการสาธิตที่ทำงานคือระบบที่ทำงาน การสาธิตคือการแลกเปลี่ยนหลายครั้งที่ดูเหมือนดี การผลิตคือคนหลายพันคนตลอด 24 ชั่วโมง โดยมีพฤติกรรมที่คุณไม่คาดคิด และกรณีแยกต่างๆ ที่คุณเพิกเฉยจะเกิดขึ้นทุกวันในระดับใหญ่

คำแนะนำของฉันคือใช้เวลาในการทดสอบให้น้อยลงและพยายามทำลายสิ่งนี้ด้วยตัวคุณเอง หากมันไม่สามารถรอดจากการโจมตีของคุณ มันจะไม่รอดเมื่อมันสาธารณะ

ตัวแทน AI กำลังจะสามารถจัดการการสนทนาได้มากขึ้นซึ่งเคยต้องการพนักงานมนุษย์ คุณเห็นสมดุลระหว่างการทำงานอัตโนมัติและการกำกับดูแลของมนุษย์ในช่วงห้าปีข้างหน้า และคุณคิดว่ากระบวนงานใดควรเก็บคนไว้เสมอ?

สิ่งนี้คือเรื่องที่ยาก และฉันไม่คิดว่าใครรู้จุดตัดที่แน่นอนในห้าปี วิธีที่ฉันคิดเกี่ยวกับมันคือคุณค่าจริงของ AI คือการเป็นตัวคูณกำลัง มันทำให้กลุ่มเล็กๆ สามารถทำได้มากกว่าที่เคยทำได้

ทีมที่ได้รับประโยชน์มากที่สุดจากเครื่องมือเหล่านี้ใช้มันในลักษณะนั้น AI จัดการปริมาณและความซ้ำซ้อน และคนใช้เวลากับการตัดสินใจ กลยุทธ์ และสถานการณ์ที่ต้องการมนุษย์จริงๆ นี่เป็นเป้าหมายที่แตกต่างจากการพยายามเอาคนออกจากภาพ

เมื่อเป้าหมายคือการแทนที่ที่บริสุทธิ์ คุณมักจะผลักดันเทคโนโลยีให้พ้นจากสิ่งที่มันทำได้ดี และมันล้มเหลวในลักษณะที่มองเห็นได้และแพง เมื่อเป้าหมายคือการเพิ่มกำลังคน คุณปล่อยให้ AI ทำสิ่งที่มันทำได้ดีและเก็บคนไว้ที่ที่พวกเขามีคุณค่ามากที่สุด วิธีที่สองทำงานได้ดีกว่า และเป็นเรื่องจริงเกี่ยวกับเทคโนโลยีในปัจจุบัน

ในช่วงห้าปีข้างหน้า ฉันคาดว่าตัวแทนจะรับภาระการสนทนาแบบซ้ำๆ มากขึ้น และพวกเขาควรทำเช่นนั้น งานนั้นไม่ต้องการคนดูอยู่ทุกคำ

กระบวนงานที่ควรเก็บคนไว้เสมอ คือกระบวนงานที่มีผลกระทบสูงหรือสถานการณ์ที่แท้จริงใหม่ สิ่งใดๆ ที่สัมผัสกับการยินยอม การปฏิบัติตามข้อกำหนด หรือการตัดสินใจที่ยากที่จะย้อนกลับ คนต้องเป็นเจ้าของทิศทาง และ AI ควรช่วยให้พวกเขาคุมพื้นที่ได้มากกว่าที่พวกเขาจะทำได้โดยไม่มีมัน

เมื่อมองไปข้างหน้า การพัฒนาอะไรใน AI การสนทนาที่คุณตื่นเต้นที่สุด และคุณเห็นแพลตฟอร์มอย่าง Convos วิวัฒนาการไปอย่างไรเมื่อแบบจำลองมีความสามารถ มัลติมีเดีย และอัตโนมัติมากขึ้น?

สิ่งที่ฉันตื่นเต้นที่สุดคือการสนทนาจะดีขึ้นเรื่อยๆ

เมื่อแบบจำลองดีขึ้น การแลกเปลี่ยนที่แพลตฟอร์มของเราจัดการจะกลายเป็นการสนทนาที่เป็นธรรมชาติและเป็นประโยชน์มากขึ้นโดยไม่ต้องสร้างระบบใหม่จากศูนย์ เนื่องจากเราได้ออกแบบระบบให้สามารถเปลี่ยนระหว่างแบบจำลองได้ เราจึงสามารถนำการปรับปรุงเหล่านั้นมาใช้เมื่อมันมาถึง

มัลติมีเดียคือการพัฒนาที่ฉันจับตามองมากที่สุด ในปัจจุบันการสนทนาเป็นข้อความ เมื่อแบบจำลองจัดการรูปภาพและรูปแบบอื่นๆ ได้ดีขึ้น มีโอกาสที่จะทำให้การแลกเปลี่ยนเหล่านี้มีความรู้สึกมากขึ้นในขณะเดียวกันก็รักษาความเร็วในการส่งข้อความไว้

เกี่ยวกับการทำงานอัตโนมัติ ฉันมีความหวังแต่ระมัดระวัง แบบจำลองที่มีความสามารถมากขึ้นถูกเผยแพร่ทุกเดือน และจะสามารถจัดการได้มากขึ้นโดยไม่ต้องมีการแทรกแซง แต่ในพื้นที่ที่มีการควบคุม การทำงานอัตโนมัติมากขึ้นต้องมีการควบคุมมากขึ้น ไม่น้อยกว่านั้น

ฉันเข้ามาในนี้เพราะฉันเป็นคนที่ส่งข้อความไปในความว่างเปล่าและไม่ได้รับการตอบกลับ นั่นยังคงเป็นปัญหาที่ฉันห่วงใยมากที่สุด ไม่ว่าแบบจำลองเหล่านี้จะสามารถทำอะไรได้มากนัก มาตรการที่ฉันกลับมาที่คือเรื่องง่ายๆ คือ คนที่อยู่อีกฝั่งรู้สึกว่าถูกฟังหรือไม่

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Convos