นาตาชา โมฮันทยี, สวป ออฟ เอ็นจิเนียริ่ง แอท ดอปเปิล – ซีรีส์สัมภาษณ์

นาตาชา โมฮันทยี, สวป ออฟ เอ็นจิเนียริ่ง แอท ดอปเปิล เป็นนักเทคโนโลยีที่มีประสบการณ์มากมายในด้าน AI, การชำระเงิน, สื่อ และแพลตฟอร์มผู้บริโภค ก่อนที่จะเข้าร่วมดอปเปิล เธอ曾เป็นผู้นำด้านวิศวกรรมสำหรับ Stripe’s Optimized Checkout Suite และ Link โดยขยายองค์กรจาก 30 ถึง 200 วิศวกร ในขณะเดียวกันก็ช่วยขับเคลื่อนการนำไปใช้งานผลิตภัณฑ์เช็คเอาท์ของ Stripe และกระเป๋าสตางค์ผู้บริโภค ในช่วงก่อนหน้านี้ เธอ曾ดำรงตำแหน่ง VP ของวิศวกรรมที่ Nielsen หลังจากการเข้าซื้อกิจการ Prizma.ai ซึ่งเป็นบริษัทวิเคราะห์สื่อและวิดีโอที่ใช้ AI ที่เธอเป็นผู้ร่วมก่อตั้งและดำรงตำแหน่ง CTO ในช่วงต้นอาชีพของเธอ เธอ曾ใช้เวลาเกิน 7 ปีที่ Google (GOOGL ) โดยทำงานในหลายๆ ด้าน เช่น คุณภาพการค้นหา Google News และการปรับแต่ง Google+

ดอปเปิล เป็นบริษัทการป้องกันการโจมตีทางดิจิทัลที่มีฐานะเป็น AI โดยมุ่งเน้นในการปกป้ององค์กร ผู้บริหาร แบรนด์ และลูกค้าจากการโจมตีทางดิจิทัลที่ใช้ AI รวมถึงการปลอมตัว การฉ้อโกง และความเสี่ยงดิจิทัลอื่นๆ แพลตฟอร์มของดอปเปิลรวมการป้องกันความเสี่ยงดิจิทัล การปกป้องผู้บริหารและแบรนด์ การรักษาความปลอดภัยอีเมล การจัดการความเสี่ยงของมนุษย์ การจำลอง และการฝึกอบรมความตระหนักด้านความปลอดภัย โดยใช้ AI และข้อมูลข่าวกรองด้านความเสี่ยงแบบเรียลไทม์ในการตรวจจับ สอดคล้อง และขัดขวางโครงสร้างพื้นฐานของผู้โจมตี عبرช่องทางต่างๆ เช่น โดเมน สื่อสังคมออนไลน์ แอปส่งข้อความ โฆษณา และเว็บมืด

คุณ曾เป็นผู้นำด้านวิศวกรรมที่บริษัทต่างๆ เช่น Stripe, Google, Nielsen และดอปเปิล ในช่วงเวลานั้น คุณมองเห็นการเปลี่ยนแปลงในบทบาทของวิศวกรซอฟต์แวร์อย่างไร ตั้งแต่การเขียนระบบโดยตรงไปสู่การควบคุมการทำงานของ AI ที่มีความเป็นอิสระมากขึ้น

กระบวนการทำงานของวิศวกรซอฟต์แวร์ได้เปลี่ยนแปลงไปอย่างมาก แต่ความรับผิดชอบที่ต้องการจากวิศวกรยังคงเหมือนเดิม เมื่อฉันเริ่มอาชีพที่ Google เมื่อ 20 ปีที่แล้ว วิศวกรใช้เวลาส่วนใหญ่ในการเขียนและตรวจสอบโค้ดด้วยตนเอง ปัจจุบัน AI สามารถจัดการการสร้างโค้ดได้มาก แต่วิศวกรยังคงต้องกำหนดเป้าหมาย ตรวจสอบผลลัพธ์ ตั้งค่าขอบเขต ตรวจสอบโค้ด และรับรองว่าระบบยังคงทำงานได้เชื่อถือได้ในระยะยาว

สิ่งที่เปลี่ยนแปลงไปคือจุดที่วิศวกรสร้างคุณค่า เมื่อ AI เข้ามารับหน้าที่ในการเขียนโค้ดมากขึ้น บทบาทของวิศวกรก็เปลี่ยนไปสู่การมีไหวพริบและความสามารถในการตัดสินใจ มีความเข้าใจในประเด็นปัญหา การตัดสินใจด้านสถาปัตยกรรม การประเมินผลกระทบ และการรับรองว่าผลลัพธ์ตรงกับความต้องการของผู้ใช้และธุรกิจ

คุณ曾กล่าวว่า AI ไม่ได้ลดความรับผิดชอบของวิศวกร แต่ขยายออกไป คุณมองเห็นความเข้าใจผิดที่ใหญ่ที่สุดของผู้บริหารเกี่ยวกับ AI ในการเขียนโค้ดอย่างไร

ความเข้าใจผิดที่ใหญ่ที่สุดคือการคิดว่า AI จะกำจัดความจำเป็นในวิศวกรที่มีความสามารถสูง ความเป็นจริงคือ AI เพิ่มขีดความสามารถของทีมวิศวกรที่มีทักษะ แต่ไม่ได้ลดความสำคัญของการวินิจฉัยและการตัดสินใจของวิศวกร

สิ่งที่เปลี่ยนแปลงไปคือพื้นที่ที่วิศวกรต้องรับผิดชอบ พวกเขาไม่ได้แค่เขียนโค้ดเท่านั้น แต่ยังต้องกำหนดสิ่งที่จะสร้าง ตรวจสอบว่าเอเย่นต์ทำสิ่งที่ตั้งใจไว้ และรับผิดชอบต่อผลลัพธ์เมื่อไม่ตรงตามที่คาดหวัง

ถ้าอะไรเปลี่ยนแปลงไป ก็คือพื้นที่ปัญหาได้กลายเป็นเรื่องที่น่าสนใจมากขึ้น ผู้โจมตีมีเครื่องมือ AI เหมือนกับที่เราใช้ ซึ่งหมายความว่าความท้าทายในการอยู่เหนือพวกเขาเป็นเรื่องที่ยากและน่าสนใจมากกว่าที่เคยเป็นมา

เมื่อทีมวิศวกรรมเริ่มประสานงาน AI หลายตัวในการเขียนโค้ด การทดสอบ การแก้ปัญหา และการสร้างเอกสาร คุณมองเห็นกระบวนการทำงานที่มีประสิทธิภาพของ “การบริหารจัดการเอเย่นต์” ในทางปฏิบัติอย่างไร

วิศวกรกำลังทำงานในฐานะผู้จัดการระบบอิสระ ไม่ใช่แค่ผู้ร่วมให้ข้อมูลเท่านั้น วิศวกรที่ดีที่สุดสามารถจัดการบริบทที่หลากหลายในหลายๆ กระบวนการพร้อมๆ กัน และรู้ว่าควรแบ่งปันข้อมูลกับเอเย่นต์แต่ละตัวอย่างไร

ในทางปฏิบัติ หมายถึงการเขียนเกณฑ์การยอมรับที่ชัดเจน การตั้งค่าขอบเขตที่ชัดเจนสำหรับความเป็นส่วนตัวและความปลอดภัย และขอให้เอเย่นต์อธิบายเหตุผลและสมมติฐานของตนเพื่อเป็นขั้นตอนการตรวจสอบ หากเอเย่นต์ไม่สามารถอธิบายสิ่งที่ทำและทำไมได้ คุณไม่สามารถไว้วางใจผลลัพธ์ได้อย่างเต็มที่

คุณมองเห็นความเสี่ยงในการดำเนินงานหรือความปลอดภัยที่เกิดขึ้นเมื่อ AI มีการเข้าถึงเครื่องมือภายใน ระบบการผลิต หรือกระบวนการทำงานที่ละเอียดอ่อนโดยไม่มีการควบคุมอย่างเข้มงวดอย่างไร

ความเสี่ยงไม่ได้มาจากเพียงแค่ AI ที่ทำผิดพลาด แต่มาจากการที่ AI สามารถทำผิดพลาดในระดับที่ยากต่อการตรวจจับในเวลาจริง อันตรายที่เฉพาะเจาะจงคือเอเย่นต์ที่ทำงานนอกเหนือจากขอบเขตที่ตั้งใจไว้ ไม่ว่าจะเป็นการเข้าถึงระบบที่ไม่ได้ออกแบบมาให้ทำหรือจัดการข้อมูลที่ไม่ควรเก็บ

ใน ผลิตภัณฑ์ความปลอดภัยอีเมล ของเรา ตัวอย่างเช่น เอเย่นต์ประมวลผลข้อมูลที่มีความละเอียดอ่อนโดยธรรมชาติ เราได้ดำเนินการอย่างมากเพื่อให้แน่ใจว่าเอเย่นต์เหล่านั้นมีการเข้าถึงที่จำกัดอย่างเข้มงวด ไม่สามารถเปิดเผยข้อมูลส่วนบุคคลที่ละเอียดอ่อนได้โดยไม่ตั้งใจ และไม่เก็บข้อมูลที่เป็นความลับ ในขณะเดียวกันก็ยังคงมีข้อมูลที่จำเป็นในการตัดสินใจที่ถูกต้อง

เมื่อใดที่การพึ่งพาโค้ดที่สร้างโดย AI อย่างมากจะเริ่มทำให้เกิดหนี้สินทางเทคนิคในระยะยาว และผู้นำด้านวิศวกรรมควรพิจารณาเรื่องความสมดุลระหว่างความเร็วและความสามารถในการบำรุงรักษาอย่างไร

ความเสี่ยงคือการจัดลำดับความสำคัญของความเร็วในระยะสั้นมากกว่าพื้นฐานที่ช่วยให้ระบบสามารถขยายและพัฒนาได้ หนึ่งในบทเรียนที่สำคัญที่สุดจากประสบการณ์ของฉันที่ Stripe คือการรับรู้ว่าไม่ใช่ทุกการตัดสินใจมีค่าเท่ากัน บางการตัดสินใจเป็นประตูที่ยากจะกลับหรือมีผลกระทบระยะยาว ในขณะที่อื่นๆ สามารถเปลี่ยนแปลงได้ง่าย

ด้วย AI ความมุ่งมั่นคือการรู้ว่าการตัดสินใจใดยังคงมีผลกระทบระยะยาว และการวางรากฐานที่เข้มงวดสำหรับพวกมัน ในขณะเดียวกันก็เคลื่อนไหวอย่างรวดเร็วในด้านอื่นๆ ที่ Doppel หมายถึงการใช้ระบบการประเมินและการจัดทำเอกสารปัจจุบันเพื่อให้แน่ใจว่าเอเย่นต์ยังคงทำงานตามที่ตั้งใจไว้เมื่อระบบพัฒนา

ในช่วงเวลาที่คุณขยายทีมวิศวกรรมที่ Stripe คุณได้เรียนรู้อะไรเกี่ยวกับความน่าเชื่อถือ ความไว้วางใจ และการออกแบบระบบที่รู้สึกมีความเกี่ยวข้องอย่างมากในยุคของเอเย่นต์ AI ที่มีความเป็นอิสระ

ที่ Stripe ความน่าเชื่อถือเป็นทุกอย่าง โดยเฉพาะอย่างยิ่งในอุตสาหกรรมการเงินที่มีการควบคุมอย่างเข้มงวด หากระบบไม่ทำงานตามที่ตั้งใจไว้ จะมีผลกระทบโดยตรงต่อลูกค้า ซึ่งสร้างวัฒนธรรมของการเป็นเจ้าของและความรับผิดชอบภายในบริษัท

หนึ่งในสิ่งที่ดึงดูดฉันให้มาอยู่ที่ Doppel คือความหลงใหลในลูกค้าในระดับเดียวกัน ทีมงานที่นี่มุ่งเน้นอย่างลึกซึ้งในการเข้าใจความท้าทายที่ลูกค้าเผชิญและรับผิดชอบในการแก้ไขปัญหา

คุณคาดหวังว่าการสรรหาบุคลากรด้านวิศวกรรมจะเปลี่ยนแปลงไปอย่างไรในอีกไม่กี่ปีข้างหน้า เมื่อบริษัทต่างๆ ให้ความสำคัญกับการใช้ AI และการคิดเชิงระบบมากกว่าการเชี่ยวชาญเฉพาะด้าน

ฉันคิดว่าเราจะเห็นความสำคัญที่เพิ่มขึ้นในการจ้างวิศวกรที่สามารถทำงานได้อย่างอิสระ มีการตัดสินใจที่ดี และสามารถเรียนรู้ได้อย่างรวดเร็ว คุณลักษณะเหล่านี้ฉันเคยจ้างมาเสมอ แต่มันสำคัญมากขึ้นในขณะนี้ ไม่ใช่วิศวกรที่มีผลกระทบมากที่สุดคือคนที่มีการเชี่ยวชาญเฉพาะด้าน แต่เป็นคนที่สามารถปรับตัวได้เร็ว นำทางความไม่แน่นอน และเรียนรู้อย่างต่อเนื่องเมื่อเทคโนโลยีเปลี่ยนแปลง

แต่มาตรฐานได้เปลี่ยนไป ปัญหาที่เรากำลังแก้ไขที่ Doppel ไม่ได้ถูกกำหนดไว้อย่างชัดเจน เรากำลังทำงานอย่างต่อเนื่องเพื่ออยู่เหนือผู้โจมตีที่ใช้ AI เช่นกัน ซึ่งหมายถึงการสร้างระบบเช่นเอเย่นต์ข่าวกรองภัยคุกคามที่สำรวจเว็บเพื่อค้นหาภัยคุกคามอย่างแข็งขัน มันไม่มีหนังสือเล่มใดที่เขียนไว้สำหรับการทำงานในลักษณะนี้ จึงต้องใช้ความมุ่งมั่นและความเต็มใจที่จะผลักดันขอบเขตของสิ่งที่เป็นไปได้

AI จะเปลี่ยนแปลงวิธีการทำงานต่อไป แต่บริษัทต่างๆ ยังคงต้องการคนที่สามารถทำงานข้ามระบบและรับผิดชอบต่อวงจรชีวิตของสิ่งที่พวกเขาสร้าง วิศวกรที่จะเติบโตได้จะเป็นคนที่สามารถสร้างสรรค์ความสามารถใหม่ๆ ของตนเองอย่างต่อเนื่องเมื่อบริบท AI มีการเปลี่ยนแปลง

คุณ曾ทำงานอย่างกว้างขวางเกี่ยวกับการปรับแต่งส่วนบุคคล ระบบแนะนำ และแพลตฟอร์มที่ใช้เครื่องมือการเรียนรู้ของเครื่องตลอดอาชีพของคุณ การทำงานเหล่านี้มีอิทธิพลต่อวิธีคิดของคุณเกี่ยวกับการทำงานร่วมกันระหว่างมนุษย์และ AI ภายในองค์กรวิศวกรรมอย่างไร

สิ่งหนึ่งที่ฉันเรียนรู้จากการทำงานเกี่ยวกับการปรับแต่งส่วนบุคคลและระบบที่ใช้เครื่องมือการเรียนรู้ของเครื่องคือคุณภาพของผลลัพธ์เทียบเท่ากับคุณภาพของข้อมูลเข้า รวมถึงข้อมูลฝึกอบรม กรอบการประเมิน และการกำหนดสิ่งที่ดีจริงๆ โมเดลสามารถประมวลผลข้อมูลในระดับใหญ่ๆ ได้ แต่คนมีไหวพริบ ความเข้าใจบริบท และความเข้าใจในสิ่งที่สำคัญที่สุด

ฉันคิดว่าหลักการเดียวกันนี้ใช้ได้กับองค์กรวิศวกรรมที่ทำงานในปัจจุบัน AI สามารถช่วยให้ทีมทำงานได้เร็วขึ้น แต่ทีมที่ดีที่สุดจะพิจารณาอย่างรอบคอบเกี่ยวกับบริบทและความจริงที่ให้กับ AI รวมถึงวิธีการรวมระบบ AI เข้ากับระบบวิศวกรรมโดยรวม วิศวกรยังคงต้องตัดสินใจ ประเมินผลกระทบ และรับผิดชอบต่อผลลัพธ์สุดท้าย

หลายบริษัทกำลังแข่งขันกันเพื่อเพิ่มผลผลิตของนักพัฒนาโดยใช้เครื่องมือ AI คุณคิดว่าความได้เปรียบในการแข่งขันจะมาจากความเร็วในการเขียนโค้ดหรือจากการที่สามารถสร้างองค์กรที่รู้จักวิธีการควบคุมและประสานงานระบบ AI ได้อย่างมีประสิทธิภาพ

ความเร็วมีความสำคัญ โดยเฉพาะอย่างยิ่งในด้านความปลอดภัยไซเบอร์ ที่การล่าช้าอาจทำให้เสียเปรียบ แต่ความเร็วโดยไม่มีการควบคุมก็เป็นเพียงวิธีที่เร็วขึ้นในการสร้างช่องโหว่ การควบคุมระบบ AI ควรเป็นมาตรฐานสำหรับทุกบริษัทที่สร้างด้วย AI ไม่ใช่เรื่องหลังเหตุการณ์ เป็นสิ่งจำเป็นในการรับรองคุณภาพ ความน่าเชื่อถือ และความรับผิดชอบในกระบวนการทำงานวิศวกรรม

เมื่อมองไปข้างหน้า 5 ปี คุณคิดว่าทีมวิศวกรรมซอฟต์แวร์แบบสมัยใหม่จะเปลี่ยนแปลงไปอย่างไรเมื่อเอเย่นต์ AI ถูกฝังอยู่ลึกๆ ในกระบวนการทำงานพัฒนา

5 ปีเป็นช่วงเวลาที่ยากต่อการทำนายด้วยความมั่นใจเพราะโลกกำลังเปลี่ยนแปลงอย่างรวดเร็ว สิ่งที่ฉันสามารถพูดได้ด้วยความมั่นใจมากกว่าคือภายใน 18 เดือนถึง 3 ปี เอเย่นต์ AI จะมีแนวโน้มที่จะจัดการการสร้างโค้ด การทดสอบ และการแก้ปัญหาเบื้องต้น

สิ่งที่วิศวกรจะรับผิดชอบคือการวินิจฉัยผลิตภัณฑ์ ความสามารถในการตัดสินใจด้านสถาปัตยกรรม และการรับผิดชอบเมื่อมีอะไรผิดพลาด ทีมอาจเล็กลง แต่บทบาทจะยากขึ้น วิศวกรที่จะเติบโตได้ไม่จำเป็นต้องเป็นคนที่ผลิตโค้ดมากที่สุด แต่เป็นคนที่สามารถกำกับ ตรวจสอบ และแก้ไขระบบอิสระได้อย่างมีประสิทธิภาพ

การผ่านประสบการณ์การเปลี่ยนแปลงเทคโนโลยีก่อนหน้านี้ สิ่งหนึ่งที่ฉันเรียนรู้คือนวัตกรรมไม่เคยเดินไปตามเส้นทางที่ตรงไปตรงมา ทีมที่ประสบความสำเร็จจะเป็นทีมที่ยังคง好奇 ปรับตัวได้อย่างรวดเร็ว และพัฒนาวิธีการทำงานเมื่อเทคโนโลยีเปลี่ยนแปลง

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ ดอปเปิล