สัมภาษณ์

Oran Moyal ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Ocean Security – ซีรีส์บทสัมภาษณ์

Antoine Tardif
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
Oran Moyal, Co-Founder and CTO of Ocean Security
ประเด็นสำคัญสถานะ AI-native เป็นเรื่องขององค์กรมากกว่าเรื่องทางเทคนิค…
ดูเพิ่มเติม
  • สถานะ AI-native เป็นเรื่องขององค์กรมากกว่าเรื่องทางเทคนิค เพราะมันเปลี่ยนวิธีที่ทุกทีมจัดการกับงาน
  • การเร่งงานแต่ละงานจะล้มเหลวเมื่อการส่งต่อและการอนุมัติยังคงเป็นคอขวดที่แท้จริงระหว่างขั้นตอนต่างๆ
  • เอเจนต์ต้องการการบังคับใช้สิทธิ์และการตรวจสอบอย่างอิสระ เพราะคำสั่งเพียงอย่างเดียวไม่ใช่มาตรการควบคุมความปลอดภัย

Oran Moyal เป็นผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Ocean Security ซึ่งเขาพัฒนา AI แบบเอเจนต์เพื่อสืบสวนภัยคุกคามทางอีเมลที่ซับซ้อน ประสบการณ์ของเขาครอบคลุมทั้งงานวิจัยและพัฒนาด้านความมั่นคงปลอดภัยไซเบอร์ วิศวกรรมสังคมเชิงรุก และความปลอดภัยระดับองค์กร เขาร่วมก่อตั้ง Ocean กับ Shay Shwartz ในปี 2024 โดยนำประสบการณ์ที่สั่งสมจากการวิเคราะห์วิธีที่ผู้โจมตีฉวยประโยชน์จากการสื่อสารที่น่าเชื่อถือ และวิธีที่ระบบรักษาความปลอดภัยจะตอบสนองต่อภัยคุกคามที่เจาะจงเป้าหมายมากขึ้นเรื่อย ๆ

Ocean Security พัฒนาแพลตฟอร์มรักษาความปลอดภัยอีเมลด้วย AI แบบเอเจนต์ ซึ่งออกแบบมาเพื่อสืบสวนฟิชชิงแบบเจาะจงเป้าหมาย การหลอกลวงทางอีเมลธุรกิจ และการฉ้อโกงทางการเงิน เอเจนต์ AI เฉพาะทางของแพลตฟอร์มจะวิเคราะห์บริบทของการสื่อสารและเจตนาของผู้ส่ง เพื่อช่วยให้ทีมรักษาความปลอดภัยระบุภัยคุกคามที่แฝงอยู่ในการสื่อสารทางธุรกิจซึ่งดูน่าเชื่อถือได้ ในบทสัมภาษณ์นี้ Moyal พูดถึงคุณลักษณะขององค์กรที่ขับเคลื่อนด้วย AI อย่างแท้จริง วิธีออกแบบเวิร์กโฟลว์ใหม่โดยมีเอเจนต์เป็นศูนย์กลาง และเหตุใดการกำหนดข้อกำหนดให้ชัดเจน การตรวจสอบยืนยันอย่างเป็นอิสระ การบังคับใช้สิทธิ์อนุญาต และการใช้วิจารณญาณของมนุษย์ จึงยังคงเป็นหัวใจสำคัญของระบบอัตโนมัติที่มีประสิทธิภาพ

ก่อนร่วมก่อตั้ง Ocean ในปี 2024 คุณใช้เวลาหลายปีทำงานด้านการวิจัยและพัฒนาความมั่นคงปลอดภัยไซเบอร์ รวมถึงทำงานในกองกำลังป้องกันอิสราเอลและที่ VisibleRisk / Microsoft Security ประสบการณ์ใดบ้างที่นำไปสู่การก่อตั้ง Ocean และการเกิดขึ้นของ AI ส่งผลต่อวิสัยทัศน์ที่คุณมีต่อบริษัทตั้งแต่เริ่มต้นอย่างไร

ในอดีต การโจมตีแบบสเปียร์ฟิชชิงที่เจาะจงเป้าหมายต้องใช้ทีมงานเฉพาะทางและเวลาหลายสัปดาห์ในการค้นคว้าและเตรียมการด้วยตนเอง เมื่อ AI เชิงสร้างสรรค์เกิดขึ้น เราตระหนักว่าพนักงานทุกคนในทุกองค์กรกำลังเผชิญกับการโจมตีแบบฟิชชิงระดับรัฐชาติที่สร้างความเสียหายร้ายแรงได้ เพียงชั่วข้ามคืน การสมัครใช้บริการในราคา 20 ดอลลาร์ก็ทำให้ผู้โจมตีทุกรายมีขีดความสามารถระดับรัฐชาติ

Shay กับผมมีความเชี่ยวชาญด้านวิศวกรรมสังคมเชิงลึกจากฝั่งผู้โจมตี และเราทั้งคู่เคยสร้างและขยายธุรกิจด้านความปลอดภัยระดับองค์กร จึงรู้ว่าเครื่องมือแบบเดิมตามไม่ทัน เครื่องมือเหล่านั้นมองหาการละเมิดกฎและความผิดปกติ แต่การโจมตีเหล่านี้แฝงอยู่ในการสื่อสารทางธุรกิจตามปกติ ไม่ว่าจะเป็นชุดข้อความจริง บัญชีที่เชื่อถือได้ หรือบริการที่ถูกต้องตามกฎหมาย ไม่มีอะไรดูผิดปกติเลย ด้วยเหตุนี้ เราจึงเริ่มก่อตั้ง Ocean ในปี 2024 เพื่อช่วยองค์กรรับมือกับภัยคุกคามรูปแบบใหม่นี้ ด้วยระบบรักษาความปลอดภัยอีเมลที่ขับเคลื่อนด้วย AI ซึ่งวิเคราะห์บริบทและเจตนาของผู้ส่งแบบเรียลไทม์ คล้ายกับที่ผู้สืบสวนซึ่งเป็นมนุษย์จะทำ ก่อนที่การบุกรุกจะเกิดขึ้น

หลายองค์กรเรียกตัวเองว่า “ขับเคลื่อนด้วย AI” เพียงเพราะนำเครื่องมือ AI มาใช้หรือทำให้กระบวนการบางอย่างเป็นระบบอัตโนมัติ ในมุมมองของคุณ อะไรคือสิ่งที่ทำให้องค์กรที่ขับเคลื่อนด้วย AI อย่างแท้จริงแตกต่างจากองค์กรที่เพียงผสาน AI เข้ากับการดำเนินงานที่มีอยู่

หลายบริษัทเรียกตัวเองว่าขับเคลื่อนด้วย AI เพราะซื้อเครื่องมือ AI มาใช้ แต่นั่นเป็นเพียงการนำเทคโนโลยีมาใช้ การเป็นองค์กรที่ขับเคลื่อนด้วย AI เปลี่ยนวิธีที่บริษัทจัดการงานประจำวันและแก้ปัญหาคอขวด

จุดเริ่มต้นอยู่ที่วิธีที่ผู้นำรับมือกับปัญหาคอขวด ปฏิกิริยาตามแบบเดิมคือ “งานนี้ใช้เวลามากเกินไป จ้างใครสักคนมาจัดการดีกว่า” ส่วนองค์กรที่ขับเคลื่อนด้วย AI จะถามก่อนว่า “เราจะใช้ AI เร่งการทำงานของหน่วยงานนี้ทั้งหมดได้อย่างไร” เมื่อตั้งคำถามนี้กับทุกทีม บริษัททั้งองค์กรก็จะเริ่มทำงานในรูปแบบที่แตกต่างออกไป

การเปลี่ยนผ่านสู่การเป็นองค์กรที่ขับเคลื่อนด้วย AI อย่างแท้จริงเป็นเรื่องขององค์กร ไม่ใช่เรื่องทางเทคนิค หากเร่งการทำงานของแผนกหนึ่ง คอขวดก็จะย้ายไปอยู่ที่แผนกถัดไป และท้ายที่สุดทั้งบริษัทก็จะทำงานได้เร็วเท่ากับหน่วยงานที่ช้าที่สุด องค์กรที่ขับเคลื่อนด้วย AI เปลี่ยนแปลงไปพร้อมกัน ทำให้ข้อมูลไหลเวียนเร็วขึ้น วงจรป้อนกลับสั้นลง และทีมต่าง ๆ ทำงานร่วมกันเป็นระบบเดียวที่เชื่อมโยงถึงกัน

ในรูปแบบนี้ คุณค่าของบุคลากรเปลี่ยนไป เมื่อ AI รับภาระงานมากขึ้น ทักษะที่หาได้ยากคือการกำหนดทิศทางให้ชัดเจน ระบุเจตนา และใช้วิจารณญาณ บุคลากรกับเอเจนต์ทำงานเคียงข้างกัน AI รับหน้าที่ดำเนินงานมากขึ้น ส่วนบุคลากรเป็นผู้ตัดสินใจว่าอะไรควรสร้างขึ้นและเพราะเหตุใด

เป้าหมายคือให้ทุกทีมทำงานได้มากขึ้นด้วยทรัพยากรเท่าเดิม ทำงานได้เร็วขึ้น และประสานงานกันได้ดีขึ้น โดยไม่ลดทอนคุณภาพ

คุณเคยกล่าวว่าผลลัพธ์ด้านผลิตภาพที่ได้จาก AI อาจหายไปอย่างรวดเร็ว หากเวิร์กโฟลว์พื้นฐานยังไม่มีประสิทธิภาพ คอขวดในการดำเนินงานที่พบบ่อยที่สุดซึ่งขัดขวางไม่ให้บริษัทได้รับประโยชน์จาก AI อย่างเต็มที่มีอะไรบ้าง และผู้นำควรปรับแนวทางในการออกแบบเวิร์กโฟลว์เหล่านี้ใหม่อย่างไร

การเร่งงานแต่ละอย่างไม่ได้ทำให้องค์กรทำงานเร็วขึ้นโดยอัตโนมัติ หากกระบวนการ การพึ่งพากันระหว่างงาน และการสื่อสารระหว่างทีมยังเหมือนเดิม ผลิตภาพส่วนใหญ่ที่ AI ช่วยสร้างขึ้นก็จะสูญหายไปในระหว่างทาง

คอขวดที่พบบ่อยที่สุดไม่ได้เกิดจากปัญหาทางเทคนิค แต่เกิดจากข้อกำหนดที่ไม่ชัดเจนจนต้องแก้งานซ้ำ การส่งต่องานระหว่างทีมที่ล่าช้า และงานที่ค้างรอการอนุมัติ AI ช่วยให้แต่ละขั้นตอนเร็วขึ้น แต่เวลาที่ประหยัดได้กลับสูญเปล่าไปกับช่วงรอยต่อระหว่างขั้นตอน

ผู้นำควรเริ่มจากการวัดว่าเวลาถูกใช้ไปกับอะไรบ้าง เพราะคอขวดที่แท้จริงมักไม่ใช่จุดที่ทุกคนคิด จากนั้นจึงออกแบบเวิร์กโฟลว์ใหม่ตั้งแต่ต้นจนจบ โดยแก้ไขการส่งต่องาน คำจำกัดความ และวงจรป้อนกลับ แทนที่จะมุ่งปรับปรุงเฉพาะงานแต่ละอย่าง สุดท้าย ให้เชื่อมโยงทุกโครงการ AI เข้ากับตัวชี้วัดผลการดำเนินงานหลัก (KPI) ที่ทีมรับผิดชอบอยู่แล้ว

สิ่งสำคัญที่สุดคือผู้นำต้องปรับเปลี่ยนกรอบความคิด การทำงานอัตโนมัติและการเร่งกระบวนการควรเป็นแนวทางตั้งต้น แทนที่จะยอมรับกระบวนการที่มีอยู่ ทีมต่าง ๆ ควรตั้งคำถามกับวิธีทำงานอยู่เสมอ เพื่อให้ทำงานได้เร็วขึ้นและสร้างผลกระทบได้มากขึ้นโดยไม่ลดทอนคุณภาพ

หลักการข้อหนึ่งที่คุณเน้นย้ำคือความสำคัญของการกำหนดข้อกำหนดให้ชัดเจนก่อนนำเอเจนต์ AI มาใช้ในขั้นตอนการทำงาน องค์กรควรทบทวนวิธีกำหนดงาน สื่อสารความคาดหวัง และวางเกณฑ์ความสำเร็จอย่างไร เมื่อเอเจนต์ AI มีหน้าที่ดำเนินงานส่วนสำคัญ

เมื่อเอเจนต์ AI ทำงานส่วนใหญ่ องค์กรจำเป็นต้องทบทวนวิธีสื่อสารและกำหนดงาน คำขอที่คลุมเครือไม่ได้ทำให้เอเจนต์หยุดทำงาน แต่มันจะคาดเดา และทุกครั้งที่คาดเดาผิดก็ทำให้ต้องแก้งานเพิ่ม

ผมมองเรื่องนี้เป็นสามชั้น ได้แก่

งาน เป้าหมาย และบริบทที่ชัดเจน เอเจนต์ต้องเข้าใจว่าต้องทำอะไร เหตุใดจึงสำคัญ และมีบริบทแวดล้อมอย่างไร ก่อนเริ่มงาน เอเจนต์ควรถามเกี่ยวกับสิ่งที่ไม่ชัดเจนได้ เพื่อแก้ไขช่องว่างของข้อมูลตั้งแต่ต้น แทนที่จะพบปัญหาเมื่อทำงานไปได้ครึ่งทาง

การตรวจสอบความถูกต้องด้วยตนเอง ควรกำหนดเกณฑ์ความสำเร็จไว้ล่วงหน้าในรูปแบบที่เอเจนต์ตรวจสอบเองได้ ตัวอย่างเช่น ในงานพัฒนาซอฟต์แวร์ เอเจนต์ควรเรียกใช้โค้ด ทดสอบว่าโค้ดทำงานตามที่ต้องการ และยืนยันว่าผ่านการทดสอบก่อนที่ใครจะเข้ามาตรวจสอบ

มนุษย์เป็นด่านสุดท้าย ผู้คนควรได้รับผลงานที่เอเจนต์ปรับปรุงจนดีขึ้นแล้วผ่านการทำซ้ำหลายรอบตามเกณฑ์ที่ตกลงกันไว้ บทบาทของพวกเขาคือใช้วิจารณญาณ ไม่ใช่แก้ข้อผิดพลาดพื้นฐาน

ยิ่งกำหนดรายละเอียดได้ดีเท่าไร ผลงานแต่ละชิ้นก็ยิ่งใช้เวลาของมนุษย์น้อยลงเท่านั้น

คุณสนับสนุนให้เอเจนต์ AI ตรวจสอบผลงานของตนเองก่อนส่งให้ผู้ตรวจสอบที่เป็นมนุษย์ กระบวนการตรวจสอบที่ขับเคลื่อนด้วย AI อย่างมีประสิทธิภาพควรเป็นอย่างไรในทางปฏิบัติ และองค์กรจะมั่นใจได้อย่างไรว่าการตรวจสอบคุณภาพแบบอัตโนมัติจะไม่ตอกย้ำข้อผิดพลาดเดิมที่เกิดขึ้นระหว่างการทำงาน

กระบวนการตรวจสอบที่มีประสิทธิภาพจะทดสอบผลงานในลักษณะเดียวกับการนำไปใช้งานจริง เอเจนต์ควรเรียกใช้ระบบจริงตั้งแต่ต้นจนจบ ยืนยันว่าผลลัพธ์ตรงตามเกณฑ์ความสำเร็จ และแก้ไขสิ่งที่ไม่ผ่านก่อนส่งให้บุคคลใดตรวจสอบ

มีหลักการสำคัญอยู่สองสามข้อที่จะช่วยไม่ให้กระบวนการตรวจสอบทำผิดซ้ำตามเอเจนต์เอง

แยกเกณฑ์ออกจากการดำเนินงาน ผู้คนควรกำหนดลักษณะของความสำเร็จก่อนเริ่มงาน หากปล่อยให้เอเจนต์ตัดสินเองว่าอะไรคือความเสร็จสิ้น ก็เท่ากับให้เอเจนต์ตรวจให้คะแนนงานของตัวเอง

กำหนดกรอบควบคุมที่เข้มงวด การตรวจสอบทุกอย่างไม่ควรขึ้นอยู่กับวิจารณญาณของเอเจนต์ บางอย่างต้องเป็นการทดสอบตายตัวที่ให้ผลแน่นอน เพื่อตรวจสอบพารามิเตอร์ มาตรฐาน และนโยบายที่ระบุไว้โดยเฉพาะ สิ่งเหล่านี้จะกำหนดขอบเขตที่ชัดเจน ซึ่งเอเจนต์ไม่อาจใช้เหตุผลหาทางหลีกเลี่ยงได้

ใช้ผู้ตรวจสอบอิสระ เอเจนต์ตัวที่สองซึ่งมีบริบทใหม่และไม่มีส่วนได้เสียกับแนวทางเดิม จะช่วยตรวจพบข้อผิดพลาดที่เอเจนต์ตัวแรกมองข้าม

แสดงหลักฐาน ไม่ใช่แค่คำตัดสิน ผลการทดสอบ ภาพหน้าจอ และวิดีโอบันทึกการทำงานช่วยให้ผู้คนเห็นว่าเกิดอะไรขึ้น แทนที่จะต้องเชื่อเพียงผลที่ระบุว่า “ผ่าน”

จากนั้นจึงให้มนุษย์ใส่ใจกับจุดที่มีความเสี่ยงสูงที่สุด เป้าหมายไม่ใช่การนำคนออกจากกระบวนการ แต่คือการทำให้แน่ใจว่าเวลาของพวกเขาถูกใช้ไปกับการใช้วิจารณญาณ ไม่ใช่การตรวจสอบเชิงกลไก

องค์กรแบบดั้งเดิมมักอาศัยลำดับชั้นการบริหารหลายระดับ การอนุมัติหลายขั้น และการส่งต่องานระหว่างทีม โมเดลการดำเนินงานที่ออกแบบโดยมี AI เป็นแกนหลักเปลี่ยนวิธีที่ทีมวิศวกรรม ผลิตภัณฑ์ ความปลอดภัย และธุรกิจทำงานร่วมกันอย่างไร และบทบาทกับความรับผิดชอบแบบเดิมจะเปลี่ยนไปอย่างไร เมื่อเอเจนต์รับหน้าที่ดำเนินงานมากขึ้น

AI ช่วยให้ทุกคนและทุกทีมสร้างผลงานได้มากขึ้น แต่ถ้าการส่งต่องาน การอนุมัติ และการประสานงานยังเป็นแบบเดิม ผลงานที่เพิ่มขึ้นก็จะกองรอขั้นตอนถัดไป องค์กรไม่ได้ทำงานเร็วขึ้น กลับเกิดคอขวดใหม่ โมเดลการดำเนินงานที่ออกแบบโดยมี AI เป็นแกนหลักต้องปรับรูปแบบการทำงานร่วมกันของทีม ไม่ใช่แค่ปรับวิธีทำงานของแต่ละทีม

จุดเริ่มต้นคือการปรับวิธีไหลเวียนของข้อมูล ควรใช้ระบบอัตโนมัติจัดการข้อมูลให้มากขึ้น เพื่อให้การประชุมใช้ไปกับการตัดสินใจ แทนที่จะหมดไปกับการรายงานความคืบหน้า เมื่อข้อมูลเชิงลึกจากภาคสนามส่งตรงถึงทีมผลิตภัณฑ์ การตัดสินใจก็จะรวดเร็วและแม่นยำขึ้น และส่งผลต่อเนื่องให้การกำหนดรายละเอียดชัดเจนขึ้นและการดำเนินงานมีประสิทธิภาพดีขึ้น

การอนุมัติก็ต้องได้รับการทบทวนเช่นเดียวกัน และนี่เป็นส่วนที่ยากที่สุด เพราะหมายถึงการเปลี่ยนสิ่งที่องค์กรถือว่าเป็นเรื่องปกติ การอนุมัติยังคงสำคัญ แต่ไม่ควรปฏิบัติต่อการเปลี่ยนแปลงทุกอย่างเหมือนกัน ตัวอย่างเช่น การเพิ่มการประเมินความเสี่ยงเข้าไปในกระบวนการอนุมัติเฉพาะอย่าง อาจช่วยลดการอนุมัติด้วยตนเองสำหรับงานที่มีความเสี่ยงต่ำ ขณะเดียวกันก็ยังคงให้มนุษย์ตรวจสอบในจุดที่จำเป็น นี่เป็นเพียงวิธีหนึ่งในการเร่งกระบวนการโดยไม่สูญเสียการควบคุม

บทบาทต่าง ๆ กำลังได้รับการนิยามใหม่เช่นกัน เมื่อเอเจนต์รับหน้าที่ดำเนินงานมากขึ้น ผู้คนก็เปลี่ยนจากการรับผิดชอบงานไปเป็นการรับผิดชอบผลลัพธ์ พวกเขาต้องเข้าใจบริบททั้งหมด ตั้งคำถามต่อสมมติฐาน และก้าวข้ามขอบเขตบทบาทแบบเดิม องค์กรที่จะประสบความสำเร็จคือองค์กรที่ปรับรูปแบบการทำงานร่วมกันของผู้คน ไม่ใช่แค่องค์กรที่นำ AI มาใช้มากที่สุด

Ocean ใช้เอเจนต์ AI เฉพาะทางเพื่อตรวจสอบภัยคุกคามทางอีเมลที่ซับซ้อน ประสบการณ์ของคุณในการพัฒนา AI แบบเอเจนต์สำหรับความปลอดภัยทางไซเบอร์ส่งผลต่อวิธีนำ AI มาใช้ภายในองค์กรอย่างไร และมีบทเรียนจากการสร้างระบบรักษาความปลอดภัยแบบอัตโนมัติที่นำมาปรับใช้กับการบริหารองค์กรที่ขับเคลื่อนด้วย AI ได้หรือไม่

การสร้างเอเจนต์อัตโนมัติสำหรับการรักษาความปลอดภัยทางอีเมลส่งผลต่อวิธีที่เราใช้ AI ภายในองค์กรอยู่สองด้าน

บทเรียนข้อแรกคือ ประสิทธิภาพของเอเจนต์ขึ้นอยู่กับความเข้าใจบริบทของพวกมัน เอเจนต์ด้านความปลอดภัยจะตัดสินใจได้ดีขึ้นเมื่อเข้าใจองค์กรที่ตนมีหน้าที่ปกป้อง เช่นเดียวกันกับการใช้งานภายในองค์กร หากต้องการให้เอเจนต์ทำงานได้ดี เราต้องช่วยให้พวกมันเข้าใจอย่างแท้จริงว่าองค์กรทำงานอย่างไร แต่ละงานมีจุดประสงค์อะไร และเชื่อมโยงกับภาพรวมอย่างไร

บทเรียนข้อที่สองคือ เอเจนต์ต้องได้รับการประเมินอย่างต่อเนื่อง ในการใช้งานจริง เราประเมินอยู่เสมอว่าเอเจนต์ของเราทำงานได้ดีเพียงใด ล้มเหลวตรงไหน และยังขาดเครื่องมือหรือข้อมูลใดบ้าง เราใช้แนวทางเดียวกันนี้กับการใช้งานภายในองค์กรด้วย เราจำเป็นต้องมีพื้นที่เฉพาะสำหรับทดสอบ ฝึกฝน และรับข้อเสนอแนะเกี่ยวกับเอเจนต์ หากไม่มีพื้นที่ดังกล่าว ก็ยากที่จะบอกได้ว่าเอเจนต์พัฒนาขึ้นหรือไม่ หรือควรทำอะไรต่อไป

การบริหารองค์กรที่ขับเคลื่อนด้วย AI มีหลายอย่างคล้ายกับการสร้างระบบรักษาความปลอดภัยอัตโนมัติ นั่นคือให้บริบทที่ลึกซึ้งแก่เอเจนต์ ประเมินผลการทำงานอย่างต่อเนื่อง และให้คนมีส่วนร่วมในจุดที่ต้องใช้วิจารณญาณ

เมื่อองค์กรให้อำนาจเอเจนต์ AI ทำงานได้อย่างอิสระมากขึ้น ก็เกิดข้อกังวลเกี่ยวกับความรับผิดชอบ ความปลอดภัย และผลกระทบที่ไม่ตั้งใจ จากประสบการณ์ด้านความมั่นคงปลอดภัยไซเบอร์ของคุณ บริษัทควรกำหนดมาตรการกำกับดูแลอย่างไร เพื่อให้เอเจนต์ทำงานได้อย่างอิสระโดยไม่กระทบต่อความปลอดภัยหรือทำให้การกำกับดูแลที่มีความหมายจากมนุษย์ลดลง

เอเจนต์กำลังมุ่งไปสู่การทำงานอย่างอิสระ และองค์กรควรไปถึงจุดนั้นทีละขั้น เริ่มจากงานที่เข้าใจผลกระทบได้ชัดเจน พิสูจน์ให้เห็นถึงคุณค่า แล้วจึงขยายขอบเขต

มาตรการกำกับดูแลที่แท้จริงไม่ใช่แค่คำสั่ง การบอกเอเจนต์ว่า “อย่าทำสิ่งนี้” ไม่ใช่มาตรการควบคุมความปลอดภัย มาตรการกำกับดูแลต้องบังคับใช้ได้จริง ทั้งการจำกัดอย่างเข้มงวดว่าเอเจนต์เข้าถึงอะไรได้บ้าง การตรวจสอบว่าเอเจนต์ไม่สามารถเข้าถึงสิ่งใดนอกเหนือขอบเขตของตน และการเฝ้าติดตามอย่างต่อเนื่องเพื่อยับยั้งการกระทำที่ไม่มีใครวางแผนไว้ เช่นเดียวกับส่วนอื่น ๆ ของระบบ มาตรการเหล่านี้ควรได้รับการทดสอบและตรวจสอบความถูกต้องเป็นประจำ

ความรับผิดชอบเริ่มต้นที่ผู้ควบคุมการทำงาน ผู้ที่ดูแลเอเจนต์เป็นผู้กำหนดขอบเขตของเอเจนต์ว่า ทำอะไรได้เอง ต้องขออนุมัติเรื่องใด และห้ามเข้าไปทำอะไรบ้าง ลองพิจารณาเอเจนต์ที่จัดการกับภัยคุกคามทางอีเมล เอเจนต์สามารถกักกันข้อความที่น่าสงสัยได้ด้วยตนเองอย่างรวดเร็วและเชื่อถือได้ ส่วนการดำเนินการที่ส่งผลกระทบเป็นวงกว้างกว่า เช่น การบล็อกผู้ส่งทั่วทั้งองค์กร ผู้ควบคุมอาจเริ่มด้วยการกำหนดขั้นตอนให้ตรวจสอบก่อน เมื่อประวัติการทำงานของเอเจนต์ยาวนานขึ้น ก็สามารถขยายขอบเขตได้อย่างมั่นใจ มาตรการกำกับดูแลที่ชัดเจนคือสิ่งที่ทำให้เพิ่มระดับความเป็นอิสระได้

เรื่องนี้ยิ่งสำคัญขึ้นไปอีก เพราะผู้โจมตีกำลังมุ่งเป้าไปที่เอเจนต์ AI มากขึ้นเรื่อย ๆ ภาคธุรกิจต้องการทำงานให้เร็วขึ้น แต่ทีมรักษาความปลอดภัยยังไม่มีแนวทางปฏิบัติที่ชัดเจนสำหรับการปกป้องเอเจนต์ ด้วยเหตุนี้ รากฐานจึงต้องประกอบด้วยการบังคับใช้สิทธิ์การเข้าถึงและการเฝ้าติดตามอย่างต่อเนื่อง

หลายบริษัทวัดการนำ AI มาใช้จากเวลาที่ประหยัดได้ งานที่ทำให้เป็นระบบอัตโนมัติ หรือผลิตภาพของพนักงาน คุณคิดว่าตัวชี้วัดใดแสดงให้เห็นได้จริงว่า รูปแบบการดำเนินงานที่ขับเคลื่อนด้วย AI สร้างคุณค่าทางธุรกิจที่ยั่งยืนหรือไม่ โดยเฉพาะเมื่อนับรวมต้นทุนจากการแก้ไขงานซ้ำ คุณภาพ และการประสานงาน

เวลาที่ประหยัดได้เป็นตัวชี้วัดสำคัญ และมักเป็นสัญญาณชัดเจนแรก ๆ ว่า AI กำลังสร้างคุณค่า แต่จะเห็นผลกระทบได้อย่างครบถ้วนเมื่อใช้ควบคู่กับตัวชี้วัดที่แสดงให้เห็นว่าองค์กรนำเวลาที่ได้คืนไปทำอะไร และผลที่ได้จะคงอยู่ในระยะยาวหรือไม่

คุณภาพ ทำงานได้เร็วขึ้นจะดีก็ต่อเมื่อคุณภาพยังคงเดิมหรือดีขึ้น ติดตามงานที่ต้องแก้ไขซ้ำ ข้อบกพร่อง และความถี่ที่ต้องแก้ผลลัพธ์หลังส่งมอบ เมื่อความเร็วและคุณภาพดีขึ้นไปพร้อมกัน ผลที่ได้ย่อมเป็นประโยชน์จริงและยั่งยืน

การขยายธุรกิจ คุณค่าที่แท้จริงขององค์กรที่ขับเคลื่อนด้วย AI อยู่ที่สิ่งที่เวลาซึ่งประหยัดได้ช่วยให้ทำได้ เราวัดจำนวนขีดความสามารถและโครงการริเริ่มใหม่ ๆ ที่เรารับมาทำได้โดยไม่ต้องเพิ่มจำนวนพนักงาน

ความเร็วตั้งแต่ต้นจนจบ ระยะเวลาที่เอเจนต์ใช้พัฒนาฟีเจอร์เป็นเพียงส่วนหนึ่งของภาพรวม ตัวชี้วัดที่แท้จริงคือกระบวนการทั้งหมด รวมถึงการส่งต่องานทุกขั้นตอน ตั้งแต่ตอนที่เราตัดสินใจจัดลำดับความสำคัญของสิ่งใดสิ่งหนึ่ง ไปจนถึงตอนที่สิ่งนั้นพร้อมใช้งานในผลิตภัณฑ์ นี่คือความเร็วในการทำงานจริงของเรา และยังแสดงให้เห็นต้นทุนการประสานงานที่ตัวชี้วัดระดับงานมองข้ามไปด้วย ในด้านความปลอดภัย ความเร็วตั้งแต่ต้นจนจบเป็นเรื่องสำคัญอย่างยิ่ง ผู้โจมตีกำลังใช้เอเจนต์ AI อยู่แล้ว ดังนั้นเวลาที่ใช้ในการตรวจจับและรับมือกับภัยคุกคามจึงต้องลดลงอย่างต่อเนื่อง

เวลาที่ประหยัดได้แสดงให้เห็นว่า AI ใช้งานได้ผล ส่วนตัวชี้วัดเหล่านี้แสดงให้เห็นว่า AI กำลังสร้างคุณค่าที่ยั่งยืนให้กับธุรกิจ

คุณเคยเสนอว่าบริษัทเทคโนโลยีขนาดเล็กที่คล่องตัวกว่าอาจสร้างความได้เปรียบในการแข่งขันอย่างมีนัยสำคัญได้ ด้วยการปรับโฉมการดำเนินงานโดยใช้ AI เป็นแกนหลัก สตาร์ตอัปที่ขับเคลื่อนด้วย AI มีข้อได้เปรียบอะไรเหนือบริษัทเดิมที่ก่อตั้งมานาน และคุณมองว่าโครงสร้างของบริษัทเทคโนโลยีที่ประสบความสำเร็จจะเปลี่ยนแปลงไปอย่างไรในช่วงสามถึงห้าปีข้างหน้า

สตาร์ตอัปที่ขับเคลื่อนด้วย AI มีความได้เปรียบเชิงโครงสร้าง เพราะสามารถออกแบบกระบวนการทำงาน เทคโนโลยี และทีมงานโดยมีเอเจนต์ AI เป็นแกนหลักได้ตั้งแต่วันแรก ขณะที่บริษัทเดิมที่ก่อตั้งมานานต้องรับมือกับโครงสร้างพื้นฐานเดิมและความซับซ้อนในองค์กรที่สั่งสมมาหลายทศวรรษ ช่องว่างที่สำคัญกว่านั้นไม่ได้อยู่ที่เทคโนโลยี ทุกบริษัทเข้าถึงเครื่องมือ AI ชุดเดียวกันได้ ความได้เปรียบเป็นของบริษัทที่ปรับรูปแบบการทำงานใหม่ได้ โดยไม่ต้องรื้อถอนการอนุมัติหลายชั้น การส่งต่องาน และบทบาทหน้าที่ที่ตายตัวเสียก่อน

ในช่วงสามถึงห้าปีข้างหน้า ผมเชื่อว่าบริษัทเทคโนโลยีที่ประสบความสำเร็จจะก้าวข้ามการทำงานอัตโนมัติด้วย AI ขั้นพื้นฐาน ไปสู่รูปแบบการดำเนินงานที่ขับเคลื่อนด้วยเอเจนต์ ซึ่งเอเจนต์ AI เฉพาะทางจะทำงานตามกระบวนการทั้งหมดให้เสร็จสิ้น ทีมงานที่เป็นมนุษย์จะไม่หายไป แต่ผู้คนจะใช้เวลาทำงานด้วยตนเองน้อยลง และใช้เวลาให้บริบท วางกรอบกำกับดูแล และกำหนดผลลัพธ์มากขึ้น ผลที่ได้คือองค์กรที่มีโครงสร้างกระชับขึ้น สามารถขยายขนาดได้รวดเร็วขึ้น ดำเนินงานได้อย่างมีประสิทธิภาพมากขึ้น และแข่งขันกับบริษัทที่มีขนาดใหญ่กว่าตนหลายเท่าได้

ขอขอบคุณสำหรับบทสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านที่ต้องการเรียนรู้เพิ่มเติมเกี่ยวกับการรักษาความปลอดภัยอีเมลแบบเอเจนต์ สามารถเยี่ยมชม Ocean Security ได้

อองตวนเป็นผู้นำที่มีวิสัยทัศน์และหุ้นส่วนผู้ก่อตั้ง Unite.AI โดยมีความมุ่งมั่นอย่างไม่เปลี่ยนแปลงในการกำหนดทิศทางและส่งเสริมอนาคตของ AI และหุ่นยนต์ ในฐานะผู้ประกอบการที่ก่อตั้งธุรกิจมาแล้วหลายแห่ง เขาเชื่อว่า AI จะสร้างการเปลี่ยนแปลงครั้งใหญ่ต่อสังคมเช่นเดียวกับไฟฟ้า และมักกล่าวถึงศักยภาพของเทคโนโลยีที่พลิกโฉมโลกและ AGI อย่างกระตือรือร้น

ในฐานะ นักอนาคตศาสตร์ เขาทุ่มเทให้กับการสำรวจว่านวัตกรรมเหล่านี้จะกำหนดรูปแบบโลกของเราอย่างไร นอกจากนี้ เขายังเป็นผู้ก่อตั้ง Securities.io ซึ่งเป็นแพลตฟอร์มที่มุ่งเน้นการลงทุนในเทคโนโลยีล้ำสมัยที่กำลังนิยามอนาคตใหม่และเปลี่ยนโฉมอุตสาหกรรมทั้งภาคส่วน