ฮานาห์-มารี ดาร์ลีย์ Chief AI Officer ที่ Geordie AI – ซีรีส์สัมภาษณ์

ฮานาห์-มารี ดาร์ลีย์ Chief AI Officer ที่ Geordie AI เป็นผู้นำด้าน AI และความปลอดภัยที่มีประสบการณ์ยาวนาน ซึ่งร่วมก่อตั้งบริษัทเพื่อช่วยให้ธุรกิจและองค์กรต่างๆ สามารถนำ AI ที่มีประสิทธิภาพและควบคุมได้ เขามีประสบการณ์เกือบหนึ่งทศวรรษในการสนับสนุนการดำเนินงานด้านข่าวกรองภายในรัฐบาลสหรัฐฯ และในตำแหน่งผู้นำอาวุโสที่ Darktrace เขารวมเอาความเชี่ยวชาญด้านข่าวกรองภัยคุกคาม การวิเคราะห์ภูมิรัฐศาสตร์ และจิตวิทยาที่ใช้จริงเข้ากับการวางกลยุทธ์ AI และการพัฒนาผลิตภัณฑ์ งานของเขามุ่งเน้นไปที่การทำให้ระบบอัตโนมัติเข้ากันได้กับเจตนา củaมนุษย์ ทำให้ธุรกิจสามารถใช้ AI ในรูปแบบที่สมดุลระหว่างนวัตกรรม การกำกับดูแล และข้อจำกัดในโลกแห่งความเป็นจริง

Geordie AI เป็นบริษัทซอฟต์แวร์สำหรับองค์กรที่มีสำนักงานใหญ่อยู่ในลอนดอน โดยมุ่งเน้นไปที่การรักษาความปลอดภัยและการกำกับดูแล AI ที่ถูกนำไปใช้ในทั่วทุกมุมขององค์กร แพลตฟอร์มของ Geordie ให้ความสามารถในการมองเห็นกิจกรรมของ AI ตลอดจนการตรวจสอบความเสี่ยงอย่างต่อเนื่องและเครื่องมือในการกำกับดูแลที่ช่วยให้องค์กรสามารถใช้ AI ได้อย่างมั่นใจ โดยการนำเสนอความสามารถในการสังเกตการณ์ การสนับสนุนการปฏิบัติตามกฎระเบียบ และการกำกับดูแลการดำเนินงานที่เหมาะสมกับยุคของ AI Geordie มุ่งหวังที่จะให้องค์กรมีความโปร่งใสและควบคุมในการรวม AI ที่มีความสามารถอัตโนมัติมากขึ้นโดยไม่กระทบต่อความปลอดภัยหรือความรับผิดชอบ

คุณมีประสบการณ์เกือบหนึ่งทศวรรษในการสนับสนุนการดำเนินงานด้านข่าวกรองภัยคุกคามและภูมิรัฐศาสตร์ภายในรัฐบาลสหรัฐฯ และในตำแหน่งผู้นำอาวุโสที่ Darktrace และตอนนี้คุณเป็นผู้นำด้าน AI และกลยุทธ์ผลิตภัณฑ์ที่ Geordie AI สิ่งใดที่คุณได้พบเห็นระหว่างการทำงานในรัฐบาลและความปลอดภัยขององค์กรที่มีอิทธิพลต่อการตัดสินใจในการสร้าง Geordie AI และปัญหาหลักที่คุณต้องการแก้ไขคืออะไร

ทั้งในรัฐบาลและความปลอดภัยขององค์กร ฉันพบว่ามีความตึงเครียดเชิงโครงสร้างที่คล้ายคลึงกัน องค์กรลงทุนอย่างมากใน AI แต่ความมั่นใจในพฤติกรรมของระบบเหล่านั้นยังต่ำกว่าที่คาดหวัง การท้าทายไม่ได้อยู่ที่ความสามารถ แต่อยู่ที่ความเชื่อมั่น

เมื่อ AI ขยายจากเครื่องมือทดลองไปสู่กระบวนการทำงานจริง ช่องว่างนั้นกลายเป็นเรื่องที่เห็นได้ชัดมากขึ้น ระบบอัตโนมัติแนะนำความอิสระ การตัดสินใจ และความยั่งยืนข้ามระบบในลักษณะที่ซอฟต์แวร์แบบดั้งเดิมไม่เคยทำ ธุรกิจต้องการวิธีการในการเข้าใจว่าระบบเหล่านี้ทำงานอย่างไร พวกมันทำงานที่ไหน และความเสี่ยงเกิดขึ้นผ่านพฤติกรรมของพวกมันอย่างไร Geordie AI ถูกสร้างขึ้นเพื่อแก้ไขช่องว่างด้านความชัดเจนนี้ เพื่อให้องค์กรสามารถนำอัตโนมัติไปใช้ได้อย่างมั่นใจมากกว่าการลังเล

ในมุมมองของคุณ อะไรคือความเสี่ยงที่ไม่เข้าใจมากที่สุดเกี่ยวกับระบบ AI อัตโนมัติหรือระบบ AI ที่มีเจตนา และ “การแพร่กระจายของห่วงโซ่” ของการตัดสินใจตามบริบทแตกต่างจากแบบจำลองการรักษาความปลอดภัยแบบดั้งเดิมอย่างไร

ความล้มเหลวอย่างเงียบๆ ยังคงเป็นสิ่งที่ไม่เข้าใจมากที่สุด ระบบอัตโนมัติสามารถทำงานภายในขอบเขตที่ได้รับอนุญาตและขอบเขตการเข้าถึงที่ถูกต้อง แต่ยังคงผลิตผลลัพธ์ที่เบี่ยงเบนไปจากเจตนา

สิ่งนี้สะท้อนถึงธรรมชาติของระบบที่มีเจตนา ระบบเหล่านี้ตีความบริบทและตัดสินใจในเวลาเดียวกัน ไม่เหมือนกับซอฟต์แวร์ที่กำหนดไว้ล่วงหน้า พฤติกรรมถูกกำหนดแบบไดนามิกตลอดลำดับการกระทำ สิ่งนี้เปลี่ยนโมเดลความปลอดภัย ความเสี่ยงไม่ได้ขึ้นอยู่กับการละเมิดการเข้าถึงเพียงอย่างเดียว แต่เกิดขึ้นผ่านวิธีการที่การตัดสินใจ เครื่องมือ และบริบทโต้ตอบกันตลอดเวลา

วิธีการของ Geordie เน้นไปที่การมองเห็นพฤติกรรม การประเมินความเสี่ยงตามบริบท และการควบคุมการทำงานของระบบอัตโนมัติอย่างไดนามิก องค์กรควรสร้างสมดุลระหว่างความต้องการความสามารถในการมองเห็นแบบเรียลไทม์กับความกังวลเกี่ยวกับความซับซ้อนในการดำเนินงานหรือประสิทธิภาพของระบบอย่างไร

องค์กรไม่ควรต้องแลกเปลี่ยนประสิทธิภาพกับการกำกับดูแล อาร์คิเทคเจอร์ของเราออกแบบมาโดยเฉพาะเพื่อหลีกเลี่ยงการสร้างพร็อกซี่และเกตเวย์แบบอินไลน์ ทำให้องค์กรสามารถสร้างและดำเนินระบบอัตโนมัติได้ที่ไหนก็ตามที่มีความเหมาะสมในการดำเนินงาน

ความสามารถในการมองเห็นและควบคุมต้องขยายไปพร้อมกับความอิสระโดยไม่แนะนำความซับซ้อนหรือความล่าช้า หากกลไกการกำกับดูแลขัดขวางกระบวนการทำงาน การนำไปใช้จะหยุดชะงัก การรักษาความปลอดภัยที่มีประสิทธิภาพช่วยให้ระบบนิเวศสามารถขยายตัวได้อย่างปลอดภัยมากกว่าการจำกัดนวัตกรรม

จากงานของคุณกับลูกค้าองค์กรและผู้นำด้านความเสี่ยง องค์กรใดที่มีกระบวนการทำงานหรือกรณีการใช้งานที่เสี่ยงต่อการเปลี่ยนแปลงไปสู่กิจกรรมที่มีความเสี่ยงสูง และองค์กรสามารถตรวจจับเครื่องหมายแรกๆ ของการเปลี่ยนแปลงเหล่านี้ได้อย่างไรก่อนที่จะกลายเป็นเหตุการณ์ที่สำคัญ

ความเสี่ยงมักจะเพิ่มขึ้นพร้อมกับความซับซ้อนของกระบวนการทำงาน การตัดสินใจที่อิสระของระบบอัตโนมัติมีศักยภาพที่จะทำให้เกิดการเปลี่ยนแปลงพฤติกรรม

การเปลี่ยนแปลงมักจะปรากฏผ่านการเชื่อมต่อเครื่องมือ การใช้บริบทซ้ำ และกระบวนการทำงานที่เกิดขึ้นใหม่ เครื่องหมายแรกๆ ของการเปลี่ยนแปลงเหล่านี้รวมถึงการเรียกใช้เครื่องมือที่ไม่คาดคิด รูปแบบการเรียงลำดับที่ไม่ปกติ และการเปลี่ยนแปลงในลักษณะการเคลื่อนย้ายข้อมูล การตรวจจับสัญญาณเหล่านี้ต้องการการวิเคราะห์พฤติกรรมมากกว่าการตรวจสอบเหตุการณ์แบบแยกๆ

เมื่อระบบอัตโนมัติใช้บริบทและเครื่องมือซ้ำๆ ในระหว่างงานต่างๆ สิ่งล้มเหลวที่ซับซ้อนหรือไม่คาดคิดที่สุดคืออะไรที่ทีมรักษาความปลอดภัยควรให้ความสนใจมากกว่า

การใช้บริบทซ้ำยังคงเป็นสิ่งที่ไม่คาดคิดมากที่สุด ความเสี่ยงมักจะเกิดขึ้นไม่ใช่จากสิทธิ์การเข้าถึงที่มากเกินไป แต่จากวิธีการที่ข้อมูลคงอยู่และแพร่กระจายไปในระหว่างงานต่างๆ

ระบบอัตโนมัติสามารถเข้าถึงข้อมูลได้ภายในบริบทหนึ่งและโดยไม่ตั้งใจนำสถานะนั้นไปสู่บริบทอื่น เมื่อรวมกับการเชื่อมต่อเครื่องมือ สิ่งนี้สามารถนำไปสู่การเปิดเผยหรือการเปลี่ยนแปลงข้อมูลที่ละเอียดอ่อนโดยไม่ตั้งใจ

หลายองค์กรยังคงพึ่งพาเครื่องมือรักษาความปลอดภัยแบบดั้งเดิม เช่น ระบบตรวจจับการตอบโต้ปลายจุดและระบบตรวจจับการตอบโต้แบบขยาย ระบบเหล่านี้มีข้อจำกัดอย่างไรเมื่อจัดการกับระบบ AI อัตโนมัติที่ดำเนินการหลายขั้นตอน

ระบบตรวจจับการตอบโต้ปลายจุดและระบบตรวจจับการตอบโต้แบบขยายยังคงจำเป็น แต่ถูกออกแบบมาโดยอิงจากแบบจำลองภัยคุกคามที่มีศูนย์กลางอยู่ที่มนุษย์ ระบบอัตโนมัติทำงานข้ามชั้นการตัดสินใจที่ขยายไปไกลกว่าข้อมูลจากปลายจุดและข้อมูลประจำตัว

การเข้าใจพฤติกรรมของระบบอัตโนมัติต้องการการมองเห็นรูปแบบการตัดสินใจ การเลือกเครื่องมือ และการไหลของการตัดสินใจตามบริบท โดยไม่มีชั้นนี้ ส่วนใหญ่ของกิจกรรมของระบบอัตโนมัติจะยังคงไม่ชัดเจน

สำหรับผู้นำด้าน IT ความเสี่ยง และความปลอดภัยที่ต้องการสนับสนุนนวัตกรรม แต่หลีกเลี่ยงการเปลี่ยนแปลงที่ไม่สามารถควบคุมได้ “การปกครองตนเองที่มีการกำกับดูแล” มีลักษณะอย่างไรในทางปฏิบัติ

การปกครองตนเองที่มีการกำกับดูแลเริ่มต้นด้วยความสามารถในการมองเห็น องค์กรต้องเข้าใจว่าระบบอัตโนมัติทำงานที่ไหน มีอำนาจในการตัดสินใจมากเพียงใด และความเสี่ยงใดที่ความสามารถของพวกมันนำมาให้

การกำกับดูแลมีประสิทธิภาพสูงสุดเมื่อถูกฝังไว้ตั้งแต่เนิ่นๆ ทำให้สามารถทดลองภายในขอบเขตที่กำหนดไว้ได้ สิ่งนี้ช่วยสนับสนุนนวัตกรรมในขณะเดียวกันก็รักษาความมั่นใจในผลลัพธ์

การอธิบายได้ถูกกล่าวถึงที่ระดับผลลัพธ์ของโมเดล แต่องค์กรมองเห็นความอธิบายได้และความสามารถในการตรวจสอบอย่างไรเมื่อความเสี่ยงแท้จริงอาจอยู่ในลำดับการกระทำที่ระบบอัตโนมัติทำตลอดเวลา

ความสามารถในการอธิบายได้ของโมเดลเป็นเพียงส่วนหนึ่งของสมการ องค์กรต้องเข้าใจว่าระบบอัตโนมัติทำงานอย่างไรและตัดสินใจอย่างไรในบริบทต่างๆ

ความสามารถในการตรวจสอบต้องเข้าใจว่าเครื่องมือใดถูกเรียกใช้ บริบทมีอิทธิพลต่อการตัดสินใจอย่างไร และวิธีการที่ระบบอัตโนมัติสร้างผลลัพธ์ ความสามารถในการมองเห็นพฤติกรรมกลายเป็นรากฐานสำหรับการรับผิดชอบ

สำหรับองค์กรที่รับรู้ถึงความจำเป็นในการกำกับดูแลระบบ AI อัตโนมัติที่เข้มงวดมากขึ้น องค์กรควรดำเนินการใดในวันนี้เพื่อลดความเสี่ยงของระบบอัตโนมัติโดยไม่ชะลอการนวัตกรรม และ Geordie AI ช่วยองค์กรในการสร้างสมดุลระหว่างการควบคุมและความสามารถอย่างไร

องค์กรควรเริ่มต้นด้วยการสร้างรายการสิ่งของ การมองเห็นพฤติกรรม และการทำความเข้าใจว่าระบบอัตโนมัติโต้ตอบกับระบบอื่นๆ อย่างไร

แบบจำลองการกำกับดูแลที่แนะนำความล่าช้ามักขัดขวางการขยายตัว การกำกับดูแลต้องสอดคล้องกับความเร็วในการดำเนินงาน Geordie AI ให้ความสามารถในการมองเห็นการตั้งค่าพฤติกรรมและความเสี่ยงของระบบอัตโนมัติ ในขณะเดียวกันก็ช่วยให้สามารถควบคุมได้ด้วยการออกแบบสำหรับระบบอัตโนมัติ

เมื่อมองไปข้างหน้า สิ่งใดที่จะทำให้องค์กรที่ประสบความสำเร็จในการขยายระบบ AI อัตโนมัติข้ามกระบวนการทำงานต่างๆ แตกต่างจากองค์กรที่ประสบปัญหาเนื่องจากความเสี่ยงที่ไม่ได้รับการจัดการ และผู้นำควรเตรียมตัวในวันนี้อย่างไร

ตัวแยกแยะในระยะแรกจะอยู่ที่ความชัดเจนและวิธีการวัด ทีมที่เข้าใจความสามารถ ผลกระทบ และรูปแบบพฤติกรรมของระบบอัตโนมัติจะขยายตัวได้อย่างมั่นใจมากขึ้น

ในระยะยาว ความได้เปรียบในการแข่งขันจะช่วยให้องค์กรที่พัฒนาระบบนิเวศของระบบอัตโนมัติที่มีเจตนาและตระหนักถึงบริบทได้แม่นยำยิ่งขึ้น ความแม่นยำมากกว่าการทำให้ทั่วไปกลายเป็นตัวขับเคลื่อนของประสิทธิภาพและความยืดหยุ่น

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Geordie AI