Adam Markowitz ซีอีโอและผู้ร่วมก่อตั้ง Drata – บทสัมภาษณ์ชุด

Adam Markowitz เป็นซีอีโอและผู้ร่วมก่อตั้ง Drata โดยกำลังขยายขอบเขตงานของบริษัทด้านการปฏิบัติตามข้อกำหนดอย่างต่อเนื่องและการสร้างความไว้วางใจ ให้ครอบคลุมถึงการกำกับดูแลเอเจนต์ AI ก่อนร่วมก่อตั้ง Drata ในปี 2020 เขาเคยก่อตั้ง Portfolium ร่วมกับ Troy Markowitz และ Daniel Marashlian ประสบการณ์ของเขาในการจัดการแบบสอบถามด้านความปลอดภัย การตรวจสอบ และการทบทวนการปฏิบัติตามข้อกำหนด มีส่วนหล่อหลอมแนวทางของ Drata ในการทำให้กระบวนการที่องค์กรใช้แสดงให้เห็นถึงความน่าเชื่อถือเป็นไปโดยอัตโนมัติ

Drata ให้บริการแพลตฟอร์มด้านการกำกับดูแล ความเสี่ยง และการปฏิบัติตามข้อกำหนด โดยผสานการรวบรวมหลักฐานอัตโนมัติ การติดตามการควบคุมอย่างต่อเนื่อง การบริหารความเสี่ยงจากบุคคลที่สาม และกระบวนการทำงานเกี่ยวกับแบบสอบถามด้านความปลอดภัยเข้าไว้ด้วยกัน ความสามารถด้านการกำกับดูแลเอเจนต์ AI ของแพลตฟอร์มมุ่งเน้นการค้นหาเอเจนต์ การบังคับใช้นโยบายก่อนที่เอเจนต์จะดำเนินการ และการบันทึกการตัดสินใจเพื่อให้ตรวจสอบย้อนหลังได้ ในบทสัมภาษณ์นี้ Markowitz พูดถึงภัยคุกคามจากเอเจนต์ภายในองค์กร อัตลักษณ์ของเครื่อง ขอบเขตความปลอดภัยของการเรียกใช้เครื่องมือ และมาตรการควบคุมที่องค์กรต้องมีเพื่อใช้งานเอเจนต์อัตโนมัติในวงกว้าง

ก่อนร่วมก่อตั้ง Drata ในปี 2020 คุณเคยก่อตั้ง Portfolium หลังได้สัมผัสด้วยตนเองว่าการปฏิบัติตามข้อกำหนดด้านความปลอดภัยอาจกลายเป็นภาระยุ่งยากเพียงใดเมื่อบริษัทเติบโต อะไรทำให้คุณเชื่อว่านี่เป็นปัญหาที่ควรสร้างบริษัทใหม่ขึ้นมาแก้ไขโดยเฉพาะ และภารกิจของ Drata เปลี่ยนแปลงไปอย่างไรบ้าง เมื่อ AI เข้ามาพลิกโฉมภูมิทัศน์ด้านความปลอดภัย?

ตอนบริหาร Portfolium ร่วมกับ Troy Markowitz และ Daniel Marashlian ผู้ร่วมก่อตั้งของผม เราได้เรียนรู้บทเรียนสำคัญข้อหนึ่งว่า การสร้างความไว้วางใจในการทำธุรกิจเป็นกระบวนการ ไม่ใช่การนำเสนอ ด้วยข้อมูลนักศึกษาที่มีปริมาณมากและละเอียดอ่อน มหาวิทยาลัยและองค์กรต่าง ๆ จึงไม่ยอมเป็นพันธมิตรกับเราจนกว่าเราจะพิสูจน์ได้ว่าเราดำเนินการอย่างเหมาะสมเพื่อปกป้องข้อมูลของพวกเขา เราตระหนักว่าการต้องค่อย ๆ จัดการแบบสอบถามด้านความปลอดภัย การตรวจสอบ และการทบทวนการปฏิบัติตามข้อกำหนดทุกครั้งด้วยตนเองอย่างเชื่องช้าและเหน็ดเหนื่อย เป็นประสบการณ์ร่วมที่หลายองค์กรต้องเผชิญ หลังจาก Portfolium ถูกซื้อกิจการ Troy, Daniel และผมกลับมารวมตัวกันอีกครั้ง และใช้เวลาหกเดือนสร้าง Drata เวอร์ชันแรก พร้อมพูดคุยกับบริษัทและผู้ตรวจสอบหลายสิบรายเพื่อยืนยันว่าปัญหานี้มีอยู่จริง ก่อนที่เราจะเริ่มเขียนโค้ดเสียอีก เมื่อเปิดตัว เรามีลูกค้าครบ 100 รายภายในหกสัปดาห์แรก และครบ 1,000 รายภายในหนึ่งปี ซึ่งแสดงให้เราเห็นว่าเราเปลี่ยนจากการขายสิ่งที่ “มีก็ดี” ไปเป็นสิ่งที่ผู้คนขาดไม่ได้ในการดำเนินงาน

เมื่อมี AI เข้ามา ภารกิจของ Drata ในการมอบความไว้วางใจอย่างต่อเนื่องไม่ได้เปลี่ยนไป แต่ขอบเขตของความไว้วางใจนั้นขยายกว้างขึ้น เราเริ่มจากการทำให้งานด้านการปฏิบัติตามข้อกำหนดที่ซ้ำซากและหนักหน่วงเป็นไปโดยอัตโนมัติ จากนั้นขยายไปสู่กระบวนงานแบบเอเจนต์ที่สามารถดำเนินการประเมินความเสี่ยงจากบุคคลที่สามและจัดการแบบสอบถามด้านความปลอดภัยได้ตั้งแต่ต้นจนจบ แต่จุดเปลี่ยนที่แท้จริงเกิดขึ้นเมื่อเอเจนต์เองกลายเป็นสิ่งที่ต้องได้รับการกำกับดูแล ตอนนี้เราได้ขยายแพลตฟอร์มให้รองรับการกำกับดูแลเอเจนต์ AI ได้แก่ ค้นหาเอเจนต์ กำกับดูแลสิ่งที่เอเจนต์ได้รับอนุญาตให้ทำ และจัดทำหลักฐานที่น่าเชื่อถือเมื่อต้องมีผู้สอบถาม

คุณได้บัญญัติคำว่า “ภัยคุกคามจากเอเจนต์ภายในองค์กร” เพื่ออธิบายความเสี่ยงที่ไม่ได้เกิดจากผู้โจมตีภายนอก แต่เกิดจากเอเจนต์ AI ขององค์กรเอง ภัยคุกคามจากเอเจนต์ภายในองค์กรแตกต่างจากภัยคุกคามจากบุคคลภายในแบบดั้งเดิม ซึ่งทีมรักษาความปลอดภัยเตรียมรับมือมานานหลายทศวรรษอย่างไร?

ภัยคุกคามจากบุคคลภายในแบบดั้งเดิมเกี่ยวข้องกับการที่บุคคลใช้สิทธิ์เข้าถึงที่ตนมีอยู่ในทางที่ผิด ไม่ว่าจะเป็นพนักงานที่ไม่พอใจ พนักงานที่ประมาท หรือคนที่เพียงแค่คลิกผิดสิ่ง ทีมรักษาความปลอดภัยใช้เวลาหลายสิบปีสร้างมาตรการรับมือความเสี่ยงนี้ โดยมุ่งเน้นที่การตรวจสอบประวัติ การให้สิทธิ์เท่าที่จำเป็น การตรวจสอบรายการต่าง ๆ เมื่อพนักงานพ้นสภาพ และมาตรการอื่น ๆ ในทำนองเดียวกัน

ภัยคุกคามจากเอเจนต์ภายในองค์กรแตกต่างออกไป เพราะแต่แรกเริ่มเอเจนต์ไม่ได้รับสิทธิ์เข้าถึงเลย ความเสี่ยงจึงเปลี่ยนจากการใช้สิทธิ์ในทางที่ผิดมาเป็นการหาทางเข้าถึง หากเอเจนต์ได้รับเป้าหมาย แต่เส้นทางที่ชัดเจนสำหรับบรรลุเป้าหมายนั้นถูกขวางไว้ มันก็ไม่ใช่แค่เปิดใบงานแล้วรอเหมือนที่คนทำ มันจะพยายามหาเส้นทางอื่น เช่น บัญชีบริการที่ใช้รหัสผ่านไม่รัดกุม หรือจุดเชื่อมต่อที่ไม่มีใครนึกถึงว่าจะต้องปิด มันหาทางเข้าไปได้โดยไม่มีเจตนาร้ายหรือฝ่าฝืนนโยบายในแบบที่มันรับรู้ มันทำตามที่คุณสั่งทุกอย่าง และนั่นทำให้ตรวจจับได้ยากมาก ทุกขั้นตอนดูสมเหตุสมผลเมื่อพิจารณาแยกกัน และท้ายที่สุดเอเจนต์ก็รายงานว่าทำงานสำเร็จ

เรารู้วิธีกำกับดูแลพนักงานและบุคคลที่สามที่เข้าถึงระบบสำคัญอยู่แล้ว แต่เอเจนต์เป็นประชากรกลุ่มที่สาม และเครื่องมือที่สร้างขึ้นเพื่อจัดการสองกลุ่มแรกก็ใช้ไม่ได้กับเอเจนต์

เอเจนต์ AI สามารถมุ่งทำเป้าหมายอย่างต่อเนื่อง ทำงานด้วยความเร็วระดับเครื่องจักร และโต้ตอบกับระบบหลายระบบโดยปราศจากวิจารณญาณที่พนักงานมนุษย์อาจใช้ สิ่งนี้เปลี่ยนรูปแบบภัยคุกคามขององค์กรไปอย่างถึงรากเพียงใด?

สิ่งที่เปลี่ยนไปมากที่สุดคือกรอบเวลา มนุษย์ที่พยายามหาทางเข้าสู่ระบบ ในที่สุดก็อาจเบื่อ ถูกจับได้ หรือยอมแพ้ แต่เอเจนต์ไม่เป็นเช่นนั้น ช่องทางที่เปิดทิ้งไว้และก่อนหน้านี้ไม่มีใครค้นพบ กลับถูกพบในตอนนี้ เพราะเอเจนต์ไม่เหนื่อยและไม่หยุดค้นหา

และไม่ได้มีแค่ช่องทางเดียว เอเจนต์ที่สร้างมาเพื่อทำงานหนึ่งอย่างพร้อมจะเข้าไปแตะระบบเป็นสิบระบบระหว่างทางเพื่อทำงานนั้นให้เสร็จ เช่น ดึงประวัติบัญชีจากระบบหนึ่ง แล้วตรวจสอบฐานข้อมูลจากอีกระบบหนึ่ง ทั้งที่ส่วนใหญ่ไม่เกี่ยวข้องกับสิ่งที่ได้รับคำสั่งให้ทำจริง ๆ ระหว่างสร้างชุดสไลด์เพียงชุดเดียว มันอาจเข้าถึงข้อมูลของลูกค้ารายอื่น บันทึกทางการเงิน ข้อมูลพนักงาน หรืออะไรก็ตามที่ขวางอยู่ ไม่มีสิ่งใดที่กล่าวมาปรากฏเป็นเหตุการณ์ด้านความปลอดภัย

ดังนั้น รูปแบบภัยคุกคามจึงเปลี่ยนไป คำถามที่ทีมรักษาความปลอดภัยควรถามในวันนี้คือ เอเจนต์ขององค์กรเองจะไปไกลแค่ไหนเพื่อทำงานให้เสร็จ หากไม่มีใครบอกว่าพวกมันต้องหยุดตรงไหน

องค์กรจำนวนมากมีระบบจัดการข้อมูลระบุตัวตนและการเข้าถึง ระบบจัดการสิทธิ์การเข้าถึงระดับสูง และสถาปัตยกรรมแบบ Zero Trust อยู่แล้ว เหตุใดการควบคุมเหล่านี้จึงยังไม่เพียงพอสำหรับกำกับดูแลเอเจนต์ AI อัตโนมัติด้วยตัวเอง?

กรอบการทำงานเหล่านั้นสร้างขึ้นสำหรับมนุษย์และผู้ให้บริการ ซึ่งทั้งสองกลุ่มมีวิจารณญาณและจะหยุดเมื่อเจออุปสรรค การจัดการข้อมูลระบุตัวตนของเอเจนต์ต้องใช้ความเข้มงวดในระดับเดียวกับที่ใช้กับมนุษย์และความเสี่ยงจากบุคคลภายนอก นั่นคือ ต้องค้นหาและระบุเอเจนต์ กำหนดผู้รับผิดชอบ และมีหลักฐานที่ผู้ตรวจสอบยอมรับได้ แต่สิ่งที่ยังขาดอยู่คือมาตรฐานร่วมกันว่า “การกำกับดูแล” หมายถึงอะไรอย่างแท้จริง เมื่อผู้ถือข้อมูลรับรองเป็นเอเจนต์

ตัวอย่างเช่น เอเจนต์ที่วิศวกรคนหนึ่งในองค์กรของคุณสร้างขึ้นอาจดำเนินการด้วยสิทธิ์การเข้าถึงของวิศวกรคนนั้นได้ แม้แต่ในระบบที่วิศวกรไม่เคยเข้าไปใช้งานเองก็ตาม ระบบ IAM และ PAM ตั้งอยู่บนสมมติฐานว่าผู้ถือข้อมูลรับรองจะรู้ว่าเมื่อใดควรหยุด แต่เอเจนต์ไม่ได้มีสมมติฐานเช่นนั้นติดตัวมาแต่แรก

องค์กรควรเริ่มมองเอเจนต์ AI ทุกตัวว่าเป็นข้อมูลระบุตัวตนของเครื่องแยกต่างหาก โดยมีผู้รับผิดชอบ สิทธิ์ ขอบเขตการทำงาน และวงจรชีวิตที่กำหนดไว้อย่างชัดเจนหรือไม่ กรอบการจัดการข้อมูลระบุตัวตนสำหรับเอเจนต์ที่มีความพร้อมสูงควรมีลักษณะอย่างไร?

ควรทำเช่นนั้น แต่ปัจจุบันองค์กรส่วนใหญ่ยังไปไม่ถึงจุดนั้น หลายองค์กรยังบอกไม่ได้ด้วยซ้ำว่ามีเอเจนต์ทำงานอยู่ภายในองค์กรกี่ตัว นับประสาอะไรกับการระบุว่าใครรับผิดชอบแต่ละตัว กรอบการทำงานที่มีความพร้อมสูงต้องเริ่มจากการค้นหาและจัดทำบัญชีรายการเอเจนต์ทุกตัวอย่างต่อเนื่องและครบถ้วน จากนั้นเอเจนต์ทุกตัวต้องมีผู้รับผิดชอบ มีการกำหนดขอบเขตอย่างชัดเจนว่าสามารถเข้าถึงสิ่งใดได้บ้าง และมีนโยบายที่บังคับใช้ขอบเขตนั้นได้จริง จากงานวิจัยของเราเอง เราพบรูปแบบปัญหาเดียวกันในฝั่งผู้ให้บริการ โดยองค์กรสามในสี่แห่งประเมินบุคคลภายนอกที่ทำงานด้วยซ้ำเพียงปีละครั้งหรือน้อยกว่านั้น นั่นหมายความว่าองค์กรกำกับดูแลโดยอาศัยข้อมูลที่ล้าสมัยไปแล้วเมื่อมีการเปลี่ยนแปลงเกิดขึ้น การประเมิน ณ จุดเวลาใดเวลาหนึ่งใช้ไม่ได้กับเอเจนต์ ไม่ว่าจะเป็นเอเจนต์ภายในหรือภายนอก

เราต้องการมาตรฐานเดียวที่ใช้กับเอเจนต์ทุกตัวอย่างเสมอภาค แทนที่จะให้ฝ่ายรักษาความปลอดภัยต้องตามตรวจสอบสิ่งที่นักพัฒนาแต่ละคนสร้างขึ้นเอง ซึ่งหมายถึงการเขียนนโยบายด้วยภาษาทั่วไป ทดสอบกับข้อมูลการใช้งานจริงในอดีตก่อนเปิดใช้งาน และบังคับใช้นโยบายในเส้นทางการทำงานทันที เพื่อให้กรอบการทำงานครอบคลุมทุกการกระทำของเอเจนต์ ไม่ใช่เป็นเพียงเอกสารที่วางทิ้งไว้

สถานการณ์ที่รับมือได้ยากเป็นพิเศษคือกรณีที่เอเจนต์ละเมิดนโยบายความปลอดภัยโดยไม่ได้มีพฤติกรรมมุ่งร้าย หากเอเจนต์พบเส้นทางที่ไม่ควรมีไปยังข้อมูลสำคัญ เพียงเพราะกำลังพยายามทำงานที่ได้รับมอบหมายให้เสร็จ ทีมรักษาความปลอดภัยจะแยกความแตกต่างระหว่างระบบอัตโนมัติที่ทำงานสำเร็จกับเหตุการณ์ด้านความปลอดภัยได้อย่างไร?

ตอนนี้ คำตอบตามตรงคือแยกไม่ได้ ลองนึกถึงเอเจนต์บริการลูกค้าที่สร้างขึ้นเพื่อร่างรายงานทบทวนผลประกอบการรายไตรมาส และได้รับคำสั่งให้ดึงประวัติบัญชีลูกค้ามาจัดทำสไลด์นำเสนอ เส้นทางปกติ ซึ่งก็คือการดึงข้อมูลจากไฟล์ส่งออกที่กำหนดไว้ กลับไม่มีข้อมูล มนุษย์คงหยุดอยู่ตรงนั้น แต่เอเจนต์กลับหาเส้นทางอื่น และจากมุมมองของมัน งานก็สำเร็จลุล่วง

แม้งานจะเสร็จสมบูรณ์ แต่เอเจนต์ทำสำเร็จด้วยการหลบเลี่ยงมาตรการรักษาความปลอดภัยของคุณและเข้าไปยังระบบที่ไม่ได้รับอนุญาตให้เปิด คำถามที่ใช้แยกแยะได้คือ เอเจนต์ยังทำงานอยู่ภายในขอบเขตที่เรากำหนดไว้หรือไม่ ประเด็นไม่เคยอยู่ที่การทำงานให้เสร็จ แต่นี่เป็นเรื่องของนโยบาย ซึ่งหมายถึงการกำหนดขอบเขตให้รัดกุมพอที่ “ระบบอัตโนมัติทำงานสำเร็จ” กับ “เหตุการณ์ด้านความปลอดภัย” จะไม่ดูเหมือนเป็นเรื่องเดียวกันเมื่อย้อนกลับมาพิจารณา

การเฝ้าระวังความปลอดภัยแบบดั้งเดิมมักตรวจพบกิจกรรมที่น่าสงสัยหลังจากเกิดขึ้นแล้ว แต่เอเจนต์อัตโนมัติอาจดำเนินการไปหลายร้อยครั้งก่อนที่มนุษย์จะตอบสนองได้ AI แบบเอเจนต์จำเป็นต้องมีการควบคุมความปลอดภัยที่ทำงานโดยตรงในขั้นตอนการดำเนินการ แทนที่จะพึ่งพาการแจ้งเตือนและการเฝ้าระวังย้อนหลังเป็นหลักหรือไม่?

ใช่ อย่างไม่ต้องสงสัย หากคุณเพิ่งตรวจพบเรื่องนี้ตอนที่กำลังเกิดขึ้น ก็สายเกินไปแล้ว เมื่อเครื่องมือเฝ้าระวังแจ้งเตือนการกระทำ การกระทำนั้นก็เกิดขึ้นไปแล้ว คุณจะมีบันทึกที่สมบูรณ์แบบว่าถูกเปิดช่องโหว่อย่างไร แต่ไม่มีทางย้อนกลับไปหยุดยั้งได้

การกำกับดูแลเพียงรูปแบบเดียวที่ใช้ได้กับสิ่งที่เคลื่อนที่ด้วยความเร็วระดับเครื่องจักร คือการประเมินการกระทำก่อนดำเนินการและหยุดการละเมิดทันทีในขั้นตอนนั้น เราคงไม่มอบข้อมูลที่ละเอียดอ่อนที่สุดให้พนักงานใหม่แล้วได้แต่หวังว่าระบบเฝ้าระวังจะตรวจพบสิ่งผิดปกติ เอเจนต์ควรได้รับการกำกับดูแลอย่างเข้มงวดเช่นเดียวกัน ในจังหวะเดียวกับที่กำลังจะเกิดการกระทำ ไม่ใช่หลังจากนั้น

Model Context Protocol (MCP) และอินเทอร์เฟซอื่น ๆ ที่เชื่อมต่อเอเจนต์กับเครื่องมือ กำลังเปิดทางให้ระบบ AI เข้าถึงความสามารถภายนอกที่ทรงพลังยิ่งขึ้น เมื่อองค์กรขยายขอบเขตสิ่งที่อนุญาตให้เอเจนต์ทำได้ ควรกำหนดขอบเขตความปลอดภัยใหม่อย่างไรสำหรับการเรียกใช้เครื่องมือ API ข้อมูลรับรอง และบัญชีบริการ?

การเรียกใช้เครื่องมือคือขอบเขตแนวป้องกันรูปแบบใหม่ ทุกครั้งที่เอเจนต์พยายามใช้ข้อมูลรับรอง เรียกใช้ API หรือเรียกใช้เครื่องมือ นั่นคือจุดตัดสินใจ และปัจจุบันองค์กรส่วนใหญ่ยังไม่มีขอบเขตควบคุม ณ จุดนั้นโดยตรง เพื่อประเมินว่าควรดำเนินการดังกล่าวหรือไม่ นี่คือสิ่งที่ขาดหายไป เราพบจุดบอดแบบเดียวกันเมื่อมองจากภายนอกเข้ามา โดยมีผู้นำด้านความปลอดภัยเพียง 37% ที่มั่นใจว่าตนสามารถระบุได้ด้วยซ้ำว่า AI กำลังทำงานอยู่ที่ใดภายในผู้ให้บริการที่องค์กรใช้งานอยู่แล้ว หากคุณมองไม่เห็นสิ่งนี้ในผลิตภัณฑ์ของผู้ให้บริการ คุณก็จะมองไม่เห็นการดำเนินการครั้งต่อไปของเอเจนต์ในองค์กรของคุณเองเช่นกัน ข้อมูลรับรองและบัญชีบริการที่อยู่เบื้องหลังทั้งหมดนี้ก็ต้องได้รับการดูแลอย่างเข้มงวดเช่นเดียวกับการควบคุมการเข้าถึงของมนุษย์ ได้แก่ ต้องทราบว่าใครเป็นเจ้าของ กำหนดขอบเขตการใช้งาน และทบทวนเป็นประจำ เอเจนต์ไม่ควรเข้าถึงข้อมูลรับรองที่ไม่ได้รับอนุญาตให้ใช้ เพียงเพราะข้อมูลรับรองนั้นมีอยู่ในเส้นทางการทำงานของมัน

เมื่อผู้ตรวจสอบ หน่วยงานกำกับดูแล หรือลูกค้าถามว่าเอเจนต์ AI เข้าถึงอะไร ตัดสินใจเรื่องใด และข้อมูลที่ได้ถูกส่งไปที่ไหน องค์กรควรสามารถแสดงหลักฐานการติดตามย้อนกลับได้ในระดับใดจึงจะถือว่าสมเหตุสมผล และในอนาคต บันทึกการตรวจสอบของเอเจนต์จะกลายเป็นสิ่งสำคัญพื้นฐานเช่นเดียวกับบันทึกการเข้าถึงแบบดั้งเดิมได้หรือไม่

เมื่อมีการร้องขอ องค์กรควรตอบได้ว่าเอเจนต์เข้าถึงอะไร ตัดสินใจเรื่องใด และข้อมูลที่ได้ถูกส่งไปที่ไหน การพยายามปะติดปะต่อคำตอบจากบันทึกเหตุการณ์ย้อนหลังนั้นไม่เพียงพอ มาตรฐานที่ควรมีคือบันทึกต่อเนื่องที่ตรวจสอบการแก้ไขได้ และมีอยู่แล้วเมื่อมีผู้ถามคำถามนั้น ขณะนี้บริษัทส่วนใหญ่กลับไม่มีคำตอบสำหรับคำถามเหล่านี้ ช่องโหว่นี้ไม่ใช่สิ่งที่คุณจะอธิบายให้ลูกค้ายอมรับได้ และหน่วยงานกำกับดูแลก็จะไม่ยอมรับเช่นกัน ทั้งนี้ขึ้นอยู่กับว่าข้อมูลที่รั่วไหลไปนั้นคืออะไร

และใช่ ผมคิดว่าบันทึกการตรวจสอบของเอเจนต์จะกลายเป็นสิ่งสำคัญพื้นฐานเช่นเดียวกับบันทึกการเข้าถึง และจะเกิดขึ้นในเร็ว ๆ นี้ เราถือว่าการระบุว่า “ใครเข้าถึงอะไร เมื่อใด” เป็นข้อกำหนดที่ต่อรองไม่ได้สำหรับระบบของมนุษย์มานานหลายปีแล้ว ไม่มีเหตุผลที่เอเจนต์ควรถูกกำหนดมาตรฐานต่ำกว่า เพียงเพราะคนไม่ได้เป็นผู้คลิก Frameworks อย่าง EU AI Act, AIUC-11 และ ISO 42001 ก็กำลังผลักดันไปในทิศทางนั้นอยู่แล้ว การติดตามย้อนกลับการทำงานของเอเจนต์ต้องเชื่อมโยงกับมาตรการควบคุมและหลักฐานแบบเดียวกับที่ใช้ขับเคลื่อนโปรแกรมการปฏิบัติตามข้อกำหนดอยู่แล้ว หากมองเรื่องนี้เป็นเพียงสิ่งที่ค่อยทำทีหลัง ก็มีแต่จะทำให้ถูกลดความสำคัญลง

เมื่อมองไปข้างหน้า คุณคาดว่าการกำกับดูแลเอเจนต์ AI จะกลายเป็นหมวดหมู่ด้านความปลอดภัยที่แยกออกมาต่างหาก หรือท้ายที่สุดจะถูกรวมเข้าไว้ในแพลตฟอร์มด้านการกำกับดูแล การบริหารความเสี่ยง การปฏิบัติตามข้อกำหนด การจัดการข้อมูลระบุตัวตน และความมั่นคงปลอดภัยทางไซเบอร์ที่มีอยู่แล้ว คุณคิดว่าองค์กรต้องเตรียมอะไรให้พร้อมบ้าง ก่อนจะนำเอเจนต์อัตโนมัติอย่างแท้จริงไปใช้งานอย่างปลอดภัยในวงกว้าง

คลื่นเทคโนโลยีสำคัญทุกระลอกก่อให้เกิดคลื่นด้านความปลอดภัยตามมา—คลาวด์ก่อให้เกิด Wiz ส่วนอุปกรณ์ปลายทางก่อให้เกิด CrowdStrike และตอนนี้เอเจนต์ AI ก็กำลังก่อให้เกิดคลื่นลูกใหม่ ผู้ให้บริการโมเดลกำลังสร้างคอนโซลและนโยบายสำหรับแพลตฟอร์มของตนเอง ซึ่งเป็นประโยชน์ แต่ไม่มีองค์กรใดดำเนินงานโดยใช้ผู้ให้บริการโมเดลเพียงรายเดียว ผู้ช่วยเขียนโค้ดเพียงตัวเดียว และเอเจนต์ที่พัฒนาขึ้นภายในองค์กรเพียงชุดเดียว จะต้องมีใครสักคนกำกับดูแลทั้งหมดนี้ด้วยชุดนโยบายเดียวและแหล่งหลักฐานเพียงแห่งเดียว ซึ่งไม่ใช่ปัญหาที่แพลตฟอร์ม AI ใดแพลตฟอร์มหนึ่งถูกสร้างมาเพื่อแก้ไข และไม่ใช่เหตุผลที่แพลตฟอร์มเหล่านั้นมีอยู่ การกำกับดูแลเอเจนต์ AI กลายเป็นหมวดหมู่เฉพาะของตนเองแล้ว แม้จะเชื่อมต่อกับระบบ GRC การจัดการข้อมูลระบุตัวตน และการปฏิบัติตามข้อกำหนดที่บริษัทใช้อยู่แล้วก็ตาม

ก่อนที่องค์กรจะนำเอเจนต์อัตโนมัติอย่างแท้จริงไปใช้งานในวงกว้างได้ ต้องเตรียมสิ่งต่าง ๆ ให้พร้อม 4 ประการ ซึ่งส่วนใหญ่ยังไม่มีแม้แต่ข้อเดียว ข้อแรกคือการค้นหาให้พบแบบเรียลไทม์ โดยต้องทราบทันทีที่มีการสร้างเอเจนต์แต่ละตัวว่าเอเจนต์ใดกำลังทำงาน ใครเป็นเจ้าของ และเอเจนต์ใช้ข้อมูลระบุตัวตนใดในการทำงาน

ข้อถัดมาคือการบังคับใช้นโยบายแบบอินไลน์ โดยประเมินก่อนที่การดำเนินการจะเกิดขึ้น ประการที่สาม องค์กรต้องติดตามการเปลี่ยนแปลงจากค่าหรือพฤติกรรมที่กำหนดไว้อย่างต่อเนื่อง เพราะเอเจนต์ยังคงทำงานต่อหลังจากเซสชันที่สร้างเอเจนต์สิ้นสุดลง และขอบเขตการใช้งานของเอเจนต์อาจขยายขึ้นอย่างเงียบ ๆ ข้อสุดท้ายคือบันทึกการตัดสินใจทุกครั้งของเอเจนต์ที่ตรวจสอบการแก้ไขได้ และเชื่อมโยงกับกรอบการทำงานที่ผู้ตรวจสอบและหน่วยงานกำกับดูแลยอมรับจริง นี่คือชั้นการทำงานที่เรากำลังพัฒนาที่ Drata หากไม่มีสิ่งนี้ องค์กรที่นำเอเจนต์อัตโนมัติไปใช้งานในวงกว้างก็ได้แต่ฝากความหวังไว้เพียงอย่างเดียว

ขอขอบคุณสำหรับบทสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านที่ต้องการศึกษาเพิ่มเติมเกี่ยวกับการกำกับดูแลเอเจนต์ AI การปฏิบัติตามข้อกำหนดอย่างต่อเนื่อง และมาตรการควบคุมภัยคุกคามจากเอเจนต์ภายในองค์กร สามารถเยี่ยมชม Drata ได้