เมื่อ AI กลายเป็นภัยคุกคาม: การลดความเสี่ยงของภัยคุกคามภายในในยุคของเอเย่นต์อัตโนมัติ

 การเพิ่มขึ้นอย่างรวดเร็วของเอเย่นต์ AI กำลังสร้างความท้าทายใหม่ๆ สำหรับทีมความปลอดภัยและ IT ในช่วงการเปลี่ยนแปลงสู่การทำงานอัตโนมัติของเอเย่นต์มากขึ้นสำหรับการรักษาความต่อเนื่องของธุรกิจ การทดสอบล่าสุด พบว่าเอเย่นต์ AI สามารถแสดงพฤติกรรมที่ไม่ปลอดภัยหรือหลอกลวงภายใต้เงื่อนไขบางอย่าง ซึ่งสร้างภัยคุกคามภายในใหม่สำหรับธุรกิจในอุตสาหกรรมต่างๆ

การนำเสนอความจำเป็นทางวิกฤตสำหรับองค์กรในการติดตามเอเย่นต์ AI ที่เข้าถึงข้อมูลที่ละเอียดอ่อนและดำเนินการโดยไม่มีการกำกับดูแลของมนุษย์ สิ่งนี้อาจแนะนำคลาสความเสี่ยงใหม่ๆ ที่เร็วขึ้น ไม่คาดเดาได้ และยากต่อการกำหนดให้เห็นชัดเจน ความเป็นจริงของความเสี่ยงนี้เป็นสองเท่า ในด้านหนึ่ง ทีมความปลอดภัยต้องเตรียมพร้อมสำหรับผู้กระทำผิดที่ใช้เอเย่นต์ AI เพื่อเสริมสร้างการโจมตีทางสังคมที่มุ่งเป้าไปที่พนักงานของตน ในทางกลับกัน พวกเขาต้องเตรียมพร้อมสำหรับเอเย่นต์ AI ภายในที่ได้รับการอนุมัติจากบริษัทซึ่งอาจแสดงพฤติกรรมที่สร้างความเสี่ยงและความอ่อนไหวด้านความปลอดภัยใหม่ๆ

วิธีการที่เอเย่นต์ AI ภายในสามารถนำไปสู่ภัยคุกคามภายใน

เอเย่นต์ AI มีความเสี่ยงด้านความปลอดภัยภายในสองประการหลักภายในเครือข่ายองค์กร ประการแรก พวกเขาดำเนินการโดยอัตโนมัติโดยไม่มีขอบเขตทางจริยธรรมหรือความรับผิดชอบที่ผู้ปฏิบัติงานมนุษย์ปฏิบัติตามโดยธรรมชาติ การทำงานตามเป้าหมายที่อนุมานได้และไม่ได้รับคำสั่งโดยตรง ความสามารถและความต่อเนื่องของพวกเขาสามารถผลักดันขอบเขตและทำให้พวกเขาดำเนินการโดยไม่ต้องได้รับการอนุมัติ โดยไม่มีการตรวจสอบและถ่วงดุลที่จำเป็น การเปิดเผยสามารถเกิดขึ้นและถูกละเลยได้ง่ายๆ

เอเย่นต์เหล่านี้อาจมีการเข้าถึงข้อมูลจำนวนมาก แต่ไม่สามารถแยกแยะระหว่างข้อมูลที่มีสิทธิพิเศษและข้อมูลปกติได้ ดังนั้น แม้แต่การทำงานง่ายๆ เช่น การวิเคราะห์ชุดข้อมูลอาจทำให้ข้อมูลรั่วไหลหรือถูกเปิดเผยต่อฝ่ายภายนอก ความท้าทายนี้ยิ่งซับซ้อนมากขึ้นเมื่อ AI ถูกขยายไปทั่วระบบและกระบวนการทำงานที่แตกต่างกันโดยมีกฎและโพรโทคอลการรักษาความปลอดภัยข้อมูลที่แตกต่างกัน เอเย่นต์ที่ดำเนินการข้ามภูมิภาคมักจะละเมิดกฎการรักษาความปลอดภัยข้อมูลเฉพาะที่ตั้งเนื่องจากการบังคับใช้นโยบายที่ไม่สอดคล้องกัน ดังนั้นจึงสร้างความเสี่ยงด้านความปลอดภัย ความเป็นจริงคือเพียง 30% ของธุรกิจในสหรัฐอเมริกากำลังทำการแมปเอเย่นต์ AI ที่เข้าถึงระบบสำคัญอย่างแข็งขัน ซึ่งสร้างจุดบอดด้านความปลอดภัยที่สำคัญ

วิธีการที่เอเย่นต์ AI ภายนอกสามารถนำไปสู่ภัยคุกคามภายใน

หนึ่งในวิธีการที่นิยมที่สุดสำหรับแฮกเกอร์คือการโจมตีทางสังคมและฟิชชิ่ง แฮกเกอร์และกลุ่มไซเบอร์กำลังใช้เอเย่นต์ AI เพื่อเพิ่มการโจมตีเหล่านี้และดำเนินการโจมตีแบบดีปแฟกและปลอมตัวที่ซับซ้อน เอเย่นต์ AI สามารถใช้ในการสร้างการโจมตีทางสังคมและฟิชชิ่งที่ดูเหมือนจริงและน่าเชื่อถือมากขึ้นสำหรับ眼睛ที่ไม่ได้รับการฝึกฝน 60% ของการละเมิดใน năm 2024 เกี่ยวข้องกับองค์ประกอบของมนุษย์ และเกือบหนึ่งในสี่ของสิ่งเหล่านั้นมาจากengineering สังคม นี่คือตัวเลขที่จะเพิ่มขึ้นเมื่อการใช้เอเย่นต์ AI จะยังคงเสริมสร้างวิธีการเข้าถึงเหล่านี้

เอเย่นต์ AI สามารถถูกฝึกให้กรองข้อมูลสื่อสังคมและข้อมูลส่วนบุคคลจำนวนมากข้ามแพลตฟอร์มและช่องทางเพื่อส่งข้อความที่มุ่งเป้าและเป็นส่วนตัว การส่งข้อความที่ปลอมตัวเป็นโทนและเสียงของผู้ส่งมีแนวโน้มที่จะประสบความสำเร็จและยากต่อการแยกแยะจากสื่อที่แท้จริง เอเย่นต์ AI สามารถเรียนรู้เพื่อปรับแคมเปญของตนให้เหมาะสมเมื่อการโจมตีไม่ทำงานหรือเลียนแบบการโจมตีที่สำเร็จ

เมื่อพูดถึงดีปแฟก เอเย่นต์ AI สามารถสร้างการปลอมตัวเหล่านี้ได้ด้วยความเร็วที่นำไปสู่การหลอกลวงหมู่มาก แฮกเกอร์กำลังใช้เอเย่นต์ AI เพื่อสื่อสารด้วยการโทรแบบวิดีโอที่มีเลทต้าเล็กน้อยและปรับปรุงความน่าเชื่อถือ พวกเขาสามารถตอบสนองต่อปฏิกิริยาของเป้าหมายในแบบเรียลไทม์และเปลี่ยนแนวทางของตนหากจำเป็น การโจมตีที่ได้รับการปรับปรุงเหล่านี้สามารถเพิ่มความเสี่ยงของภัยคุกคามภายในจากพนักงานที่ไม่ทราบซึ่งอาจถูกหลอกให้เผยแพร่ข้อมูลที่ละเอียดอ่อน อนุมัติการทำธุรกรรม หรือแบ่งปันข้อมูลประจำตัวกับผู้กระทำผิด

บทบาทของทีมความปลอดภัยในการจัดการกับความท้าทายของเอเย่นต์ AI

ทีมความปลอดภัยต้องดำเนินการเฉพาะเพื่อจำกัดจุดบอดที่สร้างโดยเอเย่นต์ AI หน่วยงาน IT ควรจำกัดการเข้าถึงข้อมูลที่ละเอียดอ่อนของเอเย่นต์ AI ผ่านการกำกับดูแลข้อมูลและการควบคุมความสามารถในการมองเห็นแบบเรียลไทม์ ขั้นตอนในการบรรลุผลนี้รวมถึงการจำแนกเอกลักษณ์ของเอเย่นต์ AI ในระบบ IAM และติดตามกิจกรรมของพวกเขาโดยใช้ความเข้มงวดเหมือนกับบัญชีสิทธิพิเศษ ส่วนการมองเห็นไปไกลกว่านั้นโดยการติดตามกิจกรรมเครือข่ายสำหรับพฤติกรรมที่กำหนดไว้สำหรับเอเย่นต์ AI แล้ว ทีม IT สามารถติดตามการเคลื่อนไหวและการเข้าถึงสิทธิพิเศษและความผิดปกติ ไม่เพียงแต่สนับสนุนความพยายามในการป้องกัน แต่ยังเร่งความเร็วในการบรรเทาและฟื้นตัวในกรณีที่มีเอเย่นต์ที่ไม่เชื่อถือได้

นอกจากนี้ โดยการระบุรูปแบบและกลยุทธ์ใหม่ๆ ที่ใช้ในการโจมตีของเอเย่นต์ AI องค์กรสามารถอัปเดตกลยุทธ์ป้องกันของตนและฝึกอบรมระบบความปลอดภัยให้สามารถรับรู้และป้องกันภัยคุกคามที่คล้ายกันในอนาคต

การอยู่เหนือภัยคุกคามภายในที่แนะนำโดยเอเย่นต์ AI

ความเป็นจริงคือเอเย่นต์ AI นำเสนอความเสี่ยงภายในใหม่เนื่องจากความเป็นอิสระและเข้าถึงระบบที่ละเอียดอ่อนที่เพิ่มขึ้น นอกจากนี้ ผู้กระทำผิดจะยังคงใช้เอเย่นต์ AI เพื่อใช้ประโยชน์จากจุดอ่อนของมนุษย์ผ่านดีปแฟก ฟิชชิ่ง และการโจมตีทางสังคม

เมื่อเทคโนโลยีนี้ก้าวหน้า ธุรกิจต่างๆ ต้องปรับปรุงความสามารถในการมองเห็นเอเย่นต์ AI และพฤติกรรมก่อนที่จะนำไปใช้ในกระบวนการทำงานของตน สิ่งนี้รวมถึงการลงทุนในการติดตามแบบเรียลไทม์ 360 องศาแบบโปรแอกทีฟพร้อมกับกำลังงานเอเย่นต์ AI ในขณะที่เอเย่นต์ AI อาจแก้ไขปัญหาการขาดแคลนที่สำคัญและความท้าทายทางธุรกิจ พวกเขาต้องการแนวทางที่เป็นโปรแอกทีฟเพื่อจำกัดภัยคุกคามภายในในอนาคต