จาค็อบ อิเดสคอก CTO ของ Curity – สัมภาษณ์ซีรีส์

จาค็อบ อิเดสคอก เป็น Identity Specialist และ CTO ที่ Curity ส่วนใหญ่ของเวลาของเขาใช้ในการทำงานกับโซลูชั่นความปลอดภัยในพื้นที่ API และเว็บ เขาได้ทำงานกับการออกแบบและนำOAuth และ OpenID Connect ไปใช้สำหรับการใช้งานองค์กรขนาดใหญ่และสตาร์ทอัพขนาดเล็ก

Curity เป็นแพลตฟอร์มการบริหารจัดการอัตลักษณ์และการเข้าถึง (IAM) แบบสมัยใหม่ซึ่งสร้างขึ้นรอบๆ Curity Identity Server ซึ่งเป็นโซลูชั่นมาตรฐานที่ออกแบบมาเพื่อความปลอดภัยในการรับรองความถูกต้องและอนุญาตสำหรับแอปพลิเคชัน API และบริการดิจิทัลในระดับใหญ่ มันสนับสนุนโปรโตคอล เช่น OAuth 2.0 และ OpenID Connect เพื่อจัดการกระบวนการเข้าสู่ระบบ อนุญาตนโยบายการเข้าถึงที่ละเอียด และออกโทเค็นความปลอดภัยสำหรับทั้งผู้ใช้และลูกค้าเครื่องจักร รวมถึง API และบริการ แพลตฟอร์มนี้ได้รับการออกแบบสำหรับความยืดหยุ่นและความสามารถในการปรับขนาด ทำให้องค์กรสามารถใช้งานได้ทั้งบนคลาวด์ ฮายบริด หรือสภาพแวดล้อมภายใน ระบบ และรวมเข้ากับระบบที่มีอยู่แล้ว และให้ประสบการณ์ผู้ใช้ที่ปลอดภัยและไม่มีการหยุดชะงักโดยไม่ต้องอาศัยโครงสร้างความปลอดภัยที่สร้างขึ้นเอง

คุณได้ใช้เวลาส่วนใหญ่ในการสร้างระบบความปลอดภัยอัตลักษณ์และ API ตั้งแต่การร่วมทุนก่อตั้ง Curity จนถึงการเป็น CTO ผ่านยุคของคลาวด์และ AI ในปัจจุบัน การเดินทางนี้ได้กำหนดมุมมองของคุณอย่างไรเกี่ยวกับการที่ตัวแทน AI ควรได้รับการปฏิบัติเหมือนอัตลักษณ์ดิจิทัลชั้นหนึ่งมากกว่าการเป็นเพียงซอฟต์แวร์

ในแต่ละด้านของเทคโนโลยีที่ฉันทำงาน ผู้คนพบปัญหาเดียวกัน ไม่ว่าจะเป็นคลาวด์คอมพิวติ้งหรือ AI ปัญหาเกิดขึ้นเมื่อซอฟต์แวร์ทำงานแทนคนหรือระบบอื่น คุณมีปัญหาเกี่ยวกับอัตลักษณ์

การนำ AI ที่มีเจตนาไปใช้ทำให้ปัญหานี้รุนแรงขึ้น พฤติกรรมของพวกมันไม่ได้ถูกเขียนไว้แน่นอนและทำงานด้วยความเป็นอิสระที่องค์กรไม่เคยเห็นมาก่อน ตัวแทน AI ตัดสินใจ เรียก API และเชื่อมการกระทำข้ามระบบ โดยไม่มีการกำกับดูแลโดยตรงจากมนุษย์ พฤติกรรมนี้สร้างปัญหาเกี่ยวกับอัตลักษณ์และการเข้าถึงที่แตกต่างจากซอฟต์แวร์แบบดั้งเดิม

การปฏิบัติตัวแทน AI เหมือนอัตลักษณ์ดิจิทัลชั้นหนึ่งเป็นวิธีเดียวที่จะแก้ไขปัญหานี้ได้อย่างเหมาะสม หากองค์กรปฏิบัติตัวแทน AI เหมือนกระบวนการหรือบัญชีบริการ พวกเขาจะสูญเสียความสามารถในการมองเห็นและควบคุมอย่างรวดเร็ว และนั่นคือสูตรสำหรับวิกฤตด้านความปลอดภัย

หลายองค์กรตื่นเต้นเกี่ยวกับ AI ที่มีเจตนา แต่ยังคงติดอยู่ในขั้นตอนการทดลอง จากสิ่งที่คุณเห็นในการใช้งานจริง อะไรคือช่องว่างด้านอัตลักษณ์และการกำกับดูแลที่พบบ่อยที่สุดซึ่งทำให้องค์กรไม่สามารถขยายตัวแทน AI ได้อย่างปลอดภัย

การทดลองส่วนใหญ่เกิดขึ้นในพื้นที่ทดลองที่แยกออกจากสิ่งที่เกิดขึ้นในระดับใหญ่ ในระหว่างการทดลองเบื้องต้น ทีมงานมักให้ความสามารถ API ที่กว้างขวางหรือสิทธิ์การเข้าถึงคลาวด์ให้กับตัวแทนเพียงเพื่อให้เริ่มต้นได้

วิธีนี้ล้มเหลวเมื่อตัวแทนถูกใช้งานเกินขอบเขตการทดลอง เนื่องจากทีมความปลอดภัยไม่สามารถมองเห็นได้ว่าตัวแทนเข้าถึงข้อมูลอะไร บันทึกการกระทำ หรือว่าตัวแทนสามารถหรือได้ล่วงละเมิดขอบเขตที่ตั้งใจไว้หรือไม่ จุดบอดเหล่านี้ทำให้ไม่สามารถกำกับดูแลตัวแทนได้อย่างปลอดภัย ซึ่งเป็นสาเหตุว่าทำไมองค์กรหลายแห่งจึงต้องดิ้นรนในการขยายตัวแทน AI

คุณได้โต้แย้งว่าการสร้างรั้วที่เข้มงวดเป็นสิ่งจำเป็นสำหรับ AI ที่มีเจตนา อะไรคือการออกแบบอัตลักษณ์ที่ดีสำหรับตัวแทน AI ในทางปฏิบัติ และบริษัทต่างๆ มักจะทำผิดพลาดที่ไหน

การออกแบบอัตลักษณ์ที่ดีเริ่มต้นจากหลักการของสิทธิ์ที่น้อยที่สุดและอนุญาตที่ผูกกับเจตนาอย่างชัดเจน แต่ละตัวแทน AI ควรจะมีอัตลักษณ์ของตนเอง มีสิทธิ์ที่แคบและชัดเจน และมีความสัมพันธ์ที่เชื่อถือได้ (กฎที่ชัดเจนสำหรับระบบที่อนุญาตให้โต้ตอบ) โดยพื้นฐานแล้ว การเข้าถึงควรผูกกับวัตถุประสงค์ มีข้อจำกัดเวลา และง่ายต่อการถอนสิทธิ์

บริษัทต่างๆ มักจะทำผิดพลาดโดยใช้บัญชีบริการที่มีอยู่แล้วหรือสมมติว่าตัวแทนภายในปลอดภัยโดยอัตโนมัติ สมมติฐานนี้ไม่คงไว้เมื่อเผชิญกับภัยคุกคามในโลกแห่งความเป็นจริง ผู้กระทำความผิดที่มีเจตนาเลวจะค้นหาจุดอ่อนเหล่านี้อย่างแข็งขัน และตัวแทน AI เพิ่มพื้นที่ที่เสี่ยงต่อการถูกโจมตีเมื่อการออกแบบอัตลักษณ์ไม่ดี

Curity ได้ทำงานกับมาตรฐาน เช่น OAuth และ OpenID Connect มาเป็นเวลานาน มาตรฐานการระบุตัวตนแบบเปิดมีความสำคัญเพียงใดในการทำให้ AI ที่มีเจตินาเข้ากันได้และปลอดภัยข้ามสภาพแวดล้อมองค์กรที่ซับซ้อน

มาตรฐานการระบุตัวตนแบบเปิดมีความสำคัญอย่างยิ่ง องค์กรต่างๆ มีเนื้อหาเกี่ยวกับอัตลักษณ์ที่ซับซ้อนซึ่งครอบคลุมแพลตฟอร์มคลาวด์ บริการ SaaS และ API ภายใน ตัวแทน AI เพิ่มความซับซ้อนมากขึ้น

หากไม่มีมาตรฐาน ตัวแทน AI แต่ละตัวจะกลายเป็นการผสานรวมที่แตกต่างกันและเป็นข้อยกเว้นด้านความปลอดภัยเสมอ ด้วยมาตรฐาน เช่น OAuth และ OpenID Connect ตัวแทน AI สามารถถูกยืนยันตัวตน อนุญาต และตรวจสอบได้เหมือนกับเวิร์กโหลดอื่นๆ นี่เป็นแนวทางเดียวที่สามารถอำนวยความสะดวกในการขยายตัวที่ปลอดภัยในระดับองค์กรจริง

อะไรคือความแตกต่างหลักๆ ระหว่างตัวแทน AI แบบสมัยใหม่และอัตลักษณ์ที่ไม่ใช่มนุษย์ (NHIs) ในยุคก่อนหน้านี้จากมุมมองด้านความปลอดภัย

ความแตกต่างหลักๆ ระหว่างตัวแทน AI แบบสมัยใหม่และอัตลักษณ์ที่ไม่ใช่มนุษย์ (NHIs) ในยุคก่อนหน้านี้คือความเป็นอิสระ บัญชีบริการแบบดั้งเดิมจะทำสิ่งที่โค้ดบอกให้ทำอย่างเคร่งครัดและถูกผูกไว้กับงานของมัน ตัวแทน AI จะตีความคำสั่ง ปรับเปลี่ยนพฤติกรรมของมันเอง และดำเนินการกระทำที่ไม่เคยถูกเขียนไว้ – ซึ่งทั้งหมดนี้เพิ่มความเสี่ยงหากไม่มีการควบคุมที่เหมาะสม

ข้อผิดพลาดเล็กๆ น้อยๆ เกี่ยวกับอัตลักษณ์หรือการเข้าถึงสามารถเปลี่ยนเป็นภัยพิบัติได้อย่างรวดเร็ว เนื่องจากตัวแทนสามารถดำเนินการได้เร็วและข้ามระบบหลายระบบได้ จากมุมมองด้านความปลอดภัย นี่เป็นความเสี่ยงที่สำคัญ

การบันทึกการตรวจสอบและบันทึกการเข้าถึงตามอัตลักษณ์มีความสำคัญเพียงใดในการกำกับดูแลตัวแทน AI โดยเฉพาะอย่างยิ่งในอุตสาหกรรมที่มีการควบคุม

การบันทึกการตรวจสอบไม่ควรเป็น “ดีใจที่มี” มันควรจะถูกสร้างขึ้นตั้งแต่เริ่มต้น ในสภาพแวดล้อมที่มีการควบคุม องค์กรคาดหวังให้สามารถตอบคำถามง่ายๆ แต่สำคัญๆ ได้ เช่น ตัวแทนเข้าถึงอะไร เมื่อไหร่ และใครอนุญาต

การบันทึกตามอัตลักษณ์เป็นวิธีเดียวที่เชื่อถือได้ในการได้รับการรับผิดชอบนี้ นอกจากนี้ยังเล่นบทบาทสำคัญในการตอบสนองต่อเหตุการณ์ หากไม่มีการบันทึกตามอัตลักษณ์ที่ชัดเจน จะเป็นเรื่องยากที่จะรู้ว่าปัญหาเกิดจากตัวแทน AI ที่มีพฤติกรรมผิดปกติ อัตลักษณ์ที่ถูกบุกรุก หรือเพียงแค่คำสั่งผิดๆ

คุณเห็นความเสี่ยงอะไรที่เกิดขึ้นจริงเมื่อองค์กรใช้ตัวแทน AI ที่มีสิทธิ์มากเกินไปหรือไม่ได้รับการตรวจสอบอย่างดีในระบบการผลิต

ความเสี่ยงหนึ่งคือการรวบรวมข้อมูลอย่างเงียบๆ ตัวแทน AI ที่มีสิทธิ์มากเกินไปสามารถดึงข้อมูลที่ไวต่อความปลอดภัยจากหลายระบบ (บันทึกลูกค้า เอกสารภายใน บันทึก) และเปิดเผยข้อมูลนั้นผ่านคำสั่ง สรุป หรือการผสานรวมภายนอก

ความเสี่ยงอีกอย่างหนึ่งคือตัวแทน AI ที่มีสิทธิ์การบริหารสามารถเปลี่ยนแปลงสำคัญๆ ได้ด้วยความเร็วของเครื่องจักร ทำให้เกิดความเสียหายมากกว่าที่มนุษย์สามารถทำได้ในระยะเวลาสั้นๆ สิ่งนี้อาจรวมถึงการเปลี่ยนแปลงทรัพยากรคลาวด์ การปิดใช้งานการควบคุมด้านความปลอดภัย หรือการกระตุ้นการทำงานอัตโนมัติอย่างไม่มีการกำกับดูแล

เหตุการณ์เหล่านี้อาจเกิดจากความเจตนาเลว แต่ก็ไม่จำเป็นต้องเป็นเช่นนั้น ตัวแทน AI ที่มีสิทธิ์มากเกินไปหรือไม่ได้รับการตรวจสอบอย่างดีเพียงแค่ทำงานบนสมมติฐานที่ล้าสมัยหรือไม่ถูกต้อง ซึ่งจะขยายความผิดพลาดข้ามระบบหลายระบบก่อนที่ใครจะสังเกตเห็น

แต่จากมุมมองของนักโจมตี อัตลักษณ์ของตัวแทน AI ที่ถูกบุกรุกมีค่ามาก มันทำให้สามารถเคลื่อนย้ายข้าม API และบริการได้ โดยมีสิทธิ์การเข้าถึงที่ไม่มีมนุษย์คนใดได้รับ การไม่มีการควบคุมอัตลักษณ์ที่เข้มงวดและการตรวจสอบทำให้องค์กรหลายแห่งค้นพบความล้มเหลวเหล่านี้หลังจากที่ความเสียหายเกิดขึ้นแล้ว

สำหรับบริษัทที่กำลังจะย้ายจากการทดลองไปสู่การนำตัวแทน AI ไปใช้จริง ควรตัดสินใจเรื่องอัตลักษณ์และการเข้าถึงอะไรในตอนต้นเพื่อหลีกเลี่ยงการออกแบบใหม่ในภายหลังที่มีค่าใช้จ่ายสูง

องค์กรควรตัดสินใจเร็วๆ นี้ว่าตัวแทน AI จะได้รับการจัดสรรอัตลักษณ์อย่างไร สิทธิ์จะถูกอนุมัติอย่างไร และการเข้าถึงจะถูกทบทวนอย่างไร โดยการกำหนดขอบเขตอัตลักษณ์ไว้ตั้งแต่แรก

การนำการควบคุมอัตลักษณ์มาใช้ในภายหลังมักเป็นปัญหา ตัวแทน AI มักถูกฝังลึกในกระบวนการทำงานโดยใช้ข้อมูลรับรองร่วมกันหรือบทบาทที่กว้าง ซึ่งการจำกัดสิทธิ์หลังจากนั้นจะทำลายสมมติฐานที่ระบบพึ่งพา และสุดท้ายจะทำให้กระบวนการทำงานล้มเหลวและบ่อนทำลายความเชื่อมั่นในเทคโนโลยี มันถูกและปลอดภัยกว่าในการออกแบบอัตลักษณ์ที่เหมาะสม ขอบเขตสิทธิ์ และขอบเขตการเข้าถึงตั้งแต่แรก

การบูรณาการอัตลักษณ์กลายเป็นปัญหาที่ไหนบ้างเมื่อใช้ตัวแทน AI และวิธีการปฏิบัติที่ดีที่สุดคืออะไรเพื่อลดการเสี่ยง

การบริหารจัดการอัตลักษณ์สามารถกลายเป็นปัญหาได้ แต่เฉพาะเมื่อมันถูกมองว่าเป็นเรื่องรอง ทีมงานมุ่งเน้นไปที่การสร้างความสามารถของตัวแทน AI ที่น่าประทับใจก่อน แล้วต่อมาพวกเขาจะตระหนักว่าต้องรวมเข้ากับระบบ IAM API เกตเวย์ และแพลตฟอร์มการบันทึกเพื่อให้ปลอดภัย

แนวทางที่ดีที่สุดคือเริ่มต้นด้วยความเข้าใจและนำการนำไปใช้ของแพลตฟอร์มอัตลักษณ์ที่เหมาะสม แล้วออกแบบตัวแทน AI ให้เข้ากันได้กับพวกมัน องค์กรควรใช้มาตรฐานและโครงสร้างพื้นฐานที่มีอยู่แล้วแทนการข้ามพวกมัน การตัดมุมนี้จะทำให้เกิดปัญหาในอนาคต เมื่ออัตลักษณ์ถูกสร้างขึ้นตั้งแต่แรก การใช้งานจะเร็วขึ้นแทนการชะลอการทำงาน

สำหรับผู้นำด้านความปลอดภัยและวิศวกรรมที่ต้องการใช้ AI ที่มีเจตนาแต่กังวลเกี่ยวกับการกำกับดูแลและความเสี่ยง คุณแนะนำอะไรให้พวกเขาเมื่อพวกเขาวางแผนเส้นทางของตน

ชะลอความเร็วเพียงพอเพื่อให้พื้นฐานถูกต้อง ตัวแทน AI ต้องถูกมองว่าเป็นอัตลักษณ์และคุณต้องใช้การกำกับดูแลที่คุณคาดหวังสำหรับมนุษย์ และต้องมีความสามารถในการมองเห็นตั้งแต่แรก หากองค์กรทำเช่นนี้ การขยายตัวของ AI ที่มีเจตินาจะกลายเป็นการออกกำลังกายด้านความปลอดภัย ไม่ใช่การกระโดดด้วยความเชื่อมั่นและความเสี่ยง

ขอขอบคุณสำหรับสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Curity