การรับรองความมั่นคงรักษาความยั่งยืนด้านความปลอดภัยสำหรับ AI อัตโนมัติในด้านการดูแลสุขภาพ

สงครามที่กำลังรุนแรงต่อการละเมิดข้อมูลส่งผลให้เกิดความท้าทายที่เพิ่มขึ้นสำหรับองค์กรด้านการดูแลสุขภาพทั่วโลก ตามสถิติปัจจุบัน ค่าเฉลี่ยของการละเมิดข้อมูลอยู่ที่ 4.45 ล้านดอลลาร์สหรัฐฯ ทั่วโลก ซึ่งเป็นตัวเลขที่มากกว่าสองเท่าสำหรับผู้ให้บริการด้านการดูแลสุขภาพที่ให้บริการผู้ป่วยในสหรัฐอเมริกา การแพร่กระจายข้อมูลระหว่างและภายในองค์กรในยุคปัจจุบันทำให้ปัญหาเล็กน้อยนี้ยิ่งรุนแรงขึ้น การละเมิดข้อมูลที่ถูกเปิดเผยถึง 40% เกี่ยวข้องกับข้อมูลที่กระจายอยู่ในหลายสภาพแวดล้อม ซึ่งทำให้พื้นที่โจมตีเพิ่มขึ้นและให้หลายวิธีสำหรับผู้โจมตีในการเข้าถึงระบบ

การเติบโตของความเป็นอิสระของ AI ที่สร้างสรรค์นำไปสู่ยุคแห่งการเปลี่ยนแปลงอย่างรุนแรง ดังนั้นจึงมีความเสี่ยงด้านความปลอดภัยที่เพิ่มขึ้นเมื่อเอเย่นต์ AI ที่ซับซ้อนที่สุดเหล่านี้ออกจากทฤษฎีและเข้าสู่การนำไปใช้งานในหลายโดเมน เช่น ด้านสุขภาพ การทำความเข้าใจและบรรเทาผลกระทบจากภัยคุกคามใหม่เหล่านี้มีความสำคัญในการขยาย AI อย่างมีความรับผิดชอบและเพิ่มความยืดหยุ่นขององค์กรในการต่อต้านการโจมตีทางไซเบอร์ทุกรูปแบบ ไม่ว่าจะเป็นจากซอฟต์แวร์ที่เป็นอันตราย การละเมิดข้อมูล หรือแม้กระทั่งการโจมตีในห่วงโซ่อุปทานที่วางแผนไว้อย่างดี

ความยืดหยุ่นในขั้นตอนการออกแบบและนำไปใช้

องค์กรต่างๆ ต้องใช้กลยุทธ์ป้องกันที่ครอบคลุมและพัฒนาไปตามลำดับเพื่อจัดการกับความเสี่ยงด้านความปลอดภัยที่เพิ่มขึ้นจาก AI โดยเฉพาะอย่างยิ่งในด้านการดูแลสุขภาพ ซึ่งมีผลกระทบต่อทั้งความเป็นอยู่ที่ดีของผู้ป่วยและความสอดคล้องกับมาตรการด้านกฎระเบียบ

สิ่งนี้ต้องใช้แนวทางที่เป็นระบบและละเอียดถี่ถ้วน ตั้งแต่การพัฒนาและการออกแบบระบบ AI ไปจนถึงการนำไปใช้ในระดับใหญ่

• ขั้นตอนแรกและสำคัญที่สุดซึ่งองค์กรต่างๆ ต้องดำเนินการคือการสร้างแผนภูมิและแบบจำลองภัยคุกคามสำหรับพายพัน AI ทั้งหมด ตั้งแต่การรับข้อมูลไปจนถึงการฝึกอบรมแบบจำลอง การตรวจสอบ การนำไปใช้ และการอนุมาน ซึ่งช่วยให้ระบุจุดอ่อนและความเสี่ยงที่อาจเกิดขึ้นทั้งหมดได้อย่างแม่นยำ โดยพิจารณาจากผลกระทบและความน่าจะเป็น
• ประการสำคัญคือการสร้างสถาปัตยกรรมที่ปลอดภัยสำหรับการนำไปใช้ระบบและแอปพลิเคชันที่ใช้โมเดลภาษาขนาดใหญ่ (LLM) รวมถึงโมเดลที่มีความสามารถ AI Agentic ซึ่งเกี่ยวข้องกับการพิจารณาอย่างรอบคอบในหลายมาตรการ เช่น ความปลอดภัยของตัวเลือก การออกแบบ API ที่ปลอดภัย และการรักษาข้อมูลฝึกอบรมที่ละเอียดอ่อนอย่างปลอดภัย
• ประการที่สาม องค์กรต่างๆ ต้องเข้าใจและนำคำแนะนำจากมาตรฐาน/เฟรมเวิร์กต่างๆ ไปใช้ ตัวอย่างเช่น ต้องปฏิบัติตามแนวทางของ NIST สำหรับการจัดการความเสี่ยง AI ที่ครอบคลุมเพื่อระบุและบรรเทาผลกระทบจากความเสี่ยง และอาจพิจารณาแนวทางของ OWASP เกี่ยวกับความอ่อนไหวที่เฉพาะเจาะจงที่นำมาใช้ LLM เช่น การฉีดข้อมูลและจัดการเอาต์พุตที่ไม่ปลอดภัย
• นอกจากนี้ เทคนิคการสร้างแบบจำลองภัยคุกคามแบบดั้งเดิมจะต้องพัฒนาเพื่อจัดการกับการโจมตีที่ซับซ้อนและเฉพาะเจาะจงที่เกิดจาก AI รุ่นใหม่ รวมถึงการโจมตีแบบ “การปนเปื้อนข้อมูล” ที่คุกคามความสมบูรณ์ของโมเดล และความเป็นไปได้ที่จะสร้างเนื้อหาที่ละเอียดอ่อน มีการแบ่งบันหรือผลิตที่ไม่เหมาะสมในเอาต์พุต AI
• สุดท้าย แม้หลังจากการนำไปใช้แล้ว องค์กรต่างๆ จะต้องติดตามอย่างต่อเนื่องโดยการฝึกฝนการโจมตีแบบ “แดง” อย่างสม่ำเสมอและตรวจสอบความปลอดภัยของ AI โดยเฉพาะ โดยมุ่งเน้นไปที่แหล่งที่มา เช่น ความลำเอียง ความแข็งแกร่ง และความชัดเจน เพื่อค้นหาและบรรเทาผลกระทบจากความเสี่ยงในระบบ AI อย่างต่อเนื่อง

นี่เป็นข้อพื้นฐานในการสร้างระบบ AI ที่แข็งแกร่งในด้านการดูแลสุขภาพ ซึ่งก็คือการปกป้องชีวิตการทำงานของ AI ทั้งหมด ตั้งแต่การสร้างสรรค์ไปจนถึงการนำไปใช้ โดยมีความเข้าใจที่ชัดเจนเกี่ยวกับภัยคุกคามใหม่ๆ และการยึดมั่นในหลักการด้านความปลอดภัยที่มีอยู่

มาตรการในช่วงชีวิตการทำงาน

นอกเหนือจากการตั้งค่าและการนำไปใช้อย่างปลอดภัยแล้ว ยังต้องมีการรักษาความปลอดภัยของ AI ที่เข้มแข็งซึ่งต้องมีการดูแลอย่างต่อเนื่องและรักษาความปลอดภัยอย่างแข็งขันตลอดชีวิตการทำงานของ AI ซึ่งต้องมีการติดตามเนื้อหาด้วยการนำ AI มาสอดส่องเพื่อตรวจจับและป้องกันการโจมตีหรือการเผยแพร่เนื้อหาที่ไม่เหมาะสมทันที โดยยึดมั่นในนโยบายการเผยแพร่ข้อมูลและสิทธิ์ของผู้ใช้ ในระหว่างการพัฒนาและการผลิต องค์กรจะต้องสแกนหาไวรัส ความเสี่ยง และกิจกรรมที่เป็นอันตรายพร้อมๆ กับการรักษาความปลอดภัยแบบดั้งเดิม

เพื่อสร้างความไว้วางใจของผู้ใช้และปรับปรุงความสามารถในการอธิบายการตัดสินใจของ AI จะต้องใช้เครื่องมือ Explainable AI (XAI) เพื่อทำความเข้าใจเหตุผลที่ซ่อนอยู่เบื้องหลังการคาดการณ์และผลลัพธ์ของ AI

การควบคุมและความปลอดภัยที่ดีขึ้นยังได้รับการอำนวยความสะดวกผ่านการค้นหาข้อมูลอัตโนมัติและการจัดประเภทข้อมูลอัจฉริยะพร้อมกับเครื่องจำแนกที่เปลี่ยนแปลงได้ ซึ่งให้มุมมองที่สำคัญและทันสมัยเกี่ยวกับสภาพแวดล้อมข้อมูลที่เปลี่ยนแปลงอย่างต่อเนื่อง ความพยายามเหล่านี้เกิดจากความจำเป็นในการบังคับใช้การควบคุมความปลอดภัยที่เข้มงวด เช่น วิธีการควบคุมสิทธิ์แบบละเอียด (RBAC) โครงสร้างการเข้ารหัสแบบปลายถึงปลายเพื่อปกป้องข้อมูลระหว่างการถ่ายโอนและการจัดเก็บ และเทคนิคการปิดบังข้อมูลที่มีประสิทธิภาพเพื่อปกปิดข้อมูลที่ละเอียดอ่อน

การฝึกอบรมความตระหนักด้านความปลอดภัยอย่างครอบคลุมสำหรับผู้ใช้ทุกคนที่ทำงานกับระบบ AI ก็มีความสำคัญเช่นกัน เนื่องจากจะสร้าง “ไฟร์วอลล์” ของมนุษย์ที่สำคัญในการตรวจจับและป้องกันการโจมตีทางสังคมและภัยคุกคามที่เกี่ยวข้องกับ AI

การรักษาความปลอดภัยของ AI Agentic ในอนาคต

พื้นฐานของความยืดหยุ่นที่ยั่งยืนในด้านการรับมือกับภัยคุกคามด้านความปลอดภัยของ AI ที่กำลังพัฒนานั้นอยู่ใน phương phápที่มีหลายมิติและต่อเนื่องในการติดตาม ตรวจสอบ อธิบาย จัดประเภท และรักษาความปลอดภัยของระบบ AI อย่างเข้มงวด นอกจากนี้ยังรวมถึงการสร้างวัฒนธรรมความปลอดภัยที่มุ่งเน้นไปที่คนและควบคุมความปลอดภัยแบบดั้งเดิมที่มีความเป็นมืออาชีพ เมื่อเอเย่นต์ AI อัตโนมัติได้รับการรวมเข้ากับกระบวนการขององค์กร ความจำเป็นในการควบคุมความปลอดภัยที่เข้มงวดก็เพิ่มขึ้นเช่นกัน ความเป็นจริงในปัจจุบันคือการละเมิดข้อมูลในคลาวด์สาธารณะสามารถเกิดขึ้นได้ และมีค่าใช้จ่ายเฉลี่ยอยู่ที่ 5.17 ล้านดอลลาร์สหรัฐฯ ซึ่งเน้นย้ำถึงภัยคุกคามต่อทั้งทางการเงินและชื่อเสียงขององค์กร

นอกเหนือจากนวัตกรรมที่เปลี่ยนแปลงโลก AI ยังต้องมีการพัฒนาความยืดหยุ่นด้วยการสร้างความปลอดภัยที่ฝังลึก ระบบการทำงานแบบเปิด และกระบวนการกำกับดูแลที่เข้มงวด การสร้างความไว้วางใจในตัวแทน AI เหล่านี้สุดท้ายจะกำหนดว่าพวกเขาจะถูกยอมรับและยั่งยืนได้มากเพียงใด ซึ่งจะกำหนดรูปแบบของศักยภาพการเปลี่ยนแปลงของ AI