ความล้มเหลวสี่ครั้ง สี่ชั้น สถาปัตยกรรมเองคือจุดอ่อน

ในตอนหนึ่งของพอดแคสต์ Hard Fork ของ New York Times เมื่อวันที่ 10 เมษายน 2026 ได้พิจารณาผลกระทบด้านความปลอดภัยของระบบ AI ที่ซับซ้อนและตั้งคำถามที่อุตสาหกรรมไม่ได้พิจารณา: ถ้าความปลอดภัยของไซเบอร์ไม่ได้ทำงานไม่ดี แต่ถูกตั้งกรอบไม่ถูกต้อง?

ตอนนี้ออกอากาศหลังจากเหตุการณ์หลายอย่างที่ทำให้คำตอบไม่สามารถเพิกเฉยได้ ในเดือนเดียว ระบบ AI อิสระเข้าถึงแพลตฟอร์ม AI ภายในของ McKinsey ในสองชั่วโมง การโจมตีห่วงโซ่อุปทานต่อไลบรารี AI ที่ใช้กันอย่างแพร่หลายส่งผลต่อองค์กรที่ใช้งานอยู่ นักวิจัยแสดงให้เห็นว่าฮาร์ดแวร์ที่ควรเป็นแนวป้องกันสุดท้ายสามารถถูกทำลายได้ด้วยชิ้นส่วนที่มีราคาไม่ถึง 1,000 ดอลลาร์ และ Anthropic เปิดเผยว่าโมเดลแนวหน้าพบช่องโหว่ zero-day หลายพันช่องโหว่ในโค้ดที่อุตสาหกรรมถือว่าเสถียร

ความล้มเหลวสี่ครั้ง สี่ชั้นของสแต็ก AI: แอปพลิเคชัน ออร์เคสตรา ฮาร์ดแวร์ และระบบปฏิบัติการ แต่ละครั้งแสดงให้เห็นถึงข้อจำกัดที่สำคัญในระบบควบคุมที่ออกแบบมาเพื่อปกป้องพวกมัน

การสิ้นสุดของการคิดริมขอบ

ความปลอดภัยของไซเบอร์แบบดั้งเดิมอาศัยสมมติฐานเดียว: ด้วยการควบคุม การติดตาม และการลงทุนเพียงพอ ระบบสามารถปลอดภัยได้ สมมติฐานนี้กำหนดรูปแบบการออกแบบหลายทศวรรษ รวมถึงไฟร์วอลล์ การจัดการอัตลักษณ์ ความปลอดภัยของจุดสิ้นสุด และแพลตฟอร์ม SIEM ทั้งหมดสร้างขึ้นบนแนวคิดที่ว่าความสามารถในการมองเห็นและจัดการอย่างเข้มงวดเท่ากับความปลอดภัย

อุตสาหกรรมได้เปลี่ยนไปสู่การออกแบบ Zero Trust ซึ่งสะท้อนถึงการยอมรับที่เพิ่มขึ้นว่าขอบเขตเครือข่ายแบบดั้งเดิมไม่สามารถเชื่อถือได้อีกต่อไป แต่แม้ว่าโมเดลความไว้วางใจจะพัฒนาไป AI ระบบก็แนะนำความท้าทายที่แตกต่าง: ข้อมูลที่ไวต้องต้องถูกรวบรวมประมวลผลและแบ่งปันข้ามหลายชั้นของโครงสร้างพื้นฐาน

แนวทางนี้มีเหตุผลเมื่อระบบอยู่ตรงกลางและข้อมูลอยู่ภายในขอบเขตที่กำหนดไว้อย่างชัดเจน แต่มันกลายเป็นไม่มีประสิทธิภาพเมื่อข้อมูลเคลื่อนที่อย่างต่อเนื่องข้ามคลาวด์ API ผู้ขายบุคคลที่สามและไปป์ไลน์ AI ในขณะที่ผู้ใช้และทรัพยากรการคำนวณกระจายไปทั่วโลก ขอบเขตไม่ใช่ขอบเขตอีกต่อไป แต่เป็นพื้นผิวที่เปลี่ยนแปลงอยู่ตลอดเวลา และเรายังคงใช้การคิดที่อาศัยการควบคุมกับระบบที่ไม่สามารถควบคุมได้จริง

ความล้มเหลวของชั้นแอปพลิเคชัน: Lilli ของ McKinsey

เมื่อวันที่ 9 มีนาคม 2026 บริษัทสตาร์ทอัพด้านความปลอดภัย CodeWall ได้เผยแพร่การเปิดเผยที่เน้นย้ำถึงความเสี่ยงที่องค์กรต้องเผชิญเมื่อนำ AI ไปใช้ภายใน

ตัวแทนการโจมตีแบบอิสระของ CodeWall ไม่มีเครดενเชียล ไม่มีความรู้จากภายใน และไม่มีการชี้นำจากมนุษย์ สามารถเข้าถึงและเขียนข้อมูลในฐานข้อมูลการผลิตที่อยู่เบื้องหลัง Lilli ซึ่งเป็นแพลตฟอร์ม AI ภายในของ McKinsey ในเวลาน้อยกว่าสองชั่วโมง Lilli ถูกใช้โดยพนักงานมากกว่า 40,000 คนสำหรับการทำงานด้านกลยุทธ์ การวิจัยลูกค้าและการวิเคราะห์เอกสาร โดยสร้างคำสั่งหลายร้อยพันคำสั่งต่อเดือน

จุดเข้าถึงไม่ใช่เรื่องที่ซับซ้อน ตัวแทนพบเอกสาร API ที่เปิดเผยต่อสาธารณะซึ่งแสดงจุดสิ้นสุดมากกว่า 200 จุด โดย 22 จุดไม่ต้องการการรับรองความถูกต้อง จุดอ่อนดังกล่าวสะท้อนถึงความเสี่ยงที่เน้นใน OWASP Top 10 สำหรับ LLM Applications โดยเฉพาะอย่างยิ่งเกี่ยวกับอินเทอร์เฟซที่เปิดเผย การรวมที่ไม่ปลอดภัย และความไว้วางใจที่มากเกินไปในระบบที่เชื่อมต่อ

หนึ่งในจุดสิ้นสุดเหล่านั้นมีช่องโหว่การฉีด SQL ที่ซ่อนอยู่ในชื่อฟิลด์ JSON มากกว่าค่าที่ป้อนเข้า ซึ่งเป็นที่ที่เครื่องสแกนแบบอัตโนมัติมองหา ตัวแทนได้ทำการฉีด SQL แบบ盲ๆ จนกระทั่งข้อมูลการผลิตสามารถเข้าถึงได้

สิ่งที่เข้าถึงได้: ข้อความแชทหลายสิบล้านข้อในข้อความที่ไม่มีการเข้ารหัส ไฟล์หลายร้อยพันไฟล์ บัญชีผู้ใช้หลายสิบพันบัญชี และชิ้นส่วนเอกสาร RAG หลายล้านชิ้นที่แสดงถึงการวิจัยที่เป็นกรรมสิทธิ์หลายปี นอกจากนี้ยังระบุคำสั่งที่ควบคุมว่า Lilli จะทำงานอย่างไรสำหรับผู้ใช้ทุกคน

การค้นพบที่น่าตกใจที่สุดไม่ใช่ปริมาณ แต่เป็นข้อเท็จจริงที่ว่าคำสั่งเหล่านั้นสามารถเขียนได้ ผู้โจมตีสามารถเขียนคำสั่งใหม่โดยไม่สังเกตเห็นได้ ซึ่งจะเปลี่ยนคำแนะนำเชิงกลยุทธ์ ใส่ข้อมูลที่เป็นความลับลงในคำตอบ หรือลบการป้องกันโดยสิ้นเชิงด้วยการอัปเดตฐานข้อมูลเพียงครั้งเดียว ไม่ต้องใช้การปรับใช้ ไม่ต้องเปลี่ยนโค้ด ไม่มีร่องรอยในบันทึกการทำงานของแอปพลิเคชัน

ในคำชี้แจง公开 McKinsey ระบุว่าได้แก้ไขปัญหาแล้วภายในไม่กี่ชั่วโมง และหลังการสอบสวนโดยบริษัทนิติเวชจากภายนอก ไม่พบหลักฐานว่าข้อมูลลับของลูกค้าถูกเข้าถึง สิ่งนี้มีความสำคัญ แต่ไม่ได้เปลี่ยนบทเรียนเชิงโครงสร้าง: ช่องโหว่แบบดั้งเดิมที่มีอายุหลายสิบปีได้เปิดเผยความจำการทำงานของระบบ AI สมัยใหม่เพราะข้อมูลที่อยู่เบื้องหลังมีอยู่ในรูปแบบที่อ่านได้

ความล้มเหลวของชั้นออร์เคสตรา: การโจมตี LiteLLM

สามสัปดาห์ต่อมา รูปแบบเดียวกันปรากฏขึ้นจากมุมมองที่แตกต่างและผ่านชั้นที่แตกต่าง

LiteLLM เป็นเกตเวย์ AI แบบโอเพ่นซอร์สที่ใช้โดยบริษัทหลายพันแห่งเพื่อรับส่งข้อมูลข้ามผู้ให้บริการ AI จุดยืนของมันในชั้นนั้นถือเป็นเรื่องสำคัญ: มันอยู่ที่ชั้นออร์เคสตรา โดยถือคีย์ API สำหรับผู้ให้บริการทุกคนที่เชื่อมต่อใดๆ การบุกรุกที่ชั้นนี้จะทำให้เครดิตัลส์ถูกเปิดเผยทั่วทุกบริการที่ผสมผสาน

ตามรายงานเหตุการณ์จาก PyPI กลุ่มผู้โจมตี TeamPCP ใช้เครดิตัลส์ที่ผูกกับข้อพึ่งพาในสายการผลิต CI/CD ของ LiteLLM และใช้การเข้าถึงของผู้ดูแลระบบเพื่อเผยแพร่สองรุ่นของแพ็คเกจ LiteLLM ที่มีแบ็กดอร์โดยตรงไปยัง PyPI รุ่นที่มีแบ็กดอร์เหล่านั้นใช้งานได้น้อยกว่าหนึ่งชั่วโมงก่อนถูกถอดออก การดำเนินการนี้ถูกพบเพียงเพราะมัลแวร์มีจุดบกพร่องที่ทำให้เครื่องของนักวิจัยล่ม

ห่วงโซ่อุปทานเป็นเวกเตอร์ ชั้นออร์เคสตราเป็นเป้าหมาย โดยการบุกรุกข้อพึ่งพาหนึ่งรายการในห่วงโซ่อุปทาน ผู้โจมตีเข้าถึงชั้นที่คีย์ผู้ให้บริการทั้งหมดอาศัยอยู่

ทีม LiteLLM รายละเอียดเหตุการณ์และความพยายามในการบรรเทาในคำชี้แจง公开บน GitHub

ผลกระทบจากการระเบิดกลายเป็นเห็นได้แทบจะทันที TechCrunch, Fortune และ The Register รายงานว่า Mercor ซึ่งเป็นสตาร์ทอัพด้านการสรรหาบุคลากร AI มูลค่า 10 พันล้านดอลลาร์ที่ทำงานร่วมกับบริษัทต่างๆ รวมถึง OpenAI, Anthropic, Meta และ Google ถูกกระทบกระเทือน ผู้โจมตีกล่าวอ้างว่าได้รับข้อมูลจำนวนมาก รวมถึงประวัติผู้สมัคร ข้อมูลที่สามารถระบุตัวบุคคลได้ การสัมภาษณ์วิดีโอของนัก thầu โค้ดซอร์ส และคีย์ API Meta ปause การทำงานกับ Mercor ในขณะที่การสอบสวนยังคงดำเนินอยู่ การรายงานต่อๆ ไปชี้ให้เห็นว่ารูปแบบมัลแวร์ที่คล้ายกันปรากฏในเครื่องมือและแพ็คเกจสำหรับนักพัฒนาอื่นๆ ซึ่งแนะนำว่าการดำเนินการอาจขยายไปไกลกว่าโครงการเดียว

เหตุการณ์ LiteLLM ไม่ใช่ความผิดปกติ มันเป็นระบบที่ทำงานตามที่ออกแบบมา

ความล้มเหลวของชั้นฮาร์ดแวร์: TEE.fail

หากการบุกรุก McKinsey แสดงให้เห็นว่าชั้นแอปพลิเคชันไม่สามารถเชื่อถือได้ และการโจมตี LiteLLM แสดงให้เห็นว่าห่วงโซ่อุปทานไม่สามารถเชื่อถือได้ การวิจัย TEE.fail แสดงให้เห็นว่าฮาร์ดแวร์ที่ตั้งใจจะชดเชยทั้งสองไม่สามารถเชื่อถือได้เช่นกัน

เมื่อวันที่ 28 ตุลาคม 2025 นักวิจัยจาก Georgia Tech, Purdue University และ Synkhronix เผยแพร่ TEE.fail ซึ่งเป็นการโจมตีแบบ side-channel ที่ดึงคีย์เข้ารหัสออกจาก Trusted Execution Environments โดยใช้การแทรกแซงทางกายภาพของหน่วยความจำบัสในเซิร์ฟเวอร์ DDR5 การโจมตีนี้ส่งผลต่อ Intel SGX, Intel TDX และ AMD SEV-SNP รวมถึงระบบที่มีสถานะ “เชื่อถือได้” ของ AMD ที่มีการเปิดใช้งาน Ciphertext Hiding เทคโนโลยีเหล่านี้ถูกส่งเสริมอย่างกว้างขวางว่าเป็นรากฐานของการคำนวณแบบส่วนตัว

นักวิจัยดึงคีย์เข้ารหัสที่ใช้เพื่อยืนยันว่าเวิร์กโหลดทำงานภายในสภาพแวดล้อมที่ปลอดภัย โดยมีคีย์เหล่านั้น ระบบที่ถูกบุกรุกสามารถแสดงตัวว่าเป็นระบบที่เชื่อถือได้ ในขณะที่ทำงานอยู่นอกการป้องกันที่คาดหวัง นักวิจัยได้แสดงสิ่งนี้โดยตรง: พวกเขาปลอม TDX attestations บน BuilderNet ของ Ethereum เพื่อเข้าถึงข้อมูลธุรกรรมที่เป็นความลับ และปลอม Intel และ NVIDIA attestations เพื่อทำงานเวิร์กโหลดภายนอก TEE โดยดูเหมือนว่าถูกต้อง

ผลกระทบของ NVIDIA มีความสำคัญสำหรับ AI โดยเฉพาะ เนื่องจากการรับรองความถูกต้องของ GPU ขึ้นอยู่กับการรับรองความถูกต้องของ CPU การบุกรุกห่วงโซ่ความไว้วางใจของ CPU ที่ถูกบุกรุกสามารถบ่อนทำลายการรับประกันที่ให้โดยสภาพแวดล้อมการอนุมาน AI ที่เป็นความลับ

ผู้ผลิตฮาร์ดแวร์ตอบสนองด้วยคำแนะนำอย่างเป็นทางการ AMD ระบุว่าการโจมตีทางกายภาพอยู่นอกโมเดลการคุกคามมาตรฐานและระบุว่าจะไม่ออกอัปเดตเฟิร์มแวร์ Intel และ NVIDIA ยอมรับผลการวิจัยและระบุว่างานบรรเทาเพิ่มเติมกำลังดำเนินอยู่ การตอบสนองเหล่านี้มีเหตุผลภายในโมเดลการคุกคามของตนเอง แต่ก такжеเน้นย้ำถึงขอบเขตที่สำคัญ: การรับประกันของความปลอดภัยที่อาศัยฮาร์ดแวร์ขึ้นอยู่กับสมมติฐาน รวมถึงการควบคุมทางกายภาพที่การนำไปใช้งานที่มีอำนาจอธิปไตย ที่มีการควบคุม และที่เผชิญกับศัตรูไม่สามารถทำได้เสมอไป

TEE.fail ไม่ทำให้การแยกฮาร์ดแวร์ไร้ความสำคัญ มันแสดงให้เห็นว่ามันคือเงื่อนไข

ความล้มเหลวของชั้น OS: การเปิดเผย Mythos

หากเหตุการณ์สามเหตุการณ์แรกทำให้เกิดคำถามเกี่ยวกับชั้นแอปพลิเคชัน ชั้นออร์เคสตรา และชั้นฮาร์ดแวร์ การเปิดเผยครั้งที่สี่เมื่อวันที่เมษายน 2026 ทำให้เกิดคำถามเกี่ยวกับชั้นที่อยู่ด้านล่างทั้งหมดนั้น: ระบบปฏิบัติการและไลบรารีหลักที่ชั้นอื่นๆ ทั้งหมดทำงานอยู่

เมื่อวันที่ 7 เมษายน 2026 Anthropic ประกาศเปิดตัว Claude Mythos Preview ซึ่งเป็นโมเดลแนวหน้าที่ไม่ได้เผยแพร่สาธารณะเนื่องจากความสามารถด้านความปลอดภัยเชิงรุก และเปิดตัว Project Glasswing ซึ่งเป็นกลุ่มร่วมมือกับ AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA และ Palo Alto Networks Anthropic รายงานว่าภายในไม่กี่สัปดาห์ Mythos ได้พบช่องโหว่หลายพันช่องโหว่ที่ไม่ทราบมาก่อนในระบบปฏิบัติการหลักและเว็บเบราว์เซอร์ และสามารถสร้างการ khai thácที่ทำงานได้สำหรับหลายช่องโหว่

การค้นพบเฉพาะนั้นยากที่จะเพิกเฉยมากกว่าสรุปใดๆ มีจุดบกพร่องที่มีอายุ 27 ปีใน OpenBSD จุดบกพร่องการรันโค้ดระยะไกลที่มีอายุ 17 ปีในเซิร์ฟเวอร์ NFS ของ FreeBSD ซึ่งตอนนี้ถูกติดตามเป็น CVE-2026-4747 ซึ่งให้สิทธิ์การเข้าถึงรูทแก่ผู้โจมตีที่ไม่ได้รับการรับรอง จุดบกพร่องที่มีอายุ 16 ปีใน FFmpeg ซึ่งเป็นไลบรารี่มัลติมีเดียที่ใช้กันอย่างแพร่หลายบนอินเทอร์เน็ต ในกรณีหนึ่ง วิศวกรของ Anthropic ที่ไม่มีการฝึกอบรมด้านความปลอดภัยอย่างเป็นทางการขอให้โมเดลค้นหาช่องโหว่การรันโค้ดระยะไกลและตื่นขึ้นมาเพื่อหาการ khai thácที่สมบูรณ์

สิ่งเหล่านี้เป็นการค้นพบระดับระบบปฏิบัติการ OpenBSD และ FreeBSD เป็นเคอร์เนล NFS เป็นระบบย่อยเครือข่ายของเคอร์เนล FFmpeg เป็นไลบรารี่ระบบที่จัดส่งพร้อมกับการกระจาย Linux ส่วนใหญ่และรองรับไปป์ไลน์มัลติมีเดียทั่วอินเทอร์เน็ต การค้นพบเหล่านี้ถือว่าปลอดภัยไม่ใช่เพราะพวกมันถูกพิสูจน์แล้วว่าปลอดภัย แต่เพราะการค้นหาช่องโหว่ลึกในมันจำเป็นต้องใช้ความเชี่ยวชาญของมนุษย์ที่หายากและแพง

การค้นพบเหล่านี้ทำให้ข้อจำกัดนั้นคลายลง Anthropic เองได้กล่าวถึงสิ่งนี้ว่าเป็นการเปลี่ยนแปลงแบบ dual-use: ความสามารถเดียวกับที่ทำให้โมเดลแนวหน้าสามารถค้นหาช่องโหว่และแก้ไขได้ที่ขนาดใหญ่ ยังช่วยให้พวกมันสามารถค้นหาช่องโหว่และ khai thácได้ที่ขนาดใหญ่เช่นกัน การตัดสินใจของ Anthropic ที่จะจำกัดการเข้าถึงผ่าน Project Glasswing สะท้อนถึงความเป็นจริงนี้ ไม่ได้ทำให้มันถูกแก้ไข แต่ความสามารถที่คล้ายกันนี้จะแพร่กระจายตามการประเมินของบริษัท

สิ่งนี้ยังเป็นที่ที่เหตุการณ์ทั้งสี่ร่วมกัน การบุกรุก McKinsey ใช้ช่องโหว่การฉีด SQL ที่มีอายุหลายสิบปี ช่องโหว่ดังกล่าวเป็นช่องโหว่ที่โมเดลในคลาส Mythos สามารถค้นหาที่ขนาดอุตสาหกรรมได้

เหตุการณ์สามเหตุการณ์ก่อนหน้านี้อธิบายว่าระบบ AI ถูกบุกรุกอย่างไรในปัจจุบัน Mythos อธิบายอัตราที่ทุกอย่างที่อยู่ภายใต้พวกมัน รวมถึงระบบปฏิบัติการ โมดูลเคอร์เนล และไลบรารี่ระบบ จะถูกตรวจสอบอีกครั้งโดยเครื่องจักร

รูปแบบ

ในกรณีทุกกรณี ข้อมูลอยู่ในข้อความที่ไม่มีการเข้ารหัสเมื่อมันสำคัญ

ชั้นแอปพลิเคชันประมวลผลมันในแบบที่อ่านได้ ชั้นออร์เคสตราเดินมันในแบบที่อ่านได้ ชั้นฮาร์ดแวร์ แม้จะมีการป้องกัน แต่สุดท้ายต้องถอดรหัสที่จุดการทำงาน ชั้น OS ด้านล่างทั้งหมดนั้นทำงานมันในแบบที่อ่านได้โดยคำนิยาม

สิ่งนี้ไม่ใช่การรวบรวมความล้มเหลวที่แยกจากกัน มันเป็นโครงสร้างนั่นเอง

ระบบ AI สมัยใหม่ได้รับการออกแบบให้ทำงานกับข้อมูลที่อ่านได้ ชั้นทุกชั้น รวมถึงการดึงข้อมูล การเดินข้อมูล การอนุมาน และการทำงานของเครื่องมือ ต้องการการเข้าถึงข้อความที่ไม่มีการเข้ารหัสเพื่อทำงาน การออกแบบนี้หมายความว่าความล้มเหลวใดๆ ที่ชั้นใดๆ จะทำให้ข้อมูลที่อยู่เบื้องหลังถูกเปิดเผย

คำถามไม่ใช่ว่าชั้นใดจะถูกบุกรุก แต่เป็นสิ่งที่ผู้โจมตีพบเมื่อมันถูกบุกรุก

จากความล้มเหลวที่ถูกสมมติไปสู่การไม่มีการเปิดเผย

อุตสาหกรรมได้เริ่มเปลี่ยนจาก “ป้องกันการบุกรุก” ไปเป็น “สมมติว่าการบุกรุกจะเกิดขึ้น” แต่ส่วนใหญ่ของโครงสร้างไม่ได้ทำตามผลกระทบ

หากการบุกรุกเป็นเรื่องที่หลีกเลี่ยงไม่ได้ คำถามที่แท้จริงไม่ใช่ว่าจะป้องกันไม่ให้ผู้โจมตีเข้ามาได้อย่างไร แต่เป็นสิ่งที่เกิดขึ้นเมื่อพวกเขาเข้ามา ปัจจุบันคำตอบคือเรื่องง่าย: พวกเขาจะได้ข้อมูล เพราะ แม้จะมีการลงทุนในโครงสร้างความปลอดภัย ข้อมูลยังคงถูกเปิดเผยที่จุดเวลาที่มีค่าเมื่อมันถูกใช้

การตอบสนองของอุตสาหกรรมเป็นไปตามที่คาดหวัง: การติดตามที่รวดเร็วขึ้น การตรวจจับที่รวดเร็วขึ้น ชั้นความปลอดภัยแบบส่วนตัวเพิ่มเติม สิ่งเหล่านี้เป็นการปรับปรุง แต่ไม่ได้แก้ไขปัญหาหลัก พวกมันยังคงสมมติว่าชั้นใดชั้นหนึ่ง – ไม่ว่าจะเป็นซอฟต์แวร์ ฮาร์ดแวร์ หรือการดำเนินงาน – สามารถเชื่อถือได้ในการรักษาข้อความที่ไม่มีการเข้ารหัสให้ปลอดภัย

ทางเลือกคือการเอาข้อความที่ไม่มีการเข้ารหัสออกไปทั้งหมด ไม่ใช่การรักษาชั้นรอบๆ ข้อมูลให้ปลอดภัย แต่ทำให้ข้อมูลเองไม่สามารถอ่านได้โดยใครที่เข้าถึงมัน การคำนวณบนข้อมูลที่เข้ารหัส ซึ่งคำสั่ง น้ำหนักโมเดล และเอาต์พุตยังคงเข้ารหัสตลอดทั้งไปป์ไลน์ จะแก้ไขปัญหาการเปิดเผยที่เหตุการณ์เหล่านี้ใช้ประโยชน์

ความก้าวหน้าในการเข้ารหัสแบบ homomorphic ที่สมบูรณ์และเทคนิคการคำนวณที่รักษาความเป็นส่วนตัวอื่นๆ ทำให้โครงสร้างที่ลดหรือกำจัดการเปิดเผยข้อความที่ไม่มีการเข้ารหัสเป็นไปได้มากขึ้นสำหรับงาน AI ในโลกแห่งความเป็นจริง แม้ว่าจะมีความท้าทายด้านประสิทธิภาพ ความสามารถในการปรับขนาด และการนำไปใช้ที่สำคัญยังคงอยู่ แต่วัตถุประสงค์เป็นเรื่องพื้นฐานที่แตกต่างจากเครื่องมือความปลอดภัยแบบดั้งเดิม: ลดคุณค่าของการบุกรุกที่ประสบความสำเร็จมากกว่าการทำให้การบุกรุกน้อยลง

การเปลี่ยนแปลงไม่ใช่จากเครื่องมือความปลอดภัยหนึ่งไปอีกเครื่องหนึ่ง แต่เป็นการเปลี่ยนแปลงจากการจัดการระบบไปสู่การลดการเปิดเผย จากโครงสร้างพื้นฐานที่เชื่อถือได้ไปสู่ข้อมูลที่ไม่เชื่อถือได้ จากการจัดการความเสี่ยงไปสู่การลดพื้นผิวการโจมตีเอง

สิ่งที่จะเกิดขึ้นต่อไป

การอภิปราย Hard Fork ได้ยกคำถามขึ้นมาถึงความปลอดภัยของไซเบอร์อาจถูกตั้งกรอบไม่ถูกต้องหรือไม่ หลักฐานจากหลายสัปดาห์ที่ผ่านมาบ่งชี้ว่าคำตอบคือใช่ อย่างน้อยสำหรับ AI

โมเดลเก่าสมมติว่าระบบสามารถปลอดภัยได้ การบุกรุกสามารถถูกปิดกั้นได้ และการเปิดเผยสามารถจัดการได้ ความเป็นจริงที่เกิดขึ้นใหม่คือการบุกรุกต้องถูกสมมติและต้องลดการเปิดเผยให้เหลือน้อยที่สุด เหตุการณ์ที่อธิบายไว้บ่งชี้ว่าความปลอดภัยของ AI อาจขึ้นอยู่กับการลดปริมาณข้อมูลที่ไวต้องที่มีอยู่เมื่อการควบคุมล้มเหลว

ช่องโหว่ที่ถูกเปิดเผยทั่วเหตุการณ์เหล่านี้ไม่ได้จำกัดอยู่เพียงชั้นเดียว มันเป็นระบบทั้งหมด การแก้ไขจะไม่สามารถทำได้ด้วยการปรับปรุงแบบทีละขั้นตอน แต่ต้องเปลี่ยนแปลงพื้นฐาน

AI security ไม่ใช่เรื่องของการป้องกันไม่ให้ผู้โจมตีเข้ามา แต่เป็นการรับประกันว่าเมื่อพวกเขาเข้ามา – และพวกเขาจะเข้ามา – ไม่มีข้อมูลที่สามารถอ่านได้ให้พวกเขาเจอ