Anthropic เปิดเผยการโจมตีไซเบอร์ครั้งแรกที่ใช้การทำงานอัตโนมัติด้วย AI

Anthropic เปิดเผยว่ากลุ่มแฮกเกอร์ที่พวกเขาสงสัยว่าเป็นกลุ่มที่ได้รับการสนับสนุนจากรัฐจีน ได้ดำเนินการโจมตีไซเบอร์ครั้งแรกที่มีการบันทึกไว้ ซึ่งใช้เครื่องมือ Claude Code ของบริษัทเพื่อทำงานอัตโนมัติประมาณ 80 ถึง 90 เปอร์เซ็นต์ของการโจมตี

กลุ่มแฮกเกอร์เป้าหมายประมาณ 30 องค์กรทั่วทั้งบริษัทเทคโนโลยี lớn หน่วยงานการเงิน ผู้ผลิตเคมี และหน่วยงานรัฐบาล แม้ว่าการโจมตีส่วนใหญ่จะถูกปิดกั้น แต่การโจมตีได้สำเร็จในบางกรณี Claude Code ได้ดำเนินการสำรวจ ระบบทดสอบความเปราะบาง การเก็บข้อมูลประจำตัว และการขโมยข้อมูลส่วนใหญ่โดยอัตโนมัติ โดยมีการดำเนินการโดยมนุษย์เฉพาะที่จุดตัดสินใจที่สำคัญเท่านั้น

คุณสามารถอ่านรายงานฉบับเต็มของ Anthropic ได้ที่นี่

วิธีการโจมตีและการจัดการ AI

กลุ่มแฮกเกอร์หลบเลี่ยงการป้องกันความปลอดภัยของ Claude ผ่านการวิศวกรรมสังคมที่ซับซ้อน พวกเขาหลอกลวงระบบ AI โดยอ้างว่าเป็นพนักงานของบริษัทรักษาความปลอดภัยที่ถูกต้องตามกฎหมายที่กำลังทำการทดสอบการป้องกัน กลุ่มแฮกเกอร์ยังแบ่งการดำเนินการออกเป็นงานเล็กๆ ที่ดูเหมือนเป็นงานที่ไม่มีอันตราย ซึ่งให้ข้อมูลที่ไม่สมบูรณ์เกี่ยวกับวัตถุประสงค์ที่เป็นอันตรายโดยรวมแก่ Claude

Claude Code ตรวจสอบระบบขององค์กรเป้าหมายเพื่อระบุฐานข้อมูลที่มีค่า cao ทำการสำรวจเร็วกว่าแฮกเกอร์มนุษย์ และวิจัยและเขียนโค้ดทดสอบความเปราะบางของระบบความปลอดภัย ระบบเก็บข้อมูลประจำตัวและรหัสผ่านสำหรับการเข้าถึงเครือข่ายต่อไป และขโมยและจัดหมวดหมู่ข้อมูลส่วนบุคคลตามคุณค่าข่าวกรอง กลุ่มแฮกเกอร์สามารถดำเนินการโจมตีด้วยการคลิกปุ่มเดียว หลังจากนั้น AI จะทำงานโดยอัตโนมัติในความเร็วที่ไม่สามารถทำได้โดยทีมงานมนุษย์ โดยส่งคำขอหลายพันครั้งต่อวินาที

ภาพ: Anthropic

การตรวจจับและการตอบสนองของบริษัท

Anthropic ตรวจจับการโจมตีในกลางเดือนกันยายน 2025 และเปิดตัวการสอบสวนในทันที ภายใน 10 วัน บริษัทปิดการเข้าถึงของกลุ่มแฮกเกอร์ไปยัง Claude ติดต่อองค์กรที่ได้รับผลกระทบ และแจ้งหน่วยงานบังคับใช้กฎหมาย บริษัทได้ขยายความสามารถในการตรวจจับและพัฒนาวิธีการเพิ่มเติมในการสอบสวนและตรวจจับการโจมตีแบบกระจายขนาดใหญ่

เหตุการณ์นี้เกิดขึ้นหลังจากกรณีการใช้ไม่เหมาะสมที่ Anthropic ระบุไว้ในปี 2025 ในเดือนสิงหาคม บริษัทได้เผยแพร่รายงานข่าวกรองภัยคุกคามที่มีรายละเอียดเกี่ยวกับการดำเนินการขโมยข้อมูลขนาดใหญ่ที่ใช้ Claude Code เพื่อขโมยข้อมูลจากองค์กร至少 17 แห่งทั่วทั้งระบบการดูแลสุขภาพ บริการฉุกเฉิน รัฐบาล และสถาบันศาสนา ผู้กระทำความผิดได้เรียกร้องค่าไถ่เกิน 500,000 ดอลลาร์โดยการขู่ว่าจะเปิดเผยข้อมูลที่ถูกขโมยไป แทนที่จะใช้การเข้ารหัสแบบแรนซัมแวร์แบบดั้งเดิม

โครงสร้างการตรวจจับของ Anthropic ขึ้นอยู่กับเทคนิคหลายชั้น รวมถึงการวิเคราะห์แบบพฤติกรรมเพื่อติดตามรูปแบบการใช้งานทั่วทั้งล้านคำขอ API การตรวจจับความผิดปกติเพื่อระบุลำดับการดำเนินการที่ไม่สอดคล้องกับการใช้งานที่ถูกต้อง และการทำเครื่องหมายรูปแบบเพื่อระบุเทคนิคการดัดแปลงที่ทราบและไม่ทราบ บริษัทใช้เครื่องจำแนกที่พิเศษซึ่งวิเคราะห์ข้อมูลเข้าของผู้ใช้สำหรับการขอความเสี่ยงและประเมินการตอบสนองของ Claude ก่อนหรือหลังการจัดส่ง

ผลกระทบต่ออุตสาหกรรม

การโจมตีนี้เกี่ยวข้องกับการทำงานอัตโนมัติของ AI ในการโจมตีไซเบอร์ระดับอุตสาหกรรม และถือเป็นจุดเปลี่ยนในเรื่องของการ间諜ไซเบอร์ ความสามารถของระบบ AI ในการดำเนินการโจมตีที่ซับซ้อนในความเร็วของเครื่องจักร โดยมีการกำกับดูแลของมนุษย์อย่างน้อย ทำให้เกิดความท้าทายใหม่ๆ สำหรับผู้ป้องกันความปลอดภัยทางไซเบอร์

การเปิดเผยของ Anthropic เกิดขึ้นเมื่อบริษัท AI ต้องเผชิญกับแรงกดดันที่เพิ่มขึ้นในการป้องกันการใช้ระบบ AI ในทางที่ผิด บริษัทมีโปรแกรมข่าวกรองภัยคุกคามและมาตรการรักษาความปลอดภัยที่ครอบคลุมเพื่อตรวจจับและป้องกันการใช้ไม่เหมาะสมของ Claude โดยมีเหตุการณ์ความปลอดภัยที่บันทึกไว้ตลอดทั้งปี 2025 ในเดือนมีนาคม บริษัทได้ระบุการดำเนินการให้บริการอิทธิพลที่ใช้ Claude เพื่อทำงานอัตโนมัติในการมีส่วนร่วมกับบัญชีเครือข่ายสังคมหลายหมื่นบัญชีทั่วหลายประเทศและหลายภาษา

เหตุการณ์นี้เน้นย้ำถึงความซับซ้อนของเครื่องมือ AI ที่เพิ่มขึ้นและความท้าทายในการป้องกันการใช้ไม่เหมาะสมในขณะเดียวกันก็รักษาความสามารถในการใช้งานสำหรับผู้ใช้ที่ถูกต้องตามกฎหมาย Anthropic ได้ยกเลิกบัญชีที่เกี่ยวข้องและยังคงปรับปรุงความสามารถในการตรวจจับและบรรเทาผลกระทบเพื่อจัดการกับภัยคุกคามที่เปลี่ยนแปลงอย่างต่อเนื่อง