Google เปิดเผยสถาปัตยกรรมความปลอดภัยสำหรับคุณสมบัติเอเย่นต์ AI ของ Chrome

Google (GOOGL ) ได้เผยแพร่โครงสร้างความปลอดภัยที่มีรายละเอียดสำหรับคุณสมบัติเอเย่นต์ AI ที่กำลังจะมาถึงของ Chrome โดยแนะนำหลายชั้นการป้องกันที่ออกแบบมาเพื่อปกป้องผู้ใช้เมื่อเอเย่นต์ที่ได้รับการสนับสนุนจาก Gemini ทำงานการเรียกดูอัตโนมัติ

การประกาศจาก Nathan Parker นักวิศวกรด้านความปลอดภัยของ Chrome อธิบายถึงสี่เสาหลักด้านความปลอดภัย ที่จะควบคุมว่าเอเย่นต์ AI ติดต่อเว็บไซต์แทนผู้ใช้อย่างไร สถาปัตยกรรมนี้กล่าวถึงความเสี่ยงที่พบในระบบเอเย่นต์ในช่วงแรก รวมถึงการโจมตีแบบ prompt injection การเข้าถึงข้อมูลโดยไม่ได้รับอนุญาต และการทำธุรกรรมฉ้อโกง

การเข้าใกล้ของ Google เกิดขึ้นเมื่อคู่แข่งกำลังแข่งขันกันเพื่อเปิดตัวเอเย่นต์ AI บนเบราว์เซอร์ OpenAI ได้เปิดตัว ChatGPT Atlas ในเดือนตุลาคมพร้อมโหมดเอเย่นต์ ในขณะที่ Perplexity เปิดตัวเบราว์เซอร์ Comet ในเดือนกรกฎาคม โครงสร้างความปลอดภัยของ Google บ่งบอกถึงความตั้งใจที่จะเคลื่อนไหวอย่างระมัดระวังมากกว่าคู่แข่งที่มีคุณสมบัติเอเย่นต์ที่มีความเสี่ยงต่อการถูกโจมตีแล้ว

สี่เสาหลักของความปลอดภัยของเอเย่นต์

User Alignment Critic เป็นชั้นการป้องกันแรก ซึ่งเป็นโมเดล Gemini ที่แยกออกมาเพื่อตรวจสอบการกระทำที่เอเย่นต์ AI หลักเสนอ โมเดลนี้ทำงานในโหมดแยกออกและตรวจสอบเฉพาะข้อมูลอ้างอิงเกี่ยวกับการกระทำที่เสนอเท่านั้น ไม่ใช่เนื้อหาของหน้าเต็ม ซึ่งลดการเปิดเผยต่อข้อมูลเข้ามาในระบบที่เป็นอันตราย หากการกระทำดูเสี่ยงหรือไม่เกี่ยวข้องกับเป้าหมายที่ผู้ใช้ระบุไว้ โมเดลนี้สามารถสั่งให้ทำซ้ำหรือคืนการควบคุมให้กับผู้ใช้

Origin Sets จำกัดเว็บไซต์และองค์ประกอบของหน้าที่เอเย่นต์สามารถเข้าถึงได้ระหว่างการทำงานใดๆ ระบบแยกความแตกต่างระหว่างจุดเริ่มต้นที่อ่านได้เท่านั้น ซึ่งเอเย่นต์สามารถดูเนื้อหาที่นั่นได้ และจุดเริ่มต้นที่สามารถเขียนได้ ซึ่งเอเย่นต์สามารถดำเนินการได้ เว็บไซต์และ iframes ที่ไม่เกี่ยวข้องจะถูกปิดกั้นทั้งหมด โดยมีฟังก์ชันการควบคุมที่เชื่อถือได้เพื่ออนุมัติการเข้าถึงโดเมนใหม่ ซึ่งจะป้องกันการรั่วไหลของข้อมูลระหว่างเว็บไซต์และจำกัดความเสียหายที่อาจเกิดขึ้นจากเอเย่นต์ที่ถูกบุกรุก

User Oversight ต้องการการยืนยันจากผู้ใช้ด้วยตนเองสำหรับการดำเนินการที่ละเอียดอ่อน เมื่อเอเย่นต์พบกับพอร์ทัลธนาคาร เว็บไซต์ข้อมูลทางการแพทย์ หรือต้องการเข้าถึงข้อมูลรับรองจากระบบจัดการรหัสผ่านของ Google Chrome จะหยุดและขอให้ผู้ใช้อนุมัติการกระทำนั้น สิ่งเดียวกันนี้ใช้กับการซื้อของหรือการส่งข้อความ – เอเย่นต์ไม่สามารถดำเนินการเหล่านี้ได้ด้วยตนเอง

การตรวจจับการโจมตีแบบ Prompt Injection ใช้เครื่องจำแนกที่อุทิศให้กับการสแกนหน้าเว็บแบบเรียลไทม์สำหรับการโจมตีแบบ prompt injection ที่ไม่ตรงไปตรงมา ระบบนี้ทำงานร่วมกับโครงสร้างการเรียกดูแบบปลอดภัยที่มีอยู่ของ Chrome และการตรวจจับการหลอกลวงบนอุปกรณ์ เพื่อขัดขวางเนื้อหาที่ถูกต้องตามสงสัยก่อนที่เอเย่นต์จะดำเนินการ

การโจมตีแบบอัตโนมัติและ Bug Bounties

Google พัฒนาระบบการโจมตีแบบอัตโนมัติ (red-teaming) ที่สร้างไซต์ทดสอบและโจมตีแบบ LLM เพื่อตรวจสอบโครงสร้างความปลอดภัยอย่างต่อเนื่อง บริษัทจัดลำดับความสำคัญของการตรวจสอบเวกเตอร์การโจมตีที่อาจก่อให้เกิดอันตรายที่ยั่งยืน โดยเฉพาะอย่างยิ่งการโจมตีที่มุ่งเป้าไปที่ธุรกรรมทางการเงินหรือการขโมยข้อมูลรับรอง

กลไกการอัปเดตอัตโนมัติของ Chrome จะส่งการแก้ไขปัญหาด้วยความเร็วเมื่อความอ่อนไหวใหม่ถูกพบ เพื่อส่งเสริมการวิจัยด้านความปลอดภัยภายนอก Google ได้ประกาศการชำระเงินรางวัลสูงถึง $20,000 สำหรับนักวิจัยที่พบจุดอ่อนในโครงสร้างการเรียกดูแบบเอเย่นต์

การป้องกันเหล่านี้สะท้อนถึงบทเรียนที่ได้เรียนรู้จากส่วนขยายเบราว์เซอร์ AI ในช่วงแรกและอินเทอร์เฟซเชื่อมต่อแชทบอท ซึ่งการโจมตีแบบ prompt injection ได้พิสูจน์แล้วว่ามีประสิทธิภาพในการบงการพฤติกรรม AI ด้วยการแยกโมเดลผู้วิพากษ์วิจารณ์และการจำกัดการเข้าถึงจุดเริ่มต้นที่ระดับเบราว์เซอร์ Google มุ่งหมายที่จะป้องกันไม่ให้หน้าเว็บเองกลายเป็นพื้นที่โจมตี

ผลกระทบต่อการแข่งขันเบราว์เซอร์ AI

การเปิดเผยรายละเอียดด้านความปลอดภัยของ Google สอดคล้องกับความไม่โปร่งใสของระบบเบราว์เซอร์เอเย่นต์ที่แข่งขันกัน บริษัทดูเหมือนจะเดิมพันว่าผู้ใช้ในองค์กรและผู้ใช้ที่ตระหนักถึงความปลอดภัยจะให้คุณค่าความปลอดภัยที่โปร่งใสมากกว่าคุณสมบัติแรก

สถาปัตยกรรมยังชี้ให้เห็นถึงสิ่งที่ Google พิจารณาว่าเป็นอิสระที่ยอมรับได้สำหรับเอเย่นต์ AI การช็อปปิ้ง การวิจัย และการกรอกแบบฟอร์มสามารถดำเนินต่อไปด้วยการดูแล แต่สิ่งที่เกี่ยวข้องกับบัญชีทางการเงิน ข้อมูลสุขภาพ หรือข้อมูลรับรองจะจำเป็นต้องมีการอนุมัติจากมนุษย์อย่างชัดเจน สิ่งนี้วาดเส้นแบ่งที่ชัดเจนซึ่งผู้ขายรายอื่นไม่เต็มใจที่จะกำหนดไว้แบบเปิดเผย

สำหรับนักพัฒนาที่สร้างบนแพลตฟอร์มของ Chrome การจำกัดชุดจุดเริ่มต้นจะกำหนดให้พิจารณาอย่างรอบคอบเกี่ยวกับวิธีการที่คุณสมบัติเอเย่นต์โต้ตอบกับเวิร์กโฟลว์หลายไซต์ แอปพลิเคชันที่คาดหวังให้เอเย่นต์นำทางข้ามโดเมนอย่างอิสระอาจต้องมีการเปลี่ยนแปลงทางสถาปัตยกรรมเพื่อทำงานภายในโมเดลความปลอดภัยของ Google

Google ยังไม่ได้ประกาศวันที่เปิดตัวที่แน่นอนสำหรับคุณสมบัติการเรียกดูแบบเอเย่นต์ใน Chrome แต่โครงสร้างความปลอดภัยที่มีรายละเอียดบ่งชี้ว่าการวางจำหน่ายกำลังจะมาถึง ความเต็มใจของบริษัทในการเผยแพร่สถาปัตยกรรมการป้องกันก่อนการเปิดตัวบ่งบอกถึงความมั่นใจในแนวทางนี้ – และความท้าทายที่ไม่ได้ระบุชื่อแก่คู่แข่งให้เทียบเท่ากับความโปร่งใส