ความคิดเห็น
AI กำลังเข้ามาอยู่ในพีซีของเรา — แต่ใครเป็นผู้ควบคุมสิ่งที่ AI มองเห็น?

ประเด็นสำคัญการประมวลผล AI…
ดูเพิ่มเติม
- การประมวลผล AI ภายในเครื่องไม่ได้ให้การรับประกันความเป็นส่วนตัวหรือความปลอดภัยสำหรับเอเจนต์บนอุปกรณ์โดยอัตโนมัติ
- เอเจนต์ต้องทำงานภายใต้สิทธิ์การเข้าถึงน้อยที่สุดซึ่งจำกัดเฉพาะสิ่งที่แต่ละเวิร์กโฟลว์นั้นต้องการ
- ผู้ใช้จำเป็นต้องมีการควบคุมที่โปร่งใสและเพิกถอนได้เหนือสิ่งที่เอเจนต์สามารถมองเห็นและทำได้
เอเจนต์ AI เริ่มก้าวออกจากหน้าต่างแชต เข้ามาทำงานในระบบปฏิบัติการ แอปพลิเคชัน และไฟล์ที่ผู้คนใช้ในชีวิตประจำวัน
พีซี Windows รุ่นใหม่และซอฟต์แวร์ที่เปิดตัวในช่วงไม่กี่เดือนที่ผ่านมา กำลังนำพาผู้ใช้ทั่วไปและองค์กรเข้าสู่ยุคใหม่ของเวิร์กโฟลว์ AI อัตโนมัติที่ทำงานได้หลายขั้นตอน และการเปลี่ยนแปลงนี้ไม่ได้เป็นเพียงการคาดการณ์ด้านเทคโนโลยีอีกต่อไป
พีซี Windows ที่ขับเคลื่อนด้วย RTX ของ NVIDIA รองรับการทำงานของเอเจนต์ AI บนอุปกรณ์ ขณะที่ Perplexity ได้ขยายขีดความสามารถของเอเจนต์ให้รองรับคอมพิวเตอร์ Windows ที่เข้ากันได้ ทำให้สามารถทำเวิร์กโฟลว์ที่เกี่ยวข้องกับไฟล์ในเครื่องและแอปพลิเคชันที่เชื่อมต่อได้ ในขณะเดียวกัน Microsoft ก็กำลังพัฒนามาตรการป้องกันเพื่อควบคุมวิธีที่เอเจนต์เข้าถึงทรัพยากรและดำเนินการต่าง ๆ
อย่างไรก็ตาม ความเป็นอิสระที่เพิ่มขึ้นก็มาพร้อมกับความเสี่ยงด้านความปลอดภัยที่สูงขึ้น เมื่อวันที่ 19 ตุลาคม Hayete Gallot รองประธานบริหารฝ่ายความปลอดภัยของ Microsoft เตือนว่าองค์กรต่าง ๆ ต้องเพิ่มความพยายามในการรักษาความปลอดภัยให้กับ “บุคลากรภายในที่ขับเคลื่อนด้วยเอเจนต์” โดยชี้ว่าเอเจนต์ AI มักได้รับสิทธิ์เกินความจำเป็น และสามารถเข้าถึงข้อมูลที่ละเอียดอ่อน เครื่องมือ และระบบต่าง ๆ พร้อมกับตัดสินใจในกระบวนการสำคัญ
กลยุทธ์ด้านความปลอดภัยของ Windows จาก Microsoft ตั้งอยู่บนการจำกัดขอบเขต การให้สิทธิ์อย่างจำกัด และการกำกับดูแลอย่างจำกัด ขณะเดียวกันก็มีความกังวลเพิ่มขึ้นว่าความผิดพลาดของเอเจนต์อาจส่งผลกระทบเกินกว่าจะเป็นเพียงคำตอบที่ผิด เอเจนต์อาจเปิดเผยข้อมูลที่ละเอียดอ่อน แก้ไขไฟล์สำคัญ หรือทำกิจกรรมที่ไม่พึงประสงค์ภายในแอปพลิเคชันทางธุรกิจ
AI ที่ทำงานในเครื่องไม่ได้หมายความว่าจะเป็น AI ที่รักษาความเป็นส่วนตัวได้โดยอัตโนมัติ
การใช้เอเจนต์ AI บนพีซีอาจช่วยลดปริมาณข้อมูลที่ละเอียดอ่อนซึ่งส่งไปยังบริการบนคลาวด์ได้ แต่การประมวลผลภายในเครื่องก็ไม่ได้เป็นหลักประกันความปลอดภัยอย่างสมบูรณ์
แม้แต่โมเดลที่ทำงานบนอุปกรณ์ก็ยังอาจเข้าถึงไฟล์มากเกินไป มีการรักษาความปลอดภัยที่ไม่ดี หรือเชื่อมต่อกับแอปอื่นอย่างไม่ปลอดภัย
Bayron Quintero ซีอีโอและผู้ร่วมก่อตั้ง iData Global บริษัทที่เชี่ยวชาญด้านโซลูชัน AI ทั่วทวีปอเมริกา กล่าวว่าปัญหาไม่ได้อยู่ที่โมเดล AI เสมอไป แต่บ่อยครั้งอยู่ที่การกำกับดูแลภายในองค์กร
เขากล่าวกับ Unite AI ว่าบริษัทต่าง ๆ อาจให้สิทธิ์เข้าถึงข้อมูล แอปพลิเคชัน และกระบวนการทางธุรกิจมากหรือน้อยเกินไป เอเจนต์อาจได้รับสิทธิ์ที่ไม่สอดคล้องกับงานที่คาดหวังให้ทำ
Quintero กล่าวว่า “ความท้าทายคือการทำให้มั่นใจว่าเอเจนต์ทำงานภายใต้หลักการให้สิทธิ์เท่าที่จำเป็น โดยเข้าถึงเฉพาะข้อมูล ระบบ และการดำเนินการที่จำเป็นสำหรับเวิร์กโฟลว์หนึ่ง ๆ เท่านั้น” นั่นหมายถึงการให้สิทธิ์เข้าถึงเฉพาะข้อมูล ระบบ และการดำเนินการที่จำเป็นสำหรับเวิร์กโฟลว์เฉพาะอย่างเท่านั้น
เขาระบุว่าการกำหนดเจ้าของข้อมูลให้ชัดเจน การควบคุมการเข้าถึงตามบทบาท และการติดตามตรวจสอบปฏิสัมพันธ์กับระบบภายในและระบบของบุคคลที่สามอย่างต่อเนื่อง เป็นมาตรการป้องกันที่จำเป็น
Quintero เน้นย้ำว่า AI ที่ทำงานในเครื่องอย่างปลอดภัยนั้นไม่มีอยู่จริง
การให้สิทธิ์มากเกินไป การเข้ารหัสที่อ่อนแอ การติดตามตรวจสอบที่ไม่เพียงพอ และการเชื่อมต่อที่ไม่ปลอดภัย อาจทำให้เอเจนต์ที่ทำงานบนอุปกรณ์มีความเสี่ยงพอ ๆ กับเอเจนต์บนคลาวด์ หรือมีความเสี่ยงยิ่งกว่า
ความปลอดภัยไม่ได้ขึ้นอยู่เพียงว่าโมเดลของระบบทำงานอยู่ที่ใด แต่ยังขึ้นอยู่กับการกำหนดค่าและการจัดการระบบด้วย
ขอบเขตใหม่คือสิทธิ์การเข้าถึง
คำถามสำหรับผู้ใช้ทั่วไปคือ เอเจนต์ AI ได้รับสิทธิ์เข้าถึงอย่างเหมาะสมกับงานที่ต้องทำหรือไม่
เอเจนต์ไม่ควรต้องสแกนทั้งไดรฟ์ หากได้รับคำขอให้สรุปเอกสารเพียงฉบับเดียว เครื่องมือจัดระเบียบรูปภาพก็ไม่ควรอ่านข้อมูลทางการเงินหรือส่งข้อความได้โดยอัตโนมัติ สิทธิ์การเข้าถึงต้องกำหนดอย่างรัดกุม โปร่งใส และเพิกถอนได้
โมเดลบัญชีเอเจนต์และพื้นที่ทำงานของ Microsoft เป็นก้าวหนึ่งในการแยกกิจกรรมของเอเจนต์ออกจากเซสชันของบุคคล อย่างไรก็ตาม มาตรการคุ้มครองต้องใช้ได้ผลจริงนอกเหนือจากช่วงสาธิต
แนวทางด้านความปลอดภัยของเอเจนต์บน Windows จาก Microsoft กำหนดให้มีการอนุมัติจากผู้ใช้ บันทึกกิจกรรม และกลไกที่ช่วยจำกัดเอเจนต์ให้เข้าถึงเฉพาะสิ่งที่จำเป็น นายจ้างและนักพัฒนาต้องติดตามตรวจสอบว่าเอเจนต์ตอบสนองต่อคำสั่งที่ชี้นำไปในทางที่ผิดซึ่งอยู่ในเอกสาร เว็บไซต์ หรือข้อความอย่างไร
ระหว่างทำงานที่ได้รับอนุญาต เอเจนต์อาจพบเนื้อหาที่ไม่น่าเชื่อถือ หากเอเจนต์ตีความข้อความที่เป็นอันตรายว่าเป็นคำสั่ง ก็อาจก่อให้เกิดปัญหาด้านความปลอดภัยร้ายแรงได้ เพราะสามารถเข้าถึงข้อมูลได้ง่าย
การอนุมัติจากมนุษย์และการให้สิทธิ์เท่าที่จำเป็นต้องดำเนินควบคู่ไปกับการจำกัดขอบเขตสำหรับการดำเนินการที่เกี่ยวข้องกับข้อมูลละเอียดอ่อน
ความสะดวกต้องมาพร้อมขอบเขตที่ชัดเจน
การประเมินพีซี AI จะไม่ได้พิจารณาเพียงปริมาณงานที่เอเจนต์ทำให้เป็นอัตโนมัติได้เท่านั้น แต่ยังรวมถึงความไว้วางใจของผู้ใช้ในการแบ่งปันข้อมูลส่วนบุคคลและข้อมูลด้านอาชีพด้วย
แม้ AI แบบเอเจนต์ ที่ประมวลผลในเครื่องจะช่วยเพิ่มความเร็วและลดการเปิดเผยข้อมูลบางประเภทได้ แต่ก็ไม่ได้ทำให้ไม่จำเป็นต้องมีการกำหนดสิทธิ์และการกำกับดูแล
หลักการควรเรียบง่ายตรงไปตรงมา: เอเจนต์ควรเข้าถึงได้เฉพาะสิ่งที่จำเป็นต่อการทำงาน และผู้ใช้ควรเข้าใจ ติดตาม และระงับสิ่งที่เอเจนต์ทำได้
เมื่อคอมพิวเตอร์มีความสามารถในการลงมือทำแทนเรามากขึ้น การควบคุมต้องไม่ใช่สิ่งที่ค่อยคิดถึงภายหลัง แต่ต้องเป็นส่วนหนึ่งของการออกแบบ












