ผู้นำทางความคิด

พิจารณาความเสี่ยงก่อนที่คุณจะเริ่มใช้ Bard พร้อมกับ AI Extensions

Tal Zamir
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญพนักงานของ Google สามารถตรวจสอบบทสนทนาใน Bard ที่มีข้อมูลส่วนตัวของผู้ใช้ได้
ดูเพิ่มเติม
  • พนักงานของ Google สามารถตรวจสอบบทสนทนาใน Bard ที่มีข้อมูลส่วนตัวของผู้ใช้ได้
  • การแบ่งปันบทสนทนาใน Bard อาจทำให้บทสนทนานั้นปรากฏในผลการค้นหาของ Google แบบสาธารณะได้
  • ส่วนขยายเบราว์เซอร์ที่มีการควบคุม DLP สามารถลดความเสี่ยงจากการขโมยข้อมูล AI ได้

Google เพิ่งประกาศเปิดตัว Bard Extensions อย่างเต็มรูปแบบ โดยผสานเครื่องมือ AI เชิงกำเนิด (GenAI) ที่สามารถสนทนาได้เข้ากับบริการอื่น ๆ ของบริษัท ขณะนี้ Bard สามารถใช้ข้อมูลส่วนบุคคลของผู้ใช้เพื่อทำงานได้หลากหลาย เช่น จัดระเบียบอีเมล จองเที่ยวบิน วางแผนการเดินทาง ร่างข้อความตอบกลับ และอีกมากมาย

เนื่องจากบริการของ Google เชื่อมโยงกับชีวิตประจำวันของเราอย่างลึกซึ้งอยู่แล้ว การผสานรวมนี้จึงเป็นก้าวสำคัญของการนำ GenAI มาใช้จริงในชีวิตประจำวัน ทำให้จัดการงานส่วนตัวและขั้นตอนการทำงานได้อย่างมีประสิทธิภาพและได้ผลผลิตมากขึ้น ด้วยเหตุนี้ เมื่อ Google ออกเครื่องมือ AI ที่สะดวกยิ่งขึ้น ฟีเจอร์ AI บนเว็บอื่น ๆ ก็เริ่มปรากฏขึ้นเพื่อตอบสนองความต้องการของผู้ใช้ที่กำลังมองหาส่วนขยายเพิ่มประสิทธิภาพการทำงานบนเบราว์เซอร์

อย่างไรก็ตาม ผู้ใช้ต้องระมัดระวังและมีความรับผิดชอบด้วย แม้ Bard Extensions และเครื่องมือคล้ายกันจะมีประโยชน์และช่วยเพิ่มผลผลิต แต่ก็เปิดช่องให้เกิดข้อบกพร่องด้านความปลอดภัยที่อาจเป็นอันตรายต่อข้อมูลส่วนบุคคล รวมถึงความเสี่ยงอื่น ๆ ที่ยังไม่ค้นพบ ผู้ที่ต้องการใช้ Bard หรือเครื่องมือเพิ่มประสิทธิภาพการทำงานแบบ GenAI อื่น ๆ ควรเรียนรู้แนวปฏิบัติที่ดีและหาวิธีรักษาความปลอดภัยที่ครอบคลุม ก่อนส่งมอบข้อมูลละเอียดอ่อนให้โดยไม่พิจารณา

การตรวจสอบข้อมูลส่วนบุคคล

Google ระบุอย่างชัดเจนว่าพนักงานของบริษัทอาจตรวจสอบการสนทนาของผู้ใช้กับ Bard ซึ่งอาจมีข้อมูลส่วนตัว ตั้งแต่ใบแจ้งหนี้และรายละเอียดธนาคารไปจนถึงข้อความบอกรัก ดังนั้นผู้ใช้จึงได้รับคำเตือนไม่ให้ป้อนข้อมูลลับหรือข้อมูลที่ไม่ต้องการให้พนักงาน Google เห็น หรือนำไปใช้ประกอบการพัฒนาผลิตภัณฑ์ บริการ และเทคโนโลยีแมชชีนเลิร์นนิง

Google และผู้ให้บริการเครื่องมือ GenAI รายอื่นยังมีแนวโน้มที่จะใช้ข้อมูลส่วนบุคคลของผู้ใช้ในการฝึกโมเดลแมชชีนเลิร์นนิงใหม่ ซึ่งเป็นส่วนที่จำเป็นต่อการปรับปรุง GenAI พลังของ AI อยู่ที่ความสามารถในการเรียนรู้ด้วยตนเองและเรียนรู้จากข้อมูลใหม่ แต่เมื่อข้อมูลใหม่นั้นมาจากผู้ใช้ที่ไว้วางใจให้ส่วนขยาย GenAI ดูแลข้อมูลส่วนบุคคล ก็มีความเสี่ยงที่ข้อมูล เช่น รหัสผ่าน ข้อมูลธนาคาร หรือรายละเอียดการติดต่อ จะถูกรวมเข้าไปในบริการของ Bard ที่เปิดให้สาธารณชนใช้

ข้อกังวลด้านความปลอดภัยที่ยังไม่ชัดเจน

เมื่อ Bard ถูกผสานเข้ากับ Google อย่างกว้างขวางยิ่งขึ้น ทั้งผู้เชี่ยวชาญและผู้ใช้ยังคงพยายามทำความเข้าใจขอบเขตการทำงานของมัน แต่เช่นเดียวกับผู้บุกเบิกเทคโนโลยี AI รายอื่น Google ยังคงออกผลิตภัณฑ์โดยไม่ทราบแน่ชัดว่าจะใช้ข้อมูลของผู้ใช้อย่างไร ตัวอย่างเช่น มีการเปิดเผยเมื่อไม่นานมานี้ว่า หากคุณแชร์การสนทนากับ Bard ให้เพื่อนผ่านปุ่มแชร์ บทสนทนาทั้งหมดอาจปรากฏในผลการค้นหา Google ตามปกติให้ใคร ๆ เห็นได้

แม้จะเป็นวิธีที่น่าสนใจในการปรับปรุงขั้นตอนการทำงานและประสิทธิภาพ แต่การอนุญาตให้ Bard หรือส่วนขยาย AI อื่นทำงานประจำวันแทนคุณ อาจนำไปสู่ผลที่ไม่พึงประสงค์จากอาการหลอนของ AI ซึ่งเป็นผลลัพธ์ที่ผิดหรือไม่แม่นยำที่ GenAI อาจสร้างขึ้นในบางครั้ง

สำหรับผู้ใช้ Google นั่นอาจหมายถึงการจองเที่ยวบินผิด การชำระใบแจ้งหนี้ผิดพลาด หรือการแชร์เอกสารกับคนผิด การเปิดเผยข้อมูลส่วนบุคคลให้ผิดฝ่ายหรือให้ผู้ไม่หวังดี หรือการส่งข้อมูลผิดชุดให้ผู้รับที่ถูกต้อง อาจนำไปสู่ผลที่ไม่ต้องการ ตั้งแต่การขโมยตัวตนและการสูญเสียความเป็นส่วนตัวทางดิจิทัล ไปจนถึงความเสียหายทางการเงินหรือการเปิดเผยข้อความติดต่อที่น่าอับอาย

การเสริมความปลอดภัย

สำหรับผู้ใช้ AI ทั่วไป แนวปฏิบัติที่ดีที่สุดคืออย่าแบ่งปันข้อมูลส่วนบุคคลใด ๆ กับผู้ช่วย AI ที่ยังคาดเดาพฤติกรรมไม่ได้ แต่เพียงเท่านี้ก็ไม่ได้รับประกันความปลอดภัยอย่างสมบูรณ์

การเปลี่ยนไปใช้ซอฟต์แวร์ในรูปบริการ (SaaS) และแอปพลิเคชันบนเว็บทำให้เบราว์เซอร์เป็นเป้าหมายหลักของผู้โจมตีอยู่แล้ว และเมื่อผู้คนเริ่มใช้เครื่องมือ AI บนเว็บมากขึ้น โอกาสในการขโมยข้อมูลละเอียดอ่อนก็ยิ่งเพิ่มขึ้น เมื่อส่วนขยายเบราว์เซอร์จำนวนมากพยายามอาศัยความสำเร็จของ GenAI โดยดึงดูดให้ผู้ใช้ติดตั้งด้วยฟีเจอร์ใหม่ที่มีประสิทธิภาพ ผู้ใช้ต้องตระหนักว่าส่วนขยายเหล่านี้จำนวนมากอาจลงท้ายด้วยการขโมยข้อมูล หรือขโมยคีย์ API ของ OpenAI ของผู้ใช้ในกรณีของเครื่องมือที่เกี่ยวข้องกับ ChatGPT

โชคดีที่มีโซลูชันรักษาความปลอดภัยสำหรับส่วนขยายเบราว์เซอร์เพื่อป้องกันการขโมยข้อมูลอยู่แล้ว. การติดตั้งส่วนขยายเบราว์เซอร์ที่มีมาตรการป้องกันข้อมูลสูญหาย (DLP) ช่วยลดความเสี่ยงที่ส่วนขยายอื่น ไม่ว่าจะใช้ AI หรือไม่ จะนำข้อมูลส่วนบุคคลไปใช้ในทางที่ผิดหรือแชร์ต่อ ส่วนขยายด้านความปลอดภัยเหล่านี้สามารถตรวจสอบกิจกรรมของเบราว์เซอร์และบังคับใช้นโยบายความปลอดภัย เพื่อป้องกันไม่ให้แอปพลิเคชันบนเว็บฉวยเอาข้อมูลละเอียดอ่อนไป

การปกป้อง Bard

แม้ Bard และส่วนขยายคล้ายกันจะสัญญาว่าจะเพิ่มผลผลิตและความสะดวก แต่ก็มีความเสี่ยงด้านความมั่นคงปลอดภัยไซเบอร์อย่างมาก เมื่อเกี่ยวข้องกับข้อมูลส่วนบุคคล ย่อมมีข้อกังวลด้านความปลอดภัยแฝงอยู่ที่ผู้ใช้ต้องตระหนัก โดยเฉพาะในโลกของ AI เชิงกำเนิดที่ยังใหม่และยังสำรวจได้ไม่ทั่วถึง

เมื่อผู้ใช้ปล่อยให้ Bard และเครื่องมือ AI รวมถึงเครื่องมือบนเว็บอื่น ๆ จัดการข้อมูลส่วนบุคคลที่ละเอียดอ่อนได้ด้วยตนเอง ผู้ใช้ที่ไม่รู้เท่าทันและปล่อยให้ตนเองมีช่องโหว่โดยไม่มีส่วนขยายรักษาความปลอดภัยเบราว์เซอร์หรือมาตรการ DLP ย่อมเสี่ยงต่อผลกระทบที่รุนแรงขึ้น ท้ายที่สุด ผลผลิตที่เพิ่มขึ้นย่อมมีประโยชน์น้อยลงมากหากเพิ่มโอกาสเปิดเผยข้อมูล ผู้ใช้จึงต้องวางมาตรการป้องกันสำหรับ AI ก่อนที่ข้อมูลจะถูกจัดการผิดพลาดจนเกิดความเสียหายกับตนเอง

Tal เป็น Chief Technology Officer ที่ Perception Point ในช่วงก่อนหน้านี้เป็นผู้ก่อตั้งและ CTO ของ Hysolate Tal Zamir เป็นผู้นำในอุตสาหกรรมซอฟต์แวร์เป็นเวลา 20 ปี โดยมีประวัติการแก้ปัญหาทางธุรกิจที่เร่งด่วนโดยการคิดทบทวนใหม่ว่าเทคโนโลยีทำงานอย่างไร

เขามีบทบาทสำคัญในการพัฒนาผลิตภัณฑ์ด้านความมั่นคงปลอดภัยไซเบอร์และเวอร์ชวลไลเซชันที่เป็นนวัตกรรมใหม่ Tal ได้สร้างผลิตภัณฑ์คอมพิวติ้งสำหรับผู้ใช้ปลายทางรุ่นใหม่ในขณะที่อยู่ในสำนักงาน CTO ที่ VMware