AI-First หมายถึง Safety-First

ซื้อจักรยานใหม่ให้เด็ก และจักรยานจะได้รับความสนใจ ไม่ใช่หมวกกันกระแทกที่มาพร้อมกับมัน แต่พ่อแม่จะชื่นชมหมวกกันกระแทก

ฉันกลัวว่าหลายคนในปัจจุบันคล้ายกับเด็กๆ เมื่อพูดถึง AI เราให้ความสนใจกับว่ามันเจ๋งแค่ไหน และเราสามารถไปได้เร็วแค่ไหนกับมัน ไม่ใช่สิ่งที่เราสามารถทำได้เพื่อความปลอดภัยเมื่อใช้งาน มันคือความเสียดายเพราะคุณไม่สามารถมีส่วนประโยชน์ของสิ่งหนึ่งโดยไม่มีอีกสิ่งหนึ่ง

โดยสรุป การใช้ AI โดยไม่วางแผนความปลอดภัยก่อนไม่ใช่แค่เสี่ยง มันคือเส้นทางที่ตรงไปสู่หน้าผา

AI Safety หมายถึงอะไร?

ความปลอดภัยของ AI bao gồmขั้นตอนหลายอย่าง แต่อาจเป็นสิ่งสำคัญที่สุดคือ เมื่อ ที่จะดำเนินการเหล่านั้น เพื่อให้ AI Safety มีประสิทธิภาพ มันจะต้อง ออกแบบมา

หมายความว่าเราจะพิจารณาวิธีการป้องกันความเสียหายก่อนที่จะทดลองใช้งาน เราจะหาวิธีให้ AI ทำงานและสร้างผลลัพธ์ตามค่านิยมและความคาดหวังของสังคมก่อนที่จะเกิดผลลัพธ์ที่น่ากลัว

การออกแบบสำหรับความปลอดภัยของ AI ยังรวมถึงการคิดวิธีการทำให้มันแข็งแรง หรือสามารถทำงานได้ตามที่คาดหวังแม้ในสถานการณ์ที่ไม่เอื้ออำนวย มันหมายถึงการทำให้ AI เป็นโปร่งใส เพื่อให้การตัดสินใจของ AI เป็นไปตามที่เข้าใจได้ และไม่มีอคติ

และยังรวมถึงการตรวจสอบโลกที่ AI จะทำงานใน อะไรคือการป้องกันทางสถาบันและกฎหมายที่เราต้องการ โดยเฉพาะอย่างยิ่งในการปฏิบัติตามกฎระเบียบของรัฐบาลที่เกี่ยวข้อง และฉันไม่สามารถเน้นย้ำถึงส่วนประกอบของคนได้ มันจะส่งผลต่อคนอย่างไรที่โต้ตอบกับมัน

ความปลอดภัยโดยการออกแบบหมายถึงการฝังความปลอดภัยของ AI ลงในกระบวนการ ทุกๆ การทำงาน และการดำเนินงานก่อนที่เราจะพิมพ์คำสั่งให้มัน

ความเสี่ยงมากกว่าความกังวล

ไม่ทุกคนที่เห็นด้วย เมื่อพวกเขาฟัง “ความปลอดภัยก่อน” บางคนอาจคิดว่ามันหมายถึงการเดินอย่างระมัดระวังและช้าจนถูกทิ้งไว้หลัง ของจริงแล้วไม่ใช่สิ่งที่ความปลอดภัยก่อนหมายถึง มันไม่จำเป็นต้องขัดขวางนวัตกรรมหรือชะลอการออกสู่ตลาด และไม่หมายถึงการทดลองที่ไม่มีวันเติบโต มันหมายถึงการเข้าใจความเสี่ยงของ ไม่ การออกแบบความปลอดภัยเข้าไปใน AI

พิจารณาเพียงไม่กี่ข้อ

• Deloitte’s Center for Financial Services คาดการณ์ว่า GenAI อาจเป็นสาเหตุของการขาดทุนจากการฉ้อโกงถึง 40,000 ล้านเหรียญสหรัฐในประเทศสหรัฐอเมริกาเพียงอย่างเดียวภายในปี 2027 จาก 12.3 พันล้านเหรียญสหรัฐในปี 2023 ซึ่งเป็นการเติบโต 32% ต่อปี
• การตัดสินใจที่มีอคติ กรณีศึกษา การดูแลสุขภาพที่มีอคติ เนื่องมาจาก AI ที่ได้รับการฝึกอบรมจากข้อมูลที่มีอคติ
• การตัดสินใจที่ไม่ดีที่ทำให้เกิดการตัดสินใจที่ไม่ดีอีก ไม่ดีกว่าการตัดสินใจที่ไม่ดีในตอนแรกที่ได้รับแรงบันดาลใจจาก AI ที่มีข้อบกพร่อง การศึกษาพบว่า ว่าการตัดสินใจที่ไม่ดีเหล่านั้นสามารถกลายเป็นส่วนหนึ่งของวิธีการที่เราคิดและตัดสินใจในอนาคต
• ผลที่ตามมาในโลกแห่งความเป็นจริง. AI ที่ให้คำแนะนำทางการแพทย์ที่ไม่ดีทำให้เกิดผลลัพธ์ที่รุนแรงต่อผู้ป่วย ผลทางกฎหมายเกิดขึ้นจากการที่อ้างอิงถึงการหลอกลวงของ AI และข้อผิดพลาดของซอฟต์แวร์ที่เกิดจาก AI ที่ให้ข้อมูลที่ไม่ถูกต้องทำให้ผลิตภัณฑ์ของบริษัทและชื่อเสียงของบริษัทเสียหายและทำให้ผู้ใช้ไม่พอใจ

และเรื่องราวจะยิ่งซับซ้อนขึ้น

การมาถึงและ การนำ AI ที่มีเจตนา ซึ่งเป็น AI ที่สามารถทำงานอิสระเพื่อทำการตัดสินใจและดำเนินการตามนั้น จะทำให้ความสำคัญของการออกแบบความปลอดภัยของ AI เพิ่มขึ้น

ตัวแทน AI ที่สามารถทำงานแทนคุณได้จะเป็นประโยชน์อย่างมาก แทนที่จะบอกคุณเกี่ยวกับเที่ยวบินที่ดีที่สุดสำหรับการเดินทาง มันสามารถค้นหาและจองเที่ยวบินให้คุณได้ หากคุณต้องการคืนผลิตภัณฑ์ ตัวแทน AI ของบริษัทสามารถไม่เพียงแต่บอกคุณเกี่ยวกับนโยบายการคืนและวิธีการคืน แต่ยังสามารถจัดการธุรกรรมทั้งหมดให้คุณได้

ดีๆ — ถ้าตัวแทนไม่หลอกลวงหรือจัดการข้อมูลทางการเงินของคุณผิดพลาด หรือเข้าใจนโยบายการคืนของบริษัทผิดและปฏิเสธการคืนที่ถูกต้อง

ไม่ยากที่จะเห็นว่าความเสี่ยงของ AI ในปัจจุบันสามารถเพิ่มขึ้นได้ง่ายๆ เมื่อตัวแทน AI หลายตัวกำลังทำงานและตัดสินใจ โดยเฉพาะอย่างยิ่งเมื่อตัวแทนเหล่านั้นไม่น่าจะทำงานคนเดียว ส่วนใหญ่ของมูลค่าที่แท้จริงของ AI ที่มีเจตนามาจากทีมของตัวแทน โดยที่ตัวแทนแต่ละตัวจัดการส่วนหนึ่งของงานและร่วมมือกัน — ตัวแทนถึงตัวแทน — เพื่อทำงานให้เสร็จ

那么คุณจะทำอย่างไรจึงจะสามารถใช้ AI โดยมีความปลอดภัยโดยการออกแบบโดยไม่ขัดขวางนวัตกรรมและความสามารถของมัน

ความปลอดภัยโดยการออกแบบในทางปฏิบัติ

การตรวจสอบความปลอดภัยแบบ Ad Hoc ไม่ใช่คำตอบ แต่การรวมการปฏิบัติความปลอดภัยเข้ากับทุกขั้นตอนของการนำ AI ไปใช้จะเป็นคำตอบ

เริ่มต้นด้วยข้อมูล ให้แน่ใจว่าข้อมูลได้รับการทำเครื่องหมาย ระบุว่าจำเป็น ไม่มีอคติ และมีคุณภาพสูง ซึ่งเป็นเรื่องสำคัญสำหรับข้อมูลการฝึกอบรม

ฝึกอบรมโมเดลของคุณด้วยการให้ข้อมูลจากมนุษย์ เนื่องจากการตัดสินใจของมนุษย์เป็นสิ่งจำเป็นในการกำหนดพฤติกรรมของโมเดล เทคนิคการเรียนรู้แบบเสริมกำลังด้วยการให้ข้อมูลจากมนุษย์ (RLHF) และเทคนิคอื่นๆ ที่คล้ายกันทำให้ผู้ทำเครื่องหมายสามารถให้คะแนนและชี้แนะการตอบสนอง ช่วยให้โมเดลภาษาขนาดใหญ่ (LLM) สร้างผลลัพธ์ที่ปลอดภัยและเป็นไปตามค่านิยมของมนุษย์

จากนั้น ก่อนที่คุณจะเผยแพร่โมเดล ให้ทดสอบมัน ทีมที่พยายามกระตุ้นพฤติกรรมที่ไม่ปลอดภัยโดยใช้คำสั่งแบบ Adversarial, กรณีชายขอบ และการพยายามหลบหนีสามารถเปิดเผยจุดอ่อนได้ การแก้ไขจุดอ่อนเหล่านั้นก่อนที่จะเผยแพร่สู่สาธารณะจะช่วยให้แน่ใจว่ามีความปลอดภัยก่อนที่จะมีปัญหา

ในขณะที่การทดสอบนี้ทำให้แน่ใจว่าโมเดล AI ของคุณมีความแข็งแรง ให้ตรวจสอบอย่างต่อเนื่องด้วยการตรวจสอบภัยคุกคามที่เกิดขึ้นใหม่และการปรับเปลี่ยนที่อาจจำเป็นสำหรับโมเดล

ในทำนองเดียวกัน ตรวจสอบแหล่งข้อมูลและปฏิสัมพันธ์ทางดิจิทัลเป็นประจำเพื่อหาสัญญาณของการฉ้อโกง เป็นสิ่งสำคัญที่จะใช้แนวทางที่ผสมผสานระหว่าง AI และมนุษย์ โดยให้ AI จัดการข้อมูลจำนวนมาก และมนุษย์ที่มีทักษะจัดการการตรวจสอบเพื่อให้แน่ใจถึงความถูกต้อง

การนำ AI ที่มีเจตนาไปใช้จำเป็นต้องมีการดูแลมากขึ้น ข้อกำหนดพื้นฐาน: ฝึกตัวแทนให้รู้จักข้อจำกัดของมัน เมื่อมันพบความไม่แน่นอน ปัญหาเชิงจริยธรรม สถานการณ์ใหม่ หรือการตัดสินใจที่มีความเสี่ยงสูง ให้แน่ใจว่ามันรู้วิธีขอความช่วยเหลือ

และออกแบบให้ตัวแทนสามารถติดตามได้ ซึ่งเป็นสิ่งสำคัญเพื่อให้แน่ใจว่าปฏิสัมพันธ์ของมันเกิดขึ้นเฉพาะกับผู้ใช้ที่ได้รับการยืนยันเท่านั้น เพื่อหลีกเลี่ยงการกระทำที่ไม่เหมาะสมที่อาจมีอิทธิพลต่อการกระทำของตัวแทน

หากดูเหมือนว่าตัวแทนกำลังทำงานได้ดี อาจมีความ诱惑ให้ปล่อยให้ตัวแทนทำงานโดยไม่มีการควบคุม แต่ประสบการณ์ของเราบอกว่าควรตรวจสอบตัวแทนและงานที่พวกมันทำอย่างต่อเนื่องเพื่อดูว่ามีข้อผิดพลาดหรือพฤติกรรมที่ไม่คาดคิดหรือไม่ ใช้การตรวจสอบอัตโนมัติและทีมงานมนุษย์

ในความเป็นจริง ส่วนสำคัญของความปลอดภัยของ AI คือการมีส่วนร่วมของมนุษย์อย่างต่อเนื่อง มนุษย์ควรได้รับการมอบหมายให้ทำงานในกรณีที่ต้องใช้การตัดสินใจที่สำคัญ ความเห็นอกเห็นใจ หรือความซับซ้อนที่ต้องการความละเอียดอ่อน

อีกครั้ง เพื่อให้แน่ใจว่าสิ่งเหล่านี้เป็นแนวปฏิบัติที่คุณสร้างไว้ล่วงหน้า โดยการออกแบบ ไม่ใช่สิ่งที่เกิดขึ้นหลังจากที่มีปัญหาแล้ว

มันใช้ได้ผลหรือไม่?

เรามีการใช้ปรัชญา AI Safety First และกรอบการทำงาน “โดยการออกแบบ” กับลูกค้าของเราในระหว่างการเกิดขึ้นของ GenAI และตอนนี้กำลังเดินทางสู่ AI ที่มีเจตนา เราพบว่าตรงกันข้ามกับความกังวลที่จะชะลอความเร็ว มันช่วยให้เราสามารถเร่งความเร็วได้

AI ที่มีเจตนามีศักยภาพที่จะลดต้นทุนการสนับสนุนลูกค้าลง 25-50% ในขณะที่เพิ่มความพึงพอใจของลูกค้า แต่นั่นขึ้นอยู่กับความไว้วางใจ

มนุษย์ที่ใช้ AI ต้องไว้วางใจมัน และลูกค้าที่โต้ตอบกับตัวแทน AI หรือตัวแทน AI จริงๆ ไม่สามารถมีประสบการณ์ที่จะทำให้ความไว้วางใจของพวกเขาเสื่อมถอยได้ ประสบการณ์ที่ไม่ดีเพียงครั้งเดียวสามารถทำลายความเชื่อมั่นในแบรนด์ได้

เราจะไม่ไว้วางใจสิ่งที่ไม่ปลอดภัย ดังนั้น เมื่อเราออกแบบความปลอดภัยเข้าไปใน AI ที่เรากำลังจะเผยแพร่ เราสามารถทำได้ด้วยความมั่นใจ และเมื่อเราพร้อมที่จะขยายขนาด เราสามารถทำได้อย่างรวดเร็ว — ด้วยความมั่นใจ

ในขณะที่การนำ AI Safety First ไปใช้อาจดูเหมือนยาก คุณไม่ได้อยู่คนเดียว มีหลายผู้เชี่ยวชาญที่สามารถช่วยเหลือและหุ้นส่วนที่สามารถแบ่งปันสิ่งที่พวกเขาได้เรียนรู้และกำลังเรียนรู้เพื่อให้คุณสามารถใช้คุณค่าของ AI ได้อย่างปลอดภัยโดยไม่ชะลอความเร็วของคุณ

AI เป็นการเดินทางที่น่าตื่นเต้นจนถึงตอนนี้ และเมื่อการเดินทางเร่งความเร็วขึ้น ฉันรู้สึกตื่นเต้น แต่ฉันก็ยังดีใจที่ฉันสวมหมวกกันกระแทก