ออกแบบด้วยความรับผิดชอบ – ทำไม AI ต้องให้ความสำคัญกับมนุษย์ก่อน

ปัญญาประดิษฐ์กำลังเปลี่ยนแปลงประสบการณ์ดิจิทัลที่กำหนดชีวิตประจำวันของเรา จากการแนะนำผลิตภัณฑ์ที่เป็นส่วนตัวและการดูแลสุขภาพที่สามารถคาดการณ์ได้ ไปจนถึงการขับขี่อัตโนมัติและแม้กระทั่งการรอคอยในสวนสนุก AI ทำให้ประสบการณ์เหล่านี้มีราคาถูกขึ้น มีประสิทธิภาพมากขึ้น และแม้กระทั่งสนุกสนาน นั่นเป็นสิ่งที่ได้รับคำมั่นสัญญา

แต่เกิดขึ้นบ่อยเกินไปที่เราเจอข่าวที่เรียกว่า “ความล้มเหลวของ AI” — ช่วงเวลาที่ผู้ใช้รู้สึกถูกหลอกลวง ผิดหวัง หรือไม่เข้าใจ เมื่อความไว้วางใจถูกทำลาย ความสามารถของ AI ที่จะสร้างผลกระทบอย่างแท้จริงและประสิทธิผลก็ถูกทำลายด้วย

ความไว้วางใจของสาธารณชนกำลังลดลง ทำไม? เพราะระบบส่วนใหญ่ไม่ได้รับการออกแบบโดยคำนึงถึงประสบการณ์ของมนุษย์ — แต่ถูกออกแบบสำหรับสิ่งที่เร็ว มีประสิทธิภาพ และทำกำไรได้ สิ่งนี้ควรเป็นเหตุผลที่ทำให้บริษัททุกขนาดที่กำลังเพิ่มการลงทุนใน AI ต้องห่วงใย

เพื่อสร้างความไว้วางใจ บริษัทต่างๆ ต้องหยุดพักและถามคำถามที่ลึกซึ้งยิ่งขึ้น: ทำไมเราจึงสร้างระบบนี้? ควรสร้างระบบนี้หรือไม่? ในระยะสั้น เราได้ออกแบบ AI เพื่อรองรับความต้องการของมนุษย์หรือไม่ — หรือบังคับให้มนุษย์ปรับตัวเข้ากับตรรกะของเครื่องจักร?

ช่องว่างความไว้วางใจกับ AI

AI มักถูกพัฒนใน môi trườngเทคนิคที่แยกออกมา โดยที่ความสำเร็จถูกวัดจากความแม่นยำหรือความเร็ว และ ไม่ จากผลกระทบทางสังคมหรือความสามารถในการใช้งาน การคิดเชิงจริยธรรม ซึ่งเป็นส่วนประกอบหลักของความไว้วางใจ ไม่ได้รับการรวมเข้ากับกระบวนการพัฒนา AI โดยอัตโนมัติ การไม่เชื่อมต่อนี้ส่งผลให้ระบบที่อาจเป็นนวัตกรรมในทางทฤษฎี แต่ล้มเหลวในทางปฏิบัติ

ลองพิจารณา แชทบอทของ Air Canada ซึ่งให้ข้อมูลที่ไม่ถูกต้องแก่ลูกค้าเกี่ยวกับนโยบายค่าบริการในกรณีเสียชีวิต และบริษัทโต้แย้งว่าไม่รับผิดชอบต่อข้อความที่แชทบอทกล่าว หรือ แชทบอท AI ของ Meta ซึ่งให้ข้อความที่ไม่ถูกต้องในผลการค้นหา ตัวอย่างเหล่านี้สะท้อนถึงมากกว่าข้อผิดพลาดทางเทคนิค — แต่เป็นการเปิดเผยความล้มเหลวของระบบในการออกแบบแอปพลิเคชัน AI ที่มีความเห็นอกเห็นใจ มีเครื่องมือรักษาความปลอดภัย และมีบริบทในโลกแห่งความเป็นจริง

สาธารณชนได้สังเกตเห็นแล้ว ตาม ศูนย์วิจัย Pew 59% ของชาวอเมริกันและ 55% ของผู้เชี่ยวชาญ AI มีความไว้วางใจน้อยหรือไม่มีความไว้วางใจใดๆ ต่อบริษัทในสหรัฐฯ ในการพัฒนา AI อย่างรับผิดชอบ นั่นคือช่องว่างความไว้วางใจที่เราไม่สามารถเพิกเฉยได้

การออกแบบที่มีศูนย์กลางอยู่ที่มนุษย์ไม่ใช่สิ่งฟุ่มเฟือย

การออกแบบไม่ใช่การแต่งหน้าสำหรับ AI แต่เป็นรากฐานของวิธีการทำงานและวิธีการรับรู้ของระบบโดยผู้ใช้ปลายทาง การออกแบบที่มีศูนย์กลางอยู่ที่มนุษย์เริ่มต้นด้วยการทำความเข้าใจผู้ที่เรากำลังออกแบบสำหรับ: เป้าหมาย ความผิดหวัง ค่านิยม และความเป็นจริงที่พวกเขามีชีวิตอยู่

เป็นสิ่งจำเป็นในการออกแบบเพื่อถามคำถามที่เฉพาะเจาะจงเพื่อให้แน่ใจว่าเทคโนโลยีนี้รองรับความต้องการของมนุษย์ ไม่ใช่ในทางกลับกัน โดยการกำหนด:

• เรากำลังออกแบบสำหรับใคร?
• เป้าหมาย ค่านิยม และความท้าทายของพวกเขาคืออะไร?
• พวกเขามีปฏิสัมพันธ์กับระบบอย่างไรในด้านอารมณ์และการทำงาน?
• ผลิตภัณฑ์นี้น่าเชื่อถือหรือไม่ และมันทำสิ่งที่มันบอกว่าจะทำหรือไม่?
• มันส่งเสริมความ包容และความสามารถเข้าถึงสำหรับคนหลากหลายหรือไม่?

คำถามเหล่านี้ไม่ใช่คำถามที่เป็นนามธรรม แต่จะกำหนดรูปแบบการทำงานของ AI ในโลกแห่งความเป็นจริง และในบริบทที่มีความเสี่ยงสูง เช่น การดูแลสุขภาพ ความปลอดภัย หรือการศึกษา มันสามารถกำหนดได้ว่าระบบนั้นเป็นระบบที่ครอบคลุมและยุติธรรมหรือไม่

การออกแบบที่ดีกว่านี้ดูเหมือนอย่างไร

นักออกแบบเชื่อมโยงความต้องการของมนุษย์กับความสามารถของเครื่องจักรผ่านกระบวนการสร้างต้นแบบ ทดสอบ และปรับปรุง ซึ่งรับประกันว่าผลิตภัณฑ์เหล่านี้มี意义สำหรับผู้ใช้ นั่นรวมถึงการซักถามว่า AI สื่อสารอย่างไร การตัดสินใจอัตโนมัติ และการให้การควบคุมแก่ผู้ใช้

ลองพิจารณาสวนสนุกเป็นตัวอย่าง AI กำลังถูกนำไปใช้ ในฤดูร้อนนี้เพื่อลดเวลารอคอย ส่งเสริมประสบการณ์ที่เป็นส่วนตัว และจัดการการไหลของคนในสวนสนุก นี่เป็นตัวอย่างที่น่าสนใจ แต่ความสำเร็จไม่ใช่แค่เรื่องของปริมาณเท่านั้น ระบบที่ออกแบบได้ดีจะให้ความสำคัญกับ ประสบการณ์ของมนุษย์ ไม่ใช่แค่ความมีประสิทธิภาพเท่านั้น ซึ่งหมายถึงการให้ข้อมูลที่ชัดเจน อินเทอร์เฟซที่直观 การเลือกที่ชัดเจน และตัวเลือกการถอยหลังสำหรับผู้ใช้ที่มีความต้องการพิเศษ (เช่น ครอบครัวที่ไม่มีโทรศัพท์มือถือหรือผู้ที่มีความต้องการในการเข้าถึง)

โอกาสที่นี่ไม่ใช่แค่การเพิ่มประสิทธิภาพการดำเนินงานทางธุรกิจเพื่อประโยชน์ของกำไรเท่านั้น แต่เป็นการเพิ่มความสุข ลดความไม่สะดวก และสร้างประสบการณ์ที่ร่วมกันซึ่งรู้สึกวิเศษ ไม่ใช่เครื่องจักร นี่คือโอกาสสำหรับการออกแบบ

การทดสอบองค์ประกอบของมนุษย์

ในการออกแบบ AI ที่มีศูนย์กลางอยู่ที่มนุษย์ การทดสอบเป็นสิ่งสำคัญ ควรนำผู้ใช้ที่เป็นไปได้เข้ามาในกระบวนการเร็วๆ และบ่อยๆ เพื่อระบุจุดบอดที่อาจเกิดขึ้น เมื่อผู้ใช้ไม่สามารถเข้าใจหรือไว้วางใจระบบ ระบบนั้นล้มเหลว ไม่ว่าด้านหลังจะน่าประทับใจแค่ไหน

การทดสอบยังรับประกันความสามารถในการเข้าถึง ซึ่งมักถูกละเลยในประสบการณ์ที่ขับเคลื่อนด้วย AI แชทบอทอาจทำงานได้จากด้านเทคนิค แต่ถ้ามันไม่รองรับผู้ใช้ที่มีความหลากหลายทางประสาทหรือผู้ที่ไม่ใช่ผู้พูดภาษาเดิม มันไม่ใช่ระบบที่ทำงานจริงๆ การออกแบบที่ครอบคลุมไม่เพียงแต่ประโยชน์สำหรับคนชายขอบเท่านั้น แต่ยังเสริมสร้างผลิตภัณฑ์สำหรับทุกคน

ความรับผิดชอบเริ่มต้นที่การออกแบบ

นโยบายสามารถช่วยตั้งกรอบและป้องกันผลลัพธ์ที่เลวร้ายที่สุด เช่น กฎหมาย AI ของสหภาพยุโรป และ แผนการสำหรับสิทธิ AI เป็นขั้นตอนที่สำคัญ แต่การปฏิบัติตามกฎระเบียบเป็นเพียงพื้นฐาน การออกแบบคือวิธีที่เราไปถึงระดับสูงสุด

บริษัทต่างๆ ต้องไปไกลกว่าเช็คलิสต์เพื่อสร้างระบบ AI ที่รองรับความเป็นอยู่ที่ดีของมนุษย์ ความสามารถในการตัดสินใจ และการกำกับดูแล นั่นหมายถึงการไม่ให้การยกเลิกการตัดสินใจของมนุษย์โดยสมบูรณ์ แต่การออกแบบเครื่องมือที่เสริมสร้างมันแทน AI ที่มีความรับผิดชอบไม่ลบการควบคุมของมนุษย์ แต่กลับเพิ่มมัน

งานนี้ไม่ใช่แค่ด้านเทคนิคเท่านั้น แต่ต้องใช้ทีมที่มีความหลากหลายของนักออกแบบ วิศวกร ผู้เชี่ยวชาญด้านนโยบาย และนักจริยธรรมที่ทำงานร่วมกันตั้งแต่วันแรก มันหมายถึงการออกแบบ ร่วมกับ ผู้คน ไม่ใช่แค่ สำหรับ พวกเขา

บทบาทของนักออกแบบในการกำหนดรูปแบบ AI

นักออกแบบมีบทบาทที่ไม่เหมือนใครในการกำหนดทิศทางของ AI พวกเขาคือผู้แปลที่สามารถสื่อสารได้ทั้งตรรกะที่มีโครงสร้างของเครื่องจักรและความซับซ้อนของชีวิตมนุษย์ นักออกแบบได้รับการฝึกฝนให้ระบุจุดเสี่ยง สัญญาณทางอารมณ์ และผลกระทบทางสังคมที่ข้อมูลเพียงอย่างเดียวไม่สามารถจับได้

ในทำนองเดียวกับคำถามเฉพาะที่รับประกันว่าเทคโนโลยีนี้รองรับความต้องการของมนุษย์ นักออกแบบต้องสนับสนุนคำถามที่ไม่เข้ากับข้อมูลการฝึกอบรม เช่น:

• สิ่งนี้ทำให้ใครรู้สึกอย่างไร?
• ผู้ใช้มีการควบคุมหรือไม่?
• เกิดอะไรขึ้นเมื่อสิ่งต่างๆ ไปไม่ถูกต้อง?

บ่อยครั้งที่การออกแบบถูกนำเข้ามาในตอนท้ายของกระบวนการ AI เพื่อ “ทำให้ดูดี” แต่พลังที่แท้จริงของการออกแบบคือเชิงกลยุทธ์ มันควรจะกำหนดว่าปัญหาเหล่านี้ถูกกำหนดไว้อย่างไรในตอนแรก ไม่ใช่แค่ว่าอินเทอร์เฟซดูเหมือนอย่างไร

มนุษย์ก่อน ไม่ใช่เครื่องจักรก่อน

AI ไม่ใช่แค่ความท้าทายทางเทคนิค แต่เป็นความท้าทายในการออกแบบ และเพื่อตอบสนองนั้น เราต้องให้ความสำคัญกับค่านิยมของมนุษย์ตั้งแต่ต้น

การออกแบบ AI ที่มีศูนย์กลางอยู่ที่มนุษย์ไม่ใช่สิ่งฟุ่มเฟือย — มันเป็นสิ่งจำเป็น มันสร้างระบบที่น่าเชื่อถือ มีประสิทธิภาพ ไม่ลำเอียง สามารถตรวจสอบได้ และถูกต้องตามกฎหมาย แต่มากกว่านั้น มันสร้างผลิตภัณฑ์ที่ให้ประโยชน์ต่อผู้ใช้ปลายทางและเพิ่มผลผลิตและศักยภาพของมนุษย์

เรามีเครื่องมือและเรามีความรับผิดชอบในการออกแบบอนาคตที่เทคโนโลยีบริการมนุษย์ ไม่ใช่ในทางกลับกัน อนาคตที่เริ่มต้นด้วยการออกแบบ