Barb Hyman, ผู้ก่อตั้งและซีอีโอของ Sapia.ai – ซีรีส์สัมภาษณ์

Barb Hyman ผู้ก่อตั้งและซีอีโอของ Sapia.ai เป็นผู้นำธุรกิจที่มีประสบการณ์ครอบคลุมทั้งกฎหมาย การให้คำปรึกษาด้านการจัดการ การตลาด การเรียนรู้และพัฒนา ทรัพยากรมนุษย์ และเทคโนโลยี เธอเริ่มอาชีพเป็นทนายความที่ Herbert Smith Freehills ก่อนย้ายไปทำงานด้านที่ปรึกษากับ Boston Consulting Group ซึ่งเธอได้ก้าวขึ้นเป็นหัวหน้าโครงการ และต่อมากลับมารับตำแหน่งระดับสูงที่กำกับดูแลงานการเรียนรู้และพัฒนา ทรัพยากรมนุษย์ และการตลาดทั่วภูมิภาคออสตราเลเซีย Hyman ยังเคยเป็นหัวหน้าฝ่ายการตลาดและการสนับสนุนที่ Museum of Contemporary Art ในซิดนีย์ และผู้จัดการใหญ่ระดับบริหารฝ่ายบุคลากรและวัฒนธรรมของ REA Group เธอก่อตั้ง Sapia.ai ในปี 2018 โดยนำประสบการณ์ด้านการนำองค์กรและการบริหารบุคลากรที่มีความสามารถมาทบทวนแนวทางที่บริษัทใช้ปัญญาประดิษฐ์ประเมินและจ้างคน

Sapia.ai เป็นบริษัทเทคโนโลยีการจ้างงานที่ขับเคลื่อนด้วย AI โดยเน้นการประเมินผู้สมัครผ่านการสนทนาที่มีโครงสร้าง แพลตฟอร์มใช้การสัมภาษณ์ผ่านแชทเพื่อประเมินผู้สมัครจำนวนมากอย่างสม่ำเสมอ ช่วยให้นายจ้างประเมินทักษะและความเหมาะสม พร้อมลดการพึ่งพาการคัดกรองประวัติย่อแบบเดิมและสัญญาณอื่นที่อาจก่อให้เกิดอคติ Sapia.ai ระบุว่าเทคโนโลยีของบริษัทได้ประเมินผู้สมัครมากกว่า 10 ล้านคน และผสานศาสตร์การประเมินแบบมีโครงสร้างเข้ากับข้อมูลเชิงลึกด้านบุคลากรที่ขับเคลื่อนด้วย AI ข้อเสนอแนะเฉพาะบุคคลสำหรับผู้สมัคร และการเชื่อมต่อกับระบบติดตามผู้สมัครและระบบทรัพยากรมนุษย์ที่มีอยู่ บริษัทยังเน้นความสามารถในการอธิบาย ความเป็นธรรม และการปฏิบัติตามข้อกำหนดขององค์กร โดยแพลตฟอร์มโดยรวมครอบคลุมการสัมภาษณ์ด้วย AI การวิเคราะห์งาน การจัดตารางสัมภาษณ์ ข้อมูลเชิงลึกด้านบุคลากร และการให้คำปรึกษาด้านอาชีพด้วย AI

ก่อนก่อตั้ง Sapia.ai คุณมีเส้นทางอาชีพที่ครอบคลุมงานที่ปรึกษาที่ Boston Consulting Group กฎหมาย การตลาด การเรียนรู้และพัฒนา จนถึงการเป็นผู้นำด้านบุคลากรและวัฒนธรรมที่ REA Group ประสบการณ์ใดในเส้นทางนั้นทำให้คุณเชื่อว่าต้องทบทวนการจ้างงานใหม่ตั้งแต่รากฐาน และเดิมทีคุณตั้งใจแก้ปัญหาอะไรด้วย Sapia.ai

วิธีการประเมินคนในปัจจุบันนั้นล้มเหลว — โดยเฉพาะอย่างยิ่งในการจ้างงาน.

เราพึ่งพาประวัติย่อ เราไม่ได้มองเห็นตัวตนของคนอย่างครบถ้วน เราตัดสินใจเรื่องที่ส่งผลสำคัญที่สุด — จะจ้างใคร จะเลื่อนตำแหน่งให้ใคร — จากความรู้สึกและตัวชี้วัดทางอ้อม การเลือกจ้างคนที่คล้ายกับตัวเราเองเกิดขึ้นอย่างแพร่หลาย ตั้งแต่เมื่อไรที่โรงเรียนหรือมหาวิทยาลัยที่คนหนึ่งเคยเรียนกลายเป็นตัวชี้วัดสติปัญญา? มันไม่ใช่ มันเป็นตัวชี้วัดความได้เปรียบต่างหาก

บางส่วนของเรื่องนี้เกี่ยวข้องกับเรื่องส่วนตัวของฉัน ฉันเป็นผู้อพยพและรู้ว่าฉันอยู่ในกลุ่มผู้อพยพที่โชคดี: ฉันเป็นคนผิวขาวและมีชื่อที่คนอื่นพูดออกง่าย ฉันมาจากครอบครัวที่ไม่มีใครเรียนมหาวิทยาลัย; พ่อของฉันเป็นพ่อค้าที่ร้านค้า อย่างไรก็ตามฉันได้รับโอกาสที่ยอดเยี่ยมและหลังจากทำงานห้าอาชีพแล้ว ฉันก็อยู่ที่นี่ เมื่อฉันคิดถึงคนงานสองพันล้านคนในโลก ฉันนึกถึงจำนวนคนที่มีความสามารถ, ความมุ่งมั่น, การคิดเชิงวิพากษ์ที่ฉันได้รับการยกย่อง แต่กลับไม่ได้รับการมองเห็นเพราะเราถูกบดบังโดยปริซึมของประสบการณ์ของเราเอง อคติเป็นทางลัดที่ยอดเยี่ยมสำหรับการตัดสินใจอย่างรวดเร็ว และนั่นคือเหตุผลที่การจ้างงานยังคงให้รางวัลแก่ผู้ที่มีความได้เปรียบอยู่แล้ว มันไม่เคยรู้สึกยุติธรรมหรือมีเหตุผล

อีกครึ่งหนึ่งของเรื่องมาจากการให้คำปรึกษา หลังจากที่ฉันสำเร็จการศึกษา MBA, ฉันได้เข้าสู่โลกที่คุณไม่เคยเดินเข้าไปในห้องประชุมแล้วให้คำแนะนำโดยไม่มีการวิจัยที่แท้จริงเบื้องหลัง อย่างไรก็ตามการตัดสินใจที่มีความเสี่ยงสูงที่สุดที่บริษัทใดทำ (ว่าใครจะเข้าร่วม, ใครจะเป็นผู้นำ, ใครจะกำหนดวัฒนธรรม) ยังถูกทำบนความรู้สึกหรือบนตัวแทนที่บางเท่าเช่นชื่อมหาวิทยาลัย คนไม่ได้อยู่บนงบดุล, แต่โดยเฉพาะในบริการวิชาชีพ, พวกเขาคือทรัพย์สิน การแยกความสัมพันธ์นี้ดูแปลกประหลาดสำหรับฉัน.

เรซูเม่เองยังไม่ได้เปลี่ยนแปลงอย่างพื้นฐานตั้งแต่ Leonardo da Vinci คิดค้นรูปแบบนี้ Wikipedia ระบุว่ามีอคติของมนุษย์ที่บันทึกไว้มากกว่า 180 รายการ หนึ่งในสามของผู้สมัครในอเมริกาเหนือที่กรอกใบสมัครงานเสร็จสิ้นจะไม่ได้รับคำตอบภายในสองเดือนต่อมา สิ่งเหล่านี้ไม่ใช่ปัญหาความสามารถ: ความสามารถกระจายอย่างเท่าเทียมกันแต่โอกาสไม่เท่าเทียม

สิ่งที่ฉันตั้งใจจะแก้ด้วย Sapia ไม่ได้เป็นแค่การตัดสินใจ — มันมาจากประสบการณ์การหางาน ทีมของฉันหัวเราะกับฉันเรื่องนี้ แต่ฉันมักคิดว่าการจ้างงานเหมือนการออกเดท มันเป็นความสัมพันธ์ คุณจะใช้เวลามากกว่ากับคนที่ทำงานของคุณมากกว่ากับคู่ของคุณ ดังนั้นทำไมคุณจึงตัดสินใจด้วยสิ่งที่ไม่เท่ากับความเข้มข้นเดียวกัน — ข้อมูล — ที่เรายืนยันว่าต้องมีสำหรับการตัดสินใจสำคัญอื่น ๆ ทุกครั้ง?

คุณได้โต้แย้งว่ามากส่วนขององค์กรมองการนำ AI ไปใช้เป็นโครงการเพิ่มประสิทธิภาพเมื่อควรเริ่มจากโครงการสร้างความเชื่อใจ. “ความเชื่อใจ” มีลักษณะอย่างไรในทางปฏิบัติ, และบริษัทควรวัดมันอย่างไรพร้อมกับเมตริกแบบดั้งเดิมเช่น ผลผลิต, การประหยัดค่าใช้จ่าย, และการนำไปใช้?

ฉันได้เรียนรู้เรื่องนี้ในฐานะ CHRO: หากคุณไม่โปร่งใสเกี่ยวกับเหตุผลที่ทำการเปลี่ยนแปลง, ความเชื่อใจจะเป็นผู้เสียหายคนแรก และฉันคิดว่าหลายบริษัทมองการนำ AI ไปใช้กลับกัน พวกเขาวัดการเพิ่มผลผลิต, เช่น ชั่วโมงที่ประหยัด, ต้นทุนต่อการจ้าง, แต่พวกเขาไม่หยุดเพื่อวัดสิ่งที่จริง ๆ กำหนดว่ามันจะยั่งยืนหรือไม่: พนักงานของคุณเชื่อใจวิธีที่คุณใช้ AI หรือไม่, และทำไม?

ความไว้วางใจเป็นรากฐานของวัฒนธรรมองค์กร ไม่ใช่ตัวชี้วัดเชิงนามธรรมที่วางอยู่ข้างตัวชี้วัดจริง แต่เป็นสิ่งที่ตัวชี้วัดจริงเหล่านั้นตั้งอยู่ ลองคิดถึงมันเหมือนความสัมพันธ์ทั่วไป ความไว้วางใจสูงทำให้คุณมีอิสระมากขึ้น ความไว้วางใจต่ำทำให้ทุกอย่างตีบแคบลง มีชีวิตชีวาน้อยลง และผ่อนคลายน้อยลง และไม่มีใครทำงานได้ดีที่สุดเมื่อรู้สึกไม่ปลอดภัย องค์กรก็ไม่ต่างกัน

แต่สิ่งที่ทำกับ AI ในที่ทำงานส่วนใหญ่กลับกลายเป็นการใช้ข้อมูลของคนเองเป็นอาวุธต่อพวกเขา เช่น การขูดข้อมูลโซเชียลมีเดียของใครสักคนเพื่อสรุปว่าเขาเป็นพนักงานที่ดี ความเสี่ยงที่ดี หรือความเสี่ยงที่แย่ ฉันแทบจินตนาการไม่ออกว่าการประชุมที่ตัดสินใจเช่นนั้นเป็นอย่างไร หรือใครคิดว่ามันจะไม่ทำลายวัฒนธรรมเมื่อคนรู้เรื่องนี้

ดังนั้นหากคุณจริงจังกับการนำ AI มาใช้ ความไว้วางใจต้องเป็นตัวชี้วัดตั้งแต่วันแรกและต้องอยู่เคียงข้างประสิทธิภาพการทำงานและการประหยัดต้นทุน ถามคนโดยตรง: คุณเข้าใจเหตุผลที่เราใช้สิ่งนี้หรือไม่? คุณเชื่อว่ามันถูกใช้อย่างยุติธรรมหรือไม่? หากคุณตอบไม่ได้ว่าใช่ทั้งสองข้อ การเพิ่มประสิทธิภาพที่คุณยกย่องอยู่ก็เป็นการยืมจากวัฒนธรรมที่คุณกำลังค่อย ๆ ทำลายอยู่

หนึ่งในความกังวลใหญ่ที่สุดเกี่ยวกับ AI ในการจ้างงานคือโมเดลอาจเรียนรู้จากข้อมูลการจ้างงานในอดีตและอาจเสริมสร้างอคติของมนุษย์ที่องค์กรพยายามกำจัดออกไป บริษัทจะป้องกันไม่ให้ AI ทำซ้ำอคติการจ้างงานเดิมได้อย่างไร และควรสร้างมาตรการป้องกันอะไรไว้ในระบบตั้งแต่แรก

นี่คือกับดักที่การสนทนาเรื่อง AI ในการจ้างงานส่วนใหญ่มองข้าม และเป็นเหตุผลที่ฉันสร้าง Sapia ในแบบที่เป็นอยู่ หากคุณฝึกโมเดลด้วยข้อมูลการจ้างงานในอดีต — ใครได้รับการจ้าง ใครได้เลื่อนตำแหน่ง ใครได้สัมภาษณ์ครั้งแรก — คุณไม่ได้ขจัดอคติ แต่กำลังทำให้อคติเกิดขึ้นในระดับอุตสาหกรรม คุณกำลังสอนเครื่องจักรให้เลียนแบบทุกการตัดสินใจเลือกคนที่คล้ายตัวเอง ทุกการตัดสินว่าใคร “เข้ากับวัฒนธรรมองค์กร” และทุกทางลัดจากสัญชาตญาณที่ทำให้คุณได้บุคลากรแบบที่มีอยู่แล้ว นั่นไม่ใช่นวัตกรรม แต่คืออคติในวงกว้างที่เกิดเร็วขึ้น และมีภาพลักษณ์บาง ๆ ของความเป็นกลางมาหุ้มไว้จนทักท้วงได้ยากขึ้น

ดังนั้นมาตรการป้องกันต้องเริ่มต้นก่อนอัลกอริทึม เราไม่ได้ฝึกด้วยประวัติย่อ, รูปถ่าย, ชื่อ, มหาวิทยาลัย หรือปัจจัยทดแทนแบบดั้งเดิมที่สัมพันธ์กับสิทธิพิเศษมากกว่าศักยภาพ หากข้อมูลนำเข้ามีอคติ ไม่ว่าจะมีการสร้างโมเดลที่ชาญฉลาดแค่ไหนก็แก้ไม่ได้ นี่คือปัญหา “ขยะเข้า ขยะออก” แต่ขยะคือทศวรรษของอคติของมนุษย์ที่สวมใส่เป็นประวัติย่อ

ส่วนที่สองคือคุณใช้สิ่งใดเป็นเกณฑ์วัดโมเดลจริง ๆ การบอกว่า “AI ทำงานได้” ยังไม่พอ คุณต้องทดสอบผลกระทบที่ไม่เป็นธรรมอย่างต่อเนื่อง ทั้งด้านเพศ ชาติพันธุ์ อายุ ความพิการ และทุกคุณลักษณะที่ได้รับความคุ้มครองซึ่งคุณสามารถวัดได้ ไม่ใช่ตรวจสอบเพียงครั้งเดียวก่อนเปิดตัว อคติไม่ใช่ข้อบกพร่องที่แก้เพียงครั้งเดียวแล้วจบ แต่เป็นสิ่งที่ต้องเฝ้าระวังต่อเนื่อง เช่นเดียวกับระบบใดก็ตามที่ตัดสินใจเรื่องสำคัญเกี่ยวกับชีวิตผู้คน

และข้อที่สาม — ซึ่งเป็นข้อที่ผู้คนมักข้ามไป — คือคุณต้องมีคนภายนอกเข้ามาตรวจสอบ ต้องมีการตรวจสอบโมเดลโดยบุคคลที่สามที่เป็นอิสระ เผยแพร่วิธีการ และเปิดเผยอย่างแท้จริงว่าระบบทำและไม่ได้ทำอะไร หากคุณยอมให้เฉพาะคนที่สร้างเครื่องมือ AI สำหรับการจ้างงานและมีแรงจูงใจทางการเงินที่จะปกป้องมันเป็นผู้ตรวจสอบ คุณก็ยังไม่ได้แก้ปัญหาความไว้วางใจจริง ๆ เพียงแต่ย้ายปัญหาไปไว้ที่อื่น

การอ้างว่า “อัลกอริทึมทำให้เป็นเช่นนั้น” ไม่ใช่ข้ออ้าง แต่เป็นการยอมรับว่าคุณไม่ได้สร้างมาตรการป้องกันตั้งแต่แรก จำไว้ว่า AI ไม่ได้ลบความรับผิดชอบของมนุษย์ต่อความเป็นธรรมออก

การจ้างงานเป็นการใช้ AI ที่มีความเสี่ยงสูงเป็นพิเศษ เพราะอัลกอริทึมสามารถมีอิทธิพลโดยตรงต่ออาชีพของคนได้ องค์กรควรตั้งเส้นแบ่งระหว่างการตัดสินใจที่สามารถทำอัตโนมัติได้และการตัดสินใจที่ควรอยู่ภายใต้การควบคุมของมนุษย์อย่างมีความหมายที่ไหน

เส้นแบ่งที่ฉันตั้งคือ: AI สามารถช่วยให้คุณมองเห็นบุคคลได้ชัดเจนขึ้นได้แน่นอน แต่ไม่ควรเป็นผู้ตัดสินชะตากรรมของเขาโดยลำพัง มีความแตกต่างที่ชัดเจนระหว่างการเสริมการตัดสินใจและการเอาออกไปให้ AI ทำทั้งหมด การจ้างงานเป็นหนึ่งในไม่กี่สถานที่ที่การพลาดความแตกต่างนี้จริง ๆ แล้วเปลี่ยนชีวิตของคน

แล้วระบบอัตโนมัติควรเข้ามามีบทบาทตรงไหน? ตรงการแสดงสัญญาณที่มนุษย์มองเห็นอย่างสม่ำเสมอและเป็นธรรมได้ไม่ดี เช่น อ่านคำตอบสัมภาษณ์หลายพันรายการโดยไม่เหนื่อยล้า ไม่มีวันที่อารมณ์ไม่ดี และไม่เผลอเข้าข้างผู้สมัครที่ทำให้นึกถึงตัวเองตอนอายุยี่สิบห้า นี่คืองานที่ AI ทำได้ดีกว่าผู้จัดการที่เหนื่อยล้าและกำลังสัมภาษณ์คนที่แปดของวัน การคัดกรองทักษะด้านบุคคลและการทำงานร่วมกับผู้อื่นที่แท้จริง และการจัดโครงสร้างข้อมูลเชิงลึกให้ผู้สมัครทุกคนได้รับการประเมินด้วยเกณฑ์เดียวกัน คือจุดที่เครื่องจักรเพิ่มคุณค่าได้จริง เพราะมนุษย์ไม่ได้ถูกสร้างมาให้สม่ำเสมอได้ถึงขนาดนั้น

การตัดสินใจสุดท้าย — ใครจะได้รับการจ้าง, ใครจะถูกปฏิเสธ, ใครจะได้รับการพิจารณาอีกครั้ง — ต้องอยู่กับมนุษย์ที่สามารถรับผิดชอบได้ ไม่ใช่การประทับตราอัตโนมัติกับผลลัพธ์ของโมเดล แต่เป็นการควบคุมที่มีความหมายจริง ๆ: คนที่เข้าใจว่าระบบวัดอะไร, สามารถตั้งคำถามต่อผลลัพธ์ที่ดูผิดพลาด, และสามารถยกเลิกได้ หากมนุษย์ไม่สามารถท้าทายคำแนะนำของ AI ได้ นั่นไม่ใช่การควบคุมแต่เป็นการหลบหนีความรับผิดชอบของมนุษย์

ฉันก็จะตั้งเส้นขอบเขตที่สิ่งใดที่ไม่สามารถย้อนกลับได้หรือไม่โปร่งใส หากผู้สมัครไม่สามารถรับคำอธิบายที่เข้าใจได้ว่าทำไมพวกเขาไม่ผ่านขั้นตอน ระบบก็ถือว่าล้มเหลวไม่ว่าแม้จะ “แม่นยำ” เพียงใดก็ตาม และหากโมเดลทำการตัดสินใจที่ไม่มีใครในบริษัทสามารถอธิบายได้ — รวมถึงผู้ที่สร้างมันด้วย — นั่นไม่ใช่เครื่องมือสรรหางาน แต่เป็นกล่องดำที่มีอาชีพของใครสักคนอยู่ภายใน การทดสอบที่ฉันจะให้กับองค์กรใด ๆ ก็ง่าย ๆ คือ: คุณสามารถนั่งข้างหน้าผู้สมัครที่คุณปฏิเสธและอธิบายด้วยภาษาธรรมดาว่าเหตุใดหรือไม่? หากคำตอบที่ซื่อสัตย์คือ “ฉันไม่รู้อะไรเลย โมเดลเป็นผู้ตัดสินใจ” คุณก็ได้ทำการอัตโนมัติกระบวนการส่วนที่ผิดพลาด

Sapia.ai แยกแยะระหว่าง AI สร้างสรรค์ที่ใช้สำหรับการสนทนาแบบเปิดและระบบที่มีความแน่นอนมากขึ้นที่ใช้สำหรับการให้คะแนนผู้สมัคร ทำไมการแยกแยะนี้จึงสำคัญ โดยเฉพาะเมื่อผลลัพธ์ของ AI ต้องสอดคล้อง ตรวจสอบได้ และมีเหตุผลอธิบายได้

ผู้คนได้ยินคำว่า “AI” แล้วสมมติว่ามันเป็นสิ่งเดียวกัน แต่ในการสรรหางาน การผสมผสานนี้คือจุดที่สิ่งต่าง ๆ พังลง เราตัดงานออกเป็นสองส่วนโดยเจตนา เพราะการสนทนาแบบเปิดและการให้คะแนนที่มีความเสี่ยงสูงต้องการข้อกำหนดที่แตกต่างกันอย่างสิ้นเชิง และการทำให้มันเหมือนเทคโนโลยีเดียวกันคือวิธีที่บริษัทต่าง ๆ จบลงด้วยระบบที่ไม่สามารถอธิบาย ปกป้อง หรือไว้วางใจได้

AI สร้างสรรค์นั้นยอดเยี่ยมในระดับการสนทนา — การแลกเปลี่ยนที่เป็นธรรมชาติและรู้สึกเหมือนมนุษย์กับผู้สมัคร การตั้งคำถามติดตามที่ดี ทำให้ประสบการณ์รู้สึกเหมือนการสนทนามากกว่าการกรอกแบบฟอร์ม นั่นคือจุดที่คุณต้องการความยืดหยุ่น ความละเอียดอ่อน และแม้กระทั่งความไม่คาดคิดบ้าง เพราะการสนทนาจริงไม่ได้ถูกเขียนสคริปต์ไว้

แต่เมื่อคุณเปลี่ยนจากการพูดคุยกับผู้สมัครไปสู่การให้คะแนน สิ่งที่ต้องการจากระบบก็เปลี่ยนไปทั้งหมด การให้คะแนนต้องสม่ำเสมอ คำตอบเดียวกันควรได้รับการประเมินแบบเดียวกัน ไม่ว่าจะเป็นผู้สมัครคนแรกหรือคนที่หนึ่งพัน เป็นเช้าวันจันทร์หรือบ่ายวันศุกร์ ระบบต้องตรวจสอบได้ กล่าวคือคุณต้องย้อนกลับไปแสดงได้อย่างชัดเจนว่าทำไมผู้สมัครจึงได้คะแนนนั้น ไม่ใช่เพียงเชื่อว่าโมเดล “คิดออกเอง” และต้องมีเหตุผลรองรับที่ปกป้องได้ เพราะการเลี้ยงชีพของคนคนหนึ่งผูกอยู่กับคะแนนนั้น คำว่า “โมเดลเชิงกำเนิดรู้สึกว่านี่เป็นคำตอบที่ดี” ไม่ใช่เหตุผลที่จะยืนหยัดได้ต่อหน้าหน่วยงานกำกับดูแล นักข่าว หรือผู้สมัครที่อยากรู้ว่าทำไมตนไม่ได้งาน

โดยธรรมชาติแล้วโมเดลเชิงกำเนิดทำงานบนความน่าจะเป็น ถ้าถามคำถามเดียวกันสองครั้ง คุณอาจได้รับผลลัพธ์ที่ต่างกันเล็กน้อย นี่เป็นคุณสมบัติที่มีประโยชน์สำหรับการสนทนา แต่เป็นความเสี่ยงร้ายแรงสำหรับการให้คะแนน ที่ Sapia เราใช้ระบบแบบกำหนดผลแน่นอนในส่วนของกระบวนการที่ตัดสินผลลัพธ์ของคนจริง ๆ เราออกแบบโมเดลให้ข้อมูลนำเข้าเดียวกันให้ผลลัพธ์เดียวกันได้อย่างเชื่อถือได้ ให้ติดตามเหตุผลได้ และให้พิสูจน์ได้ว่าผู้สมัครสองคนที่คล้ายกันได้รับการปฏิบัติอย่างเท่าเทียมกัน

แท้จริงแล้วนี่คือการแยกหน้าที่ความรับผิดชอบ ให้ AI เชิงกำเนิดทำสิ่งที่ถนัดคือโต้ตอบให้คล้ายมนุษย์ และให้ระบบที่กำหนดผลแน่นอนและตรวจสอบได้แบกรับน้ำหนักของการตัดสินใจที่ต้องเป็นธรรม อธิบายได้ และมีเหตุผลรองรับเมื่อถูกตรวจสอบ

ความสามารถในการอธิบายมักถูกพูดถึงเป็นข้อกำหนดของ AI ที่รับผิดชอบ แต่โมเดลขั้นสูงหลายตัวยังคงยากต่อการเข้าใจของผู้ใช้ ควรให้คำอธิบายระดับใดที่ผู้สมัครหรือพนักงานควรคาดหวังอย่างสมเหตุสมผลเมื่อ AI มีอิทธิพลต่อการตัดสินใจสรรหางาน?

ฉันคิดว่าผู้สมัครควรได้รับมากกว่าที่บริษัทส่วนใหญ่ให้ในขณะนี้ และจริง ๆ แล้ว มากกว่าที่บริษัทส่วนใหญ่คิดว่าตนเองทำได้ “อัลกอริทึมตัดสินใจ” เป็นการยอมรับความล้มเหลวที่ปลอมเป็นความซับซ้อน

จุดยืนของฉันคือ ผู้สมัครควรเข้าใจได้เสมอด้วยภาษาธรรมดาว่าตนถูกประเมินเรื่องอะไร และโดยคร่าว ๆ ทำไมจึงได้รับผลเช่นนั้น ไม่ใช่ต้องเข้าใจคณิตศาสตร์เบื้องหลังหรือได้รับเอกสารพิมพ์ค่าน้ำหนักของโมเดล สิ่งที่พวกเขาต้องการและมีสิทธิ์ได้รับใกล้เคียงกับสิ่งที่ผู้จัดการที่ดีจะบอกต่อหน้า ได้แก่ นี่คือคุณสมบัติที่เรามองหา นี่คือด้านที่คุณทำได้ดี และนี่คือด้านที่คุณยังไม่ตรงกับความต้องการมากที่สุดในครั้งนี้ เป็นมาตรฐานที่สมเหตุสมผลอย่างยิ่ง และระบบใดที่ทำไม่ได้ก็ไม่ควรตัดสินเรื่องการเลี้ยงชีพของใครตั้งแต่แรก

ดังนั้นสำหรับเรา ความสามารถในการอธิบายต้องฝังอยู่ในสถาปัตยกรรมตั้งแต่วันแรก เพราะคุณไม่สามารถอธิบายสิ่งที่คุณไม่สามารถติดตามได้

สิ่งที่ฉันอาจคัดค้านบ้างคือแนวคิดว่าการอธิบายหมายถึงผู้สมัครต้องมีการศึกษาทางเทคนิคเกี่ยวกับการทำงานของโมเดล นั่นเป็นมาตรฐานที่ผิดและมักใช้เป็นข้ออ้างเมื่อจริง ๆ แล้วระบบยังไม่ได้ออกแบบให้สามารถอธิบายได้ แพทย์ที่ดีไม่อธิบายชีวเคมีของการวินิจฉัยให้คุณฟัง พวกเขาบอกว่าพบอะไรและหมายความว่าอย่างไรสำหรับคุณ AI ในการสรรหางานควรยึดมั่นในมาตรฐานเดียวกันของความซื่อสัตย์ที่มนุษย์อ่านได้

การทดสอบจริงเป็นแบบเดียวกับที่ฉันใช้กับการกำกับดูแลโดยมนุษย์ ผู้สมัครสามารถถามว่า “ทำไมฉันไม่ผ่านไปขั้นต่อไป?” แล้วได้รับคำตอบที่เจาะจง ซื่อตรง และเกี่ยวกับกรณีของเขาจริง ๆ หรือไม่ หาก AI ให้คำตอบเช่นนั้นไม่ได้ คุณก็ยังไม่ได้สร้างระบบที่อธิบายได้ คุณสร้างระบบที่หวังว่าจะไม่มีใครถามถึงมันต่างหาก

บริษัทหลายแห่งมักมุ่งเน้นที่ว่าพนักงานและผู้จัดการใช้เครื่องมือ AI หรือไม่ มากกว่าการตรวจสอบว่าพวกเขาไว้วางใจผลลัพธ์ของมันจริงหรือไม่ สัญญาณเตือนใดบ่งบอกว่าองค์กรได้บรรลุการนำ AI ไปใช้โดยไม่ได้รับความมั่นใจที่แท้จริงต่อเทคโนโลยี?

การนำไปใช้เป็นเมตริกที่ทำให้หลอกได้ง่ายที่สุด และนั่นคือเหตุผลที่หลายบริษัทเข้าใจว่ามันคือความสำเร็จ หากฉันบอกว่าทุกคนในองค์กร “ใช้” เครื่องมือ AI นั่นบอกอะไรไม่ได้เลยว่าพวกเขาเชื่อมั่นในมันหรือไม่ — มันอาจหมายถึงแค่เป็นข้อบังคับ หรือเป็นทางเลือกที่ง่ายที่สุด หรือยังไม่มีใครหาวิธีข้ามมัน

สัญญาณเตือนแรกคือพฤติกรรมหาวิธีทำงานอ้อมระบบ หากผู้คนใช้เครื่องมือ AI แต่ยังแอบทำกระบวนการเดิมควบคู่ไปด้วย เช่น ตรวจซ้ำผลลัพธ์ด้วยตนเอง จดบันทึกส่วนตัวแยกไว้ หรือใช้ระบบคู่ขนานเผื่อจำเป็น นั่นคือการทำตามข้อกำหนดโดยมีหลักประกันเผื่อพลาดติดมาด้วย ตัวเลขการใช้งานดูดี แต่ความจริงคือทุกคนคิดว่าเครื่องมืออาจผิด

สัญญาณที่สองคือความเงียบ ในวัฒนธรรมที่เชื่อใจอย่างแท้จริง ผู้คนจะท้าทายระบบเมื่อสิ่งใดดูแปลก — ถามคำถาม, ต่อต้าน, ทำเครื่องหมายผลลัพธ์ที่ไม่รู้สึกถูกต้อง เมื่อการนำไปใช้เป็นจริงแต่ความเชื่อใจไม่มี คุณจะได้ผลตรงกันข้าม ผู้คนหยุดตั้งคำถามเพราะตัดสินใจว่าไม่คุ้มกับการต่อสู้ ความเงียบนี้ถูกผู้นำตีความว่าเป็นความพอใจ แต่จริงๆ แล้วเป็นการยอมแพ้

สัญญาณเตือนที่สามคือช่องว่างระหว่างสิ่งที่คนตอบในแบบสำรวจกับสิ่งที่พวกเขาพูดต่อกัน ฉันจะกังวลมากกว่าบริษัทที่แดชบอร์ดการนำไปใช้อย่างเป็นทางการแสดงสีเขียวทั่วทุกส่วน แต่การสนทนาจริงในห้องพักเบรกคือ “ใช่ เราก็ทำตามที่มันบอกเพราะง่ายกว่าการโต้เถียง” — นั่นคือวัฒนธรรมที่ยังไม่ได้เปลี่ยนแปลง

และสัญญาณเตือนที่ลึกที่สุดและสำคัญที่สุดสำหรับฉัน: เมื่อผู้คนหยุดนำวิจารณญาณของตนเองมาพิจารณาเลย นั่นคือการละทิ้งความรับผิดชอบ ความเชื่อใจที่แท้จริงต่อเครื่องมือหมายถึงผู้คนยังรู้สึกมีอำนาจที่จะไม่เห็นด้วยเมื่อความเชี่ยวชาญของตนบ่งชี้อย่างอื่น — และรู้สึกปลอดภัยในการทำเช่นนั้น หากผู้จัดการของคุณเงียบและยอมรับทุกอย่างที่ AI บอก คุณได้สร้างการพึ่งพา

ดังนั้นการทดสอบที่แท้จริงไม่ได้อยู่ที่ “คนใช้มันหรือไม่” แต่คือ “คนจะเลือกใช้ต่อไปหากเป็นทางเลือกหรือไม่, และพวกเขาจะบอกคุณอย่างตรงไปตรงมาหากมันทำผิดพลาด” บริษัทส่วนใหญ่ไม่เคยถามคำถามเหล่านี้เลย นั่นมักเป็นสัญญาณบ่งบอก

เครื่องมือ AI สำหรับการจ้างงานอาจประเมินผู้สมัครในระดับและความสม่ำเสมอที่ผู้สรรหามนุษย์ทำไม่ได้ แต่การจ้างงานยังต้องคำนึงถึงบริบทและความละเอียดอ่อน คุณเชื่อว่า AI สามารถเหนือกว่าการตัดสินของมนุษย์ได้ในด้านใดในวันนี้ และมนุษย์ยังคงจำเป็นในด้านใดบ้าง?

AI เป็นเครื่องมือที่ยอดเยี่ยมในการประเมินผู้สมัครจำนวนมากโดยไม่ขึ้นกับภูมิหลังและประสบการณ์ พร้อมปรับการประเมินให้เหมาะกับผู้สมัครที่มีความต้องการเฉพาะ ผู้สรรหาที่เป็นมนุษย์อาจมีแนวโน้มเลือกผู้สมัครจากมหาวิทยาลัยอันดับสูง หรือผู้ที่ไม่มีประวัติปัญหาสุขภาพ AI ประเมินผู้สมัครทุกคนอย่างเป็นธรรมและเท่าเทียมในแบบที่มนุษย์ทำไม่ได้เมื่อต้องรับมือกับใบสมัครหลายร้อยใบ อย่างไรก็ดี วิจารณญาณของมนุษย์ยังจำเป็นในการประเมินว่าผู้สมัครจะเข้ากับวัฒนธรรมบริษัทหรือเป็นไปตามมาตรฐานที่ลูกค้าต้องการหรือไม่

เมื่อ AI ฝังตัวลึกยิ่งขึ้นในกระบวนการสรรหา การโค้ช การจัดการประสิทธิภาพ และการตัดสินใจด้านแรงงานอื่น ๆ ควรจัดโครงสร้างความรับผิดชอบอย่างไรเมื่อการตัดสินใจที่ได้รับความช่วยเหลือจาก AI ส่งผลลัพธ์ที่ไม่เป็นธรรมหรือผิดพลาด?

ความรับผิดชอบใน AI ยังคงอยู่เมื่อมนุษย์เป็นผู้ตัดสินใจขั้นสุดท้ายในขณะที่กระบวนการสรรหามีความโปร่งใส ความอธิบายได้ และการทดสอบอคติอย่างเข้มงวด เราได้เปิดตัวโมเดล FAIR™ เพื่อสนับสนุนการปฏิบัติ AI อย่างรับผิดชอบ มันแนะนำว่า:

• ไม่มีอคติ: ทดสอบอคติและใช้มาตรการสถิติที่เหมาะสม — เช่น กฎ 4/5, ความเท่าเทียมของอัตราความผิดพลาด, และการทดสอบอคติที่เกี่ยวข้องอื่น ๆ — เพื่อตรวจสอบว่าผลลัพธ์เป็นธรรม
• ความถูกต้อง: หลักฐานที่ขับเคลื่อนด้วย AI มีพื้นฐานจากข้อมูลจริงและเชื่อมโยงกับผลลัพธ์ที่ตั้งใจจะทำนาย
• ความอธิบายได้: มีเอกสารและเครื่องมือที่ชัดเจนเพื่อแปลผลลัพธ์ว่า AI ระบุอะไรเกี่ยวกับผู้สมัครและอย่างไรที่ส่งผลต่อคะแนนของพวกเขา
• ความครอบคลุม: หมายถึงการทำให้แน่ใจว่าผู้สมัครได้รับการปฏิบัติอย่างเป็นธรรมตลอดกระบวนการทั้งหมด ตั้งแต่การสมัครจนถึงการตัดสินใจ เป็นมุมมองแบบครบวงจรของประสบการณ์การจ้างงาน — รวมถึงคน, กระบวนการ, เทคโนโลยี, และ AI ที่ทำงานร่วมกัน

เมื่อมองไปข้างหน้า คุณคาดว่า AI จะกลายเป็นชั้นการตัดสินใจหลักภายในระบบ HR หรือบทบาทที่สำคัญยิ่งกว่าจะเป็นการสนทนา ช่วยให้ผู้สมัครและพนักงานเข้าใจโอกาสได้ดีขึ้น พัฒนาทักษะ และนำทางอาชีพของตน?

แม้แต่เทคโนโลยีที่ก้าวหน้าที่สุดก็ยังต้องมีความใส่ใจแบบมนุษย์ วิจารณญาณของมนุษย์ และการกำกับดูแลโดยมนุษย์ AI มีหน้าที่สนับสนุนกระบวนการ เพื่อให้ผู้สมัครทุกคนมีโอกาสได้รับการพิจารณาเข้าทำงานอย่างเป็นธรรมและเท่าเทียม ที่ Sapia เราเรียกสิ่งนี้ว่า “แนวทางที่มีมนุษย์ร่วมอยู่ในกระบวนการ” ซึ่งผสานปัญญาของมนุษย์และเครื่องจักรเพื่อสร้างประสบการณ์แชทอัจฉริยะที่คาดการณ์ได้ มีความรับผิดชอบ และเหมาะกับแต่ละบุคคล เพื่อทำเช่นนั้น เราจึงให้ลูกค้าเข้ามามีส่วนร่วม เพื่อให้เราตรวจสอบความถูกต้องและความเป็นธรรมอย่างต่อเนื่อง พร้อมกับสอนให้โมเดล AI ของเราพัฒนาไปตามกาลเวลา

แนวทางที่เน้นมนุษย์ของเรายังสะท้อนให้เห็นในสิ่งที่เรามอบให้กับผู้สมัครงาน เราเพิ่งเปิดตัว Phai ซึ่งเป็นโค้ชด้านอาชีพที่ทำหน้าที่เป็นที่ปรึกษา ให้การแนะนำส่วนบุคคลแก่ผู้หางาน การทำแผนที่จุดแข็ง และการเตรียมสัมภาษณ์ เพื่อช่วยให้พวกเขาเผชิญโอกาสต่อไปด้วยความมั่นใจ นี่เป็นเครื่องมือเชิงบวกที่ช่วยให้ผู้สมัครยังคงมีกำลังใจต่อเนื่องแม้หลังผลการสัมภาษณ์

ขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านที่ต้องการเรียนรู้เพิ่มเติมควรเยี่ยมชม Sapia.ai.