ย้ายเร็ว แต่อย่าทำลายสิ่งใด: วิธีการสร้างสมดุลระหว่างการใช้ AI อย่างมีความรับผิดชอบและการนวัตกรรม

ตามการสำรวจระดับโลก最近จาก McKinsey แม้ว่า 78% ขององค์กรจะใช้ AI ในอย่างน้อยหนึ่งฟังก์ชันทางธุรกิจ แต่เพียง 13% เท่านั้นที่ได้จ้างผู้เชี่ยวชาญด้านการปฏิบัติตามกฎระเบียบของ AI และเพียง 6% เท่านั้นที่มีผู้เชี่ยวชาญด้านจริยธรรมของ AI

นี่เป็นพฤติกรรมที่ไม่负責任อย่างแท้จริง

แม้ว่าในอดีตที่ไม่ไกลนี้ ฉันจะเป็นผู้สนับสนุนแนวคิด “ย้ายเร็วและทำลายสิ่งใด” ของ Silicon Valley แต่เร不能มีพฤติกรรมที่ไม่负責任เช่นนี้กับ AI – เทคโนโลยีที่มีพลังมากกว่าที่เราเคยเห็นมาก่อนและเติบโตอย่างรวดเร็ว

การนำ AI มาใช้ โดยไม่มีการดูแลที่มีความหมายเป็นเพียงการย้ายเร็วและตัดมุมที่จะทำให้เกิดปัญหาและเสี่ยงต่อการทำลาย ทุกสิ่ง มันเพียงแค่เกิดเหตุการณ์หนึ่งของความลำเอียงหรือการใช้ AI ที่ไม่เหมาะสมเพื่อทำลายชื่อเสียงที่สร้างมาเป็นเวลาหลายปี

และแม้ว่าหลายๆ CIO และ CTO จะตระหนักถึงความเสี่ยงเหล่านี้ แต่พวกเขาดườngจะดำเนินการภายใต้สมมติฐานที่ว่าผู้กำกับดูแลจะเข้ามาและช่วยพวกเขาในการสร้างกรอบการทำงาน ซึ่งนำไปสู่การพูดคุยเกี่ยวกับความเสี่ยงมาก แต่ไม่มีการดูแลที่แท้จริง

แม้ว่าฉันจะไม่มีความเชื่อมั่นว่ากฎระเบียบจะถูกสร้างขึ้นในเร็วๆ นี้ แต่ฉันเชื่อว่าไม่มีกฎระเบียบใดที่จะถูกสร้างขึ้นในเร็วๆ นี้ ChatGPT ถูกนำมาใช้ประมาณสามปีที่แล้ว และเรากำลังเห็นเรื่องๆ เช่น การประชุมวุฒิสภาเกี่ยวกับ ความปลอดภัยของ chatbot ที่เกิดขึ้น ซึ่งเป็นความจริงที่ว่าอาจต้องใช้เวลาหลายปีก่อนที่เราจะเห็นกฎระเบียบใดๆ ที่มีความหมาย

แทนที่จะใช้เหตุผลนี้เป็นข้ออ้างในการเลื่อนการดูแลภายใน องค์กรควรดำเนินการเพื่อสร้างกรอบการทำงานที่มีความรับผิดชอบมากขึ้น โดยเฉพาะอย่างยิ่งเมื่อ考虑ว่าเมื่อกฎระเบียบถูกสร้างขึ้น องค์กรที่ไม่มีกรอบการทำงานของตนเองจะพยายามที่จะสร้างความสอดคล้องกัน ซึ่งเกิดขึ้นเมื่อ GDPR และ CCPA ถูกสร้างขึ้น

เช่นเดียวกับสตาร์ทอัพในยุคแรกที่เติบโตเป็นองค์กรเทคโนโลยีที่ใหญ่โตในปัจจุบัน เราต้องเติบโตและพัฒนาการใช้ AI อย่างมีความรับผิดชอบ

ไม่มี “ซื้อแล้วจ่ายทีหลัง” กับการใช้ AI อย่างมีความรับผิดชอบ – เริ่มต้นตอนนี้

ขั้นตอนแรกในการใช้ AI อย่างมีความรับผิดชอบมากขึ้นคือการหยุดรอผู้กำกับดูแลและสร้างกฎของตนเอง สิ่งที่คุณคิดว่าคุณได้รับจากการจัดลำดับความสำคัญของความเร็วมากกว่าความปลอดภัยในวันนี้จะกลับมาทำร้ายคุณในอนาคตเมื่อคุณต้องเผชิญกับการเปลี่ยนแปลงที่มีค่าใช้จ่ายสูงและรบกวนการทำงาน

แน่นอนว่าสำหรับหลายๆ คน ปัญหาไม่ใช่การไม่รู้ว่าจะเริ่มต้นจากที่ไหน บริษัทของฉัน最近ได้ สำรวจ 500 CIO และ CTO ในองค์กรขนาดใหญ่ และเกือบครึ่งหนึ่ง (48%) ระบุว่า “การกำหนดสิ่งที่ประกอบเป็นการใช้ AI อย่างมีความรับผิดชอบ” เป็นความท้าทายในการรับรองการใช้ AI อย่างมีจริยธรรม

จุดเริ่มต้นที่ง่ายๆ คือการขยายการมุ่งเน้นไปไกลกว่าเพียงฟังก์ชันของ AI และพิจารณาความเสี่ยงที่อาจเกิดขึ้น ตัวอย่างเช่น แม้ว่าการใช้ AI อาจช่วยให้พนักงานมีเวลา แต่ก็เปิดโอกาสให้ข้อมูลส่วนบุคคลหรือความลับทางการค้าถูกแบ่งปันกับ LLM ที่ไม่ได้รับอนุญาต

บริษัทดิจิทัลทุกแห่งในปัจจุบันคุ้นเคยกับชีวิตวิธีการพัฒนาซอฟต์แวร์ (SDLC) ซึ่งให้กรอบการทำงานสำหรับการสร้างผลิตภัณฑ์ที่มีคุณภาพ การดูแล AI ควรจะถูกฝังไว้ในกระบวนการทำงานประจำวันเพื่อให้การตัดสินใจที่มีความรับผิดชอบกลายเป็นส่วนหนึ่งของกระบวนการ ไม่ใช่สิ่งที่ทำหลังจากนั้น

คณะกรรมการหรือคณะกรรมการด้านจริยธรรมควรจะถูกจัดตั้งขึ้นเพื่อกำหนดมาตรฐานสำหรับการใช้ AI ภายในองค์กร และกำหนดเมตริกสำหรับการติดตามและรักษามาตรฐานนั้น ในทางปฏิบัติ นี่หมายถึงการดูแล AI และการบริหารจัดการโซลูชัน การอนุมัติ การจัดการความเสี่ยง การสอดคล้องกับกฎระเบียบและมาตรฐาน และการสื่อสารที่โปร่งใส

แน่นอนว่าไม所有ความเสี่ยงต้องการระดับการดูแลที่เท่ากัน ดังนั้นจึงสำคัญที่จะพัฒนาการจัดการความเสี่ยงที่มีระดับเพื่อให้ทีมของคุณสามารถมุ่งเน้นไปที่สิ่งที่ได้รับการกำหนดให้เป็นความเสี่ยงที่สูง

สุดท้ายและสำคัญที่สุด การสื่อสารที่ชัดเจนและโปร่งใสเกี่ยวกับการดูแลภายในและภายนอกเป็นสิ่งสำคัญยิ่ง ซึ่งรวมถึงการรักษาเอกสารที่มีชีวิตสำหรับมาตรฐานการดูแลและให้การฝึกอบรมอย่างต่อเนื่องเพื่อให้ทีมของคุณได้รับการอัปเดต

หยุดพิจารณาการดูแลเป็นภัยคุกคามต่อการนวัตกรรม

เป็นไปได้ว่าภัยคุกคามที่แท้จริงต่อ AI ที่มีความรับผิดชอบ คือความเชื่อที่ว่าการดูแลและการนวัตกรรมเป็นคู่ต่อสู้กัน

การดูแลควรจะถูกพิจารณาว่าเป็นหุ้นส่วนเชิงกลยุทธ์ ไม่ใช่สิ่งที่เป็นอุปสรรคต่อการนวัตกรรม

เหตุผลหนึ่งที่การดูแลถูกมองว่าเป็นแรงเสียดทานที่ชะลอการเคลื่อนไหวคือว่ามันถูกปล่อยทิ้งไว้ที่สิ้นสุดของกระบวนการพัฒนาผลิตภัณฑ์ แต่การดูแลควรจะถูกสร้างขึ้นในกระบวนการ

และนี่ได้รับการพิสูจน์แล้วว่าจะให้ผลตอบแทนทางการเงิน การวิจัย ได้แสดงให้เห็นว่าองค์กรที่มีการดูแล AI และข้อมูลที่ดีจะได้รับการปรับปรุงผลการดำเนินงานทางการเงิน 21-49% แต่การไม่มีการดูแลเหล่านี้ก็จะมีผลกระทบเช่นกัน

ข้อจำกัดของการดูแลที่ไม่ต้องเสียค่าใช้จ่ายในการนวัตกรรมคือการมีส่วนร่วมของทีมกฎหมาย ซึ่งมักจะชะลอการดำเนินการ แต่ในประสบการณ์ของฉัน การสร้างทีม GRC จะช่วยให้การดำเนินการเป็นไปอย่างราบรื่นโดยการสร้างความสัมพันธ์ที่ดีกับทีมกฎหมายและทีมพัฒนา

เมื่อจัดการได้ดี ทีม GRC จะสร้างความสัมพันธ์ที่ดีกับทีมกฎหมายและทีมพัฒนา และช่วยให้การดูแลและการนวัตกรรมเป็นไปอย่างราบรื่น

สร้างระบบการดูแลและการกำกับที่สามารถปรับขนาดได้

แม้ว่าหลายๆ CIO และ CTO จะรู้สึกว่ากฎระเบียบอาจจำกัดการนวัตกรรม แต่หลายๆ คน (84%) คาดว่าบริษัทของตนจะเพิ่มการดูแล AI ในช่วง 12 เดือนข้างหน้า เมื่อพิจารณาว่าการผสมผสาน AI จะขยายและเติบโตในอนาคต จึงสำคัญที่ระบบการดูแลจะสามารถปรับขนาดได้เช่นกัน

สิ่งที่ฉันเห็นบ่อยๆ ในช่วงแรกของการนำ AI ไปใช้ในองค์กรคือการทำงานในซิลอแต่ละหน่วยภายในธุรกิจ โดยที่แต่ละหน่วยมีการใช้งาน AI ที่แตกต่างกันและไม่มีการดูแลที่ชัดเจน เพื่อหลีกเลี่ยงความไม่สอดคล้องนี้ องค์กรควรสร้างศูนย์ความเป็นเลิศด้าน AI ที่รวมทั้งความเชี่ยวชาญด้านเทคนิค การดูแล และธุรกิจ

ศูนย์ความเป็นเลิศด้าน AI จะกำหนดมาตรฐานและกระบวนการอนุมัติที่มีระดับ โดยที่มีเส้นทางสำหรับการใช้งาน AI ที่มีความเสี่ยงต่ำ และรักษาความเร็วในการทำงาน ในขณะเดียวกันก็รับรองว่าการใช้งาน AI ที่มีความเสี่ยงสูงจะผ่านการตรวจสอบความปลอดภัยที่เข้มงวด

และเพื่อให้การดูแลนี้เป็นจริง ผู้บริหารจะต้องมีการมองเห็นที่ดีขึ้นในการติดตามตัวชี้วัดการดูแล แดชบอร์ดที่ให้ข้อมูลในเวลาจริงเกี่ยวกับตัวชี้วัดเหล่านี้จะมีประสิทธิภาพมากกว่ารายงานการดูแลที่เป็นแบบคงที่และไม่ได้รับการอ่านบ่อยๆ

สิ่งสำคัญที่สุดคือการดูแล AI ต้องเป็นกระบวนการที่ต่อเนื่อง ไม่ใช่แค่การอนุมัติในตอนเริ่มต้น แต่ต้องมีการติดตามอย่างต่อเนื่องตลอดอายุการใช้งานของแบบจำลอง การฝึกอบรมเป็นสิ่งสำคัญ ผู้พัฒนา เทคโนโลยี และผู้นำธุรกิจควรได้รับการฝึกอบรมเกี่ยวกับการใช้ AI อย่างมีความรับผิดชอบ เพื่อให้สามารถระบุปัญหาได้ตั้งแต่เนิ่นๆ และรักษามาตรฐานการดูแลที่สูงเมื่อระบบเปลี่ยนแปลงไป