เทคนิคคือแสงสว่างที่ปลายของกล่องดำ

มันไม่เคยเป็นเรื่องง่ายที่จะสร้าง นำไปใช้ และขยายเทคโนโลยีโดยไม่ต้องเข้าใจว่ามันทำงานอย่างไร สิ่งเกือบทุกอย่างในปัจจุบันทำงานโดยไม่ต้องถามเราให้เข้าใจมัน แต่ยังคงมีความรู้สึกเสมอว่าเรากำลังสูญเสียการควบคุมไป

หากคุณมองอย่างใกล้ชิด สิ่งที่ขาดไปในปัจจุบันคือสิ่งที่เคยเป็นศูนย์กลางของนวัตกรรมที่ยิ่งใหญ่ทุกอย่าง และตอนนี้กำลังเคลื่อนออกจากภาพของเทคโนโลยี – เทคนิค คือการสร้างสรรค์อย่างรอบคอบ แต่ละนวัตกรรมมีร่องรอยของการดูแลอย่างรอบคอบ มีคนได้เข้าใจความสัมพันธ์ พฤติกรรม และข้อจำกัด และแปลความรู้นั้นเป็นระบบที่ทำงานได้ เมื่อเลื่อนมาถึงปัจจุบัน เครื่องมือและแพลตฟอร์มที่ขับเคลื่อนชีวิตประจำวันของเรามาพร้อมสร้างและประกอบแล้ว ด้วยความเร็วที่น่าประทับใจ แต่เกือบไม่มีการมองเห็นภายในการทำงานของมัน

เทคนิคเริ่มรู้สึกไม่เหมาะสม หรืออาจจะเรียกว่า เป็นเรื่องปกติในวัฒนธรรมที่หลงใหลในความเร็ว โดยไม่มีมัน ระบบอาจกลายเป็นวงจรของเหตุการณ์ – กล่องดำ ที่การตัดสินใจ ผลลัพธ์ และพฤติกรรมเกิดขึ้นเร็วกว่าที่ใครจะเข้าใจได้อย่างเต็มที่ การฟื้นฟูเทคนิคคือวิธีการดึงการควบคุมบางส่วนกลับมา และฟื้นฟูความสามารถในการให้เหตุผลเกี่ยวกับความซับซ้อนและรับผิดชอบในโลกที่ถูกกำหนดโดย AI

การทำงานร่วมกันสามารถเติบโตได้โดยไม่ต้องมีเจ้าของ?

มีสมัยที่คนที่สร้างระบบเข้าใจมันอย่างลึกซึ้ง ในปัจจุบัน งานถูกแบ่งออกเป็นชิ้นเล็กๆ ทำให้ความรู้สึกของการเป็นเจ้าของจางลงบ่อยครั้งจนไม่มีใครเข้าใจทั้งหมด ทีมงานมีส่วนร่วมในเชิงเฉพาะเจาะจงให้กับระบบที่ใหญ่กว่า โดยรวมไลบรารी, API, บริการคลาวด์, ฐานข้อมูลที่จัดการ และแพลตฟอร์มวิเคราะห์เข้าด้วยกันเพื่อสร้างผลิตภัณฑ์ที่ทำงานได้ โดยอิหร่านพอสมควร ส่วนที่ทีมงานเป็นเจ้าของโดยตรงมักจะน้อยกว่าส่วนที่จัดการโดยผู้ให้บริการภายนอก

การเน้นไปที่การดำเนินการมากกว่าเทคนิคทำให้เกิดจุดบอดที่สามารถสะสมอย่างเงียบๆ ข้ามชั้นของระบบ คำขอเดียวสามารถข้ามหลายบริการ ผู้ให้บริการ และภูมิภาคก่อนที่จะตอบกลับ สิ่งเหล่านี้ทำงานได้ดีจนกระทั่งความไม่ตรงกันระหว่างชั้นเหล่านี้เปิดเผยว่ามีใครมีความชัดเจนหรือการควบคุมน้อยเพียงใด ปัญหาไม่ได้หยุดเพียงแค่การแก้ไขส่วนประกอบที่มีข้อบกพร่อง แต่เริ่มต้นด้วยการอธิบายว่าเกิดอะไรผิดในตอนแรก

การทำงานร่วมกัน จริงๆ แล้วเป็นเครื่องยนต์ของซอฟต์แวร์สมัยใหม่ ทำให้ทีมสามารถสร้างระบบในขนาดที่บุคคลไม่สามารถจัดการได้เพียงลำพัง เมื่อเครื่องมือใหม่ๆ เข้ามา โดยเฉพาะอย่างยิ่งด้วย AI มากขึ้น การทำงานสามารถขนานกันและตัดสินใจได้มากขึ้น ทำให้การดำเนินการเร็วขึ้นและขยายการมีส่วนร่วม แต่ก็ทำให้ความเข้าใจบางส่วนลดลง เมื่อเครื่องมือที่มีการจัดเรียงอย่างสูงมาเป็นตัวกลางในการตัดสินใจ สร้างโค้ด หรือตีความข้อมูล การดำเนินการมักจะเกินความเข้าใจ เมื่อใดก็ตามที่คุณไม่สามารถอธิบายได้ว่าระบบทำงานอย่างไร คุณจะเชื่อใจการตัดสินใจที่ระบบขับเคลื่อนได้หรือไม่?

ระบบที่คุณเข้าใจคือระบบที่คุณสามารถรับผิดชอบได้

เทคนิคไม่ใช่การปฏิเสธการทำงานร่วมกันหรือศักยภาพที่ไม่สามารถปฏิเสธได้ของ AI แต่เกี่ยวกับการรักษาความสัมพันธ์กับระบบที่มากกว่าการดำเนินการ มันเกี่ยวกับการสร้างความต่อเนื่องในสภาพแวดล้อมที่ทำงานเป็นชิ้นเล็กๆ และการอนุรักษ์ความสามารถในการให้เหตุผลเกี่ยวกับพฤติกรรมข้ามชั้นมากกว่าการทำงานภายในเท่านั้น ในการทำงานสมัยใหม่ เทคนิคสุดท้ายมาตกลงในการเพาะปลูกความสามารถนี้ในการให้เหตุผลแม้ไม่มีหลักฐานที่น่าเชื่อถือว่ามีอะไรผิดปกติ มันช่วยให้ทีมสามารถเคลื่อนไหวอย่างรวดเร็วในขณะเดียวกันก็รู้ว่าพวกเขากำลังสร้างอะไร ทำไมจึงมีพฤติกรรมเช่นนั้น และจะตอบสนองอย่างไรเมื่อมันไม่ทำงาน

เพียงความเข้าใจนี้เท่านั้นที่สามารถป้องกันระบบที่ขับเคลื่อนด้วย AI จากการกลายเป็นกล่องดำ สิ่งที่สำคัญคือ AI เพิ่มขึ้นจากสิ่งที่คุณรู้แล้วและสิ่งที่คุณไม่รู้ เมื่อฐานรากของคุณสร้างขึ้นจากเทคนิค AI จะขยายความเข้าใจและเสริมสร้างความแข็งแกร่ง แต่ในทางกลับกัน จะทำให้ความเข้าใจผิดและความสับสนเพิ่มขึ้น การตัดสินใจอัตโนมัติที่ขึ้นอยู่กับความสมมติฐานที่มีข้อบกพร่อง ข้อมูลที่มีอคติ หรือแบบจำลองที่ไม่เข้าใจอาจส่งผลกระทบต่อบัญชีของคน สิทธิความเป็นส่วนตัว และความไว้วางใจ สิ่งที่อาจเป็นบั๊กหรือข้อผิดพลาดเล็กๆ น้อยๆ ในอดีตสามารถสร้างผลกระทบที่กว้างขวางได้แทบจะในทันที ขอบคุณการเชื่อมต่อที่สัมผัสกับทุกด้านของชีวิต

ต้นทุนจริงของการทำให้การเรียนรู้ง่ายขึ้น

การเรียนรู้มีการทำให้ง่ายขึ้นมากจนความพึ่งพาเริ่มดูเหมือนกับประสิทธิภาพ มันสำคัญที่จะต้องระมัดระวังการแลกเปลี่ยนนี้ ความเร็วที่ทำให้การทำงานรู้สึกเร็วขึ้นส่วนใหญ่มาจากการพึ่งพาเครื่องมือและความจัดเรียงมากกว่าการเข้าใจที่ลึกซึ้ง หากเวลาที่ประหยัดได้ถูกชดเชยด้วยผลที่ตามมาไม่คาดคิด มันสามารถกลายเป็นสิ่งที่ตรงกันข้ามได้อย่างรวดเร็ว

ตอนนี้สิ่งนี้ไม่ใช่การให้เหตุผลที่จะทำให้สิ่งต่างๆ ยากขึ้นเมื่อมีวิธีที่ง่ายกว่าและเครื่องมือที่ทรงพลัง tồn tại แต่การข้ามความเข้าใจนั้นโดยไม่คิดทำให้เสียโอกาสในการเข้าใจอย่างแท้จริงว่าระบบทำงานอย่างไร ตรงจุดอ่อนอยู่ที่ไหน และการตัดสินใจส่งผลกระทบต่อระบบอย่างไร การล่อลวงของการทำให้ความซับซ้อนหายไปน่าดึงดูด แต่ความซับซ้อนไม่หายไปเพียงเพราะคลิกปุ่ม มันแค่เคลื่อนออกจากสายตา และปล่อยให้ความเสี่ยงที่ซ่อนอยู่ซึ่งจะปรากฏขึ้นเมื่อมีอะไรผิดพลาด

ความมีประสิทธิภาพที่แท้จริงมาจากการสร้างสมดุลระหว่างการใช้เครื่องมือสมัยใหม่ด้วยความพยายามที่จะเข้าใจ ตัดสินใจ และมีเทคนิค เพื่อให้ความเร็วและความง่ายไม่ส่งผลเสียต่อความทนทานหรือความรับผิดชอบ เข้าใกล้เทคโนโลยีใหม่ด้วยความเข้าใจทั้งสองด้านว่าสามารถทำอะไรได้และไม่สามารถทำอะไรได้ โดยไม่มีความเข้าใจนี้ ทีมงานจะสูญเสียความสามารถในการปรับเปลี่ยนหรือพัฒนาระบบอย่างปลอดภัย การเปลี่ยนแปลงสามารถทำลายส่วนของระบบที่เข้าใจไม่ดี การตัดสินใจจะเสียไปเมื่อความไว้วางใจในเครื่องมือ ค่าเริ่มต้น หรือการทำงานอัตโนมัติแทนที่จะใช้ความเข้าใจที่มีเหตุผล สิ่งนี้จะลดความสามารถในการตัดสินใจที่มีเหตุผลภายใต้ความไม่แน่นอน การอธิบายยังลดลง ในขณะที่ความทนทานตามหลังความชำนาญสูญหายไป ประสิทธิภาพไม่เคยตั้งใจให้เปราะบางขนาดนี้

เทคนิคที่เห็นได้ในการปฏิบัติ

เทคนิคจะเห็นได้ชัดเจนใน cáchที่ทีมงาน ผลิตภัณฑ์ และผู้นำจัดการกับความซับซ้อน เมื่อทีมงานรับผิดชอบต่อการเข้าใจระบบที่พวกเขาพึ่งพา แทนที่จะสมมติว่าผู้ให้บริการจัดการความซับซ้อนทั้งหมด พวกเขาจะอยู่หน้าปัญหา ผลิตภัณฑ์ที่สร้างขึ้นด้วยเทคนิคถูกสร้างขึ้นเพื่อความทนทาน การพัฒนา และการปรับตัว การฝึกอบรมที่เน้นการตามรอยสาเหตุ การตั้งคำถามต่อสมมติฐาน และการสร้างวิธีแก้ปัญหาที่มีเหตุผลร่วมกัน จะรับรองว่าการเรียนรู้ถูกฝังและคงอยู่

โดยสรุป ความสามารถในการใช้การตัดสินใจที่ดีและรักษาความสามารถในการอธิบายคือสิ่งที่จะทำให้ผลิตภัณฑ์ที่ยอดเยี่ยมแตกต่างจากผลิตภัณฑ์ที่ทำงานได้เพียงอย่างเดียว ในระบบที่ซับซ้อนและเชื่อมต่อกัน ความรู้สึกและความชำนาญของมนุษย์จะต้องเป็นแนวทางในการใช้เทคโนโลยี ไม่ใช่ในทางกลับกัน สิ่งสำคัญที่ต้องจำคือ แม้ว่าคุณจะสามารถจ้างบุคคลภายนอกได้เกือบทุกอย่าง แต่การวินิจฉัยยังคงเป็นสิ่งที่คุณไม่สามารถจ้างบุคคลภายนอกได้