คิลเลียน คิเอรัน ผู้ก่อตั้งและซีอีโอของ Ethyca – สัมภาษณ์ซีรีส์

คิลเลียน คิเอรัน ผู้ก่อตั้งและซีอีโอของ Ethyca เป็นนักธุรกิจซีรีส์และวิศวกรความเป็นส่วนตัวที่มีประสบการณ์มากกว่าสองทศวรรษในการสร้างธุรกิจเทคโนโลยีที่ใช้ข้อมูลอย่างเข้มข้น ก่อนที่จะก่อตั้ง Ethyca ในปี 2019 เขาเป็นผู้นำสำนักงานดิจิทัล CKSK มาเป็นเวลาหนึ่งทศวรรษ และต่อมาก่อตั้ง BrandCommerce โดยใช้ประสบการณ์ของเขาในด้านวิศวกรรมซอฟต์แวร์ การใช้งานผู้ใช้ และโครงการข้อมูลองค์กรขนาดใหญ่ ที่ Ethyca คิเอรันเน้นการเปลี่ยนแปลงความเป็นส่วนตัวและธรรมาภิบาลข้อมูลจากฟังก์ชันการปฏิบัติตามกฎระเบียบที่ใช้แรงงานคนเป็นหลักไปสู่โครงสร้างพื้นฐานที่สามารถฝังตัวไว้ภายในวิธีการที่องค์กรสร้างและดำเนินเทคโนโลยี

Ethyca พัฒนาโครงสร้างพื้นฐานข้อมูลที่เชื่อถือได้ซึ่งช่วยให้ธุรกิจค้นพบข้อมูลที่ละเอียดอ่อน จัดการความยินยอม ปฏิบัติตามคำขอความเป็นส่วนตัว และบังคับใช้กฎที่ควบคุมวิธีการใช้ข้อมูลทั่วทั้งแอปพลิเคชันแบบเดิมและระบบปัญญาประดิษฐ์ แพลตฟอร์มของบริษัทถูกสร้างขึ้นรอบๆ Fides ซึ่งเป็นภาษาธรรมาภิบาลแบบโอเพ่นซอร์สที่สร้างเฟรมเวิร์กที่สอดคล้องกันสำหรับการกำหนด การตรวจสอบ และบังคับใช้การใช้ข้อมูลที่อนุญาตทั่วทั้งระบบ API และพายพ์ไลน์ปัญญาประดิษฐ์ บริษัทกำลังเปิดตัว Astralis ซึ่งเป็นชั้นธรรมาภิบาลปัญญาประดิษฐ์ที่รวมการประเมินกฎระเบียบแบบอัตโนมัติเข้ากับการควบคุมการเข้าถึงตามวัตถุประสงค์ ช่วยให้องค์กรสามารถกำหนดได้ว่าทำไมโมเดลและเอเจนต์ถึงเข้าถึงข้อมูลบางอย่างและบังคับใช้สิทธิ์เหล่านั้นในเวลาจริง Ethyca ระบุว่าแพลตฟอร์มสามารถลดการประเมินที่ต้องใช้คน 40 ถึง 60 ชั่วโมงให้เหลือเพียง 20 ถึง 40 นาที ช่วยให้ธุรกิจขยายการนำปัญญาประดิษฐ์ไปใช้โดยไม่ให้กระบวนการธรรมาภิบาลกลายเป็นปัญหาอุดตัน

คุณก่อตั้งหลายบริษัทก่อนที่จะก่อตั้ง Ethyca ในปี 2019 รวมถึงการสร้าง CKSK ให้เป็นสำนักงานดิจิทัลระดับโลกที่ให้บริการองค์กร Fortune 500 สิ่งใดในช่วงเวลานั้นที่ทำให้คุณเชื่อว่าธรรมาภิบาลข้อมูล แทนที่จะเป็นโมเดลปัญญาประดิษฐ์เอง จะกลายเป็นปัญหาอุดตันในการนำปัญญาประดิษฐ์ไปใช้ในองค์กร

ฉันใช้เวลาหลายปีในการสร้างสำนักงานดิจิทัลที่ให้บริการองค์กรขนาดใหญ่เช่น Heineken, Sony และ Pepsi ในช่วงยุคทองของการโฆษณาดิจิทัลและสื่อสังคมออนไลน์ ฉันเห็นรูปแบบเดียวกันซ้ำๆ คือ เทคโนโลยีที่มีพลังมาถึง ทุกคนรีบนำไปใช้ และเมื่อมันถูกฝังตัวไว้ในธุรกิจแล้ว ผู้ควบคุมก็เข้ามาใส่เครื่องมือรักษาความปลอดภัยและปล่อยให้ทีมปฏิบัติตามกฎระเบียบจัดการกับผลที่ตามมา เช่น GDPR ซึ่งเป็นการปราบปรามครั้งแรกเกี่ยวกับการใช้ข้อมูลส่วนบุคคลของบริษัท ผู้ควบคุมก็เข้ามาหลังจากที่ martech และสื่อสังคมออนไลน์ทำให้การรวบรวมข้อมูลกลายเป็นกระบวนการหลักของโมเดลธุรกิจของพวกเขา มันชัดเจนสำหรับฉันว่ารูปแบบเดียวกันนี้จะเกิดขึ้นกับปัญญาประดิษฐ์

สิ่งที่ทำให้ฉันมั่นใจในความเชื่อนี้คืองานด้านการปฏิบัติตามกฎระเบียบเรื่องความเป็นส่วนตัวที่ฉันทำที่ Ethyca ในการสร้างระบบปฏิบัติตามกฎระเบียบสำหรับองค์กรขนาดใหญ่ ฉันรู้สึกว่าสามารถวางชั้นการควบคุมรอบๆ ข้อมูลของบริษัทได้ ซึ่งประเมินคำขอแต่ละครั้งตามสามสิ่ง: ข้อมูลคืออะไร คุณได้รับอนุญาตให้ทำอะไรด้วยมัน และมีความเสี่ยงอะไรหากคุณทำเช่นนั้น การทำงานบนระบบนี้ทำให้ข้อจำกัดที่แท้จริงชัดเจนขึ้น องค์กรไม่ขาดข้อมูล แต่ขาดชั้นธรรมาภิบาลที่กำหนดว่าข้อมูลใดสามารถใช้เพื่ออะไรได้บ้าง นั่นคือการเดิมพันที่เราทำในปี 2019 และตั้งแต่นั้นมาการมาถึงของปัญญาประดิษฐ์ทำให้มันเกี่ยวข้องมากขึ้น

ในช่วงปีที่ผ่านมา ปัญญาประดิษฐ์ระดับองค์กรมีการเปลี่ยนแปลงจากชัตบอทแบบง่ายๆ ไปเป็นเอเจนต์ปัญญาประดิษฐ์อัตโนมัติที่สามารถตัดสินใจและดำเนินการได้ การพัฒนานี้เปลี่ยนแปลงความท้าทายด้านธรรมาภิบาลที่องค์กรต้องเผชิญอย่างไร และทำไมวิธีการปฏิบัติตามกฎระเบียบแบบดั้งเดิมจึงไม่เพียงพออีกต่อไป

คนส่วนใหญ่พูดถึงปัญญาประดิษฐ์ระดับองค์กรและผลตอบแทนจากการลงทุน (ROI) ของมัน โดยมองว่าค่าใช้จ่ายมาจากการเสียบเอเจนต์เข้ากับเวิร์กโฟลว์เท่านั้น ในความเป็นจริง ค่าใช้จ่ายมาจากการเชื่อมต่อเอเจนต์กับระบบหลากหลายเพื่อให้สามารถสังเคราะห์ข้อมูลและผลิตเอาต์พุตที่มนุษย์ไม่สามารถทำได้ภายในเวลาที่กำหนด การเข้าถึงข้อมูลเป็นปัญหาอุดตันจริงๆ

สิ่งที่ทำให้เอเจนต์มีคุณค่าคือสิ่งที่ทำให้มันเสี่ยงด้วย การเชื่อมต่อเอเจนต์กับระบบหลายระบบทำให้ข้อมูลไหลจากส่วนหนึ่งขององค์กรไปยังอีกส่วนหนึ่ง และการไหลแต่ละครั้งเป็นโอกาสให้ข้อมูลไปสู่ที่ที่ไม่ควรไป

การไหลแต่ละครั้งต้องถูกตรวจสอบ: ข้อมูลนี้ได้รับอนุญาตให้ใช้แบบนี้หรือไม่ สำหรับวัตถุประสงค์นี้ และภายใต้กฎหมายความเป็นส่วนตัวและนโยบายของเราหรือไม่ เมื่อมีการตัดสินใจเหล่านี้เพียงไม่กี่ครั้งต่อวัน คนสามารถตัดสินใจได้ด้วยตนเอง แต่เมื่อมีเอเจนต์ปัญญาประดิษฐ์ยิงคำขอหลายพันครั้งต่อวินาที มันกลายเป็นเรื่องที่ทำไม่ได้ด้วยมือคน

นี่คือจุดที่การปฏิบัติตามกฎระเบียบแบบดั้งเดิมล้มเหลว สำหรับการประเมินค่าของบริษัทปัญญาประดิษฐ์ขนาดใหญ่ที่จะเกิดขึ้น ธรรมาภิบาลต้องย้ายไปสู่เวลาจริง ที่ความเร็วของเครื่องจักร ในขณะที่ข้อมูลถูกเข้าถึง

Ethyca เปิดตัว Astralis เป็นชั้นธรรมาภิบาลสำหรับปัญญาประดิษฐ์ระดับองค์กร สิ่งใดที่นำไปสู่การสร้างแพลตฟอร์มนี้ และทำไมตอนนี้ถึงเป็นเวลาที่เหมาะสมในการเปิดตัว

งานในการล้างข้อมูลสำหรับปัญญาประดิษฐ์ยังคงทำแบบเดิมๆ เช่นในปี 2016 โดยคนต้องกรอกแบบฟอร์มและวิ่งประเมินผลด้วยมือ กระบวนการนี้ช้าเกินไปสำหรับการทำงานด้านความเป็นส่วนตัวแบบปกติ และเมื่อเทียบกับการใช้ปัญญาประดิษฐ์ มันไม่มีทางที่จะตามทัน สิ่งที่ขายเป็นธรรมาภิบาลปัญญาประดิษฐ์ส่วนใหญ่ในปัจจุบันคือแบบฟอร์มและเวิร์กโฟลว์เดียวกันกับปัญญาประดิษฐ์ การกรอกแบบฟอร์มไม่ใช่ธรรมาภิบาล สิ่งที่ขาดคือซอฟต์แวร์ที่ทำหน้าที่ธรรมาภิบาลเอง ไม่ใช่แค่สร้างบันทึกของการทำด้วยมือ นั่นคือสิ่งที่เราสร้าง Astralis ขึ้นมา

ความต้องการที่เราตอบสนองมาจากทีมที่ถูกสั่งให้ส่งปัญญาประดิษฐ์ออกไปอย่างรวดเร็วและปลอดภัย แต่ปัจจุบันพวกเขายังไม่สามารถทำได้ เอเจนต์กำลังเข้าสู่การผลิตเร็วกว่าที่ทีมใดๆ สามารถติดตามได้ และคำถามที่ผู้ควบคุมถามเปลี่ยนไป มันเคยถามว่าคุณมีนโยบายหรือไม่ แต่ตอนนี้ถามว่าคุณสามารถแสดงให้เห็นว่านโยบายถูกปฏิบัติตามสำหรับข้อมูลเฉพาะสำหรับวัตถุประสงค์เฉพาะหรือไม่ ส่วนใหญ่ของบริษัทสามารถตอบคำถามแรกได้ดี แต่ไม่มากที่สามารถตอบคำถามที่สองได้

Gartner คาดการณ์ว่าบริษัท Fortune 500 เฉลี่ยอาจมีเอเจนต์ปัญญาประดิษฐ์ถึง 150,000 ตัวภายในปี 2028 เพิ่มขึ้นจากเพียง 15 ตัวในปี 2025 ผู้นำองค์กรมองธรรมาภิบาลในโลกที่เอเจนต์อัตโนมัติอาจมีจำนวนมากกว่าพนักงานที่โต้ตอบกับข้อมูลได้อย่างไร และธรรมาภิบาลจะมีบทบาท gì ในการสร้างความได้เปรียบในการแข่งขัน

ภายในปี 2028 เอเจนต์ที่สัมผัสกับข้อมูลของบริษัทจะมากกว่าพนักงานที่ทำเช่นนั้น เมื่อผู้กระทำที่ใช้ข้อมูลส่วนใหญ่เป็นเครื่องจักร ใครที่ถูกถือว่ารับผิดชอบ เมื่อการตัดสินใจส่วนใหญ่ไม่ได้ทำหรือทบทวนโดยมนุษย์ ความรับผิดชอบต้องเปลี่ยนจากคนไปสู่ระบบ

การธนาคารได้ทำการเปลี่ยนแปลงนี้มานานแล้ว เราไม่เชื่อใจธนาคารเพราะพนักงานนับเงินโดยมือ แต่เราเชื่อใจเพราะระบบควบคุมมีเสถียรภาพ และมีคนรับผิดชอบในการรักษาให้ระบบดังกล่าว ธรรมาภิบาลข้อมูลต้องทำเช่นเดียวกัน หลักฐานที่บริษัทจัดการข้อมูลอย่างรับผิดชอบไม่ใช่เพราะคนหนึ่งตรวจสอบแล้ว แต่เป็นเพราะระบบบังคับใช้นโยบายอัตโนมัติสำหรับการใช้ทุกครั้ง และสามารถให้หลักฐานของสิ่งนี้ได้ เพื่อให้ความรับผิดชอบถูกสร้างขึ้นภายใน

Astralis รวม Large Language Regulatory Model (LLRM) เข้ากับ Purpose-Based Access Control (PBAC) อธิบายว่าเทคโนโลยีเหล่านี้ทำงานร่วมกันเพื่อให้ระบบปัญญาประดิษฐ์เข้าใจไม่เพียงแต่ว่าใครสามารถเข้าถึงข้อมูลได้ แต่ยังรวมถึงเหตุผลที่พวกเขาควรสามารถเข้าถึงข้อมูลได้ด้วย

การควบคุมการเข้าถึงแบบดั้งเดิมตรวจสอบว่าคุณเป็นใคร และหากอัตลักษณ์ของคุณอนุญาตให้คุณสัมผัสข้อมูลเฉพาะได้

แต่ความเป็นส่วนตัวต่างกัน ไม่ใช่เรื่องของใครที่เข้ามา แต่คือเรื่องของการใช้ข้อมูลที่ทำได้หรือไม่ บุคคลอาจได้รับอนุญาตที่สมบูรณ์แบบในการเข้าถึงชุดข้อมูล แต่ยังคงใช้มันเพื่ออะไรที่ไม่ได้รับอนุญาต สิ่งที่สำคัญคือการใช้ข้อมูลนั้นและว่าเหตุผลนั้นได้รับอนุญาตหรือไม่ นั่นคือสิ่งที่ PBAC ตอบและบังคับใช้

สิ่งที่ยากคือวัตถุประสงค์ไม่ใช่ข้อเท็จจริงทางเทคนิคที่คุณสามารถอ่านจากฐานข้อมูลได้ มันขึ้นอยู่กับสิ่งที่ธุรกิจของคุณทำ สิ่งที่คุณสัญญากับลูกค้า และสิ่งที่กฎหมายอนุญาต นั่นคือสิ่งที่ LLRM มีไว้สำหรับ มันเรียนรู้ว่าธุรกิจของคุณดำเนินงานอย่างไร จากนั้นจึงทำงานผ่านกฎระเบียบที่ใช้ได้ และผลลัพธ์คือการกำหนดที่ชัดเจนของสิ่งที่ข้อมูลแต่ละประเภทสามารถและไม่สามารถใช้ได้ PBAC แล้วบังคับใช้การกำหนดเหล่านั้นที่จุดเข้าถึง LLRM คิด PBAC ทำ

การประกาศการเปิดตัวระบุว่าการประเมินปัญญาประดิษฐ์สามารถลดจาก 40 ถึง 60 ชั่วโมงของงานด้วยมือเป็นเพียง 20 ถึง 40 นาที ส่วนใดของกระบวนการธรรมาภิบาลในปัจจุบันที่ไม่มีประสิทธิภาพที่สุด และที่ไหนที่การทำให้ระบบอัตโนมัติสร้างผลประโยชน์มากที่สุด

ส่วนใหญ่ของ 40 ถึง 60 ชั่วโมงไม่ได้ใช้ในการตัดสินใจที่ต้องใช้ความตัดสินใจของมนุษย์ แต่ใช้ในการชุมนุม มีคนสร้างแผนที่ข้อมูลด้วยมือ รักษาไว้ในสเปรดชีต และจากนั้นไล่ตามบริบทข้ามทีม เมื่อجميعสิ่งนี้ถูกรวบรวมแล้ว การประเมินที่แท้จริง ซึ่งเป็นส่วนเล็กๆ ของงาน คือสิ่งที่ต้องใช้คนคิด การทำงานนี้ไม่เคยเสร็จสิ้น การประเมินเป็นภาพถ่ายครั้งเดียว แต่กรณีการใช้ปัญญาประดิษฐ์ไม่หยุดเกิดขึ้น และแต่ละกรณีต้องการการตรวจสอบของตนเอง

การเพิ่มประสิทธิภาพมาจากการเปลี่ยนแปลงสิ่งที่คนและเครื่องจักรทำ ระบบดึงเมตาดาต้าเอง ไม่มีใครต้องไล่ตามบริบทด้วยมือ มันแสดงเฉพาะคำถามที่คนสามารถตอบได้จริงๆ ซึ่งเป็นการตัดสินใจที่แท้จริง แทนที่จะทำให้คนบดบังผ่านฟิลด์ที่เครื่องจักรสามารถเติมได้ และการ跟踪การตรวจสอบสร้างตัวเองเมื่อการประเมินเกิดขึ้น แทนที่จะเขียนจากความทรงจำหลังจากนั้น นั่นคือที่ที่ 40 ชั่วโมงกลายเป็น 40 นาที

หนึ่งในข้ออ้างที่น่าประหลาดใจคือสถาบันการเงินรายใหญ่ของสหรัฐฯ กำลังประมวลผลคำขอธรรมาภิบาลประมาณ 6,000 คำขอต่อวินาทีผ่าน Astralis สิ่งนี้สอนให้คุณเข้าใจถึงความต้องการโครงสร้างพื้นฐานสำหรับปัญญาประดิษฐ์ระดับองค์กรในอนาคตอย่างไร

บทเรียนคือธรรมาภิบาลไม่สามารถเป็นขั้นตอนแยกได้อีกต่อไป เมื่อมีการตัดสินใจ 6,000 ครั้งต่อวินาที มันจะต้องเกิดขึ้นภายในเส้นทางข้อมูลเอง โดยมีความเร็วเท่ากับการส่งคำขอและโมเดลที่ควบคุม มันจะต้องเร็วเพราะถาธรรมาภิบาลช้า มันจะกลายเป็นสิ่งที่คนข้ามเพื่อตรงตามกำหนดเวลา

การกำกับดูแลปัญญาประดิษฐ์ยังคงพัฒนาอย่างรวดเร็วทั้งในสหรัฐฯ และยุโรป คุณสร้างแพลตฟอร์มธรรมาภิบาลที่สามารถปรับตัวเข้ากับกรอบกฎหมายที่เปลี่ยนแปลงได้อย่างไร โดยไม่บังคับให้องค์กรมาอัปเดตนโยบายด้วยตนเองอย่างต่อเนื่อง

ข้อผิดพลาดที่เครื่องมือการปฏิบัติตามกฎระเบียบส่วนใหญ่ทำคือการบันทึกกฎในผลิตภัณฑ์ ดังนั้นเมื่อกฎหมายเปลี่ยน คุณต้องรอผู้ขายมาปรับปรุงเครื่องมือ Astralis ถูกสร้างขึ้นในทางตรงกันข้าม ที่ฐานของมันคือภาษาที่ใช้ในการอธิบายข้อมูลและใช้ของมัน และไม่มีกฎใดๆ ที่นั่น กฎอยู่ในระดับนโยบายที่อยู่เหนือ LLRM อ่านกฎระเบียบ ทำงานผ่านสิ่งที่มันหมายถึงสำหรับธุรกิจของคุณ และเขียนนโยบายตามนั้น PBAC แล้วบังคับใช้สิ่งที่นโยบายระบุไว้ ณ เวลานั้น ดังนั้นการเปลี่ยนแปลงกฎจึงไม่ส่งผลกระทบต่อกลไกการบังคับใช้

เมื่อกฎระเบียบใหม่มาถึง ทั้งความพยายามของบริษัทสามารถไปสู่การทำงานออกว่ามันหมายถึงอะไรสำหรับธุรกิจของพวกเขา ไม่มีอะไรไปสู่การปรับปรุงระบบความเป็นส่วนตัวของพวกเขา

ผู้บริหารหลายคนกังวลเกี่ยวกับเอเจนต์ปัญญาประดิษฐ์ที่ไม่ได้รับอนุญาตในการตัดสินใจหรือเข้าถึงข้อมูลที่ละเอียดอ่อน สิ่งนี้เป็นเรื่องที่น่ากังวลจริงๆ หรือไม่ และองค์กรควรนำมาตรการป้องกันที่เป็นรูปธรรมใดๆ มาใช้ก่อนที่จะนำเอเจนต์ปัญญาประดิษฐ์ไปใช้

เป็นเรื่องที่น่ากังวลจริงๆ และมันเกิดขึ้นแล้ว รัฐแคลิฟอร์เนียปรับดิสนีย์ 2.75 ล้านดอลลาร์เพราะระบบของพวกเขาไม่สามารถบังคับใช้การยกเว้นของผู้บริโภคได้อย่างน่าเชื่อถือ ในระบบของพวกเขา ผู้บริโภคที่ยกเว้นในอุปกรณ์หนึ่งยังคงอยู่ในอีกอุปกรณ์หนึ่ง และคำแนะนำการยกเว้นระดับเบราว์เซอร์ไม่ได้รับการยอมรับว่าเป็นคำขอการยกเว้นที่ถูกต้อง เหตุการณ์นี้ไม่ได้ถูกทำให้เกิดขึ้นโดยเอเจนต์ที่ทำการไม่คาดคิด แต่เป็นช่องว่างพื้นฐานระหว่างสิ่งที่ดิสนีย์บอกลูกค้ากับสิ่งที่ระบบของพวกเขาสามารถบังคับใช้ได้

มาตรการป้องกันที่แท้จริงคือการไม่น่าดึงดูด: รู้ว่าคุณมีข้อมูลอะไรและคุณได้สัญญาอะไรเกี่ยวกับมัน และเก็บทุกอย่างไว้ในที่เดียว เพราะความล้มเหลวส่วนใหญ่เกิดขึ้นจากสัญญาของทีมหนึ่งที่ไม่เคยไปถึงฐานข้อมูลของทีมอื่น

เมื่อมองไปข้างหน้า 3 ถึง 5 ปี คุณคิดว่าสิ่งใดจะทำให้องค์กรที่ประสบความสำเร็จในการนำปัญญาประดิษฐ์ไปใช้แตกต่างจากองค์กรที่ยังคงอยู่ในโครงการนำร่อง และธรรมาภิบาลจะมีบทบาท gì ในการสร้างความได้เปรียบในการแข่งขัน

ความแตกต่างจะมาจากว่าบริษัทมีระบบเดียวในการควบคุมข้อมูลทั้งหมดหรือไม่ หรือพวกเขาจะเลือกติดธรรมาภิบาลกับฐานข้อมูลและทีมแต่ละคนแยกกัน บริษัทที่ยังคงควบคุมข้อมูลตามแผนกต่างๆ จะยังคงพบกับกำแพงเพราะปัญญาประดิษฐ์ข้ามแผนกต่างๆ โดยดีไซน์ ทุกองค์กรถูกบอกให้ส่งปัญญาประดิษฐ์ออกไปอย่างรวดเร็วและไม่สิ้นเปลืองในจดหมายของผู้ควบคุม และจนถึงตอนนี้ทั้งสองสิ่งนี้ดึงกันในทางตรงกันข้าม ผู้ที่แก้ปัญหาทั้งสองโดยไม่ยอมแพ้ใดๆ จะชนะทศวรรษ

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Ethyca หรือ Astralis เพื่อเรียนรู้เพิ่มเติม