Rob Feldman ประธานเจ้าหน้าที่ฝ่ายกฎหมายของ EnterpriseDB – บทสัมภาษณ์

Rob Feldman, Chief Legal Officer, มีความรับผิดชอบต่อฟังก์ชันทางกฎหมายและความเป็นไปตามข้อกำหนดทั่วโลกที่ EnterpriseDB เขาเป็นนักบริหารและทนายความที่มีประสบการณ์ และสร้างทีมกฎหมายที่มีประสิทธิภาพสูงเพื่อสนับสนุนบริษัทเทคโนโลยีที่กำลังเติบโตในธุรกิจและกฎระเบียบที่เปลี่ยนแปลงอย่างรวดเร็ว ล่าสุดเขาได้率ทีมกฎหมาย 45 คน tại Citrix Systems, Inc. ในฐานะ General Counsel รวมถึงการทำธุรกรรมที่มีมูลค่ามากกว่า 16 พันล้านดอลลาร์ในปี 2022 ก่อนที่จะเข้าร่วม Citrix เขาใช้เวลามากกว่าหนึ่งทศวรรษในบริษัทกฎหมายส่วนบุคคลในฐานะทนายความด้านการละเมิดลิขสิทธิ์เทคโนโลยี มุ่งเน้นไปที่การป้องกันการฉ้อโกงหลักทรัพย์ การพิพาทด้านทรัพย์สินทางปัญญา และการสอบสวนของรัฐบาลและภายใน Rob ยังเป็นสมาชิกของ UN Global Compact Legal Council โดยให้คำแนะนำเชิงกลยุทธ์เกี่ยวกับสภาพแวดล้อมด้านกฎระเบียบโลกเพื่อช่วยให้ธุรกิจขับเคลื่อนผลกระทบในระยะยาว

EnterpriseDB เป็นบริษัทซอฟต์แวร์ที่ให้บริการโซลูชันฐานข้อมูลระดับองค์กรที่สร้างขึ้นจาก PostgreSQL แบบโอเพ่นซอร์ส ช่วยให้องค์กรสามารถรันเวิร์กโหลดที่สำคัญต่อธุรกิจด้วยประสิทธิภาพ ความปลอดภัย และความน่าเชื่อถือที่ดีขึ้น ก่อตั้งขึ้นในปี 2004 EnterpriseDB มีแพลตฟอร์มคลาวด์และออนพรีเมส การสนับสนุนระดับโลก และเครื่องมือที่เข้ากันได้กับ Oracle (ORCL ) ในขณะที่มุ่งเน้นไปที่แพลตฟอร์มข้อมูลไฮบริดและ AI ที่พร้อมสำหรับ AI มากขึ้นผ่านข้อเสนอ Postgres AI

เมื่อพิจารณาจากประสบการณ์อันยาวนานของคุณในด้านความเป็นผู้นำทางกฎหมายขององค์กรและความมุ่งมั่นของ EnterpriseDB ต่อ Postgres ระดับองค์กรและแพลตฟอร์มข้อมูลและ AI ที่เป็นอิสระ คุณเห็นความเสี่ยงต่อความรับผิดชอบที่จะพัฒนาไปอย่างไรสำหรับบริษัทที่นำ AI ที่มีเจตนาเข้ามาใช้ในโครงสร้างพื้นฐานข้อมูลที่สำคัญ

โลกของ AI และข้อมูลยังคงพึ่งพาหลักการเดียวกับที่ควรปกครององค์กรก่อนที่ระบบที่มีเจตนาจะมาถึง: ความรับผิดชอบ ความระมัดระวัง และความชัดเจนของความรับผิดชอบ

ในอดีต หลักการเหล่านั้นถูกนำไปใช้กับคนและระบบที่ไม่เคลื่อนไหว เช่น แดชบอร์ด รายงาน และเครื่องมืออัตโนมัติที่ไม่เริ่มการกระทำด้วยตนเอง AI ที่มีเจตนาแนะนำระบบที่มีพฤติกรรมเหมือนผู้เข้าร่วมมากกว่าเครื่องมือ พวกเขาสามารถกระทำได้อย่างอิสระ ปรับเปลี่ยนตามเวลา และโต้ตอบกับทั้งมนุษย์และตัวแทนคนอื่น ๆ

หากองค์กรขาดระเบียบวิธีและวินัยการควบคุม องค์กรนั้นจะดิ้นรนในสถานการณ์นี้ AI ที่มีเจตนาไม่ได้สร้างปัญหาความรับผิดชอบใหม่ แต่เป็นการเปิดเผยปัญหาเดิมที่มีอยู่แล้ว สำหรับองค์กรที่มีพื้นฐานที่ดี การเปลี่ยนแปลงนี้ยังคงปฏิบัติตามแนวปฏิบัติที่พวกเขาเคยทำตามมา ซึ่งเราอธิบายว่าเป็น “การควบคุมดิจิทัล” สำหรับองค์กรอื่น ๆ เป็นสัญญาณที่ชัดเจนว่าควรตั้งราวกั้นเชิงปฏิบัติไว้ก่อนที่จะนำ AI ที่มีเจตนาไปใช้ในระดับใหญ่

เพียง约 13% ขององค์กรที่บรรลุจุดนี้ของการขยายตัวของ AI ที่มีเจตนาได้สำเร็จ พวกเขาทำงาน AI ที่มีเจตนาได้มากเป็นสองเท่าของที่อื่น ๆ และได้รับ ROI มากถึง 5 เท่า แต่เมื่อระบบ AI มีอิสระมากขึ้น องค์กรจะต้องเผชิญกับความรับผิดชอบเร็วขึ้น เมื่อตัวแทน AI โอนเงินเคลม ย้ายเงิน หรือจัดการข้อมูลที่ละเอียดอ่อนอย่างไม่เหมาะสม ความรับผิดชอบจะตามมาถึงองค์กรที่กำหนดสภาพแวดล้อม ตั้งอนุญาต และตัดสินใจว่าระบบจะมีอิสระมากน้อยเพียงใด

นี่คือเหตุผลที่บริษัทต่างๆ ต้องนำการกำกับดูแลที่ชัดเจนมาใช้กับกรณีการใช้งาน AI ที่มีเจตนา และเหตุผลที่องค์กรต่างๆ มีแรงจูงใจที่จะนำ焦点ไปที่ราวกั้นและโปรแกรมการกำกับดูแล แนวคิดการเป็นเจ้าของสุนัขและการควบคุมดิจิทัลมีประโยชน์ สุนัขมีระดับของอิสระ กระทำการอิสระ แต่ไม่ใช่บุคคลทางกฎหมาย สิ่งนี้คล้ายกับตำแหน่งของระบบ AI ที่มีเจตนาในปัจจุบัน และเจ้าของต้องเข้าใจว่าหากไม่มีการกำกับดูแลและควบคุม พวกเขาจะรับผิดชอบต่อผลลัพธ์ที่ไม่ดี

องค์กรควรแยกแยะระหว่าง AI ที่ช่วยเหลือและ AI ที่มีเจตนาจากมุมมองทางกฎหมายและเชิงปฏิบัติก่อนการนำไปใช้อย่างไร

ในระดับพื้นฐาน ความแตกต่างนี้ขึ้นอยู่กับอำนาจ AI ที่ช่วยเหลือสนับสนุนการตัดสินใจของมนุษย์ ในขณะที่ AI ที่มีเจตนาเริ่มการกระทำและดำเนินการตามการตัดสินใจ ทั้งสองสามารถมีอิทธิพลต่อการทำงานและพฤติกรรมได้ แต่ระบบ AI ที่มีเจตนาเพียงอย่างเดียวที่กระทำการอิสระ

หากระบบสามารถกระตุ้นการทำงาน อนุมัติผลลัพธ์ ปรับเปลี่ยนสถานะของระบบ หรือกระทำการโดยไม่ต้องได้รับการอนุมัติจากมนุษย์ในเวลาจริง ระบบนั้นควรได้รับการปฏิบัติเหมือน ระบบที่มีเจตนา การตัดสินใจนี้จำเป็นต้องเกิดขึ้นก่อนการนำไปใช้ เนื่องจากเมื่ออำนาจถูกมอบให้กับตัวแทนแล้ว ความรับผิดชอบทางกฎหมายและเชิงปฏิบัติจะเปลี่ยนแปลงไปตามนั้น

องค์กรต้องตระหนักถึงความแตกต่างนี้เพื่อที่จะไม่พบว่าตัวเองได้มอบอำนาจการตัดสินใจโดยไม่ตั้งใจ และมีความรับผิดชอบตามมา

หลักการทางกฎหมายที่มีอยู่แล้ว เช่น การมอบหมายที่ผิดพลาดและ respondeat superior สามารถนำไปใช้กับระบบ AI อัตโนมัติได้จริงหรือไม่ และที่ไหนที่โครงสร้างเหล่านี้เริ่มล้มเหลว

หลักการเหล่านี้สามารถนำไปใช้ได้มากกว่าที่หลายคนคิด

ปัญหาไม่ได้อยู่ที่หลักการทางกฎหมาย แต่อยู่ที่ว่าองค์กรเข้าใจความรับผิดชอบที่พวกเขารับเมื่อนำระบบ AI อัตโนมัติไปใช้ และความจำเป็นในการควบคุมระบบเหล่านั้น

เมื่อองค์กรล้มเหลวในการกำหนดขอบเขต อนุญาต และการดูแลระบบ พวกเขาจะสร้างความรับผิดชอบทางกฎหมาย ปัญหาไม่ใช่ว่ากฎหมายไม่สามารถจัดการกับ AI ที่มีเจตนาได้ แต่องค์กรไม่ได้กำหนดสิ่งที่ระบบของตนได้รับอนุญาตให้ทำหรือวิธีการควบคุมระบบเหล่านั้น

ขั้นตอนที่เป็นรูปธรรมที่ CIO และทีมกฎหมายควรดำเนินการในวันนี้เพื่อกำหนดและลดความรับผิดชอบเมื่อเวิร์กโฟลว์ AI ยังคงเรียนรู้และปรับตัวใน môi trườngการผลิต

ขั้นตอนแรกคือการรักษาการควบคุม AI และข้อมูลในระดับอธิปไตย องค์กรไม่สามารถกำกับดูแลความรับผิดชอบได้อย่างมีความหมายหากระบบ AI และข้อมูลของตนกระจายอยู่ทั่วสภาพแวดล้อมที่ไม่สามารถสังเกตหรือจัดการได้อย่างเต็มที่

ในทางปฏิบัติ หมายถึงการจำกัดการเข้าถึงข้อมูล การกำหนดการกระทำที่ตัวแทนสามารถทำได้อย่างอิสระ และการวางการดูแลของมนุษย์ไว้ вокругการตัดสินใจที่มีผลกระทบสูง นอกจากนี้ยังต้องมีการบันทึกและติดตามผลเพื่อที่จะสามารถตรวจสอบพฤติกรรมเมื่อจำเป็น

คุณแนะนำให้องค์กรควบคุมหรือกำกับ AI ที่มีเจตนาผ่านนโยบาย การควบคุมทางเทคนิค หรือการรักษาความปลอดภัยตามสัญญาเพื่อลดความเสี่ยงของอันตรายที่ไม่ได้ตั้งใจอย่างไร

จุดเริ่มต้นคืออธิปไตย องค์กรต้องการสภาพแวดล้อมที่ระบบ AI ข้อมูล และบริบทการดำเนินการสามารถสังเกตและบังคับใช้ได้ที่ระดับใหญ่ การกำกับดูแลไม่สามารถพึ่งพานโยบายเพียงอย่างเดียว นโยบายกำหนดความคาดหวัง แต่การควบคุมทางเทคนิคกำหนดสิ่งที่ระบบสามารถทำได้

บางตัวแทนควรอยู่ในสภาพแวดล้อมที่มีการปิดล้อมโดยไม่มีการเข้าถึงการผลิต ตัวแทนอื่น ๆ อาจทำงานด้วยการอนุญาตที่จำกัดและเกณฑ์การอนุมัติ ตัวแทนอัตโนมัติเต็มรูปแบบควรหายากและมีการดูแลอย่างรอบคอบ สัญญาสามารถช่วยชี้แจงความรับผิดชอบ แต่ไม่สามารถแทนที่ความจำเป็นในการควบคุมภายในและการรับผิดชอบ

การเปลี่ยนแปลงไปสู่สภาพแวดล้อม AI ที่องค์กรควบคุมหรืออธิปไตยเปลี่ยนแปลงใครที่รับผิดชอบเมื่อระบบ AI ทำให้เกิดความเสียหายทางการเงินหรือการดำเนินงานหรือไม่

ไม่เปลี่ยนแปลงใครที่รับผิดชอบ มันทำให้ความรับผิดชอบชัดเจนขึ้น และในหลายวิธี ลดความเสี่ยง เมื่อองค์กรควบคุมข้อมูล โครงสร้างพื้นฐาน และบริบทการดำเนินการ องค์กรจะกำจัดตัวแปรที่เกิดขึ้นเมื่อข้อมูลและเครื่องมืออยู่ในมือของบุคคลที่สาม

การควบคุมข้อมูลและเครื่องมือ AI เป็นจุดแข็ง การควบคุมดิจิทัลให้องค์กรมีความสามารถในการมองเห็นและอำนาจที่จำเป็นในการจัดการความเสี่ยงอย่างรับผิดชอบ

จากมุมมองของคุณ บทบาทของความโปร่งใสและความสามารถในการตรวจสอบมีผลกระทบต่อการลดการเสี่ยงทางกฎหมายเมื่อใช้แอปพลิเคชัน AI อัตโนมัติอย่างไร

เป็นรากฐาน การตรวจสอบทำให้ระบบอัตโนมัติกลายเป็นระบบที่สามารถป้องกันได้

เมื่อเกิดเหตุการณ์ ผู้กำกับดูแลและศาลถามคำถามที่เป็นรูปธรรม: ระบบรู้อะไรบ้าง ระบบได้รับอนุญาตให้ทำอะไร และทำไมระบบจึงกระทำการนั้น องค์กรที่สามารถแสดงให้เห็นถึงการดูแลและการตรวจสอบอยู่ในตำแหน่งที่ แข็งแกร่ง มากกว่าองค์กรที่ไม่สามารถตอบคำถามเหล่านี้ได้

เมื่อคำแนะนำด้าน AI ของรัฐบาลกลางยังคงพัฒนาไปอย่างต่อเนื่อง องค์กรควรเตรียมพร้อมสำหรับภาระผูกพันทางกฎหมายที่แตกต่างกันในระดับรัฐที่เกี่ยวข้องกับความรับผิดชอบของ AI อย่างไร

องค์กรไม่สามารถรอจนกว่าหน่วยงานกำกับดูแลจะออกกฎที่มีรายละเอียดเกี่ยวกับ AI ได้ กฎหมายของรัฐและรัฐบาลกลางที่มีอยู่ให้ความชัดเจน 95% ที่เราต้องการเพื่อใช้ AI อย่างรับผิดชอบและหลีกเลี่ยงเหตุการณ์ที่มีความรับผิดชอบที่สำคัญ

ความชัดเจนนี้รวมถึงการออกแบบระบบเพื่อให้ตรงตามมาตรฐานความรับผิดชอบต่อผลิตภัณฑ์ที่เข้มงวดที่สุด ซึ่งจะรวมถึงสิ่งต่าง ๆ เช่น การพัฒนาความสามารถ AI ที่มีความรับผิดชอบ การทดสอบก่อนการเปิดตัว ความโปร่งใสและการเปิดเผยความเสี่ยง การตรวจสอบหลังการเปิดตัว การดูแลของมนุษย์ และการฝึกอบรมผู้ใช้ความสามารถ AI

ขั้นตอนพื้นฐานเหล่านี้มีความสำคัญมากกว่าการพยายามคาดการณ์ผลลัพธ์ทางกฎระเบียบ

คำถามที่สำคัญที่สุดซึ่งผู้ซื้อเทคโนโลยีควรถามผู้ขายเกี่ยวกับการควบคุมดิจิทัล ความรับผิดชอบ และความรับผิดชอบก่อนที่จะนำระบบ AI ที่มีเจตนาไปใช้อย่างไร

เมื่อใช้ AI ที่มีเจตนา ความรับผิดชอบสุดท้ายอยู่ที่ฝ่ายที่อนุญาตให้มีอิสระ ดังนั้นคำถามหลักที่คุณควรตอบคือ:

1. ใครควบคุมระบบในระหว่างการผลิต?
2. การอนุญาตทดสอบและบังคับใช้อย่างไร?
3. การเรียนรู้ถูกจำกัดอย่างไร?
4. หลักฐานการตรวจสอบมีอะไรบ้างหากเกิดปัญหา?

หากผู้ขายไม่สามารถให้คำตอบที่ชัดเจนได้ องค์กรควรดำเนินการต่อไปด้วยความระมัดระวัง การกลับไปที่การเปรียบเทียบการเป็นเจ้าของสุนัข: ผู้เพาะพันธุ์มีความสำคัญ แต่ถ้ามีอะไรผิดปกติ ความรับผิดชอบอาจอยู่ที่เจ้าของ

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม EnterpriseDB เพื่อเรียนรู้เพิ่มเติม