엔터프라이즈DB의 로브 펠드만, 최고 법률 책임자 – 인터뷰 시리즈

로브 펠드만, 최고 법률 책임자는 엔터프라이즈DB의 전 세계적인 법률 및 규정 준수 기능을 담당합니다. 유능한 경영자이자 변호사로서, 그는 성장하는 기술 회사에서 동적 비즈니스 및 규정 환경에서 높은 성과를 발휘하는 법률 팀을 구축합니다. 가장 최근에는 그는 45명의 법률 팀을 이끌었으며, 2022년 1,600억 달러 이상의 사내 매각을 포함하여 시트릭스 시스템즈의 일반 변호사로 활동했습니다. 시트릭스 이전에는 그는 10년 이상 민간 법률事務소에서 기술 회사 소송 변호사로 활동했으며, 주식 欺诈 방어, 지적 재산권 분쟁 및 정부 및 내부 조사에 초점을 맞추었습니다. 로브는 또한 유엔 글로벌 콤팩트 법률위원회에서 글로벌 규제 환경에 대한 전략적 지침을 제공하여 기업이 변革적이고 장기적인 영향을 미칠 수 있도록 도와줍니다.

엔터프라이즈DB는 오픈소스 PostgreSQL를 기반으로 하는 기업급 데이터베이스 솔루션을 제공하는 소프트웨어 회사입니다. 2004년에 설립된 엔터프라이즈DB는 클라우드 및 온프레미스 플랫폼, 글로벌 지원, 오라클 호환성 도구를 제공하며, 점점 더 Postgres AI를 통해 AI 준비 및 하이브리드 데이터 플랫폼에 초점을 맞추고 있습니다.

기업의 법률 리더십과 엔터프라이즈DB의 기업급 Postgres 및 주권 AI 및 데이터 플랫폼에 대한 초점을 고려하여, 비즈니스에서 비대면 AI를 운영할 때 책임이 어떻게 발전할 것으로 보는지 설명해 주십시오.

AI와 데이터의 세계는 이전에 기업이 준수해야 했던 동일한 핵심 원칙에 의존합니다. 책임, 제한, 책임의 명확성입니다.

과거에는 이러한 원칙이 사람과 대부분의 비동적 시스템, 대시보드, 보고서 및 자동화된 도구에 적용되었습니다. 비대면 AI는 더 많은 참여자와 같은 시스템을 도입합니다. 독립적으로 행동하고, 시간이 지남에 따라 적응하며, 점점 더 인간과 다른 에이전트와 상호 작용할 수 있습니다.

조직이 강력한 거버넌스와 통제를 가지지 못한다면, 이 환경에서 어려움을 겪을 것입니다. 비대면 AI는 새로운 책임 문제를 창조하지는 않지만, 기존의 문제를 노출시킵니다. 건전한 기초를 가진 기업에서는 이 전환은 이미 따르는 관행을 강화합니다. 다른 기업에서는 실질적인 가이드레일을 설정해야 한다는 명확한 신호입니다.

대략 13%의 기업만이 비대면 AI를 성공적으로 확대했습니다. 그들은 다른 모든 기업보다 2배 더 많은 비대면 AI를 사용하며, 5배 더 높은 ROI를 달성합니다. 그러나 AI 시스템이 더 많은 자율성을 가지면, 조직은 더 빨리 책임을 직면해야 합니다. AI 에이전트가 청구를 라우팅하거나, 돈을 이동하거나, 민감한 데이터를 잘못 처리할 때, 책임은 환경을 정의하고, 권한을 설정하고, 시스템이 얼마나 많은 자유를 가졌는지 결정한 기업에게 따릅니다.

이것은为什么 기업이 비대면 AI 사용 사례에 대한 명확한 감독을 가져야 하며, 기업이 가이드레일과 거버넌스 프로그램에 집중해야 하는 이유입니다. 개와 디지털 리싱의 유사성은 유용합니다. 개는 일정 수준의 자율성을 가지며, 독립적으로 행동하며, 때때로 예측할 수 없지만, 법적 개인이 아닙니다. 이러한 조합, 즉 자율성과 비 개인성은 오늘날의 비대면 AI 시스템과 유사하며, 소유자는 감독과 거버넌스가 없으면 나쁨 결과에 대한 책임을 지게 됩니다.

기업은 배포 전에 법률 및 운영 관점에서 지원 AI와 비대면 AI를 어떻게 구별해야 합니까?

단순한 수준에서 구별은 권한에 달려 있습니다. 지원 AI는 인간의 의사 결정에 도움을 주며, 비대면 AI는 행동을 시작하고 의사 결정을 실행합니다. 두 시스템 모두 워크플로우와 행동에 영향을 미칠 수 있습니다. 그러나 비대면 시스템만이 독립적으로 영향을 미칩니다.

시스템이 워크플로우를 트리거하거나, 결과를 승인하거나, 시스템 상태를 수정하거나, 실시간 인간 승인 없이 행동할 수 있다면, 그것은 비대면으로 간주되어야 합니다. 이러한 결정은 배포 전에 이루어져야 합니다. 왜냐하면 에이전트에게 권한이 부여되면, 법적 및 운영 책임도 함께 이동합니다. 조직은 이러한 구별을 인식하여 비대면 에이전트에게 의사 결정 권한을 부여하지 않도록 해야 합니다.

기존의 법적 교리, 즉 부주의한 위임과 상사 책임이 자율적 AI 시스템에 현실적으로 적용될 수 있습니까? 이러한 프레임워크는 어디에서 부서지기 시작합니까?

그들은 더 직접적으로 적용됩니다. 이러한 교리는 권한이 위임되고 손해가 발생하는 상황을 다루기 위해 존재하며, 이는 비대면 AI가 도입하는 잠재적인 도전입니다.

문제는 법적 교리와 관련이 아니라, 조직이 자율적 AI를 배포할 때 가정하는 책임을 이해하는 것입니다. 또한 이러한 시스템을 관리하는 필요성입니다.

조직이 범위, 권한 및 감독을 정의하지 못하면, 법적 책임을 창조합니다. 문제는 법이 비대면 AI를 다루지 못하는 것이 아니라, 기업이 시스템이 무엇을 할 수 있는지 또는 어떻게 관리되어야 하는지 명확히 정의하지 못하는 것입니다.

CIO와 법률 팀은 생산 환경에서 AI 워크플로우가 계속 학습하고 적응하는 경우에 책임을 정의하고 완화하기 위해 오늘날 어떤 실제 단계를 취해야 합니까?

첫 번째 단계는 AI와 데이터에 대한 주권을 임무 임무로 취급하는 것입니다. 조직은 자신의 AI 시스템과 데이터가 완전히 관찰하거나 관리할 수 없는 환경에 분산된 경우, 책임을 의미 있게 관리할 수 없습니다. 비대면 AI를 성공적으로 확대한 13%의 기업은 이 기초에서 시작합니다.

실제로 이는 데이터 액세스를 제한하고, 에이전트가 독립적으로 수행할 수 있는 행동을 명확히 정의하며, 고影响力的 결정에 대한 인간 감독을 두는 것을 의미합니다. 또한 로깅 및 추적 가능성이 필요하여, 필요할 때 행동을 검토할 수 있습니다. 이러한 조치를 조기에 채택하는 조직은 법적 노출과 운영 마찰을 줄일 것입니다.

기업은 정책, 기술적 통제 또는 계약적 안전장치 등을 통해 비대면 AI를 어떻게 통제하거나 관리해야 합니까?

시작점은 주권입니다. 기업은 자신의 AI 시스템, 데이터 및 실행 컨텍스트가 관찰 가능하고 규제 가능하도록 환경을 설정해야 합니다. 거버넌스는 정책만으로頼할 수 없습니다. 정책은 기대를 설정하지만, 기술적 통제는 시스템이 실제로 무엇을 할 수 있는지, 데이터가 저장되거나 이동 중인지를, 모델이 어떻게 운영되는지를 결정합니다.

일부 에이전트는 생산 환경에 액세스할 수 없는 격리된 환경에 속해야 합니다. 다른 에이전트는 제한된 권한과 승인 임계값으로 운영할 수 있습니다. 완전히 자율적인 에이전트는 드물고, 신중하게 감독되어야 합니다. 계약은 책임을 명확히 할 수 있지만, 내부 통제 및 책임의 필요성을 대체하지는 않습니다.

기업이 제어하는 AI 환경으로의 전환은 AI 에이전트가 재정적 또는 운영상의 손해를 일으킬 때 궁극적으로 책임을 지는 사람을 변경합니까?

그것은 책임을 지는 사람을 변경하지 않습니다. 그것은 책임을 더 명확하게 만들고, 많은 경우에 위험을 줄입니다. 기업이 데이터, 인프라 및 실행 컨텍스트를 제어할 때, 제3자의 손에 있는 데이터 및 툴링으로 인해 도입되는 변수를 제거합니다.

데이터 및 AI 툴링에 대한 제어는 강점입니다. 주권은 조직이 책임을 지혜롭게 관리하는 데 필요한 가시성 및 권한을 제공합니다. 이러한 제어가 없으면, 기업은 위험 프로파일을 확대합니다.

자율적 AI 애플리케이션을 실행할 때 투명성과 감사 가능성이 법적 노출을 줄이는 데 어떤 역할을 합니까?

그들은 기초적입니다. 감사 가능성은 자율적 시스템을 방어 가능한 시스템으로 만듭니다.

사건이 발생하면, 규제 기관 및 법원은 실제적인 질문을 합니다. 시스템이 무엇을 알았는지, 무엇을 할 수 있었는지, 왜 행동했는지. 감독 및 감사 가능성을 입증할 수 있는 기업은 훨씬 더 강한 위치에 있습니다.

연방 AI 지침이 계속 발전함에 따라, 기업은 AI 책임에 관련된 州 수준의 법적 의무에 대해 어떻게 준비해야 합니까?

기업은 규제 기관이 세부적인 규칙을 내놓을 때까지 기다릴 수 없습니다. 기존의 州 및 연방 법은 AI를 책임 있게 사용하고, 상당한 책임 사고를 피하기 위해 95%의 명확성을 제공합니다.

이 명확성에는 책임 있는 AI 기능 개발, 사전 테스트, 투명성 및 위험 공개, 사후 감사, 인간 감독, AI 기능 사용자 교육 등이 포함됩니다. 이러한 기본적인 단계는 규제 결과를 예측하는 것보다 더 중요합니다.

기술 구매자는 비대면 AI 시스템을 채택하기 전에 에이전트, 감독, 책임에 대해 벤더에게 어떤 질문을 해야 합니까?

비대면 AI의 경우, 궁극적으로 책임은 자율성을 승인하는 당사자에게 있습니다. 따라서 네 가지 주요 질문을 해결해야 합니다.

1. 시스템을 생산 환경에서誰が 제어합니까?
2. 권한은 어떻게 테스트되고 적용됩니까?
3. 학습은 어떻게 제한됩니까?
4. 문제가 발생하면 어떤 감사 증거가 있습니까?

벤더가 명확한 답변을 제공하지 못한다면, 기업은 주의를 기울여야 합니다. 개와 디지털 리싱의 유사성으로 돌아가면,繁殖者는 중요하지만, 문제가 발생하면, 소유자가 책임을 질 수 있습니다.

훌륭한 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 엔터프라이즈DB를 방문하십시오.