인터뷰
에티카의 설립자이자 CEO인 킬리언 키어런 – 인터뷰 시리즈
Unite.AI를 Google의 선호 소스에 추가
킬리언 키어런, 에티카의 설립자이자 CEO는 20년 이상의 데이터 집약형 비즈니스 경험을 가진 시리얼 엔트레프레너이자 프라이버시 엔지니어입니다. 에티카를 설립하기 전에 그는 디지털 에이전시 CKSK를 10년간 이끌었으며, 이후 브랜드커머스를 설립했습니다. 에티카에서 키어런은 프라이버시와 데이터 거버넌스를 수동적인 컴플라이언스 기능에서 기술에 내장된 인프라로 변환하는 데 집중했습니다.
에티카는 기업이 민감한 정보를 발견하고, 동의를 관리하고, 프라이버시 요청을 충족하며, 규칙을 강제하는 데 도움이 되는 신뢰할 수 있는 데이터 인프라를 개발합니다. 플랫폼은 시스템, API 및 AI 파이프라인에서 허용된 데이터 사용을 정의, 감사 및 시행하는 일관된 프레임워크를 만드는 오픈 소스 거버넌스 언어인 Fides를 중심으로 구축됩니다. 현재 에티카는 Astralis를 출시하고 있습니다. Astralis는 자동화된 규제 평가와 목적 기반 액세스 제어를 결합한 AI 거버넌스 레이어로, 조직이 모델과 에이전트가 특정 데이터에 액세스하는 이유를 결정하고 실시간으로 해당 권한을 시행할 수 있도록 합니다. 에티카에 따르면 이 플랫폼은 전통적으로 40~60시간의 수동 작업이 필요한 평가를 약 20~40분으로 줄일 수 있습니다. 이는 기업이 거버넌스 프로세스가 병목 현상이 되지 않도록 AI 배포를 확장할 수 있도록 도와줍니다.
에티카를 설립하기 전에 여러 회사를 설립했습니다. 그 중에는 글로벌 디지털 컨설팅 회사인 CKSK를 포함하여 포춘 500 기업을 서비스했습니다. 엔터프라이즈 AI 채택의 병목 현상이 AI 모델 자체가 아닌 데이터 거버넌스가 될 것이라는 것을 당신에게 확신시킨 경험이 무엇입니까?
나는 대형 기업을 위한 디지털 컨설팅 회사인 CKSK를 세웠고, 디지털 광고와 소셜 미디어의 황금기를 경험했습니다. 강력한 기술이 도착하고, 모든 사람이 채택하기 위해 경쟁하고, 규제자가 나타나서 가드레일을 설치하기 위해 뒤따르면서, 같은 패턴이 반복되는 것을 보았습니다. GDPR와 같은 개인 데이터 사용에 대한 첫 번째 실제 단속은 마케팅 기술과 소셜 미디어가 이미 비즈니스 모델의 백본으로 데이터 수집을 만든 이후에 발생했습니다. AI의 경우에도 같은 패턴이 발생할 것이라는 것을 알았습니다.
이 추측을 확신시킨 것은 에티카에서 프라이버시 컴플라이언스 작업을 하는 것이었습니다. 대형 기업을 위한 컴플라이언스 시스템을 구축하면서, 데이터에 대한 모든 요청을 세 가지 것에 대해 평가하는 레이어를 만들 수 있다는 것을 깨달았습니다: 데이터가 무엇인지, 무엇을 할 수 있는지, 그리고 무엇을 하는 위험이 있는지. 이 작업을 하는 것이 실제 제약이 명백하다는 것을 알았습니다. 기업은 데이터가 부족하지 않습니다. 데이터 사용을 허용하는 거버넌스 레이어가 부족합니다. 이것이 2019년에 우리가 내린 베팅이었고, AI의 등장으로 인해 더 관련성이 있습니다.
과거 1년 동안 엔터프라이즈 AI는 단순한 챗봇에서 의사 결정과 행동을 취할 수 있는 자율 에이전트로 발전했습니다. 이러한 발전은 조직이 직면하는 거버넌스 과제를 어떻게 변경했으며, 왜 전통적인 컴플라이언스 접근 방식은 더 이상 확장되지 않는가?
엔터프라이즈 AI와 ROI에 대해 이야기할 때, 가치가 단순히 에이전트를 워크플로에 플러그인하는 것에서 오는 것으로 생각합니다. 실제로 가치는 에이전트를 광범위한 시스템에 연결하여 데이터를 종합하고 인간이 시간 내에 결합할 수 없는 출력을 생성할 수 있는 능력에서 비롯됩니다. 데이터 액세스는 실제 병목 현상입니다.
문제는 에이전트를 가치 있게 만드는 것과 위험하게 만드는 것이 동일하다는 것입니다. 연결하는 시스템이 많을수록 데이터가 한 조직의 일부에서 다른 일부로 흐르기 시작하며, 이러한 흐름 각각이 데이터가 잘못된 곳에 끝나게 되는 기회가 됩니다.
이러한 흐름 각각을 확인해야 합니다. 이 데이터를 이러한 방식으로 사용하는 것이 허용되는지, 이러한 목적으로 허용되는지, 프라이버시 법과 우리의 정책에 따라 허용되는지. 이러한 결정이 하루에 몇 개씩 발생할 때, 사람은 수동으로 각 호출을 만들 수 있습니다. 그러나 AI 에이전트가 초당 수천 개의 요청을 발생시키면, 이는 인간적으로 불가능해집니다. 이것이 전통적인 컴플라이언스가崩壊하는 지점입니다.
대형 AI 회사들의 거품 있는 평가가 실현되려면, 거버넌스는 실제로 데이터에 액세스하는 순간에 발생해야 합니다.
에티카는 Astralis를 엔터프라이즈 AI의 거버넌스 레이어로 출시하고 있습니다. 고객의 특정 과제가 이 플랫폼의 생성을 이끌었는지, 그리고 지금이 이를 thiệu하는 적절한 때인지 설명해 주십시오.
AI용 데이터를 청소하는 작업은 여전히 2016년의 프라이버시 작업과 마찬가지로 수동으로 진행됩니다. 사람이 질문에 답하고, 평가를 수동으로 실행합니다. 이 프로세스는 이미 普通한 프라이버시 작업에 대해 너무 느렸으며, AI 사용 사례의 볼륨에 대처할 수 없습니다. 현재 판매되는 대부분의 AI 거버넌스는 동일한 양식과 워크플로에 “AI” 레이블이 붙은 것입니다. 양식을 채우는 것은 거버넌스가 아닙니다. 필요한 것은 소프트웨어 자체가 거버넌스 작업을 수행하는 것입니다. 사람이 수동으로 수행한 기록을 생성하는 것이 아닙니다. 이것이 Astralis를 구축한 것입니다.
우리가 응답하는 수요는 빠르고 안전하게 AI를 출하해야 하는 팀에서 오는 것입니다. 현재는 두 가지를 모두 수행할 수 없습니다. 에이전트가 프로덕션에 더 빠르게 들어가고, 규제자가ถาม는 질문이 변경되었습니다. 이전에는 정책이 있는지 묻는 질문이었습니다. 이제는 특정 데이터에 대해 특정 목적으로 정책이 따랐는지를 묻는 것입니다. 대부분의 회사에서 첫 번째 질문에 잘 대답할 수 있습니다. 그러나 두 번째 질문에 잘 대답할 수 있는 회사는 거의 없습니다.
가트너는 2028년까지 평균 포춘 500 회사가 15개에서 150,000개의 AI 에이전트를 실행할 것으로 예측합니다. 데이터와 상호작용하는 인간 직원이 아닌 자율 에이전트가 더 많을 때 기업 리더는 거버넌스를 어떻게 재고해야 합니까?
2028년까지 데이터에 액세스하는 에이전트의 수가 데이터에 액세스하는 직원의 수를 초과할 것입니다. 데이터를 사용하는 행위자가 대부분 기계인 경우,誰가 책임을 지는지 묻는 질문이 발생합니다. 이전 모델은 최종 인간 승인에서 책임을 찾습니다. 그러나 대부분의 결정이 인간에 의해 만들어지거나 검토되지 않는 경우, 책임이 사람에서 시스템으로 이동해야 합니다.
은행은 이미 이러한 변화를 만들었습니다. 우리는 은행을 신뢰하지 않습니다. 왜냐하면 은행원이 수동으로 돈을 세기 때문이 아닙니다. 우리는 은행을 신뢰합니다. 왜냐하면 제어가健全하고, 이를 유지하기 위해 책임이 있는 사람들이 있기 때문입니다. 데이터 거버넌스도 동일해야 합니다. 데이터를 책임 있게 처리하는 증거는 더 이상 사람이 검토했는지 여부가 아니라, 시스템이 자동으로 모든 사용에 대해 정책을 시행할 수 있으며, 이를 증명할 수 있다는 것입니다. 이는 비즈니스 리더가 좋은 판단을 내리고, 규칙을 설정하고, 시스템을 지지하는 데 집중할 수 있도록 합니다.
Astralis는 대규모 언어 규제 모델(LLRM)과 목적 기반 액세스 제어(PBAC)를 결합합니다. AI 시스템이 데이터에 액세스할 수 있는 이유를 이해하는 데 어떻게 협력하는지 설명해 주십시오.
전통적인 액세스 제어는 누가 데이터에 액세스할 수 있는지 확인합니다. 그러나 프라이버시는 다릅니다. 누가 들어갈 수 있는지 묻는 질문이 아닙니다. 누군가 데이터셋에 액세스할 수 있는 권한을 가지고 있지만, 허용되지 않은 용도로 사용할 수 있습니다. 중요한 질문은 데이터가 사용되는 목적과 허용되는 목적인지 여부입니다. 이것이 PBAC가 답변하고 시행하는 것입니다.
어려운 부분은 목적이 기술的事實이 아니라는 것입니다. 비즈니스에서 무엇을 하는지, 고객에게 무엇을 약속했는지, 그리고 법이 무엇을 허용하는지에 달려 있습니다. 이것이 LLRM을 사용하는 이유입니다. LLRM은 비즈니스 운영 방법을 학습하고, 적용되는 규정을 작업하여, 출력으로 각 유형의 데이터가 사용할 수 있는지 여부를 결정합니다. PBAC는 그 결정 사항을 액세스 지점에서 시행합니다. LLRM이 이유를 제시하고, PBAC가 행동합니다.
당신의 출시 발표에서는 AI 평가가 40~60시간의 수동 작업에서 20~40분으로 줄어든다고 합니다. 오늘날의 거버넌스 프로세스에서 가장 비효율적인 부분은 무엇이며, 자동화는 어디에서 가장 큰 이점을 제공합니까?
40~60시간의 대부분은 인간의 판단이 필요한 것이 아닙니다. 그것은 데이터를 수동으로 매핑하고, 스프레드시트에 유지하며, 팀을 통해 컨텍스트를 추적하는 데 소요됩니다. 실제 평가, 즉 인간의 생각이 필요한 부분은 작업의 작은 부분입니다. 나머지는 이미 비즈니스에서 가지고 있는 정보를 수집하는 전문가의 작업입니다.
이 작업은 결코 완료되지 않습니다. 평가是一次性的 스냅샷이지만, AI 사용 사례는 계속 나타납니다. 각 사용 사례는 자신의 검토가 필요합니다. 수동 프로세스는 느리며, 비즈니스에서 원하는 속도로 진행할 수 없습니다. 또한 기업이
효율성 향상은 누가 무엇을 하는지 변경하는 것입니다. 시스템이 메타데이터를 자체적으로 가져오므로,誰도 수동으로 컨텍스트를 추적할 필요가 없습니다. 시스템은 인간이 실제로 답변할 수 있는 질문만 표시합니다. 즉, 진정한 판단 호출입니다. 오디트 트레일은 평가가 발생하는 동안 자동으로 구축되므로,誰도 이후에 그것을 기억에서 작성할 필요가 없습니다. 이것이 40시간을 40분으로 만드는 것입니다.
한 주요 미국 금융 기관이 Astralis를 통해 약 6,000개의 거버넌스 요청을 처리한다는 주장이 있습니다. 이러한 규모에서 운영하는 것은 엔터프라이즈 AI의 미래 인프라 요구 사항에 대해 무엇을 가르칩니다?
교훈은 거버넌스가 별도의 단계가 될 수 없다는 것입니다. 6,000개의 결정이 초당 발생할 때, 그것은 데이터 경로 자체에서 발생해야 하며, 쿼리와 모델을 관리하는 것과 동일한 속도로 발생해야 합니다. AI의 경우, 거버넌스는 인프라여야 합니다. 항상 켜져 있고, 항상 데이터 경로에 내장되어 있어야 합니다. 거버넌스는 빠르なければならない 것입니다. 거버넌스가 느리면, 그것은 사람들이 데드라인을 맞추기 위해 건너뛰게 됩니다.
AI 규제는 미국과 유럽에서 빠르게 발전하고 있습니다. 법적 프레임워크가 변경됨에 따라 거버넌스 플랫폼을 어떻게 구축하여 기업이 수동으로 정책을 업데이트하지 않도록 할 수 있습니까?
대부분의 컴플라이언스 도구가犯하는 실수는 규칙을 제품에 구축하여 법이 변경되면 도구를 재설계해야 한다는 것입니다. Astralis는 반대로 작동합니다. 기반에는 데이터와 사용을 설명하는 공통 언어가 있으며, 규칙은 없습니다. 규칙은 정책 레이어에 별도로 있습니다. LLRM은 규제를 읽고, 비즈니스에 적용되는 것을 작업하여, 출력으로 정책을 작성합니다. PBAC는 그 정책을 시행합니다. 규칙이 변경되면, 시행 메커니즘은 전혀 영향을 받지 않습니다.
새로운 규제가 도입되면, 모든 노력이 비즈니스에 의미하는 것을 작업하는 데 집중할 수 있습니다. 프라이버시 시스템을 재설계하는 데 시간을 할애할 필요가 없습니다.
많은 임원들은 무단으로 결정이나 민감한 정보에 액세스할 수 있는 로그 에이전트에 대해 우려합니다. 이러한 우려는 오늘날 얼마나 현실적이며, 조직은 대규모로 AI 에이전트를 배포하기 전에 어떤 실제 방어 수단을 구현해야 합니까?
이것은 완전히 현실적이며, 이미 발생하고 있습니다. 캘리포니아는 디즈니에 275만 달러의 벌금을 부과했습니다. 왜냐하면 그들의 시스템이 기본적으로 소비자의 옵트아웃을 신뢰할 수 없게 만들었기 때문입니다. 그들의 시스템에서 소비자가 한 장치에서 옵트아웃을 선택하면, 다른 장치에서는 옵트인으로 유지되며, 브라우저 수준의 옵트아웃 지침은 유효한 요청으로 처리되지 않았습니다. 이 사건은 에이전트가 예측할 수 없게 행동한 결과가 아니었습니다. 이는 기본적으로 비즈니스에서 약속한 것과 시스템이 시행할 수 있는 것 사이의 간격이었습니다.
이러한 실패를 실제로 방지하는 방어 수단은 평범합니다. 데이터가 무엇인지, 그것에 대해 무엇을 약속했는지, 그리고 모든 것을 한 곳에 보관하는 것입니다. 대부분의 이러한 실패는 한 팀의 약속이 다른 팀의 데이터베이스에 도달하지 못한 결과입니다.
3~5년 후, 엔터프라이즈 AI를 성공적으로 구현한 기업과 아직 파일럿 프로젝트에 머물러 있는 기업을 구별하는 것은 무엇이며, 거버넌스는 이 경쟁 우위를 창출하는 데 어떤 역할을 할 것입니까?
차이점은 기업이 데이터를 거버넌스하는 시스템이 하나인지, 아니면 각 데이터베이스와 팀에 별도로 거버넌스를 추가했는지에 달려 있습니다. 데이터를 부서별로 거버넌스하는 기업은 계속해서 장벽에 부딪칠 것입니다. 왜냐하면 AI는設計上 부서를横跨하기 때문입니다. 모든 기업은 빠르게 AI를 출하하고, 규제자의 편지에 포함되지 않도록 지시받고 있습니다. 지금까지 이러한 두 가지가 서로 반대되었습니다. 두 가지를 모두 해결하는 기업이 10년을 승리할 것입니다.
