인터뷰
에티카의 설립자이자 CEO인 킬리언 키어런 – 인터뷰 시리즈
Unite.AI를 Google의 선호 소스에 추가
킬리언 키어런, 에티카의 설립자이자 CEO는 20년 이상의 데이터 집약형 비즈니스 경험을 가진 시리얼 엔트레프레너이자 프라이버시 엔지니어입니다. 에티카를 설립하기 전에 그는 디지털 에이전시 CKSK를 10년간 이끌었으며, 이후 브랜드커머스를 설립했습니다. 에티카에서 키어런은 프라이버시와 데이터 거버넌스를 수동적인 컴플라이언스 기능에서 기술에 내장된 인프라로 변환하는 데 집중했습니다.
에티카는 기업이 민감한 정보를 발견하고, 동의를 관리하고, 프라이버시 요청을 충족하며, 규칙을 강제하는 데 도움이 되는 신뢰할 수 있는 데이터 인프라를 개발합니다. 플랫폼은 시스템, API 및 AI 파이프라인에서 허용된 데이터 사용을 정의, 감사 및 시행하는 일관된 프레임워크를 만드는 오픈 소스 거버넌스 언어인 Fides를 중심으로 구축됩니다. 현재 에티카는 Astralis를 출시하고 있습니다. Astralis는 자동화된 규제 평가와 목적 기반 액세스 제어를 결합한 AI 거버넌스 레이어로, 조직이 모델과 에이전트가 특정 데이터에 액세스하는 이유를 결정하고 실시간으로 해당 권한을 시행할 수 있도록 합니다. 에티카에 따르면 이 플랫폼은 전통적으로 40~60시간의 수동 작업이 필요한 평가를 약 20~40분으로 줄일 수 있습니다. 이는 기업이 거버넌스 프로세스가 병목 현상이 되지 않도록 AI 배포를 확장할 수 있도록 도와줍니다.
에티카를 설립하기 전에 여러 회사를 설립했습니다. 그 중에는 글로벌 디지털 컨설팅 회사인 CKSK를 포함하여 포춘 500 기업을 서비스했습니다. 엔터프라이즈 AI 채택의 병목 현상이 AI 모델 자체가 아닌 데이터 거버넌스가 될 것이라는 것을 당신에게 확신시킨 경험이 무엇입니까?
나는 대형 기업을 위한 디지털 컨설팅 회사인 CKSK를 세웠고, 디지털 광고와 소셜 미디어의 황금기를 경험했습니다. 강력한 기술이 도착하고, 모든 사람이 채택하기 위해 경쟁하고, 규제자가 나타나서 가드레일을 설치하기 위해 뒤따르면서, 같은 패턴이 반복되는 것을 보았습니다. GDPR와 같은 개인 데이터 사용에 대한 첫 번째 실제 단속은 마케팅 기술과 소셜 미디어가 이미 비즈니스 모델의 백본으로 데이터 수집을 만든 이후에 발생했습니다. AI의 경우에도 같은 패턴이 발생할 것이라는 것을 알았습니다.
이 추측을 확신시킨 것은 에티카에서 프라이버시 컴플라이언스 작업을 하는 것이었습니다. 대형 기업을 위한 컴플라이언스 시스템을 구축하면서, 데이터에 대한 모든 요청을 세 가지 것에 대해 평가하는 레이어를 만들 수 있다는 것을 깨달았습니다: 데이터가 무엇인지, 무엇을 할 수 있는지, 그리고 무엇을 하는 위험이 있는지. 이 작업을 하는 것이 실제 제약이 명백하다는 것을 알았습니다. 기업은 데이터가 부족하지 않습니다. 데이터 사용을 허용하는 거버넌스 레이어가 부족합니다. 이것이 2019년에 우리가 내린 베팅이었고, AI의 등장으로 인해 더 관련성이 있습니다.
과거 1년 동안 엔터프라이즈 AI는 단순한 챗봇에서 의사 결정과 행동을 취할 수 있는 자율 에이전트로 발전했습니다. 이러한 발전은 조직이 직면하는 거버넌스 과제를 어떻게 변경했으며, 왜 전통적인 컴플라이언스 접근 방식은 더 이상 확장되지 않는가?
엔터프라이즈 AI와 ROI에 대해 이야기할 때, 가치가 단순히 에이전트를 워크플로에 플러그인하는 것에서 오는 것으로 생각합니다. 실제로 가치는 에이전트를 광범위한 시스템에 연결하여 데이터를 종합하고 인간이 시간 내에 결합할 수 없는 출력을 생성할 수 있는 능력에서 비롯됩니다. 데이터 액세스는 실제 병목 현상입니다.
문제는 에이전트를 가치 있게 만드는 것과 위험하게 만드는 것이 동일하다는 것입니다. 연결하는 시스템이 많을수록 데이터가 한 조직의 일부에서 다른 일부로 흐르기 시작하며, 이러한 흐름 각각이 데이터가 잘못된 곳에 끝나게 되는 기회가 됩니다.
이러한 데이터 흐름은 하나하나 확인해야 합니다. 개인정보보호법과 자체 정책에 따라 이 데이터를 이런 방식으로, 이런 목적으로 사용해도 되는지 판단해야 하는 것이죠. 하루에 몇 건만 판단하면 된다면 사람이 각각 결정할 수 있습니다. 하지만 AI 에이전트가 초당 수천 건의 요청을 보내면 사람이 감당할 수 없는 일이 됩니다. 바로 이 지점에서 기존 규정 준수 방식은 한계에 부딪힙니다.
대형 AI 회사들의 거품 있는 평가가 실현되려면, 거버넌스는 실제로 데이터에 액세스하는 순간에 발생해야 합니다.
에티카는 Astralis를 엔터프라이즈 AI의 거버넌스 레이어로 출시하고 있습니다. 고객의 특정 과제가 이 플랫폼의 생성을 이끌었는지, 그리고 지금이 이를 thiệu하는 적절한 때인지 설명해 주십시오.
AI에 데이터를 사용해도 되는지 확인하는 작업은 여전히 2016년의 개인정보보호 업무처럼 진행됩니다. 사람이 설문지를 작성하고 평가를 수작업으로 수행하는 방식입니다. 일반적인 개인정보보호 업무에도 이미 너무 느렸던 이 절차로는 쏟아지는 AI 활용 사례를 감당할 수 없습니다. 현재 AI 거버넌스라는 이름으로 판매되는 것 대부분은 기존 양식과 업무 절차에 “AI”라는 이름표를 붙인 것입니다. 양식을 채우는 것이 거버넌스는 아닙니다. 필요한 것은 사람이 수작업으로 처리했다는 기록을 만드는 소프트웨어가 아니라, 거버넌스 업무 자체를 수행하는 소프트웨어입니다. Astralis는 바로 그 일을 하도록 만들었습니다.
우리가 응답하는 수요는 빠르고 안전하게 AI를 출하해야 하는 팀에서 오는 것입니다. 현재는 두 가지를 모두 수행할 수 없습니다. 에이전트가 프로덕션에 더 빠르게 들어가고, 규제자가ถาม는 질문이 변경되었습니다. 이전에는 정책이 있는지 묻는 질문이었습니다. 이제는 특정 데이터에 대해 특정 목적으로 정책이 따랐는지를 묻는 것입니다. 대부분의 회사에서 첫 번째 질문에 잘 대답할 수 있습니다. 그러나 두 번째 질문에 잘 대답할 수 있는 회사는 거의 없습니다.
가트너는 2028년까지 평균 포춘 500 회사가 15개에서 150,000개의 AI 에이전트를 실행할 것으로 예측합니다. 데이터와 상호작용하는 인간 직원이 아닌 자율 에이전트가 더 많을 때 기업 리더는 거버넌스를 어떻게 재고해야 합니까?
2028년이 되면 기업 데이터에 접근하는 에이전트 수가 해당 데이터에 접근하는 직원 수를 넘어설 것입니다. 데이터를 사용하는 주체가 압도적으로 기계일 때 누구에게 책임을 물어야 할까요? 기존 방식은 최종적으로 승인한 사람에게 책임을 둡니다. 그러나 대다수 결정을 사람이 내리지도, 검토하지도 않는다면 책임을 담보하는 방식도 사람의 개별 승인에서 시스템으로 옮겨가야 합니다.
은행은 오래전에 이런 변화를 겪었습니다. 우리가 은행을 신뢰하는 이유는 직원이 지폐를 손으로 세기 때문이 아닙니다. 통제 체계가 건전하고, 그 상태를 유지할 책임을 지는 사람이 있기 때문입니다. 데이터 거버넌스도 마찬가지여야 합니다. 기업이 데이터를 책임 있게 다룬다는 증거는 사람이 검토했다는 사실에서, 시스템이 모든 사용에 정책을 자동으로 적용하고 이를 입증할 수 있다는 사실로 바뀌어야 합니다. 그래야 책임성이 체계 안에 내장됩니다. 그러면 경영진은 자신들이 잘하는 일, 즉 판단하고 규칙을 정하고 시스템에 책임을 지는 일에 집중할 수 있습니다.
Astralis는 대규모 언어 규제 모델(LLRM)과 목적 기반 액세스 제어(PBAC)를 결합합니다. AI 시스템이 데이터에 액세스할 수 있는 이유를 이해하는 데 어떻게 협력하는지 설명해 주십시오.
전통적인 액세스 제어는 누가 데이터에 액세스할 수 있는지 확인합니다. 그러나 프라이버시는 다릅니다. 누가 들어갈 수 있는지 묻는 질문이 아닙니다. 누군가 데이터셋에 액세스할 수 있는 권한을 가지고 있지만, 허용되지 않은 용도로 사용할 수 있습니다. 중요한 질문은 데이터가 사용되는 목적과 허용되는 목적인지 여부입니다. 이것이 PBAC가 답변하고 시행하는 것입니다.
어려운 점은 사용 목적이 데이터베이스에서 읽어 낼 수 있는 기술적 사실이 아니라는 것입니다. 목적은 기업이 무슨 일을 하는지, 고객에게 무엇을 약속했는지, 법이 무엇을 허용하는지에 달려 있습니다. LLRM은 이를 위해 존재합니다. 해당 기업의 운영 방식을 학습한 뒤 적용되는 규정을 검토하고, 각 종류의 데이터를 어떤 목적으로 사용할 수 있고 없는지 명확히 판단합니다. PBAC는 데이터에 접근하는 시점에 그 판단을 집행합니다. LLRM이 추론하고 PBAC가 실행하는 것입니다.
당신의 출시 발표에서는 AI 평가가 40~60시간의 수동 작업에서 20~40분으로 줄어든다고 합니다. 오늘날의 거버넌스 프로세스에서 가장 비효율적인 부분은 무엇이며, 자동화는 어디에서 가장 큰 이점을 제공합니까?
40~60시간의 대부분은 인간의 판단이 필요한 것이 아닙니다. 그것은 데이터를 수동으로 매핑하고, 스프레드시트에 유지하며, 팀을 통해 컨텍스트를 추적하는 데 소요됩니다. 실제 평가, 즉 인간의 생각이 필요한 부분은 작업의 작은 부분입니다. 나머지는 이미 비즈니스에서 가지고 있는 정보를 수집하는 전문가의 작업입니다.
답답한 점은 이 작업이 한 번 끝냈다고 끝난 상태로 남아 있지 않는다는 것입니다. 평가는 특정 시점의 상황을 담은 기록이지만, 새로운 AI 활용 사례는 계속 나타나며 각각 별도의 검토가 필요합니다. 따라서 수작업 절차는 한 번만 느린 것이 아니라 기업이 원하는 속도에 늘 뒤처지고, 결국 감당하기 어려워집니다.
효율성은 누가 어떤 일을 하는지 바꿀 때 높아집니다. 시스템이 메타데이터를 직접 가져오므로 사람이 맥락 정보를 일일이 찾아다닐 필요가 없습니다. 기계가 채울 수 있는 항목을 사람에게 끝없이 입력하게 하는 대신, 실제로 사람의 판단이 필요한 질문만 제시합니다. 감사 추적 기록도 평가가 진행되는 동안 자동으로 쌓이므로, 나중에 기억을 더듬어 작성할 필요가 없습니다. 바로 이렇게 40시간이 40분으로 줄어듭니다.
한 주요 미국 금융 기관이 Astralis를 통해 약 6,000개의 거버넌스 요청을 처리한다는 주장이 있습니다. 이러한 규모에서 운영하는 것은 엔터프라이즈 AI의 미래 인프라 요구 사항에 대해 무엇을 가르칩니다?
교훈은 거버넌스가 더 이상 별도 단계여서는 안 된다는 것입니다. 초당 6,000건을 판단해야 한다면 데이터가 흐르는 경로 안에서, 관리 대상인 쿼리와 모델과 같은 속도로 작동해야 합니다. AI의 거버넌스는 곁에서 작성하는 보고서가 아니라 항상 켜져 있고 데이터 처리 경로에 내장된 인프라여야 합니다. 속도가 중요합니다. 거버넌스가 느리면 사람들이 마감일을 맞추기 위해 건너뛰는 절차가 되기 때문입니다.
AI 규제는 미국과 유럽에서 빠르게 발전하고 있습니다. 법적 프레임워크가 변경됨에 따라 거버넌스 플랫폼을 어떻게 구축하여 기업이 수동으로 정책을 업데이트하지 않도록 할 수 있습니까?
대부분의 규정 준수 도구가 저지르는 실수는 규칙을 제품에 고정해 넣는 것입니다. 그러면 법이 바뀔 때 공급업체가 도구를 다시 설계해 주기를 기다려야 합니다. Astralis는 반대로 작동하도록 설계했습니다. 기반에는 데이터와 그 용도를 설명하는 공통 언어가 있고, 그 자체에는 규칙이 전혀 없습니다. 규칙은 그 위의 별도 정책 계층에 있습니다. LLRM이 규정을 읽고 해당 기업에 어떤 의미인지 판단해 정책을 작성합니다. PBAC는 그 시점의 정책을 집행하므로 규칙이 바뀌어도 집행 메커니즘은 전혀 바꿀 필요가 없습니다.
새로운 규제가 도입되면, 모든 노력이 비즈니스에 의미하는 것을 작업하는 데 집중할 수 있습니다. 프라이버시 시스템을 재설계하는 데 시간을 할애할 필요가 없습니다.
많은 임원들은 무단으로 결정이나 민감한 정보에 액세스할 수 있는 로그 에이전트에 대해 우려합니다. 이러한 우려는 오늘날 얼마나 현실적이며, 조직은 대규모로 AI 에이전트를 배포하기 전에 어떤 실제 방어 수단을 구현해야 합니까?
이것은 완전히 현실적이며, 이미 발생하고 있습니다. 캘리포니아는 디즈니에 275만 달러의 벌금을 부과했습니다. 왜냐하면 그들의 시스템이 기본적으로 소비자의 옵트아웃을 신뢰할 수 없게 만들었기 때문입니다. 그들의 시스템에서 소비자가 한 장치에서 옵트아웃을 선택하면, 다른 장치에서는 옵트인으로 유지되며, 브라우저 수준의 옵트아웃 지침은 유효한 요청으로 처리되지 않았습니다. 이 사건은 에이전트가 예측할 수 없게 행동한 결과가 아니었습니다. 이는 기본적으로 비즈니스에서 약속한 것과 시스템이 시행할 수 있는 것 사이의 간격이었습니다.
이러한 실패를 실제로 방지하는 방어 수단은 평범합니다. 데이터가 무엇인지, 그것에 대해 무엇을 약속했는지, 그리고 모든 것을 한 곳에 보관하는 것입니다. 대부분의 이러한 실패는 한 팀의 약속이 다른 팀의 데이터베이스에 도달하지 못한 결과입니다.
3~5년 후, 엔터프라이즈 AI를 성공적으로 구현한 기업과 아직 파일럿 프로젝트에 머물러 있는 기업을 구별하는 것은 무엇이며, 거버넌스는 이 경쟁 우위를 창출하는 데 어떤 역할을 할 것입니까?
차이는 모든 데이터를 관리하는 하나의 시스템을 갖췄는지, 아니면 데이터베이스와 팀마다 거버넌스를 별도로 덧붙였는지에서 갈릴 것입니다. 여전히 부서별로 데이터를 관리하는 기업은 계속 벽에 부딪힐 것입니다. AI는 본래 부서를 넘나들며 작동하기 때문입니다. 모든 기업이 AI를 빠르게 출시하면서도 규제기관의 지적을 받지 말라는 요구를 받고 있지만, 지금까지 이 두 목표는 서로 충돌했습니다. 하나에 만족하지 않고 둘 다 해결하는 기업이 향후 10년을 이끌 것입니다.
