AI 거버넌스: 대부분의 문제, 몇몇의优势

기업 AI는誰も 계산하지 못하는 속도로 위험을 축적하고 있습니다. AI 에이전트는 고객 데이터, 생산 코드 및 중요한 비즈니스 결정에触れており, 대부분의 조직에서는 매우 다른 기술 시대에 설계된 제어를 통해 관리되고 있습니다. 同時に, 기업이 의존할 수 있는 외부 지원은 얇아지고 있습니다. 주요 AI 연구소는 자발적인 안전 약속을 축소했으며, 규제는 여전히 관할권에 걸쳐 조각나 있습니다. 신뢰 부담은 AI를 배포하는 회사에 떨어지게 됩니다. 궁극적으로 그들은 부정적인 결과가 나타날 때 그리고 만약 나타나면 그들을 겪을 것입니다.

私は戦略的な AI 업무를 거의 모든 산업의 회사와 함께하고, 일일이 CEO와 이사회와 대화합니다. 제가 보는 일관된 패턴은 다음과 같습니다: 배포가 가속화되는 동안 제어 인프라는 단순히 따라가지 못합니다. 패턴은 어느 한 회사의 실패라기보다는 구조적인 것으로 간주합니다. 그리고 예측을 하겠습니다: 우리는 아직 멀지 않은 미래에 CEO가 큰 실수가 비즈니스에 수백만 달러의 비용을 초래했다고 설명해야 할 때가 올 것입니다. 그리고 그들은 AI를 비난할 것입니다. 그건 변명이 아니라고 생각합니다.

좋은 소식은 제가幸運하게도 일부 公司이 거버넌스를 다르게 다루는 것을 직접적으로 보며, 그 公司이 시간이 지남에 따라 장기적인优势를 구축하고 있다고 믿습니다. 반면에 다른 公司은 구식으로 남아 옵티컬하게 됩니다. 少数 公司이 무엇을 보는지 이해하는 것은 현재의 тра젝트리에서 어디로 이어지는지 이해하는 것으로 시작됩니다.

우리는 문제를 향해 가고 있습니다

오늘날의 배포는 충분히 작아서 인간의 감독이 위험을 흡수할 수 있습니다. Deloitte의 최신 기업 내 AI 현황 연구에 따르면, 조사된 公司의 4분의 1만이 최소 40%의 AI 실험을 생산에移行시켰습니다. 대부분의 기업은 아직 초기 단계에 있으며, 사람들의 추적이 있는 狭い 사용 사례에서 수십 개의 에이전트를 실행하고 있습니다.

트라젝토리가 중요합니다. 배포가 2개 에이전트에서 20개, 200개, 2,000개로 확장함에 따라 복잡성이 증가합니다. 각 새로운 에이전트는 자신의 행동과 시스템 및 다른 에이전트와의 상호 작용을 가져옵니다. 2개 에이전트에서는 신뢰가 쉽습니다. 팀을 알고 있으며 출력을 직접 검토합니다. 20개 에이전트에서는 신뢰가 프로세스가 되어야 합니다. 정의된 소유자, 테스트, 및 이스케이프 경로가 필요합니다. 여전히 작동할 수 있지만 지속하기가 더 어려워집니다. 200개 에이전트에서는 비공식적인 검토가 연극이 됩니다. 리더십 팀이 수동으로 감시할 수 있는 활동이 너무 많습니다. 2,000개 에이전트에서는 인간의 개입이 거의 쓸모없습니다. 에이전트, 데이터, 비즈니스 프로세스 간의 상호 작용은 수동 감독으로 커버할 수 없는 웹을 형성합니다. 이러한 규모에서 신뢰는 규모와 기술 아키텍처에 내장되어야 합니다.

기다리는 비용

신뢰 인프라가 부족한 또 다른 이유는 실망스러운 수익입니다. PwC의 최신 글로벌 CEO 설문조사에 따르면, 56%의 최고 경영자는 지난 1년 동안 AI가 수익을 증가시키거나 비용을 줄이지 않았다고 했습니다. 제가 경험한 바에 따르면, 보고된 수익은 기본 경제를 조사하면 덜 설득력 있습니다. 대부분의 公司은 절약된 시간을 수익으로 계산합니다. 시간이 절약되어 금전적 수익이 되는 것은 公司이 그 용량을 더 가치 있는 것으로 전환할 때입니다. 더 큰 출력, 더 나은 품질, 피할 수 있는 비용, 더 빠른 성장 등입니다.

그런 전환에는 신뢰가 필요합니다. 公司은 시스템에 대한 신뢰가 있을 때만 인간의 판단을 더 가치 있는 작업으로 이동할 수 있습니다. 신뢰가 없으면 公司은 기술 부채를 축적합니다. 그것은 확장할 수 없으며, 시간이 지남에 따라 생산성에 의미있는 영향을 미칩니다. 그것은 최악의 두 세계입니다. 더 많은 지출과 거의 보이지 않는 수익. 신뢰는 이러한 수익이 누적되는基础입니다.

엘리베이터 문제

신뢰와 채택 사이의 연결은 새로운 것이 아닙니다. 우리는 20세기 중반으로 돌아가서 합리적인 참조점을 찾을 수 있습니다. 운전자가 없는 엘리베이터는 수십 년 전에 존재했지만 사람들이 타지 않았습니다. 기술은 작동했지만, 승객들은 차에 타서 운전手を 보지 못하고 다시 내렸습니다. 무엇이 바뀐 것은 엘리베이터가 아니었습니다. 엘리베이터 주변의 안전 제어였습니다. 1945년 운전수 파업으로 뉴욕 전역의 사무실이 폐쇄된 후, 산업계는 기계 자체에 신뢰를 구축했습니다. 비상 정지 버튼, 전화선, 저항에 부딪힌 문이 다시 열리는 문, 그리고 무엇을 해야 하는지 설명하는 녹음된 목소리. 한 세대 내에, 운전手を 제외한 엘리베이터에 타는 것은 너무 평범해져서 사람이 버튼을 조작하는 엘리베이터에 타는 것은 구식으로 느껴졌습니다. 인간을 루프에서 제거하는 장벽은 능력이 아니었습니다. 그것은 신뢰였습니다. 산업계는 시스템에 가시적이고 검증 가능한 제어를 구축하여 모든 승객이 볼 수 있는 곳에 두어 신뢰를 해결했습니다.

기업 AI는 들어가서 나가는 단계에 있습니다. 리더십 팀은 인간이 제어하지 않는 에이전트를 보고 주저합니다. 그리고 주저함은 합리적입니다. 대부분의 公司은 아직 엘리베이터의 정지 버튼, 전화선, 그리고 문을 구축하지 않았습니다. 시스템에 이러한 제어를 구축하는 公司은 사람들이, 고객이, 그리고 규제 기관이 들어가서 남아 있는 公司입니다.

벤더는 부분적으로만 책임을 질 수 있습니다

많은 리더들은 벤더가 신뢰 부담을 지도록希望합니다. 벤더는 모델 수준의 안전 장치와 보안 제어를 제공할 수 있으며, 좋은 벤더는 그렇게합니다. 특정 배포가 데이터, 규제 의무, 고객, 및 위험 감수에 적합한지 여부는 여전히 당신의 직무입니다. 벤더는 그것을 결정할 수 있는 컨텍스트를 가지고 있지 않으며, 나쁨 결과가 당신에게 어떤 비용을 초래하는지 가격을 매길 수 없습니다.

벤더의 안전 약속은 모델에 대해 적용되며, 당신의 사용에 대해서는 적용되지 않습니다. 또한 그것은 영구적이지 않습니다. 지난 1년은 그것이 수정되거나 철회될 수 있음을 보여주었습니다. 규제 산업계는 이미 제3자 모델에 대해 이 문제를 해결했습니다. 그리고 그들은 올바른 표준을 찾았습니다. 모델을 배포하는 기관이 위험을 소유합니다.

소수의 公司은 무엇을 하고 있는가

앞서가는 公司은 세 가지 움직임을 하고 있습니다:

1. 그들은 현재 제어 인프라를 구축하고 있으며, 현재의 규모에 대한 것이 아니라 향후 도달할 규모에 대한 것입니다. 제어는 필요로 하는 에이전트 이전에 존재해야 합니다.
2. 그들은 배포 프로세스의 시작에서부터 위험 분류와 완화를 포함시키고 있으며, 모든 사용 사례가 분류되고 제어가 위험에 비례하는 것입니다.
3. 그리고 그들은 실제 권한이 있는 독립적인 거버넌스를 설립하고 있으며, 기술과 함께 진화할 수 있을만큼 유연하게 유지하고 있습니다. 독립성은 검증을 신뢰할 수 있게 합니다. 유연성은 그것을 최신 상태로 유지합니다.

규제 기관이 명시적으로 AI의 사용 및 감독에 대한 규칙을 설정하지 않은 公司은 거의 없지만, 그것은 우리가 참고할 수 있는 것이 없다는 것을 의미하지 않습니다. 규제 기관은 전통적인 모델을 관리하기 위한 잘 정립된 규칙을 가지고 있습니다. 우리는 그것을 참고할 수 있습니다. 4월에 연방 준비 제도, OCC, 및 FDIC는 수정된 모델 위험 지침을 발행했습니다. 그것은 모델 인벤토리, 위험에 비례하는 제어, 독립적인 검증, 지속적인 모니터링, 및 벤더 제품에 대한 기업 책임을 포함하는 원칙 기반 접근 방식입니다. 그리고 그들은 기관에 동일한 관행을 AI에 적용하도록 지시했습니다. 메시지는 명확합니다. 원칙이 작동하는 것은 알려져 있으며, 공식적인 AI 규칙은 곧 오지 않을 것입니다. 규제 명확성을 기다리는 公司은 소수 公司이 행동하는 동안 기다리고 있을 것입니다. 이것이 왜 규제 산업계가 느리다고 묘사되는 경우에도 이 시대에 앞서 나아가는 것입니다. 그들은 모두가 필요한 신뢰 기계를 구축하기 위해 몇십 년을 보냈습니다. 그리고 그들은 사용 허가를 기다리지 않고 사용하고 있습니다.

중요한 질문

분열은 이미 형성되고 있습니다. 대부분의 公司은 거버넌스를 비용으로 취급합니다. 그것은 흡수되고,忍耐하고, 최소화되어야 하는 것입니다. 소수의 公司은 그것을 확신의 인프라로 취급합니다. 그것은 사람들을 더 가치 있는 작업으로 이동시키고 확신으로 확장할 수 있는 것입니다. 모든 리더십 팀은 어느 한쪽에 있습니다. 의도적으로 선택했는지 여부에 관계없이, 그리고 그 갭은 조용히 확장할 것입니다. 누구도 엘리베이터에 타는 것을 두 번 생각하지 않습니다. 신뢰가 구축되었기 때문입니다. AI에 대해서도 같은 것을 하는 公司은 아직 들어가기 위해 주저하는 모든 公司을 앞서나갈 것입니다.