AI의 어둠에 빛을 비추다

산업 전반에 걸쳐 직원들은 日常적인 작업을 변革하기 위해 점점 더 인공지능(AI) 도구를 활용하고 있다. 마케팅 전문가들이 캠페인을 작성하기 위해 ChatGPT를 사용하거나 소프트웨어 엔지니어가 생성 도구로 코드를 작성하는 경우와 같이, AI는 거의 모든 비즈니스 측면에默默히 통합되고 있다. 실제로, MIT의 Project NANDA는 90% 이상의 조직에서 직원들이 일일 작업을 지원하기 위해 개인 채팅봇 계정을 사용하고 있지만, 40%의 회사만이 공식적으로 대형 언어 모델(LLM) 도구를 구독하고 있다고 밝혔다. 이 Disconnect는 승인된 AI 사용과 비밀적인 AI 사용 사이에 새로운 보안 취약점을 열어줌으로써, _shadow AI_를 만들어 낸다.

감독이 없는 경우, 민감한 데이터가 외부 모델과 공유될 수 있으며, 출력은 부정확하거나 편향될 수 있으며, 규정 준수 팀은 정보가 처리되는 위치와 방법에 대한 가시성을 잃을 수 있다. 직원들이 승인되지 않은 채널을 통해 도구를 실험하는 동안, 조직은 AI를 관리하기 위한 전략을 재구상해야 한다. 그렇지 않으면 이러한 위험은 계속해서 표면으로 올라올 것이다. CIO에게 AI 도구를 완전히 금지하는 것은 해결책이 아니며, 이는 경쟁 능력을 영향할 수 있다. 대신, 혁신과 책임 있는 위험 관리를 균형잡는 적응 가능한 가드레일에 초점을 맞출 필요가 있다.

AI 관련 위험을 앞서 रहन기 위해, 조직은 책임 있는 채택을 촉진하는 AI 정책을 수립해야 한다. 이러한 지침은 직원들이 합리적인 범위 내에서 AI를 사용하도록鼓励해야 하며, 설정된 모든 정책은 회사의 가치와 위험 감수 능력과 일치해야 한다. 성공적인 프로그램을 달성하기 위해, 조직은 구식 거버넌스 모델과_legacy 도구를超越해야 한다. 이러한 모델과 도구는 비즈니스 전반에서 AI 사용을 감지하거나 추적하지 못한다.

AI 정책을 수립하는 것은 중요한 단계이지만, 정책이 실제로 실현 가능하고, 집행 가능하며, 각 비즈니스의 혁신적 비전과 규정 준수 필요에 부합하는지 확인하는 것이 핵심이다. 이러한 정책은 비즈니스의 진행을 방해하지 않으면서도 책임 있는 위험 관리와 균형을 유지해야 한다.

조직은 다음 네 가지 단계를 취할 수 있다:

1. 최적의 프레임워크 결정

비즈니스는 처음부터 시작할 필요가 없다. 여러 선도적인 기관이 이미 프레임워크를 개발했으며, 이는 귀중한 참조 지점을 제공한다. OECD, NIST, 및 ISO/IEC의 자원은 AI를 안전하게 그리고 효과적으로 관리하는 방법에 대한 지침을 제공한다. 또한, 정부 기관이 개입하기 시작했다. 유럽 연합(EU)의 새로운 규정은 투명성, 책임성, 및 거버넌스에 대한 기대를 설정하고 있다. 이러한 자원은 비즈니스가 책임 있는 AI 채택을 위한 자신의 프레임워크를 구축하고 정제하는 데 강력한 기초를 제공할 것이다.

2. AI 가시성提高

조직이 효과적인 AI 위험 관리를 향한 경로를 설정하는 동안, 보안 리더는 비즈니스 전반에서 AI가 실제로 어떻게 사용되고 있는지에 대한 확고한 이해를 개발해야 한다. mereka는 활동을跨越하는 기능에 대한 가시성을 제공하는 도구에 투자해야 한다. 이러한 도구는 사용자 행동을 모니터링하고 액세스할 수 있으며, 생성된 AI가 사용되는 모든 곳을 식별할 때 어떤 돌도 뒤져보지 않을 것이다. 이러한 통찰력은 shadow AI 사용을 찾고 리더가 위험을 평가하고 해결하는 데 필수적이다.

3. AI 협의회 구성

가시성이 확립되면, 보안 리더는 이를 새로운 정책에 대한 정보로 사용할 수 있다. AI 사용은 전체 비즈니스에 영향을 미치므로, 의사 결정 과정을 고립시키지 않아야 한다. CISO는 보안, 법률, IT, 및 C-suite의 주요 이해관계자들을 포함하는 AI 협의회를 구성하는 것을 고려해야 한다. 실제로, Gartner는 55%의 조직이 이미 AI 보드를 설립했으며, 54%가 AI 전략 및 구현을 담당하는 AI 책임자를 임명했다고 보고했다.

이러한 cross-기능 그룹은 승인된 또는 승인되지 않은 AI 도구에 의한 위험과 기회를 평가할 수 있다. 그리고 그들은 비즈니스의 필요와 위험을 균형잡는 새로운 정책을 함께 형성할 수 있다.

예를 들어, 협의회가 승인되지 않은 보안 문제를 가진 인기 있는 AI 도구를 식별하는 경우, 그들은 해당 응용 프로그램을 금지하고 더 안전한 대안을 승인할 수 있다. 이러한 정책은 규정 준수 표준을 충족하는 보안 컨트롤 및 승인된 AI 플랫폼에 대한 투자로 강화되어야 한다. 새로운 발전이 시장에 나오면, 협의회는 또한 직원이 검증을 위해 도구를 제안하는 공식적인 절차를 도입할 수 있다. 이는 조직이 적응性와 규정 준수성을 유지하면서 AI 전략을 계속 발전시킬 수 있도록 한다.

4. AI 교육 강화

직원들에게 AI에 대한 교육과 참여는 조직 전체의 동의와 shadow AI 사용을 감소시키는 또 다른 필수적인 부분이 될 것이다. 올바른 거버넌스 모델이 있는 경우에도, 성공은 직원들이 정책을 이해하고 받아들이는 정도에 달려 있다.

Pew Research 설문조사에서, 직장 교육을 받은 직원(51%) 중 24%만이 AI 사용과 관련이 있다고回答했다. 조직은 AI 교육 프로그램이 있는지 확인해야 하며, 이는 직원들이 이용할 수 있는 기회와 기능을 이해하도록 도와줄 수 있다. 업무 능력 향상은 또한 직원들이 자신의 경력에서 성장하고 직무에서 더 만족하는 데 도움이 될 수 있다.

AI 교육 프로그램은 기본 사용과 규정 준수에 초점을 둔 것보다 더广泛한 AI의 맥락과 비즈니스 생태계에서 어떻게 작동하는지 이해하도록 도와야 한다. 다루어야 할 주제로는 책임 있는 AI 사용이 왜 중요한지, 비즈니스와 고객을 보호하기 위한 정책이 무엇인지, 그리고 데이터 처리 또는 개인 정보 보호 위험을 식별하는 방법이 포함된다. 직원들이 올바른 지식을 갖추면, 안전하게 혁신하는 데 적극적인 파트너가 될 수 있다.

책임 있는 AI의 미래를 형성하다

Shadow AI는 곧 사라지지 않을 것이다. 생성 기술이 日常적인 워크플로에 더욱 깊숙이 통합됨에 따라, 조직이 직면하는 도전은 더욱 심화될 것이다. 리더들은 shadow AI를 제어할 수 없는 위협으로 간주하거나, 올바르게 관리한다면 효율성과 생산성을 최대화하는 기회로 간주할 수 있다.

AI 정책이나 보드를 개발하는 것은 한 번性的 행위가 아니다. AI가 빠르게 발전하는 것처럼, 조직의 전략도 계속해서 발전해야 한다. AI는 더智能한 결정, 혁신의 가속화, 그리고 모든 기능에 걸친 생산성의 향상을 도와줄 수 있다. 그러나 이러한 이점을 지속하기 위해서는 직원들이 이용할 수 있는 도구와 책임 있게 사용하는 방법을 이해해야 한다. 성공하는 조직은 적응력을 유지하고, 변화에 대응하기 위해 정책을积極的に 개선할 것이다.