์ฌ์ ๋ฆฌ๋
๋น ๋ฅด๊ฒ ์์ง์ด์ง๋ง ๋ฌด๋์ง์ง ์๋๋ก: ์ฑ ์ ์๋ AI ๋์ ๊ณผ ํ์ ์ ๊ท ํ์ ์ด๋ป๊ฒ ๋ง์ถ ๊ฒ์ธ๊ฐ
맥킨지의 최근 글로벌 설문조사에 따르면, 78%의 조직이 현재 비즈니스 기능 중 하나 이상에서 AI를 사용하고 있지만, AI 컴플라이언스 전문가를 고용한 조직은 13%에 불과하며, AI 윤리 전문가를 고용한 조직은 6%에 불과하다.
이것은 사실적으로 무책임한 행동이다.
과거에 나는 실리콘밸리의 “빠르게 움직이고 무너지게 하라”라는 철학을 믿었지만, 우리는 이전과는 달리 더 강력한 기술인 AI를 사용하고 있으며, 이는 이전과는 달리 더 많은 책임이 필요하다.
AI를 도입하는 데에는 의미 있는 가드레일이 없으며, 이는 결국에는 역효과를 낼 수 있으며, 모든 것을 무너뜨릴 수 있다. AI 편향 또는 오남용의 한 번의 사건만으로도 수년간의 브랜드 평판을 무너뜨릴 수 있다.
많은 CIO와 CTO들은 이러한 위험을 인식하고 있지만, 규제가 언젠가 도입될 것이라는 가정하에 자신의 프레임워크를 설정하지 않고 있으며, 이는 많은 위험을谈論하지만 실제로는 거의 감독하지 않는다.
규제가 언젠가 도입될 것이라는 것은 확실하지만, 언제 도입될지는 불확실하다. ChatGPT는 약 3년 전 도입되었으며, 우리는 아직도 규제에 대한 논의를 시작하고 있다. 규제가 도입되기까지는 몇 년이 걸릴 수 있다.
이러한 상황에서 기업들은 내부적인 거버넌스를 설정하는 데 더 적극적으로 접근해야 한다. 특히 규제가 도입되면, 기업들은 자신의 프레임워크를 설정하지 않은 경우, 규제를 준수하기 위해 많은 비용을 지불해야 할 것이다. 이는 GDPR과 CCPA가 시행된 경우와 같다.
초기 스타트업이 지금의 기업으로 성장한 것처럼, 우리는 책임 있는 AI 도입에 대한 접근 방식을 성숙시켜야 한다.
책임 있는 AI 배포에는 “지금 구매하고 나중에 지불”이라는 개념이 없다 – 지금 시작하라
책임 있는 AI 도입을 위한 첫 번째 단계는 규제를 기다리는 것이 아니라, 자신의 규칙을 설정하는 것이다. 현재의 규칙을 무시하는 것보다, 미래에 규제를 준수하기 위해 많은 비용을 지불하는 것이 더 낫다.
많은 기업들은 책임 있는 AI 도입을 시작하는 데에서 어려움을 겪고 있다. 우리 회사는 최근에 500명의 CIO와 CTO를 대상으로 설문조사를 실시했으며, 48%의 응답자가 “책임 있는 AI 사용 또는 배포의 기준을 정의하는 것”을 어려움으로 꼽았다.
한 가지 쉬운 시작점은 AI의 기능에만 집중하는 것이 아니라, 잠재적인 위험을 고려하는 것이다. 예를 들어, AI를 사용하면 직원들의 시간을 절약할 수 있지만,同時에 개인 정보나 영업 비밀을 허가되지 않은 LLMs와 공유할 수 있는 위험이 있다.
현재의 소프트웨어 개발 생명 주기(SDLC)와 같은 프레임워크를 사용하여 책임 있는 결정이 일상적인 일환이 되도록 하는 것이 중요하다. 이를 위해, 윤리위원회 또는 거버넌스위원회를 설정하여 AI의 적용과 모니터링을 정의하고, 투명한 의사소통을 유지하는 것이 필요하다.
모든 위험이 동일한 수준의 주의를 필요로 하지 않는다는 점을 고려하여, 위험 관리 프로세스를 개발하는 것이 중요하다. 이를 통해 팀은 높은 우선순위의 위험에 집중할 수 있다.
마지막으로, 내부 및 외부에서 거버넌스 관행에 대한 명확한 의사소통이 중요하다. 이를 위해 거버넌스 표준에 대한 문서를 유지하고, 팀을 교육하는 것이 필요하다.
거버넌스를 혁신의 위협으로 간주하지 마라
책임 있는 AI의 실제 위협은 거버넌스와 혁신이 상충한다는 믿음일 수 있다. 우리의 설문조사에 따르면, 87%의 CIO와 CTO가 규제가 혁신을 제한할 수 있다고 믿었다.
그러나 거버넌스는 혁신을 방해하는 것이 아니라, 전략적인 파트너로 간주되어야 한다.
거버넌스가 혁신을 방해하는 것으로 간주되는 이유 중 하나는 제품 개발의 마지막 단계에서 고려된다는 것이다. 그러나 거버넌스는 프로세스의 일부로 간주되어야 한다. 자동화된 공정과 함께 제품 팀이 빠르게 이동할 수 있도록 하면서, 공정과 함께 공정의 일부로 거버넌스를 설정하는 것이 중요하다.
이러한 거버넌스 프레임워크를 설정하면, 고객, 직원, 규제 당국이 책임 있는 AI 사용을 보장받을 수 있다. 또한, 연구에 따르면, 잘 구축된 데이터 및 AI 거버넌스 프레임워크를 갖춘 기업은 21-49%의 금융 성과를 개선할 수 있다.
반면에, 이러한 프레임워크를 설정하지 못한 기업은 2027년까지 60%의 AI 사용 사례에서 기대하는 가치를 달성하지 못할 수 있다. 따라서, 거버넌스를 설정하는 것이 혁신을 방해하는 것이 아니라, 실제로 혁신을 지원하는 것이다.
법률 팀이 이러한 논의에 참여하는 경우, 프로세스가 느려질 수 있다. 그러나, 거버넌스, 위험, 규제 준수(GRC) 팀을 설정하여 법률 팀과 제품 팀 사이의桥梁을 구축하는 것이 중요하다.
확장 가능한 거버넌스 시스템을 생성하라
많은 CIO와 CTO가 규제가 혁신을 제한할 수 있다고 믿지만, 84%의 기업이 향후 12개월 내에 AI 감독을 강화할 것이라고 예상한다. AI 통합이 확장되고 성장하는 경우, 거버넌스 시스템도 함께 확장되어야 한다.
기업 내에서 다양한 단위가 서로 다른 비전과 목표를 갖고 있는 경우, 책임 있는 AI 사용을 보장하기 어렵다. 따라서, 기술, 규제, 비즈니스 전문 지식을 결합한 AI 센터를 설정하는 것이 중요하다.
이 센터는 회사 전체의 표준과 승인 프로세스를 설정하여, 낮은 위험의 사용 사례에 대한 승인 프로세스를 간소화할 수 있다. 또한, 높은 위험의 배포에는 더 공식적인 안전 점검이 필요하다. 또한, 최고 경영진을 위한 AI 안전성 지표를 설정하여, 책임이 사업 기능에 분산되지 않도록 하는 것이 중요하다.
이를 위해, 최고 경영진이 거버넌스 지표를 실시간으로 추적할 수 있는 대시보드를 설정하는 것이 중요하다. 또한, AI 위험 등록과 감사 추적을 설정하여,谁が ML/AI 구현을 구축했는지, 어떻게 테스트했는지, 어떻게 수행하는지 등을 추적할 수 있다.
가장 중요한 점은 책임 있는 AI 사용을 위한 거버넌스가 지속적인 프로세스라는 것이다. 이는 단지 승인만이 아니라, 모델의 수명주기 전체에 걸쳐 지속적인 모니터링을 필요로 한다. 따라서, 개발자, 기술자, 비즈니스 리더를 포함한 모든 사람이 책임 있는 AI 관행을 교육받아야 한다. 이를 통해, 문제를 빠르게 식별하고, 거버넌스 표준을 유지할 수 있다. 그렇게 함으로써, AI 배포는 더 신뢰할 수 있고, 효과적이며, 수익성이 높아질 것이다.
