제네릭 AI가 강력한 거버넌스를 갖지 못하는 이유

기업들이 제네릭 AI 프로젝트를 실험에서 생산으로 이동시키는 데 어려움을 겪고 있습니다. 많은 기업들이 아직도 파일럿 모드에 머물러 있습니다. 최근 연구에 따르면, 92%의 조직이 제네릭 AI 파일럿이 기본적인 데이터 문제를 해결하지 않고 가속화하고 있다고 우려합니다. 더욱 중요한 것은, 67%의 기업이 파일럿을 생산으로 확장하지 못했다는 것입니다. 이 생산 격차는 기술적 성숙도에 관한 것이 아니라, 기본 데이터의 준비도에 관한 것입니다. 제네릭 AI의 잠재력은 그것이 서 있는 땅의 강度에 달려 있습니다. 그리고 오늘날, 대부분의 기업에서는 그 땅이 불안정한 상태입니다.

제네릭 AI가 파일럿에 갇히는 이유

제네릭 AI 솔루션은 강력하지만, 데이터의 품질에 따라 그 효과가 결정됩니다. “쓰레기가 들어가면 쓰레기가 나온다”라는 격언은 오늘날보다 더 중요합니다. 신뢰할 수 있는 데이터, 완전한 데이터, 권한이 있는 데이터, 설명 가능한 데이터 없이 제네릭 AI 모델은 부정확한 결과, 편향된 결과, 또는 목적에 맞지 않는 결과를 생산합니다.

불행히도, 기업들은 낮은 노력의 사용 사례, 즉 내부 문서에서 맞춤형 답변을 제공하는 AI 기반 채팅봇을 배포하기 위해 급급합니다. 이러한 채팅봇은 고객 경험을 어느 정도 개선하지만, 데이터 인프라에 대한 깊은 변경을 요구하지 않습니다. 그러나 제네릭 AI를 전략적으로 확장하기 위해서, 즉 의료, 금융 서비스, 공급망 자동화 등에서, 더 높은 수준의 데이터 성숙도가 필요합니다.

실제로, 56%의 Chief Data Officers가 데이터 신뢰성을 제네릭 AI 배포의 주요 장애물로 지적합니다. 다른 문제로는 불완전한 데이터(53%), 개인 정보 보호 문제(50%), 더 큰 AI 거버넌스 격차(36%)가 있습니다.

거버넌스가 없으면 제네릭 AI도 없다

제네릭 AI를 파일럿 단계를 넘어서서 개발하기 위해서, 기업들은 데이터 거버넌스를 비즈니스 전략의 필수 요소로 간주해야 합니다. 데이터가 제네릭 AI 모델을 구동할 수 있는지 확인해야 하며, 다음 질문에 답해야 합니다.

• 모델을 훈련하는 데 사용되는 데이터가 올바른 시스템에서 오는가?
• 개인 식별 정보를 제거하고 모든 데이터 및 개인 정보 보호 규정을 준수했는가?
• 데이터가 투명하고, 데이터의 계보를 증명할 수 있는가?
• 데이터 프로세스를 문서화하고, 데이터가 편향되지 않았음을 증명할 수 있는가?

데이터 거버넌스는 또한 기업의 문화에 내재해야 합니다. 이를 위해서는 모든 팀에 걸쳐 AI 리터러시를 구축해야 합니다. EU AI법은 이 책임을 공식화하여, AI 시스템의 제공자와 사용자가 직원들이 충분히 AI 리터러시를 갖추도록 노력해야 한다고 규정합니다. 그러나 효과적인 AI 채택은 기술적인 노하우를 넘어서서, 데이터 스킬, 즉 데이터 거버넌스, 분석 질문을 구성하는 것 등에 대한 강한 기초가 필요합니다.

데이터 거버넌스에 대해서는 아직 작업이 필요합니다. 데이터 관리 투자를 증가시키고자 하는 기업 중 47%가 데이터 리터러시의 부족을 주요 장애물로 지적합니다. 이는 상위 지원을 구축하고 조직 전체에 걸쳐 올바른 스킬을 개발하는 것이 중요함을 강조합니다. 이러한 기초가 없으면, 가장 강력한 LLM도 성과를 내기 어렵습니다.

책임을 지는 AI 개발

현재의 규제 환경에서, AI는 단순히 작동하는 것이 아니라, 책임을 지고 설명할 수 있어야 합니다. EU AI법과 영국의 제안된 AI 액션 플랜은 고위험 AI 사용 사례에서 투명성을 요구합니다. 다른 국가들도 이에 따라 규제를 추진하고 있으며, 69개국에서 1,000개 이상의 관련 정책 법안이 의제에 있습니다.

이 글로벌적인 책임성 추진은 알고리즘의 공정성을 요구하는 소비자와 이해관계자의 요구에 직접적인 결과입니다. 예를 들어, 기업은 고객이为什么 대출을 거부당했는지 또는 왜 보험료를 높은 가격에 청구해야 하는지 이유를 설명할 수 있어야 합니다. 이를 위해서는 모델이 어떻게 그 결정을 내렸는지, 그리고 그 모델을 훈련하는 데 사용된 데이터를 알 수 있어야 합니다.

설명 가능성이 없으면, 기업은 고객의 신뢰를 잃을 위험에 처할 뿐만 아니라, 금전적 및 법적 후과를 겪을 수 있습니다. 따라서 데이터 계보의 추적 가능성과 결과의 정당성은 “nice to have”가 아니라, 준수 요구사항입니다.

제네릭 AI가 단순한 도구에서 완전한 에이전트로 발전하여 결정과 행동을 취할 수 있는 경우, 데이터 거버넌스의 중요성은 더욱 커집니다.

신뢰할 수 있는 AI 구축을 위한 단계

그렇다면, 좋은 것은 무엇일까요? 제네릭 AI를 책임 있게 확장하기 위해서, 기업들은 세 가지 필러에 걸쳐 단일 데이터 전략을 채택해야 합니다.

• 비즈니스에 맞는 AI: 주요 비즈니스 목표를 중심으로 데이터를 카탈로그화하여, 비즈니스의 고유한 상황, 도전, 기회를 반영합니다.
• AI에 대한 신뢰 구축: 책임 있는 AI 배포를 위한 정책, 표준, 프로세스를 수립합니다.
• AI 데이터 준비 파이프라인 구축: 다양한 데이터 소스를 결합하여 강력한 데이터 기반을 구축하고, 제네릭 AI 연결성을 구축합니다.

기업들이 이것을 올바르게 구축하면, 거버넌스는 AI의 가치를 가속화합니다. 예를 들어, 금융 서비스에서 헤지 펀드는 제네릭 AI를 사용하여 인간 분석가보다 더 나은 주가 예측을 달성하고 비용을 크게 줄입니다. 제조업에서 공급망 최적화는 기업이 실시간으로 지緣政治적 변화를 대응하고 환경 압력을 완화할 수 있게 합니다.

이것은 미래의 아이디어가 아니라, 신뢰할 수 있는 데이터에 의해 구동됩니다.

강력한 데이터 기반을 구축하면, 기업은 모델 드리프트를 줄이고, 재훈련 주기를 제한하며, 가치 실현을 가속화할 수 있습니다. 따라서 거버넌스는 혁신의 장애물이 아니라, 가속화입니다.

다음은 무엇일까요?

기업들은 실험을 넘어서서 변혁적인 능력을 투자하고 있습니다. 고객 상호작용을 개인화하는 것에서부터 의료 연구를 가속화하는 것, 정신 건강을 개선하는 것, 규제 프로세스를 단순화하는 것까지, 제네릭 AI는 산업 전반에서 잠재력을 실현하기 시작했습니다.

그러나 이러한 성과는 모두 데이터에 달려 있습니다. 제네릭 AI는 강력한 데이터 기반을 구축하여 시작됩니다. 그리고 제네릭 AI와 에이전트 AI가 계속 발전하더라도, 인간의 감시를 대체하지는 않을 것입니다. 대신, 우리는 구조화된 가치 창조의 단계에 진입하여, AI가 신뢰할 수 있는 공동 조종사가 됩니다. 데이터 품질, 거버넌스, 문화에 대한 올바른 투자로, 기업은 제네릭 AI를 파일럿에서 완전한 비행으로 발전시킬 수 있습니다.