์ฌ์ ๋ฆฌ๋
GenAI๊ฐ ๊ฐ๋ ฅํ ๊ฑฐ๋ฒ๋์ค๋ฅผ ๊ฐ์ง ๋ชปํ๋ฉด ์ ์ฒด๋๋ค
기업들이 제네레이티브 AI 프로젝트를 실험에서 생산으로 이동하는 데 어려움을 겪고 있는 가운데, 많은 비즈니스가 여전히 파일럿 모드에 머물러 있습니다. 최근 연구에 따르면, 92%의 조직이 GenAI 파일럿이 기본적인 데이터 문제를 해결하기 전에 가속화하고 있다고 우려한다. 더욱 중요한 것은 67%의 조직이 파일럿의 절반도 생산에 확대하지 못했다는 것입니다. 이 생산 격차는 기술적인 성숙도보다는 데이터의 준비도에 더 관련이 있습니다. GenAI의 잠재력은 그것이 서 있는 땅의 강度에 달려 있습니다. 그리고 오늘날, 대부분의 조직에서는 그 땅이 최악으로 불안정합니다.
GenAI가 파일럿에 갇히는 이유
GenAI 솔루션이 확실히 강력하다고는 하지만, 그们은 데이터에 의해 결정된다. “쓰레기가 들어가면 쓰레기가 나온다”라는 옛 속담은 오늘날보다 더 사실입니다. 신뢰할 수 있는, 완전한, 권한이 있는, 설명 가능한 데이터 없이, GenAI 모델은 종종 부정확하거나 목적에 맞지 않거나 편향된 결과를 생성합니다.
불행히도, 조직들은 낮은 노력의 사용 사례, 즉 내부 문서에서 맞춤형 답변을 제공하는 AI 기반 채팅봇을 배포하기 위해 서두르었습니다. 그리고 이러한 것들이 고객 경험을 어느 정도 개선한다는 것은 사실이지만, 그것들은 회사 데이터 인프라에 대한 깊은 변경을 요구하지 않습니다. 그러나 헬스케어, 금융 서비스 또는 공급망 자동화와 같은 분야에서 전략적으로 GenAI를 확대하려면 다른 수준의 데이터 성숙도가 필요합니다.
실제로, 56%의 Chief Data Officers가 데이터 신뢰성을 AI 배포의 주요 장애물로 지적한다. 다른 문제로는 불완전한 데이터(53%), 개인 정보 보호 문제(50%), 더 큰 AI 거버넌스 격차(36%)가 있습니다.
거버넌스가 없으면 GenAI도 없다
파일럿 단계를 넘어서 GenAI를 사용하려면, 기업들은 데이터 거버넌스를 비즈니스 전략의 필수 요소로 다루어야 합니다. 데이터가 AI 모델을 구동하는 데 적합한지 확인해야 하며, 이를 위해 다음과 같은 질문에 답해야 합니다:
- 모델을 훈련하는 데 사용되는 데이터가 올바른 시스템에서 오는가?
- 개인 식별 정보를 제거하고 모든 데이터 및 개인 정보 보호 규정을 준수했는가?
- 데이터의 계보를 투명하게 설명할 수 있는가?
- 데이터 프로세스를 문서화하고 데이터에 편향이 없음을 증명할 수 있는가?
데이터 거버넌스는 또한 조직의 문화에 내재해야 합니다. 이를 위해서는 모든 팀에 걸쳐 AI 리터러시를 구축해야 합니다. EU AI 법은 이 책임을 공식화하여 AI 시스템의 제공자와 사용자가 직원들이 충분히 AI 리터러시를 갖추도록 최선을 다해야 한다고 규정하고 있습니다. 그러나 효과적인 AI 채택은 기술적인 노하우만을 넘어서 데이터 기술, 데이터 거버넌스, 분석 질문을 구성하는 것과 같은 데이터 기술에 대한 강한 기초를 요구합니다.
데이터 거버넌스 측면에서 아직 작업할 것이 남아 있습니다. 데이터 관리 투자를 증가시키고자 하는 비즈니스 중 47%는 데이터 리터러시의 부족이 주요 장애물이라고 동의합니다. 이는 조직 전반에 걸쳐 적절한 기술을 개발하고 최고 수준의 지원을 구축하는 것이 중요하다는 것을 강조합니다. 이러한 기초가 없으면, 가장 강력한 LLM도 성과를 내기 어렵습니다.
책임을 지는 AI 개발
현재의 규제 환경에서, AI가 “단지 작동한다”는 것만으로는 충분하지 않습니다. 또한 설명 가능하고 책임을 질 수 있어야 합니다. EU AI 법과 영국의 제안된 AI 액션 플랜은 고위험 AI 사용 사례에서 투명성을 요구합니다. 다른 국가들도 이에 따라 규제를 강화하고 있습니다. 1,000개 이상의 관련 정책 법안이 69개국에서 논의 중입니다.
이 글로벌적인 책임성 추진은 알고리즘의 공정성에 대한 소비자와 이해관계자의 요구 증가로 인한 직접적인 결과입니다. 예를 들어, 조직은 고객이 대출을 거부당한 이유나 보험료를 인상한 이유를 설명할 수 있어야 합니다. 이를 위해서는 모델이 어떻게 결정했는지, 그리고 그 결정에 사용된 데이터의 명확한 감시 가능한 기록이 필요합니다.
설명 가능성이 없으면, 비즈니스는 고객의 신뢰를 잃을 뿐만 아니라 재정적, 법적 후과를 겪을 수 있습니다. 따라서 데이터 계보의 추적 가능성과 결과의 정당성은 “좋은 것”이 아니라, 준수 요구사항입니다.
그리고 GenAI가 단순한 도구를 넘어 결정과 행동을 할 수 있는 완전한 에이전트로 확대됨에 따라, 강력한 데이터 거버넌스의 중요성은 더욱 높아집니다.
신뢰할 수 있는 AI 구축 단계
그렇다면, 좋은 것은 무엇일까요? 책임감 있게 GenAI를 확대하려면, 조직은 세 가지 필러에 걸쳐 단일 데이터 전략을 채택해야 합니다:
- 비즈니스에 맞는 AI: 주요 비즈니스 목표를 중심으로 데이터를 카탈로그화하여, 비즈니스의 고유한 상황, 도전, 기회를 반영합니다.
- AI에 대한 신뢰 구축: 준수와 책임 있는 AI 배포를 위한 정책, 표준, 프로세스를 수립합니다.
- AI 데이터 준비 파이프라인 구축: 다양한 데이터 소스를 강력한 데이터基础로 결합하여, 사전 구축된 GenAI 연결성을 구축합니다.
조직이 이것을 올바르게 수행하면, 거버넌스는 AI의 가치를 가속화합니다. 예를 들어, 금융 서비스 분야에서 헤지 펀드는 주가 예측에서 인간 분석가를 능가하는 Gen AI를 사용하며 비용을 크게 줄입니다. 제조业에서는 공급망 최적화가 실시간으로 지緣政治적 변동과 환경 압력에 대응할 수 있게 합니다.
이것들은 미래의 아이디어가 아니라, 신뢰할 수 있는 데이터에 의해 구동되는 현재의 현실입니다.
강력한 데이터 기초를 갖춘 기업은 모델 드리프트를 줄이고, 재훈련 주기를 제한하며, 가치에 대한 속도를 높일 수 있습니다. 따라서 거버넌스는 혁신의 방해물이 아니라, 가속화입니다.
다음은 무엇인가?
실험을 넘어서, 조직은 채팅봇을 넘어 변혁적인 능력을 투자하고 있습니다. 고객 상호작용을 개인화하는 것에서부터 의료 연구를 가속화하는 것, 정신 건강을 개선하는 것, 규제 프로세스를 간소화하는 것, GenAI는 산업 전반에서 잠재력을 입증하기 시작했습니다.
그러나 이러한 성과는 완전히 데이터에 기반을 두고 있습니다. GenAI는 강력한 데이터 기초를 구축함으로써 시작됩니다. 그리고 강력한 데이터 거버넌스를 통해, GenAI와 에이전트 AI는 계속 진화할 것입니다. 그러나 인간의 감시를 대체하지는 않을 것입니다. 대신, 우리는 구조화된 가치 창조의 단계에 진입하고 있습니다. 여기서 AI는 신뢰할 수 있는 공조자가 됩니다. 데이터 품질, 거버넌스, 문화에 대한 올바른 투자로, 비즈니스는终于 GenAI를 완전히 활성화할 수 있습니다.
