신뢰할 수 있는 AI가 부족하면 혁신과 비즈니스 가치가 저하될 수 있다

最近의 글로벌 비즈니스 리더들에 대한 설문조사에 따르면 신뢰할 수 있는 AI는 주요 우선 순위이지만 많은 기업들이 이를 달성하기 위해 충분한 조치를 취하고 있지 않다는 사실이 밝혀졌습니다. 하지만 이는 어떤 비용을 치루는 것일까요?

실제로 IBM 설문조사는 응답자의 85%가 투명한 AI 모델을 구축, 관리, 사용하는 기업을 선택할 가능성이 더 높다고 밝혔습니다.

그러나 대다수는 편향을 줄이기(74%), 성능 변동과 모델 드리프트를 추적하기(68%), AI 기반 의사 결정을 설명할 수 있도록 하기(61%)와 같은 신뢰할 수 있는 AI를 보장하기 위한 주요 단계를 밟지 않은 것을 인정했습니다. 이는 AI의 사용이 증가하고 있는 것을 고려할 때 특히 우려스러운데, 35%의 응답자가 현재 비즈니스에서 AI를 사용하고 있으며 이는 작년보다 31% 증가한 것입니다.

최근私は 토론토에서 열린 초청 전용 기업 혁신 서밋에 참석하여 혁신적인 아이디어를 공유하고 미래를 형성할 기술을展示했습니다.私は 금융 서비스, 보험, 소매 부문에서 3개의 라운드 테이블에 참여하여 3개의 주요 분야가 나타났습니다. 즉, AI에 대한 신뢰를 높이기 위한 투명성이 필요하고, 노코드/로우코드를 통해 AI를 민주화시키고, AI 규제 거버넌스 모범 사례를 통해 더 빠른 시간에 가치를 제공하고 위험을 완화하는 것입니다.

AI 기술에 대한 신뢰를 높입니다. COVID-19는 AI 기반 채팅봇, 가상 금융 어시스턴트 및 터치리스 고객 온보딩과 같은 추세를 증폭시키고 가속화했습니다. 이 추세는 Cap Gemini의 연구에 따르면 금융 서비스 조직과 상호 작용에서 AI 기술의 사용을 늘릴 계획이 있는 소비자의 78%가 있음을 확인했습니다.

내재된 이점에도 불구하고 여러 가지 도전이 있습니다. 가장 중요한 것은 소비자의 AI 기술에 대한 지속적인 불신과 그들의 普遍적인 성격이 개인의 사생활 및 보안 권리에 미치는 영향입니다. 30%의 소비자는 금융 서비스 제공업체가 정보를 수집, 관리, 보안하는 방법에 대한 투명성을 제공할 경우 생체 정보를 공유하는 데 더 편안함을 느낄 것이라고 말했습니다.

CIO는 신뢰할 수 있는 AI 원칙을 채택하고 개인 정보 및 보안 권리를 보호하기 위한 엄격한 조치를 시행해야 합니다. 이를 통해 암호화, 데이터 최소화 및 더 안전한 인증, 새로운 분산형 디지털 아이덴티티 표준을 고려할 수 있습니다. 그 결과, 지능형 자동화 노력과 셀프 서비스 제공은 더 많은 채택과 인간의 개입이 적게 필요하게 될 것입니다.

AI의 민주화를 위한 장벽을 제거합니다. 노코드/로우코드 AI 애플리케이션 개발로의 전환은 연구에 따르면 2025년까지 45.5억 달러에 이를 것으로 예상됩니다. 주요 동인은 가치에 대한 더 빠른 시간과 애플리케이션 개발 생산성의 향상입니다. 10배의 향상입니다.

예를 들어, 금융 서비스 조직의 56%는 대출 신청 과정에서 가장 어려운 단계 중 하나로 대출인에게 데이터를 수집하는 것을 꼽았으며, 이는 높은 포기율을 초래합니다. 대출 신청 과정에서 효율성을 개선하는 데 도움이 되는 AI 기반 생체 정보 식별 및 데이터 수집 기술이 있지만, 준수 위험을 생성할 수 있습니다. 특히, 데이터 개인 정보 및 AI 알고리즘 편향과 관련된 위험입니다.

이러한 위험을 완화하고 완화하기 위해 노코드/로우코드 애플리케이션은 초기 디자인 목표에 따라 수행하는지 확인하기 위해 포괄적인 테스트를 포함해야 하며, 샘플링 편향, 레이블링 편향 및 적대적 AI 공격으로부터 안전한지 확인해야 합니다. 책임 있는 데이터 과학 원칙의 공정성, 정확성, 기밀성 및 보안성에 대한 고려가 중요합니다.

AI 거버넌스 및 규제 프레임워크를 개발합니다. AI 거버넌스는 더 이상 좋을 수 있는 것이 아니라 필수적인 것입니다. OECD의 국가 AI 정책 추적기에 따르면 60개 이상의 국가에서 700개 이상의 AI 규제 이니셔티브가 개발 중입니다. 그러나 국제 표준화 기구에서 개발된 자발적인 행동 강령과 윤리적 AI 원칙이 있습니다. 전기전자기술자협회(IEEE)와 국립 표준 기술 연구소(NIST)가 있습니다.

조직에서는 AI 규제가 더 엄격한 준수 의무를 부과할 것이며, 불응에 대한 벌칙을 포함한 엄격한 집행 메커니즘을 가지고 있다고 가정합니다. 그러나 AI 규제는 불가피합니다.

유럽과 북미는 CIO가 기술 및 비즈니스 대응자와 협력하여 효과적인 정책을 수립하도록 요구하는 적극적인 입장을 취하고 있습니다. 예를 들어, 유럽 위원회의 제안된 인공 지능법은 소비자 권리를 보호하기 위해 AI 제공업체에 대한 위험 기반 의무를 제안하는 동시에 AI 기술과 관련된 혁신 및 경제 기회를 촉진합니다.

또한 2022년 6월, 캐나다 연방 정부는 오랜 기다림 끝에 디지털 헌장 구현법을 발표했으며, 이는 고위험 AI 시스템의 부정적인 영향으로부터 보호합니다. 미국도 부문별로 AI 규제 이니셔티브를 진행하고 있습니다. 연방 무역 위원회(FTC), 소비자 금융 보호국(CFPB) 및 연방 준비 제도 이사회는 모두 소비자를 보호하기 위해 규제 강화에 힘을 쓰고 있습니다.

신뢰할 수 있는 AI를 달성하려면 데이터 기반 통찰력이 필요합니다.

신뢰할 수 있는 AI의 구현은 AI 기술의 적용이 가장 큰 영향을 미칠 수 있는 곳을 결정하기 위해 데이터 주도적인 접근 방식이 필요합니다. 고객 참여를 개선하는 것인지, 운영 효율성을 실현하는 것인지, 또는 준수 위험을 완화하는 것인지에 따라 다를 것입니다.

이러한 비즈니스 드라이버 각각은 프로세스가 실행되는 방식, 에스컬레이션 및 예외가 처리되는 방식, 프로세스 실행의 변동 및 장애물과 그根本 원인을 이해하는 데 대한 이해가 필요합니다. 이러한 데이터 주도적인 분석을 기반으로 조직은 AI 기반 솔루션을 구현하여 고객 온보딩 마찰을 줄이고 운영 효율성을 개선하는 데 대한 영향과 결과에 대한 정보에 입각한 비즈니스 결정을 내릴 수 있습니다. 한 번 조직이 데이터 주도적인 통찰력을 얻으면, 그들은 KYC 및 AML과 같은 고도로 노동 집약적인 프로세스인 AI 준수 명령을 자동화할 수 있습니다.

주된 결론은 지능형 자동화의 중요한 부분은 신뢰할 수 있는 AI 모범 사례의 구현이라는 것입니다. AI의 윤리적 사용은 법적 및 도덕적 의무로만 간주되어서는 안 되며, 비즈니스 명령으로 간주되어야 합니다. AI의 적용에서 투명성을 유지하는 것은 좋은 비즈니스 감각입니다. 그것은 신뢰를 조성하고 브랜드 충성도를 불러옵니다.