신뢰할 수 있는 AI의 부족으로 혁신과 비즈니스 가치가 저해될 수 있음

글로벌 비즈니스 리더를 대상으로 한 최근 설문 조사에 따르면 신뢰할 수 있는 AI가 주요 우선 순위이지만 많은 사람들이 이를 달성하기 위해 충분한 조치를 취하지 않고 있지만 비용은 얼마입니까?

사실, IBM 설문 조사 응답자의 무려 85%가 소비자가 AI 모델의 구축, 관리 및 사용 방법에 대해 투명한 회사를 선택할 가능성이 더 높다는 데 동의한다고 밝혔습니다.

그러나 대다수는 편향 감소(74%), 성능 변동 및 모델 드리프트 추적(68%), AI 기반 설명이 가능한지 확인하는 등 AI가 신뢰할 수 있고 책임감이 있는지 확인하기 위한 주요 조치를 취하지 않았다고 인정했습니다. 결정(61%). 이는 특히 AI 사용이 계속 증가하고 있다는 점을 고려할 때 걱정스러운 일입니다. 35%가 현재 비즈니스에서 AI를 사용하고 있다고 답했으며, 이는 31년 전 XNUMX%에서 증가한 것입니다.

최근에 초대받은 사람만 참석했습니다. 기업 혁신 서밋 토론토에서 참석자들은 혁신적인 아이디어를 교환하고 미래를 형성할 기술을 선보였습니다. 저는 금융 서비스, 보험, 소매 부문에서 AI에 대한 신뢰를 강화하기 위한 더 많은 투명성의 필요성, 노코드/로우코드를 통한 AI의 민주화, AI 규제 거버넌스 모범 사례를 통해 더 빠른 가치 실현 시간과 위험 완화를 제공합니다.

AI 기술에 대한 신뢰를 높입니다. COVID-19는 AI 기반 챗봇, 가상 금융 보조원 및 비접촉식 고객 온보딩을 지지하는 추세를 증폭하고 가속화했습니다. 이 추세는 Cap Gemini의 연구 이는 조사 대상 소비자의 78%가 금융 서비스 조직과의 상호 작용에서 디지털 ID 관리를 포함하여 AI 기술의 사용을 늘릴 계획임을 보여줍니다.

고유한 이점에도 불구하고 많은 문제가 발생합니다. 그 중 으뜸은 AI 기술에 대한 소비자 불신 지속 유비쿼터스 특성이 개인 정보 보호 및 보안 권리에 미치는 영향. 소비자의 30%는 금융 서비스 제공업체가 정보 수집, 관리 및 보안 방법을 보다 투명하게 설명한다면 생체 정보를 공유하는 것이 더 편할 것이라고 말했습니다.

CIO는 채택해야 합니다. 신뢰할 수 있는 AI 원칙 개인 정보 보호 및 보안 권리를 보호하는 엄격한 조치를 취합니다. 그들은 이것을 통해 달성할 수 있습니다 암호화, 데이터 최소화 및 보다 안전한 인증, 신흥 고려 포함 분산형 디지털 신원 표준. 결과적으로 지능형 자동화 노력과 셀프 서비스 제공이 더 많이 채택되고 사람의 개입이 덜 필요하게 될 것입니다.

AI 민주화의 장벽을 제거하십시오. 노코드/로우코드 AI 애플리케이션 개발로의 전환이 증가하고 있습니다. 연구 45.5년까지 2025억 달러에 이를 것으로 예상됩니다. 주요 동인은 다음과 같습니다. 가치 실현 시간 단축 애플리케이션 개발 생산성 향상 10 배.

예를 들어, 조사 대상 금융 서비스 조직의 56%는 다음을 고려합니다. 데이터 수집 대출 신청 프로세스 내에서 가장 까다롭고 비효율적인 단계 중 하나로 차용자로부터 대출 포기율이 높아집니다. AI 기반 생체 인식 및 데이터 수집 기술은 대출 신청 프로세스의 효율성을 향상시키는 것으로 입증되었지만 규정 준수 위험 생성 특히 데이터 프라이버시, 기밀성 및 AI 알고리즘 편향.

이러한 위험을 완화하고 해결하기 위해 로우 코드/노 코드 애플리케이션은 초기 설계 목표에 따라 수행되고, 샘플링 편향, 라벨링 편향을 포함할 수 있는 교육 데이터 세트의 잠재적 편향을 제거하고 적대적 공격으로부터 안전하도록 포괄적인 테스트를 포함해야 합니다. AI 알고리즘 결과에 부정적인 영향을 미칠 수 있는 AI 공격. 고려 사항 책임 있는 데이터 과학 원칙 공정성, 정확성, 기밀성 및 보안이 가장 중요합니다.

AI 거버넌스 및 규제 프레임워크를 개발합니다. AI 거버넌스는 더 이상 이니셔티브를 갖기에 좋은 것이 아니라 필수입니다. 국가 AI 정책에 대한 OECD의 추적기에 따르면, 700개국 이상에서 개발 중인 60개의 AI 규제 이니셔티브. 그러나 다음과 같은 국제 표준 기구에서 개발한 자발적인 행동 강령 및 윤리적 AI 원칙이 있습니다. 전기전자공학회("IEEE") 그리고 국립 표준 기술 연구소(NIST)).

조직의 우려는 AI 규제가 더 많은 것을 부과할 것이라는 가정을 둘러싸고 있습니다. 엄격한 준수 의무 위반에 대한 처벌을 포함하여 번거로운 집행 메커니즘으로 뒷받침됩니다. 그러나 AI 규제는 불가피하다.

유럽과 북미는 효과적인 정책을 수립하기 위해 CIO가 기술 및 비즈니스 상대와 협력하도록 요구하는 적극적인 자세를 취하고 있습니다. 예를 들어, 유럽 위원회는 다음을 제안했습니다. 인공지능법 소비자 권리를 보호하는 동시에 AI 기술과 관련된 혁신 및 경제적 기회를 촉진하기 위해 AI 공급자에게 위험 기반 의무를 도입할 것을 제안합니다.

또한 2022년 XNUMX월 캐나다 연방 정부는 오랫동안 기다려온 디지털 헌장 시행령 고위험 AI 시스템의 부정적 영향으로부터 보호하는 것입니다. 미국 또한 부문별 차원에서 AI 규제 이니셔티브를 추진하고 있습니다. 연방거래위원회(FTC)는 소비자금융보호국(CFPB)) and 연방준비제도이사회 의도하지 않았지만 차별적인 결과를 초래할 수 있는 AI의 적용 증가로 인해 발생하는 부정적인 영향으로부터 소비자를 보호하기 위해 모두 시행 메커니즘을 통해 규제 권한을 강화하고 있습니다. AI 규제 프레임워크는 모든 혁신 기업에 필수입니다.

신뢰할 수 있는 AI를 달성하려면 데이터 기반 통찰력이 필요합니다.

신뢰할 수 있는 AI의 구현은 구현을 진행하기 전에 AI 기술의 적용이 가장 큰 영향을 미칠 수 있는 위치를 결정하는 데이터 기반 접근 방식 없이는 달성할 수 없습니다. 고객 참여를 개선하기 위한 것입니까, 운영 효율성을 실현하거나 규정 준수 위험을 완화하기 위한 것입니까?

이러한 각각의 비즈니스 동인은 프로세스 실행 방법, 에스컬레이션 및 예외 처리 방법을 이해하고 프로세스 실행 장애물의 변형과 그 근본 원인을 식별해야 합니다. 이러한 데이터 기반 분석을 기반으로 조직은 AI 기반 솔루션 구현과 관련된 영향 및 결과에 대해 정보에 입각한 비즈니스 결정을 내려 고객 온보딩 마찰을 줄이고 운영 효율성을 개선할 수 있습니다. 조직이 데이터 기반 통찰력의 이점을 갖게 되면 금융 서비스에서 AI 규정 준수 의무 충족, 규정 준수 감사, KYC 및 AML과 같은 매우 노동 집약적인 프로세스를 자동화할 수 있습니다.

주요 시사점은 AI 지원 프로세스 자동화의 필수적인 부분이 신뢰할 수 있는 AI 모범 사례의 구현이라는 것입니다. AI의 윤리적 사용은 법적, 도덕적 의무가 아니라 비즈니스 의무로 간주되어야 합니다. AI를 적용할 때 투명성을 유지하는 것이 비즈니스에 이치에 맞습니다. 신뢰를 높이고 브랜드 충성도를 높입니다.