가속화된 AI 채택을 준비하는 산업, 새로운 윤리 및 책임에 대한焦点

작성자: 퍼시스턴트 시스템즈의 CTO인 판두랑 카마트

인공 지능(AI)은 기본적으로 기계 학습(Machine Learning, ML)이며, 이는 기계가 데이터 입력에 따라 성능을 개선하는 과정입니다. 오늘날 존재하는大量의 데이터는 AI가 번성할 수 있는 비옥한 토양을 제공하며, 최근 몇 년 동안 급격한 속도로 발전하고 있습니다. 그리고 AI의 약속은 기술자와遠く離れた 산업의 경영자들이 창의적으로 다양한 응용 프로그램에 대해 생각하게 합니다.

산업 혁명 이후, 기술의 급격한 발전은 항상 열광과 우려의 두 가지로 특징지어집니다. 웹 개발자 산업 표준을 만드는 그룹인 월드 와이드 웹 컨소시엄(W3C)은 “기계 학습의 적용이 위험을 초래하고 피해를 줄 수 있다는 인식이 증가하고 있다”고 지적합니다. 이러한 위험에는 편향, 개인 정보 보호, 보안, 지속 가능성, 책임성 등이 포함됩니다.

“윤리적인 접근 방식에 대한 요구가 분명하다. 시민 사회의 활동, 전 세계적으로 약 100개의 윤리적인 AI 원칙의 등장, 정부의 AI 규제 움직임 등이 이를 보여준다”고 그룹은 썼다. “기술이 운영되는 사회의 가치와 일치하지 않으면, 기술이 그 사회를 약화시킬 수 있다.”

신중하게 선택하십시오

표면적으로, 속도와 출력의 향상을 비즈니스에 좋지 않다고 주장하기는 어렵습니다. 그러나 일부 산업의 경우, 알고리즘에 의존해서는 안 되는 결정 과정에 많은 것이 걸려 있습니다. 몇 가지 큰 산업을 살펴보면, 기계 오류에 얼마나 취약한지, 그리고 책임 있는 AI가 왜如此 중요한지 알 수 있습니다.

은행, 금융 서비스, 보험 (BFSI)

세계 경제 포럼(WEF)과 델로이트는 BFSI 회사에서 AI를 배치하는 과정을 조사했으며, “AI는大量의 정보에서 유용한 비즈니스 통찰력을 생성하는 데 도움이 될 수 있다”고 발견했지만, “AI의 외계성은 지속적인 심각한 위험의 원천이 될 것이다”라고 말합니다.

“AI는 인간과는 다른 방식으로 추론한다”고 보고서는 읽힙니다. “AI 시스템은 인간의 논리構造를 따르지 않으며, 동일한 작업을 수행할 때 인간과는 다르게 행동합니다. 또한, AI 시스템의 자기 학습 능력은 인간의 입력 없이 발전할 수 있으며, 알려지지 않은 변수에 기반한 예상치 못한 결과를 초래할 수 있습니다.” 책임 있는 AI를 주장하는 사람들은 기계 학습이 자동 위험 평가, 신용, 대출 결정 등에서 심각한 문제를 제기한다고 주장합니다. 이러한 결정은 역사적으로 특정 인구 통계에 편향되어 있습니다. 최근 연구에 따르면 AI 기반 의사 결정 엔진을 사용하는 대출 기관은 유색인종에 대한 주택 대출을 거부할 가능성이 더 높았으며,บาง 경우에는 흑인 신청者の 80%가 거부될 가능성이 더 높습니다.

의료

몇 년 전, 미국 의사 협회 저널(JAMA)은 의료 분야에서 AI의 채택을 조사했으며, “비현실적인 기대, 편향된 데이터, 대표성이 부족한 데이터, 평등과 포함의 우선 순위가 부족한 것, 건강 불평등의 위험, 낮은 신뢰 수준, 불확실한 규제 환경” 등 많은 도전이 있음을 발견했습니다.

그것은 정확하게 긍정적인 평가가 아닙니다. 그러나 의료 분야에서 책임 있는 AI에 대한 더 높은 기준이 있습니다. 특히 생명과 죽음의 가능성으로 인해如此합니다. 일반적으로 의료 전문가들은 AI의 미래에 대해 낙관적이지만, 주의를 기울이며, 다른 의료 전문가에게 임상 환경에서 AI의 사용에 대해 교육하고, 모든 환자에게ประโยชน를주는 책임 있는 방식으로 진행하기 위한 지침을 만들고 있습니다.

미디어

PwC에 따르면 AI는 2030년까지 15.7조 달러의 글로벌 경제 성장을 창출할 것입니다. 그러나 Salesforce에 따르면 고객의 48%만이 회사가 AI를 윤리적으로 사용하는 것을 신뢰하며, 65%는 비윤리적인 AI 사용에 대해 우려하고 있습니다. 수익과 신뢰의 교차점에서 미디어 회사가 있습니다. 미디어 회사는 초기 채택자이며巨大한 영향력을 가지고 있습니다. 그러나 AI가 “설치하고忘れる” 응용 프로그램이 아니라는 사실에 대한 우려가 있습니다. 즉, 미디어 회사의 책임은 콘텐츠의 생성뿐만 아니라 배포 후에도 계속됩니다.

어떻게 광고가 제공되고 개인화되는가? 어떤 메시지를 어떤 대상에게 전달하는가?谁が AI에게 “어떻게” 학습하도록 가르치는가? 그리고 어떻게 특정 소비자를 목표로하면서도 개인 정보를 존중할 수 있는가? 이러한 질문은 미디어 회사가 윤리와 경쟁 우위를 균형을 잡으려는 가운데 고민해야 할 문제입니다.

책임에 대한 반응

책임 있는 AI를 개발하는 데는 매일 진행이 있습니다. 입법자들은 규제를 초안하고, 소비자는 더 많은 투명성을 요구하며, 많은 회사들은 AI를 적절하게 사용하는 것을 보장하기 위한 별도의 부서를 만들었습니다. 회사들은 윤리, 투명성, 책임성, 공정성, 개인 정보 보호, 보안을 다루는 잘 정의된 책임 있는 AI 프레임워크가 필요합니다. 논의와 개혁이 계속되는 동안, MIT 슬론 관리 리뷰와 보스턴 컨설팅 그룹의 최근 공동 연구는 간단한 전체적인 지침을 제공합니다. 그들은 “책임 있는 AI 리더가 되려면, 책임 있는 회사에 집중하십시오”라고 썼습니다. rs 윤리, 투명성, 책임성, 공정성, 개인 정보 보호 및 보안. 논의와 개혁이 계속됨에 따라, MIT 슬론 관리 리뷰와 보스턴 컨설팅 그룹의 최근 공동 연구는 간단한 전체적인 지침을 제공합니다. 그들은 “책임 있는 AI 리더가 되려면, 책임 있는 회사에 집중하십시오”라고 썼습니다.