AI 신뢰 격차를 메우기

AI 채택은 중요한 전환점에 도달하고 있습니다. 기업들은 운영 효율성을 개선하는 데 대한 약속으로 AI를热烈하게 받아들이고 있습니다.

최근에 수행된 Slack 설문조사에 따르면 AI 채택은 계속 가속화되고 있으며, 직장에서의 AI 사용은 최근 24% 증가했으며, 조사된 임원들의 96%가 “사업 운영에 AI를 통합하는 것이 긴급하다”고 믿고 있습니다.

그러나 AI의 효용성과 잠재적인 부정적인 영향에 대한 불안감 사이에 확대되는 격차가 존재합니다. 책상 근로자의 7%만이 AI의 출력이 작업 관련 태스크를 지원하기에 충분히 신뢰할 수 있다고 믿고 있습니다.

이 격차는 다음과 같은 요인과 관련하여 임원들의 AI 통합에 대한热情과 직원들의 회의 사이에 뚜렷한 대조를 보입니다:

• 편향과 공정성: AI 시스템은 기존의 편향을 강화하거나 공정하지 않은 결과를 초래할 수 있습니다.
• 개인 정보와 보안: 직원들은 AI 시스템이 개인 데이터를 수집, 저장, 사용하는 방법에 대해 걱정합니다.
• 불투명한 의사 결정: AI 시스템은 종종 “블랙 박스”로 작동하여 인간이 이해하거나 설명하기 어려운 결정들을 내립니다.
• 자동화 불안: AI가 인적 직업을 대체하여 실업과 경제 불안정을 초래할 것이라는 두려움이 있습니다.

신뢰 구축을 위한 법적 역할

이러한 다면적인 신뢰 문제를 해결하기 위해 법적 조치는 점점 더 필수적인 단계로 간주되고 있습니다. 법률은 AI 개발과 배포를 규제하여 신뢰를 향상시키는 데 중요한 역할을 할 수 있습니다. 주요 법적 접근 방식에는 다음이 포함됩니다:

• 데이터 보호 및 개인 정보 법률: 엄격한 데이터 보호 법률을 시행하여 AI 시스템이 개인 데이터를 책임감 있게 처리하도록 합니다. 유럽 연합의 GDPR과 같은 규정은 투명성, 데이터 최소화, 사용자 동의를 강제함으로써 기준을 설정합니다. 특히, GDPR의 제22조는 자동화된 의사 결정의 잠재적인 부정적인 영향을 보호합니다. 최근 유럽 연합 법원 판결은 자동화된 의사 결정에 대한 개인의 권리를 확인합니다. Schufa Holding AG 사건에서, 독일 거주자가 자동화된 신용 심사 시스템에 의해 은행 대출이 거부된 경우, 법원은 제22조가 조직이 AI 기술의 사용과 관련된 개인 정보 보호권을 보호하기 위한 조치를 시행하도록 요구한다고 판결했습니다.
• AI 규정: 유럽 연합은 EU AI 법안(EU AIA)을 승인하여 AI 시스템의 사용을 위험 수준에 따라 규제하는 것을 목표로 합니다. 이 법안에는 높은 위험의 AI 시스템에 대한 필수 요구 사항이 포함되어 있으며, 데이터 품질, 문서화, 투명성, 인간의 감독과 같은 영역을 다룹니다. AI 규정의 주요 이점 중 하나는 AI 시스템의 투명성과 설명 가능성을 촉진하는 것입니다. 또한, EU AIA는 개발자, 운영자, 그리고 AI 시스템의 사용자에게 책임을 부과하여 AI 시스템의 결과에 대한 책임을 지도록 합니다. 이는 피해 구제 메커니즘을 포함합니다. 개인과 조직이 책임을 지면, AI 시스템이 책임감 있게 관리되고 있음을 확신할 수 있습니다.

신뢰할 수 있는 AI를 위한 표준화 이니셔티브

기업은 새로운 법률이 시행되기를 기다리지 않고도 자신의 프로세스가 윤리적이고 신뢰할 수 있는 지침을 준수하는지 확인할 수 있습니다. AI 규정은 AI 시스템의 전체 수명 주기 동안 책임감 있는 AI 거버넌스를 구현하고 최고의 관행을 가능하게 하는 새로운 AI 표준화 이니셔티브와 함께 작동합니다.

미국 국립 표준 기술 연구소(NIST)는 AI 위험 관리 프레임워크를 개발하여 조직이 AI 관련 위험을 관리하도록 안내합니다. 이 프레임워크는 네 가지 핵심 기능으로 구성됩니다:

• AI 시스템과 그 운영.context를 이해합니다. 이는 목적, 이해 관계자, 그리고 잠재적인 영향을 정의하는 것을 포함합니다.
• 기술적 및 비기술적 측면을 포함하여 AI 시스템과 관련된 위험을 정량화합니다. 이는 시스템의 성능, 신뢰성, 그리고 잠재적인 편향을 평가하는 것을 포함합니다.

• 식별된 위험을 완화하기 위한 전략을 구현합니다. 이는 AI 시스템이 허용 가능한 위험 수준 내에서 작동하도록 정책, 절차, 그리고 통제를 개발하는 것을 포함합니다.
• AI 시스템과 그 위험 관리 프로세스를 감독하기 위한 거버넌스 구조와 책임 메커니즘을 설정합니다. 이는 위험 관리 전략에 대한 정기적인 검토와 업데이트를 포함합니다.

생성적 AI 기술의 발전에 대응하여 NIST는 인공 지능 위험 관리 프레임워크: 생성적 인공 지능 프로필을 발표하여 기초 모델과 관련된 특정 위험을 완화하기 위한 지침을 제공합니다. 이러한 조치는 악의적인 사용(예: 허위 정보, 저하된 콘텐츠, 혐오 발언)을 방지하고, 공정성, 개인 정보 보호, 정보 보안, 지적 재산권, 그리고 지속 가능성과 같은 인간의 가치를 중시하는 AI의 윤리적 적용에 초점을 맞춥니다.

さらに, 국제 표준화 기구(ISO)와 국제 전기 기술 위원회(IEC)는 ISO/IEC 23894를 공동으로 개발하여 AI 위험 관리를 위한 포괄적인 표준을 제공합니다. 이 표준은 위험 식별, 위험 심각성 평가, 완화 또는 회피를 위한 처리, 그리고 지속적인 모니터링과 검토를 포함하여 AI 수명 주기 전반에 걸쳐 시스템적인 접근 방식을 제공합니다.

공공 신뢰와 AI의 미래

앞으로, AI와 공공 신뢰의 미래는 여러 중요한 요인에 달려 있을 것입니다. 모든 조직이 따라야 할 요소는 다음과 같습니다:

• 잠재적인 규정 준수 문제를 식별하기 위한 포괄적인 위험 평가를 수행합니다. AI 시스템의 윤리적 영향과 잠재적인 편향을 평가합니다.
• 법률, 규정, IT, 데이터 과학 전문가를 포함하는 다기능 팀을 설정합니다. 이 팀은 규정 변경을 모니터링하고 AI 시스템이 새로운 규정에 따라 작동하는지 확인해야 합니다.
• AI 이니셔티브를 관리하기 위한 거버넌스 구조를 구현합니다. 이는 정책, 절차, 역할을 포함하며, AI 운영과 의사 결정 프로세스에 투명성을 보장해야 합니다.
• 규정 준수를 보장하기 위한 정기적인 내부 감사를 수행합니다. 모니터링 도구를 사용하여 AI 시스템의 성능과 규정 준수를 추적합니다.
• 직원들에게 AI 윤리, 규정 요구 사항, 최고의 관행에 대한 교육을 제공합니다. 규정 변경과 규정 준수 전략에 대한 지속적인 교육 세션을 제공하여 직원을 최신 정보로 유지합니다.
• AI 개발 프로세스, 데이터 사용, 의사 결정 기준에 대한詳細한 기록을 유지합니다. 필요에 따라 규제 기관에 제출할 수 있는 보고서를 준비합니다.
• 규제 기관과 관계를 구축하고 공공 협의에 참여합니다. 제안된 규정에 대한 의견을 제공하고 필요에 따라澄明을 구합니다.

신뢰할 수 있는 AI를 달성하기 위한 AI의 맥락화

궁극적으로, 신뢰할 수 있는 AI는 데이터의 무결성에 달려 있습니다. 생성적 AI의 대규모 데이터 세트에 대한 의존성은 출력의 정확성과 신뢰성과 동일하지 않습니다. 사실, 이는 두 표준 모두에 반대됩니다. Retrieval Augmented Generation(RAG)은 “정적 LLM을 컨텍스트 특정 데이터와 결합하는” 혁신적인 기술입니다. “고도로 지식이 풍부한 조수로 생각할 수 있으며, 쿼리 컨텍스트를 포괄적인 지식 베이스 또는 문서 저장소의 특정 데이터와 일치시킵니다.” RAG를 통해 조직은 개인 정보 보호, 보안, 정확성, 신뢰성 기대치를 준수하는 컨텍스트 특정 응용 프로그램을 제공할 수 있습니다. RAG는 지식 베이스 또는 문서 저장소에서 관련 정보를 검색하여 생성된 응답의 정확성을 높입니다. 이는 모델이 정확하고 최신 정보에 기반하여 생성을 수행하도록 허용합니다.

RAG를 통해 조직은 의사 결정의 개선, 고객 경험의 강화, 운영의 간소화, 그리고 상당한 경쟁 우위를 달성하기 위한 목적으로 높은 정확성, 컨텍스트 인식, 그리고 적응성을 갖춘 목적 지향형 AI 응용 프로그램을 구축할 수 있습니다.

AI 신뢰 격차를 메우는 것은 투명성, 책임성, 그리고 윤리적인 AI 사용을 보장하는 것을 의미합니다. 이러한 표준을 유지하기 위한 단일答案은 없지만, 기업은 전략과 도구를 사용할 수 있습니다. 강력한 데이터 개인 정보 보호 조치를 구현하고 규제 표준을 준수하면 사용자 신뢰를 구축할 수 있습니다. AI 시스템의 편향과 부정확성에 대한 정기적인 감사를 통해 공정성을 보장할 수 있습니다. 대규모 언어 모델(Large Language Models, LLMs)을 목적 지향형 AI와 함께 사용하여 신뢰를 구축할 수 있습니다. 또한, AI의 능력과 한계에 대한 이해 관계자와의 소통을 통해 신뢰와 수용을 촉진할 수 있습니다.

신뢰할 수 있는 AI를 달성하는 것은 쉽지 않지만, 우리의 미래에 대한 필수적인 약속입니다.