AI의 ‘지식’이 50년 전 것일 때: 무시할 수 없는 규제 위험

거짓된 AI 통찰력의 문제는 기업들이 생성 도구를 더 많이 사용함에 따라 긴급한 도전이 되고 있습니다. AI를 채택하는 것에 대한 광범위한 열광에도 불구하고, 비판적인 의견도 있습니다. 비판적인 의견은 종종 AI의 출력에서 나타나는 임의적이고 예측할 수 없는 부정확성을 지적하며, 이는 AI의 가치를 저하하고 심지어 의료 및 교통과 같은 분야에서 실제로 사람들에게 해를 끼칠 수 있습니다.

이러한 부정확성은 종종 AI의 ‘환각’으로 설명되었습니다. 즉, AI가 최선의 추측 답변을 생성하는 경우입니다. 이는 실제 답변과 동일한 자신감으로 전달되며, 사용자에게 지식의 부족이나 능력의 부족을 알리지 않습니다. 환각은 처음에는 khó 발견할 수 있지만, 더 조용하고 심각한 문제가 있습니다.

데이터 품질 부채: AI의 아킬레스 건

AI 시스템이 구식, 불완전하거나 부정확한 데이터에서 정보를 가져올 때, 거짓 출력이 발생하지만 즉시 식별하기는 어렵습니다. 예를 들어, AI에게 의료 조건의 증상을 식별하라고 요청하면, 현재 연구 대신 50년 전의 논문에 기반한 답변을 받을 수 있습니다. 이러한 초기 답변은 명백하게 틀리거나笑able하지는 않지만, 이는 실제로 환자와 의료 제공자에게 큰 위험을 초래할 수 있습니다.

이 문제는 모든 산업에서 발생합니다. AI 모델에 제공되는 데이터가 오래된, 구식 또는 부분적인 정보를 포함하는 경우, 거짓 출력의 위험이 높습니다. 기업들이 비즈니스에 중요한 프로세스에 AI를 통합함에 따라, 데이터 관리가 잘되지 않은 경우 거짓 결론을 내릴 위험이 증가합니다.

규제를 위한 정확성

이 문제는 일상적인 운영뿐만 아니라 규제上的 도전이기도 합니다. 규제 요구사항은 빠르게 발전하여 AI의 부정확성에 대한 우려를 해결하기 위해 노력하고 있습니다. 예를 들어, 이탈리아는 일시적으로 ChatGPT를 금지했고, EU 데이터 보호위원회는 ChatGPT에 대한 잠재적인 집행 조치를 협조하기 위해 특별 작업반을 설치했습니다.

규제 변경 중 가장 중요한 것은 EU AI 법안의 통과입니다. 이는 세계 최초의 포괄적인 AI 법적 프레임워크입니다. 이 법은 AI 시스템의 위험 수준에 따라 의무를 정의하며, ‘수용할 수 없는 위험’ 시스템은 금지되고, ‘고위험’ 시스템은 투명성, 데이터 품질, 거버넌스 및 인간 감시에 대한 엄격한 요구사항을 마련합니다.

EU AI 법은 그 범위가広い 것으로 중요합니다. 규제 당국은 AI가 구속력 있는 규칙에 따라야 하며, 기업들이 AI를 사용하는 곳과 방법에 대한 투명성과 규제를 후순위로 두지 말아야 한다고 강조합니다. 이 법은 AI 개발의 대부분에 영향을 미칠 수 있으며, 그核心에는 AI의 안전性을 보장하면서 기본적 인권과 가치를 존중하는 것이 있습니다. 이 새로운 원칙적 생태계에는 AI의 부정확성의 잠재적 원인, 즉 데이터와 데이터셋, 모델의 불투명성 및 접근성, 시스템 설계 및 사용이 포함됩니다.

규제 준수 및 관련 데이터를 AI에 제공하기 위한 5단계

이중 도전, 즉 규제 준수 데이터 처리와 높은 품질의 입력을 보장하는 것을 해결하려면, 기업들은 교육 및 추론 데이터에 대한 제어를 있어야 합니다. 불행히도, 많은 기업들은 여전히 이를缺하고 있습니다.

기업들은 최소한으로도 AI 이니셔티브에 대한 규제 및 거버넌스 프로그램을 적용해야 합니다. 데이터를 캡처하고 유지 관리해야 하며, AI 모델에 제공하는 데이터에 대한 기록을 유지해야 합니다. 또한, 모델과 시스템이 설계되고, AI를 통해 생성된 결정과 콘텐츠에 대한 기록을 유지해야 합니다.

그러나, 기업들은 더 나아가서 AI 배포에서 사용될 수 있는 모든 데이터에 대한 완전한 제어를 확보해야 합니다. 이는 높은 품질의 데이터 관리 및 저장 전략을 필요로 하며, 모든 관련 데이터를 지능적으로 수집, 정리, 저장, 분류 및 권한을 부여해야 합니다. 이를 달성하려면, 기업들은 4가지 주요 단계를 고려해야 합니다.

1. 데이터 계보 및 출처

데이터의 출처, 소유권 및 변경 사항을 기록하는 것을 포함합니다. 또한, 데이터가 파생된 문서나 아티팩트를 유지 관리하는 것도 중요합니다.

2. 데이터 진실성

데이터의 명확한 소유권 체인을 유지하는 것을 포함합니다. 또한, 데이터를 원래 형태로 저장하고, 데이터가 변경되지 않았음을 증명하기 위해 해시를 사용하는 것도 중요합니다.

3. 데이터 분류

데이터의 유형을 설정하는 것이 중요합니다. 기업들은 구조화된 데이터, 반구조화된 데이터 및 구조화된 데이터 세트를 관리할 수 있어야 합니다. 각 클래스에 고유한 스키마를 부여하면, 기업들은 다양한 데이터 세트를 관리할 수 있습니다.

4. 데이터 정규화

메타데이터의 공통 정의 및 형식을 설정하는 것이 중요합니다. 이는 분석 및 AI 솔루션에서 사용하기 위해 데이터를 변환하거나 매핑하는 데 도움이 됩니다.

5. 데이터 권한

기업들은 사용자 또는 시스템 프로필을 기반으로 객체 또는 필드 수준에서 세분화된 권한 제어를 필요로 합니다. 이는 데이터가 권한을 가진 사용자와 시스템에게 제공되도록 하며, 그렇지 않은 경우에는 제한하거나 접근을 거부합니다.

이러한 중요한 요소가 있는 경우, 기업들은 AI 모델에 제공되는 데이터가 높은 품질이고 규제 준수인지 확신할 수 있습니다. AI는 산업 전반에서 개선과 효율성을 제공할 것입니다. 그러나, 이를 위해서는 견고한 데이터 기반을 확보해야 합니다.