윤리
AI 환상과 편향에 대한 우려 증가: Aporia의 2024 보고서는 산업 표준의 긴급한 필요성을 강조한다
Unite.AI를 Google의 선호 소스에 추가
Aporia, AI 제어 플랫폼 부문의 선도적인 기업,이 최근에 발표한 보고서에서 인공 지능과 기계 학습(AI & ML) 분야에서 놀라운 발견을 밝혔다. “2024 AI & ML 보고서: 모델 및 솔루션의 진화”라는 제목의 이 보고서는 Aporia가 수행한調査에서 생성적 AI와 대규모 언어 모델(LLM) 내에서 환상과 편향의 증가하는 추세를 지적하며, 이는 산업의 성숙도 향상을 위한 중요한 도전으로 나타난다.
AI 환상은 생성적 AI 모델이 잘못된, 무의미하거나 현실과 연결되지 않은 출력을 생성하는 경우를 말한다. 이러한 환상은 작은 부정확성에서부터重大한 오류에 이르기까지 다양하며, 편향된 또는 유해한 내용을 생성할 수도 있다.
AI 환상의 결과는 상당할 수 있으며, 이러한 모델이 비즈니스와 사회의 다양한 측면에 통합됨에 따라 더욱 중요해진다. 예를 들어, AI 생성 정보의 부정확성은 잘못된 정보로 이어질 수 있으며, 편향된 내용은 고정 관념이나 불공평한 관행을 퍼뜨릴 수 있다. 의료, 금융, 법률咨询과 같은 민감한 응용 분야에서 이러한 오류는 심각한 영향을 미칠 수 있으며, 결정과 결과에 영향을 줄 수 있다.
調査의 결과는 생산 모델을 주의 깊게 모니터링하고 관찰하는 필요성을 강조한다.
Aporia의調査는 북미와 영국에 기반을 둔 1,000명의 기계 학습 전문가의 응답을 포함한다. 이러한 전문가들은 500명에서 7,000명까지의 직원을 둔 금융, 의료, 여행, 보험, 소프트웨어, 소매와 같은 다양한 산업에서 일한다. 보고서의 결과는 ML 생산 리더들이 직면한 도전과 기회를 강조하며, 효율성과 가치 창출을 위한 AI 최적화의 중요성을 강조한다.
주요 발견은 다음과 같다:
- 운영상의 도전: 기계 학습 엔지니어의 93%가 생산 모델에서 일일 또는 주간적으로 문제를 경험한다고 보고한다. 이는 효과적인 모니터링과 제어 도구의 필요성을 강조한다.
- AI 환상의 발생: LLM과 생성적 AI를 사용하는 엔지니어의 89%가 이러한 모델에서 환상을 경험한다고 보고한다. 이러한 환상은 사실적인 오류, 편향, 또는 유해한 내용으로 나타날 수 있다.
- 편향 완화를 위한焦点: 편향된 데이터를 감지하는 데 어려움이 있고 모니터링 도구가 충분하지 않음에도 불구하고,調査 응답자의 83%가 AI 프로젝트에서 편향을 모니터링하는 것이 중요하다고 강조한다.
- 실시간 관찰의 중요성: 기계 학습 전문가의 88%가 생산 모델에서 문제를 식별하기 위해 실시간 관찰이 필수적이라고 믿는다. 그러나 모든 기업에서 자동화된 모니터링 도구가 부족하여 이 기능이 항상 제공되지 않는다.
- 개발에 대한 자원 투자: 보고서에 따르면, 기업은 평균적으로 생산 모델을 모니터링하기 위한 도구와 대시보드를 개발하는 데 약 4개월을 투자한다. 이는 이러한 투자의 효율성과 비용 효율성에 대한 잠재적인 우려를 나타낸다.
“우리의 보고서는 산업계에서 명확한 합의를 보여준다. AI 제품이 빠른 속도로 배포되고 있으며, 이러한 ML 모델이 모니터링되지 않으면 결과가 있을 것이다”라고 Aporia의 CEO인 Liran Hason은 말했다. “이 도구를 개발하는 엔지니어들은 문제가 있음을 말하고 있다. 그러나 올바른 관찰 도구가 필요하다. 그렇지 않으면 기업과 소비자 모두가 최상의 제품을 받지 못할 수 있다.”
Aporia는 기계 학습을 기반으로 하는 AI 제품의 효과성을 향상시키기 위해 노력하고 있으며, MLOps 도전과 책임 있는 AI 관행을 옹호해왔다. 고객 중심의 접근 방식과 사용자 피드백의 통합을 통해 사용자 경험을 개선하고 생산 모델의 확장을 지원하며 환상을 제거하는 강력한 도구와 기능을 개발했다.
Aporia의 전체 보고서는 이러한 발견과 그에 따른 AI 산업의 의미에 대한 심층적인 분석을 제공한다. 자세한 정보를 보려면 Aporia의調査 보고서를 방문하십시오.
