크레도 AI, 세계 최초의 책임 있는 AI 플랫폼 발표

크레도 AI는 최초의 책임 있는 AI 플랫폼을 사용할 수 있게 되었다고 발표했습니다. 이 SaaS 제품은 조직이 도구를 활용해 책임 있는 AI에 대한 접근 방식을 표준화하고 확장하도록 돕습니다.

크레도 AI는 세계 최초의 종합적이고 상황에 맞춘 AI 거버넌스 솔루션을 만들었습니다.

책임 있는 AI 플랫폼

회사 측의 보도 자료에 따르면, “크레도 AI의 책임 있는 AI 플랫폼은 기업들이 책임 있는 AI를 구현할 수 있도록 AI 도입 여정의 어느 단계에 있든 컨텍스트 기반의 AI 리스크 및 컴플라이언스 평가를 제공합니다.”

이것은 많은 AI 기업들이 필요한 AI 원칙을 개발하고 구현하는 데 어려움을 겪고 있기 때문에 매우 중요합니다.

크레도 AI를 사용하면 크로스 기능 팀이 공정성, 성능, 개인 정보 보호, 보안 등 책임 있는 AI 요구 사항에 대해 협력할 수 있습니다. 플랫폼은 또한 팀이 기술적 평가를 통해 데이터 세트와 기계 학습 모델을 평가하여 AI 사용 사례가 요구 사항을 충족하는지 확인할 수 있도록 합니다. 또한 개발 프로세스를 심층적으로 분석할 수 있습니다.

플랫폼은 모든 유형의 조직을 위한 더 구조화된 및 해석 가능한 평가를 달성하기 위해 크레도 AI의 오픈 소스 평가 프레임워크에 의존합니다.

나브리나 싱은 크레도 AI의 창립자이자 최고 경영자입니다.

싱은 “크레도 AI는 기업들이 책임 있는 AI를 위한 셰르파 역할을 하여 인공 지능에 대한 감독과 책임을 제공하고, 그들의 AI 프레임워크에 대한 좋은 기준을 정의합니다”라고 말했다. “우리는 상황 중심, 종합적이고 지속적인 솔루션을 개발하여 책임 있는 AI를 제공했습니다. 기업들은 기술 및 감독 기능의 다양한 이해관계자들 사이에서 책임 있는 AI 요구 사항에 대한 일치를 달성해야 하며, 의도적인 단계를 취하여 이러한 목표를 달성하고 결과에 대한 책임을 지녀야 합니다.”

플랫폼 기능

크레도 AI의 책임 있는 AI 플랫폼의 일부 기능은 다음과 같습니다.

• 원활한 평가 통합

• 다중 이해관계자 일치

• 조정 가능한 리스크 기반 감독

• 도입 즉시 활용할 수 있는 규제 대응 준비

• 보증 및 증명

• AI 벤더 리스크 관리

AI 벤더 리스크 관리와 같은 기능을 통해 조직은 크레도 AI를 사용하여 제3자 AI/ML 제품 및 모델의 AI 리스크 및 컴플라이언스를 평가할 수 있습니다. 다른 기능으로는 튜닝 가능한 리스크 기반 감독이 있어 팀이 사용 사례의 리스크 수준에 따라 인간의 개입을 기반으로 하는 거버넌스의 수준을 미세 조정할 수 있습니다.

이 새로운 개발은 정부가 AI 규제를 강화하는 중입니다. 예를 들어, 유럽 연합의 인공 지능법(AIA)와 뉴욕시에서 AI 고용 의사 결정 도구에 대한 편향성 감사가 의무화되는 법안과 같은 규제가 있습니다. 이것은 크레도 AI와 같은 새로운 플랫폼을 사용하여 AI 거버넌스 도구에 의존하는 조직의 이유 중 일부입니다.