Credo AI anuncia a primeira plataforma de IA responsável do mundo

Credo AI anunciou a disponibilidade de sua plataforma de IA Responsável, que é a primeira do seu tipo. O produto SaaS ajuda as organizações a padronizar e dimensionar sua abordagem para IA Responsável.

Credo AI é responsável por criar a primeira solução abrangente e contextual de governança para IA do mundo.

Plataforma de IA Responsável

De acordo com o comunicado de imprensa da empresa, “A plataforma de IA Responsável da Credo AI ajuda as empresas a operacionalizar a IA Responsável, fornecendo avaliação de risco e conformidade baseada no contexto, onde quer que estejam em sua jornada de IA.”

Isso é crucial, considerando que muitas empresas de IA têm dificuldade em criar e implementar princípios de IA necessários na prática.

Com a Credo AI, equipes multifuncionais podem colaborar nos requisitos de IA Responsável para coisas como justiça, desempenho, privacidade e segurança. A plataforma também permite que as equipes avaliem seus casos de uso de IA para garantir que atendam aos requisitos por meio de avaliações técnicas de conjuntos de dados e modelos de aprendizado de máquina (ML). Eles também podem dar uma olhada profunda nos processos de desenvolvimento.

A plataforma depende do quadro de avaliação de código aberto da Credo AI para alcançar avaliações mais estruturadas e interpretáveis para todos os tipos de organizações.

Navrina Singh é fundadora e CEO da Credo AI.

“A Credo AI visa ser um guia para as empresas em suas iniciativas de IA Responsável, trazendo supervisão e responsabilidade para a Inteligência Artificial e definindo o que é bom para o seu quadro de IA”, disse Singh. “Nós pioneiramos uma solução centrada no contexto, abrangente e contínua para entregar IA Responsável. As empresas devem alinhar os requisitos de IA Responsável em diferentes partes interessadas nas funções de tecnologia e supervisão e tomar medidas deliberadas para demonstrar ação sobre esses objetivos e assumir a responsabilidade pelos resultados.”

Recursos da Plataforma

Alguns dos recursos da plataforma de IA Responsável da Credo AI incluem:

• Integrações de avaliação sem interrupções

• Alinhamento de múltiplas partes interessadas

• Supervisão ajustável baseada em risco

• Preparação regulatória pronta para uso

• Garantia e atestação

• Gerenciamento de Risco de Fornecedor de IA

Com recursos como o Gerenciamento de Risco de Fornecedor de IA, as organizações podem usar a Credo AI para avaliar o risco e a conformidade de IA de produtos e modelos de IA/ML de terceiros. Outros recursos, como a supervisão baseada em risco ajustável, permitem que as equipes ajustem o nível de governança com participação humana no processo com base no nível de risco do caso de uso.

Esses novos desenvolvimentos ocorrem à medida que os governos continuam a aumentar as regulamentações de IA. Por exemplo, há regulamentações futuras, como o Ato de Inteligência Artificial da União Europeia (AIA), bem como um projeto de lei em Nova York que torna obrigatório que as ferramentas de IA para decisões de emprego sejam auditadas quanto a vieses. Essas são apenas algumas das muitas razões pelas quais as organizações estão escolhendo confiar em ferramentas de governança de IA, como a nova plataforma lançada pela Credo AI.