Credo AI annonce la première plateforme d’IA responsable au monde

Credo AI a annoncé la disponibilité de sa plateforme d’IA responsable, qui est la première de son genre. Le produit SaaS aide les organisations à utiliser des outils pour standardiser et mettre à l’échelle leur approche de l’IA responsable.

Credo AI est responsable de la création de la première solution de gouvernance complète et contextuelle pour l’IA.

Plateforme d’IA responsable

Selon le communiqué de presse de l’entreprise, « la plateforme d’IA responsable de Credo AI aide les entreprises à opérationnaliser l’IA responsable en fournissant une évaluation des risques et de la conformité basée sur le contexte partout où elles se trouvent dans leur parcours d’IA ».

Ceci est crucial étant donné que de nombreuses entreprises d’IA ont des difficultés à élaborer et à mettre en œuvre les principes d’IA nécessaires dans la pratique.

Avec Credo AI, les équipes multifonctionnelles peuvent collaborer sur les exigences d’IA responsable pour des choses comme l’équité, les performances, la confidentialité et la sécurité. La plateforme permet également aux équipes d’évaluer leurs cas d’utilisation d’IA pour s’assurer qu’ils répondent aux exigences grâce à des évaluations techniques des jeux de données et des modèles d’apprentissage automatique (ML). Ils peuvent également examiner en profondeur les processus de développement.

La plateforme repose sur le cadre d’évaluation open source de Credo AI pour obtenir des évaluations plus structurées et interprétables pour tous les types d’organisations.

Navrina Singh est la fondatrice et la PDG de Credo AI.

« Credo AI vise à être un sherpa pour les entreprises dans leurs initiatives d’IA responsable pour apporter une surveillance et une responsabilité à l’intelligence artificielle, et définir ce que signifie une bonne gouvernance pour leur cadre d’IA », a déclaré Singh. « Nous avons créé une solution centrée sur le contexte, complète et continue pour livrer une IA responsable. Les entreprises doivent s’aligner sur les exigences d’IA responsable à travers diverses parties prenantes dans les fonctions technologiques et de surveillance, et prendre des mesures délibérées pour démontrer des actions sur ces objectifs et prendre la responsabilité des résultats ».

Fonctionnalités de la plateforme

Certaines des fonctionnalités de la plateforme d’IA responsable de Credo AI incluent:

• Intégrations d’évaluation transparentes

• Alignement de plusieurs parties prenantes

• Surveillance basée sur les risques

• Préparation réglementaire prête à l’emploi

• Assurance et attestation

• Gestion des risques des fournisseurs d’IA

Avec des fonctionnalités comme la gestion des risques des fournisseurs d’IA, les organisations peuvent utiliser Credo AI pour évaluer les risques et la conformité des produits et modèles d’IA/ML de tiers. D’autres fonctionnalités comme la surveillance basée sur les risques permettent aux équipes de régler le niveau de gouvernance humaine dans la boucle en fonction du niveau de risque de l’utilisation.

Ces nouveaux développements interviennent alors que les gouvernements continuent d’augmenter la réglementation de l’IA. Par exemple, il y a des réglementations à venir comme le règlement de l’Union européenne sur l’intelligence artificielle (AIA), ainsi qu’un projet de loi à New York qui rend obligatoire l’audit des outils de prise de décision d’IA pour les emplois pour les préjugés. Ce ne sont que quelques-unes des nombreuses raisons pour lesquelles les organisations choisissent de s’appuyer sur des outils de gouvernance d’IA comme la nouvelle plateforme lancée par Credo AI.