Credo AI kondigt ‘s werelds eerste platform voor verantwoorde AI aan

Credo AI heeft de beschikbaarheid van zijn verantwoorde AI-platform aangekondigd, dat een primeur is. Het SaaS-product helpt organisaties om met behulp van tools hun aanpak van verantwoorde AI te standaardiseren en op te schalen.

Credo AI is verantwoordelijk voor het creëren van ‘s werelds eerste uitgebreide en contextuele governance-oplossing voor AI.

Verantwoorde AI-platform

Volgens het persbericht van het bedrijf “helpt het verantwoorde AI-platform van Credo AI bedrijven om verantwoorde AI te operationaliseren door contextgedreven AI-risico- en compliancebeoordeling te bieden, waar ze ook zijn in hun AI-reis.”

Dit is cruciaal, gezien het feit dat veel AI-bedrijven moeite hebben om noodzakelijke AI-principes te creëren en te implementeren in de praktijk.

Met Credo AI kunnen cross-functionele teams samenwerken aan verantwoorde AI-eisen voor dingen zoals eerlijkheid, prestaties, privacy en beveiliging. Het platform stelt teams ook in staat om hun AI-gebruiksgevallen te evalueren om ervoor te zorgen dat ze voldoen aan de eisen door middel van technische beoordelingen van datasets en machine learning (ML)-modellen. Ze kunnen ook een diepe blik werpen op de ontwikkelingsprocessen.

Het platform vertrouwt op het opensource-beoordelingsraamwerk van Credo AI om meer gestructureerde en interpreteerbare beoordelingen te bereiken voor alle soorten organisaties.

Navrina Singh is de oprichter en CEO van Credo AI.

“Credo AI wil een sherpa zijn voor ondernemingen in hun verantwoorde AI-initiatieven om toezicht en verantwoordelijkheid te brengen aan Artificial Intelligence, en om te definiëren wat goed is voor hun AI-kader,” zei Singh. “We hebben een contextcentrische, uitgebreide en continue oplossing gepionierd om verantwoorde AI te leveren. Ondernemingen moeten overeenkomen over verantwoorde AI-eisen over diverse stakeholders in technologie- en toezichtfuncties, en bewuste stappen nemen om actie te ondernemen op die doelen en verantwoordelijkheid te nemen voor de resultaten.”

Platformfuncties

Enkele van de functies van het verantwoorde AI-platform van Credo AI zijn:

• Naadloze beoordelingsintegraties

• Multi-stakeholderovereenstemming

• Aanpasbaar risicogebaseerd toezicht

• Direct bruikbare voorbereiding op regelgeving

• Assurance en attestatie

• AI-leveranciersrisicobeheer

Met functies zoals AI-leveranciersrisicobeheer, kunnen organisaties Credo AI gebruiken om het AI-risico en de compliance van derden AI/ML-producten en -modellen te beoordelen. Andere functies, zoals aanpasbaar risicogebaseerd toezicht, stellen teams in staat om het niveau van human-in-the-loop governance te fine-tunen op basis van het risiconiveau van het gebruik.

Deze nieuwe ontwikkelingen komen op een moment dat overheden de AI-regelgeving blijven verhogen. Zo zijn er bijvoorbeeld aanstaande regelgevingen zoals de Artificial Intelligence Act (AIA) van de Europese Unie, evenals een wetsvoorstel in New York City dat het verplicht maakt voor AI-beslissingshulpmiddelen voor werkgelegenheid om te worden geaudit op vooroordelen. Dit zijn slechts enkele van de vele redenen waarom organisaties kiezen voor AI-governance-instrumenten zoals het nieuwe platform dat door Credo AI is uitgebracht.