Credo AI kondigt ‘s werelds eerste verantwoordelijke AI-platform aan

Credo AI heeft de beschikbaarheid van zijn verantwoordelijke AI-platform aangekondigd, dat een primeur is. Het SaaS-product helpt organisaties om tools te standaardiseren en te schalen voor hun aanpak van verantwoordelijke AI.

Credo AI is verantwoordelijk voor het creëren van ‘s werelds eerste uitgebreide en contextuele governance-oplossing voor AI.

Verantwoordelijke AI-platform

Volgens het persbericht van het bedrijf “helpt het verantwoordelijke AI-platform van Credo AI bedrijven om verantwoordelijke AI te operationaliseren door contextgedreven AI-risico- en compliancebeoordeling te bieden, waar ze ook zijn in hun AI-reis.”

Dit is cruciaal, gezien het feit dat veel AI-bedrijven moeite hebben om noodzakelijke AI-principes te creëren en te implementeren in de praktijk.

Met Credo AI kunnen cross-functionele teams samenwerken aan verantwoordelijke AI-eisen voor dingen zoals eerlijkheid, prestaties, privacy en beveiliging. Het platform stelt teams ook in staat om hun AI-gebruiksgevallen te evalueren om ervoor te zorgen dat ze voldoen aan de eisen door middel van technische beoordelingen van datasets en machine learning (ML)-modellen. Ze kunnen ook een diepe blik werpen op de ontwikkelingsprocessen.

Het platform vertrouwt op de open source-assessmentsframework van Credo AI om meer gestructureerde en interpreteerbare beoordelingen te bereiken voor alle soorten organisaties.

Navrina Singh is de oprichter en CEO van Credo AI.

“Credo AI wil een sherpa zijn voor ondernemingen in hun verantwoordelijke AI-initiatieven om toezicht en verantwoordelijkheid te brengen aan Artificial Intelligence, en om te definiëren wat goed is voor hun AI-kader,” zei Singh. “We hebben een contextcentrische, uitgebreide en continue oplossing gepionierd om verantwoordelijke AI te leveren. Ondernemingen moeten overeenkomen over verantwoordelijke AI-eisen over diverse stakeholders in technologie- en toezichtfuncties, en bewuste stappen nemen om actie te ondernemen op die doelen en verantwoordelijkheid te nemen voor de resultaten.”

Platformfuncties

Enkele van de functies van het verantwoordelijke AI-platform van Credo AI zijn:

• Naadloze beoordelingsintegraties

• Multi-stakeholderovereenstemming

• Risicogebaseerd toezicht

• Regelgevingsgereedheid uit de doos

• Assurance en attestatie

• AI-leveranciersrisicobeheer

Met functies zoals AI-leveranciersrisicobeheer, kunnen organisaties Credo AI gebruiken om het AI-risico en de compliance van derden AI/ML-producten en -modellen te beoordelen. Andere functies, zoals aanpasbaar risicogebaseerd toezicht, stellen teams in staat om het niveau van human-in-the-loop governance te fine-tunen op basis van het risiconiveau van het gebruik.

Deze nieuwe ontwikkelingen komen op een moment dat overheden de AI-regelgeving blijven verhogen. Zo zijn er bijvoorbeeld aanstaande regelgevingen zoals de Artificial Intelligence Act (AIA) van de Europese Unie, evenals een wetsvoorstel in New York City dat het verplicht maakt voor AI-beslissingshulpmiddelen voor werkgelegenheid om te worden geaudit op vooroordelen. Dit zijn slechts enkele van de vele redenen waarom organisaties kiezen voor AI-governance-instrumenten zoals het nieuwe platform dat door Credo AI is uitgebracht.