Credo AI představuje první platformu pro odpovědnou umělou inteligenci na světě

Credo AI oznámila dostupnost své platformy pro zodpovědnou umělou inteligenci, která je první svého druhu. Tento produkt SaaS pomáhá organizacím využívat nástroje pro standardizaci a škálování svého přístupu k zodpovědné umělé inteligenci.

Credo AI je zodpovědná za vytvoření prvního komplexního a kontextuálního řešení na světě pro správu umělé inteligence.

Platforma pro zodpovědnou umělou inteligenci

Podle tiskové zprávy společnosti „Platforma pro zodpovědnou umělou inteligenci Credo AI pomáhá firmám implementovat zodpovědnou umělou inteligenci poskytováním kontextově řízené analýzy rizik a souladu s předpisy, kdekoliv jsou ve své cestě s umělou inteligencí.“

To je zásadní, protože mnoho firem má potíže s vytvořením a implementací nezbytných principů umělé inteligence do praxe.

S Credo AI mohou mezioborové týmy spolupracovat na požadavcích pro zodpovědnou umělou inteligenci pro věci, jako je spravedlnost, výkon, soukromí a bezpečnost. Platforma také umožňuje týmům vyhodnotit své případy použití umělé inteligence, aby se ujistily, že splňují požadavky prostřednictvím technických hodnocení datových sad a modelů strojového učení. Mohou také podrobně prozkoumat procesy vývoje.

Platforma využívá hodnoticí framework Credo AI s otevřeným zdrojovým kódem, aby dosáhla více strukturovaných a interpretovatelných hodnocení pro všechny typy organizací.

Navrina Singh je zakladatelka a generální ředitelka Credo AI.

„Credo AI má za cíl být sherpa pro podniky ve svých iniciativách zodpovědné umělé inteligenci, aby přinesla dohled a odpovědnost umělé inteligenci a definovala, co je dobré pro jejich rámec umělé inteligence,“ řekla Singh. „Pionýrsky jsme vytvořili kontextově orientované, komplexní a kontinuální řešení pro dodání zodpovědné umělé inteligence. Podniky musí souhlasit s požadavky zodpovědné umělé inteligence napříč různými zúčastněnými stranami v technologických a dohlížecích funkcích a učinit úmyslné kroky k prokázání akce na těchto cílech a převzít odpovědnost za výsledky.“

Vlastnosti platformy

Některé z vlastností platformy pro zodpovědnou umělou inteligenci Credo AI zahrnují:

• Bezproblémové integrace hodnocení

• Sladění požadavků více zúčastněných stran

• Nastavitelný dohled založený na riziku

• Připravenost na regulatorní požadavky ihned po nasazení

• Zajištění a potvrzení

• Správa rizik dodavatelů umělé inteligence

S funkcemi, jako je Správa rizik dodavatelů umělé inteligence, mohou organizace použít Credo AI k hodnocení rizik a souladu s předpisy u produktů a modelů AI/ML třetích stran. Další funkce, jako je nastavitelný dohled založený na riziku, umožňují týmům jemně naladit úroveň lidského dohledu na základě úrovně rizika použití.

Tyto nové vývojové trendy přicházejí, když vlády pokračují v zvyšování regulací umělé inteligence. Například existují nadcházející regulace, jako je zákon Evropské unie o umělé inteligenci (AIA), stejně jako návrh zákona v New York City, který vyžaduje, aby nástroje pro rozhodování o zaměstnancích umělé inteligence byly auditovány pro předpojatost. To jsou pouze některé z mnoha důvodů, proč organizace volí spoléhání se na nástroje pro správu umělé inteligence, jako je nová platforma vydána Credo AI.