Překlenutí důvěryhodnosti umělé inteligence

Přijetí umělé inteligence dosáhlo kritického bodu. Společnosti s nadšením přijímají umělou inteligenci,Driven by its promise to achieve order-of-magnitude improvements in operational efficiencies.

Recentní Slack Survey zjistil, že přijetí umělé inteligence pokračuje, s použitím umělé inteligence na pracovištích, které zažívají nedávný 24% nárůst a 96% dotázaných výkonných ředitelů se domnívá, že „je naléhavě nutné integrovat umělou inteligenci do svých obchodních operací.“

Jedná se o rozšiřující se propast mezi užitím umělé inteligence a rostoucími obavami o její potenciální negativní dopady. Pouze 7%   kancelářských pracovníků se domnívá, že výstupy z umělé inteligence jsou dostatečně důvěryhodné, aby jim pomohly při pracovních úkolech.

Tento rozdíl je patrný v ostrém kontrastu mezi nadšením výkonných ředitelů pro integraci umělé inteligence a skepsí zaměstnanců související s faktory, jako jsou:

• Předpojatost a spravedlnost: Systémy umělé inteligence mohou prodloužit nebo dokonce zhoršit stávající předpojatosti, což vede k nespravedlivým výsledkům.
• Ochrana soukromí a bezpečnost: Zaměstnanci se obávají o tom, jak je shromažďována, ukládána a používána jejich osobní data systémy umělé inteligence.
• Neprůhledné rozhodování: Systémy umělé inteligence často fungují jako “černé skříňky”, přičemž rozhodují způsobem, který je pro lidi obtížné pochopit nebo vysvětlit.
• Automatizační úzkost: Existuje široce rozšířená obava, že umělá inteligence nahradí lidské pracovníky, což povede k nezaměstnanosti a ekonomické nestabilitě.

Role legislativy při budování důvěry

Pro řešení těchto multifacetedních otázek důvěryhodnosti jsou legislativní opatření stále častěji považována za nezbytný krok. Legislativa může sehrát zásadní roli při regulaci vývoje a nasazení umělé inteligence, a tím i při posílení důvěry. Klíčové legislativní přístupy zahrnují:

• Zákony na ochranu osobních údajů a soukromí: Implementace přísných zákonů na ochranu osobních údajů zajišťuje, že systémy umělé inteligence nakládají s osobními údaji zodpovědně. Předpisy, jako je Obecné nařízení o ochraně osobních údajů (GDPR) v Evropské unii, stanoví precedens tím, že vyžadují transparentnost, minimalizaci údajů a souhlas uživatelů. Konkrétně článek 22 GDPR chrání subjekty údajů před potenciálními negativními dopady automatizovaného rozhodování. Nedávná rozhodnutí Soudního dvora Evropské unie (SDEU) potvrzují práva osob, aby nebyly podrobeny automatizovanému rozhodování. V případě Schufa Holding AG, kde byl německý rezident odmítnut bankou na základě automatizovaného systému rozhodování o úvěru, soud rozhodl, že článek 22 vyžaduje, aby organizace implementovaly opatření na ochranu práv na soukromí souvisejících s používáním technologií umělé inteligence.
• Regulace umělé inteligence: Evropská unie ratifikovala zákon EU o umělé inteligenci (EU AIA), který má za cíl regulovat používání systémů umělé inteligence na základě jejich úrovní rizika. Zákon zahrnuje povinné požadavky pro systémy umělé inteligence s vysokým rizikem, včetně oblastí, jako jsou kvalita údajů, dokumentace, transparentnost a lidský dohled. Jedním z hlavních výhod regulací umělé inteligence je propagace transparentnosti a vysvětlitelnosti systémů umělé inteligence. Kromě toho zákon EU o umělé inteligenci stanoví jasná rámce odpovědnosti, zajišťující, že vývojáři, provozovatelé a dokonce i uživatelé systémů umělé inteligence jsou odpovědní za své činy a výsledky nasazení umělé inteligence. To zahrnuje mechanismy pro nápravu, pokud systém umělé inteligence způsobí újmu. Když jsou jednotlivci a organizace drženi odpovědnými, buduje se důvěra, že systémy umělé inteligence jsou spravovány zodpovědně.

Iniciativy standardů pro podporu kultury důvěryhodné umělé inteligence

Společnosti nemusí čekat na nové zákony, aby zjistily, zda jejich procesy jsou v souladu s etickými a důvěryhodnými směrnicemi. Regulace umělé inteligence fungují v tandemu s novými iniciativami standardů umělé inteligence, které umožňují organizacím implementovat odpovědnou správu umělé inteligence a nejlepší postupy během celého životního cyklu systémů umělé inteligence, včetně návrhu, implementace, nasazení a nakonec vyřazení.

Národní institut pro standardy a technologii (NIST) ve Spojených státech vyvinul rámec pro správu rizik umělé inteligence, aby organizacím pomohl spravovat rizika související s umělou inteligencí. Rámec je strukturován kolem čtyř základních funkcí:

• Pochopení systému umělé inteligence a kontextu, ve kterém funguje. To zahrnuje definici účelu, zúčastněných stran a potenciálních dopadů systému umělé inteligence.
• Kvantifikace rizik spojených se systémem umělé inteligence, včetně technických a netechnických aspektů. To zahrnuje hodnocení výkonu systému, spolehlivosti a potenciálních předpojatostí.

• Implementace strategií pro zmírnění identifikovaných rizik. To zahrnuje vývoj politik, postupů a kontrol, aby se zajistilo, že systém umělé inteligence funguje v rámci přijatelných úrovní rizika.
• Stanovení struktur governance a mechanismů odpovědnosti za dohled nad systémem umělé inteligence a procesy správy rizik. To zahrnuje pravidelné kontroly a aktualizace strategie správy rizik.

V reakci na pokroky v technologiích generativní umělé inteligence NIST také zveřejnil Rámec pro správu rizik umělé inteligence: Profil generativní umělé inteligence, který poskytuje pokyny pro zmírnění specifických rizik spojených s modely Foundational. Taková opatření zahrnují ochranu proti zneužívání (například dezinformace, degradující obsah, hate speech) a etické aplikace umělé inteligence, které se zaměřují na lidské hodnoty, jako je spravedlnost, soukromí, bezpečnost informací, duševní vlastnictví a udržitelnost.

Kromě toho Mezinárodní organizace pro standardizaci (ISO) a Mezinárodní elektrotechnická komise (IEC) společně vyvinuly ISO/IEC 23894, komplexní standard pro správu rizik umělé inteligence. Tento standard poskytuje systematický přístup k identifikaci a správě rizik během celého životního cyklu umělé inteligence, včetně identifikace rizik, hodnocení závažnosti rizik, léčby pro zmírnění nebo vyhnout se jim a kontinuální monitorování a přezkumu.

Budoucnost umělé inteligence a veřejná důvěra

V budoucnu bude budoucnost umělé inteligence a veřejná důvěra pravděpodobně záviset na několika klíčových faktorech, které jsou pro všechny organizace nezbytné:

• Provádění komplexního posouzení rizik pro identifikaci potenciálních problémů s dodržováním předpisů. Hodnotit etické důsledky a potenciální předpojatosti ve vašich systémech umělé inteligence.
• Vytvoření mezioborového týmu, včetně právníků, specialistů na dodržování předpisů, IT a odborníků na data. Tento tým by měl být odpovědný za monitorování změn v regulacích a zajišťování, aby vaše systémy umělé inteligence dodržovaly nové předpisy.
• Implementace struktury governance, která zahrnuje politiky, postupy a role pro správu iniciativ umělé inteligence. Zajišťovat transparentnost v operacích a rozhodování umělé inteligence.
• Provádění pravidelných interních auditů pro zajištění dodržování předpisů umělé inteligence. Používat nástroje pro monitorování k sledování výkonu systémů umělé inteligence a dodržování standardů regulací.
• Vzdělávání zaměstnanců o etice umělé inteligence, požadavcích na dodržování předpisů a nejlepších postupech. Poskytovat pokračující školení, aby personál byl informován o změnách v regulacích umělé inteligence a strategiích dodržování předpisů.
• Uchovávání podrobných záznamů o procesech vývoje umělé inteligence, používání dat a kritériích pro rozhodování. Příprava na generování zpráv, které lze předložit regulátorům, pokud je to požadováno.
• Vytvoření vztahů s regulačními orgány a účast na veřejných konzultacích. Poskytovat zpětnou vazbu k navrhovaným předpisům a hledat vyjasnění, pokud je to nutné.

Kontextualizace umělé inteligence pro dosažení důvěryhodné umělé inteligence

Nakonec, důvěryhodná umělá inteligence závisí na integritě dat. Závislost generativní umělé inteligence na velkých souborech dat neznamená přesnost a spolehlivost výstupů; spíše je to protiintuitivní pro obě standardy. Retrieval Augmented Generation (RAG) je inovativní technika, která „kombinuje statické LLM s kontextově specifickými daty. A lze ji považovat za vysoce znalého asistenta. Ten, který odpovídá kontextu dotazu s konkrétními daty z komplexní znalostní báze.” RAG umožňuje organizacím vytvářet kontextově specifické aplikace, které dodržují očekávání soukromí, bezpečnosti, přesnosti a spolehlivosti. RAG zlepšuje přesnost generovaných odpovědí tím, že načte relevantní informace z znalostní báze nebo repozitáře dokumentů. To umožňuje modelu založit svou generaci na přesných a aktuální informacích.

RAG umožňuje organizacím budovat aplikace umělé inteligence vytvořené pro konkrétní účel, které jsou vysoce přesné, kontextově vědomé a přizpůsobitelné, aby zlepšily rozhodování, vylepšily zkušenosti zákazníků, optimalizovaly operace a dosáhly významných konkurenčních výhod.

Překlenutí důvěryhodnosti umělé inteligence zahrnuje zajištění transparentnosti, odpovědnosti a etického používání umělé inteligence. Zatímco neexistuje jediná odpověď na udržení těchto standardů, podniky mají k dispozici strategie a nástroje. Implementace robustních opatření na ochranu soukromí a dodržování standardů regulací buduje důvěru uživatelů. Pravidelné audity systémů umělé inteligence na předpojatosti a nepřesnosti zajišťují spravedlnost. Augmentace velkých modelů jazyka (LLM) umělou inteligencí vytvořenou pro konkrétní účel dodává důvěru tím, že zahrnuje proprietární znalostní báze a datové zdroje. Angažování zúčastněných stran ohledně schopností a omezení umělé inteligence také buduje důvěru a akceptaci

Důvěryhodná umělá inteligence není snadno dosažitelná, ale je to zásadní závazek pro naši budoucnost.