Co je Responsible AI? Zásady, výzvy a přínosy

Responsible AI (RAI) se týká navrhování a nasazování systémů umělé inteligence, které jsou transparentní, nezaujaté, odpovědné a dodržují etické směrnice. Jak systémy umělé inteligence rostou v robustnosti a prevalenci, je zajištění jejich odpovědného vývoje a dodržování bezpečnostních a etických směrnic nezbytné.

Zdravotnictví, doprava, správa sítí a dohled jsou bezpečnostně kritické aplikace umělé inteligence, kde selhání systému může mít závažné důsledky. Velké firmy si jsou vědomy toho, že RAI je nezbytné pro zmírnění technologických rizik. Přesto podle zprávy MIT Sloan/BCG, která zahrnovala 1093 respondentů, 54% společností postrádalo odborné znalosti a talent v oblasti Responsible AI.

Ačkoli thought leaders a organizace vyvinuli zásady pro odpovědnou umělou inteligenci, zajištění odpovědného vývoje systémů umělé inteligence stále představuje výzvy. Podívejme se na tuto myšlenku podrobněji:

5 zásad pro odpovědnou umělou inteligenci

1. Fairness

Technologové by měli navrhnout postupy tak, aby systémy umělé inteligence jednaly se všemi jednotlivci a skupinami spravedlivě a bez předpojatosti. Fairness je proto primárním požadavkem při rozhodování s vysokými riziky.

Fairness je definována jako:

„Prozkoumání dopadu na různé demografické skupiny a výběr jedné z několika matematických definic skupinové fairness, které uspokojí požadovanou sadu právních, kulturních a etických požadavků.“

2. Odpovědnost

Odpovědnost znamená, že jednotlivci a organizace, které vyvíjí a nasazují systémy umělé inteligence, by měly být odpovědné za svá rozhodnutí a činy. Tým nasazující systémy umělé inteligence by měl zajistit, aby jejich systém umělé inteligence byl transparentní, interpretovatelný, auditable a nezpůsobil škodu společnosti.

Odpovědnost zahrnuje sedm komponent:

1. Kontext (účel, pro který je vyžadována odpovědnost)
2. Rozsah (předmět odpovědnosti)
3. Agent (kdo je odpovědný?)
4. Fórum (komu je odpovědná strana povinna hlásit)
5. Standardy (kritéria pro odpovědnost)
6. Proces (metoda odpovědnosti)
7. Důsledky (důsledky odpovědnosti)

3. Transparentnost

Transparentnost znamená, že důvodem za rozhodováním v systémech umělé inteligence je jasný a srozumitelný. Transparentní systémy umělé inteligence jsou vysvětlitelné.

Podle Assessment List for Trustworthy Artificial Intelligence (ALTAI) transparentnost má tři klíčové prvky:

1. Sledovatelnost (data, předzpracování kroků a model je přístupný)
2. Vysvětlitelnost (důvod za rozhodováním/předpovědí je jasný)
3. Otevřená komunikace (ohledně omezení systému umělé inteligence)

4. Soukromí

Soukromí je jedním z hlavních principů odpovědné umělé inteligence. Týká se ochrany osobních informací. Tento princip zajišťuje, aby osobní informace byly shromažďovány a zpracovávány se souhlasem a nebyly zpřístupněny osobám, které by je mohly zneužít.

Jak bylo nedávno prokázáno, existoval případ Clearview, společnosti, která vytváří modely rozpoznávání obličeje pro orgány činné v trestním řízení a univerzity. Britští dozorci soudně napadli Clearview AI za 7,5 milionu liber za shromažďování obrazů britských obyvatel z sociálních médií bez souhlasu za účelem vytvoření databáze 20 miliard obrazů.

5. Bezpečnost

Bezpečnost znamená zajištění, aby systémy umělé inteligence byly bezpečné a neohrožovaly společnost. Příkladem bezpečnostní hrozby umělé inteligence jsou adversarialní útoky. Tyto útoky mohou uvést modely strojového učení v omyl. Ochrana systémů umělé inteligence před kybernetickými útoky je nezbytná pro odpovědnou umělou inteligenci.

4 hlavní výzvy a rizika odpovědné umělé inteligence

1. Předpojatost

Lidská předpojatost související s věkem, pohlavím, národností a rasou může ovlivnit shromažďování dat a potenciálně vést k předpojatým modelům umělé inteligence. Studie ministerstva obchodu USA zjistila, že systémy rozpoznávání obličeje umělé inteligence nesprávně identifikují lidi barevné pleti. Proto může použití umělé inteligence pro rozpoznávání obličeje v orgánech činných v trestním řízení vést k nespravedlivým zatčením. Kromě toho je obtížné vytvořit spravedlivé modely umělé inteligence, protože existuje 21 různých parametrů, které je třeba definovat. Proto existuje kompromis; splnění jednoho parametru spravedlivé umělé inteligence znamená obětování jiného.

2. Interpretovatelnost

Interpretovatelnost je kritickou výzvou při vývoji odpovědné umělé inteligence. Týká se porozumění tomu, jak model strojového učení dospěl k určitému závěru.

Hluboké neuronové sítě postrádají interpretovatelnost, protože fungují jako černé skříňky s mnoha vrstvami skrytých neuronů, což činí obtížným porozumění procesu rozhodování. To může být výzvou při rozhodování s vysokými riziky, jako je zdravotnictví, finance atd.

Kromě toho je formalizace interpretovatelnosti v modelech strojového učení obtížná, protože je subjektivní a doménově specifická.

3. Řízení

Řízení se týká sady pravidel, politik a postupů, které dohlížejí na vývoj a nasazení systémů umělé inteligence. Nedávno došlo k významnému pokroku v diskusi o řízení umělé inteligence, kdy organizace představily rámce a etické směrnice.

Etické směrnice pro důvěryhodnou umělou inteligenci EU, rámec etiky umělé inteligence Austrálie a principy umělé inteligence OECD jsou příklady rámců řízení umělé inteligence.

Avšak rychlý pokrok v oblasti umělé inteligence v posledních letech může předehnat tyto rámce řízení umělé inteligence. K tomu je třeba vytvořit rámec, který posoudí spravedlnost, interpretovatelnost a etiku systémů umělé inteligence.

4. Regulace

Jak systémy umělé inteligence se stávají více rozšířenými, je třeba regulace, která zohlední etické a společenské hodnoty. Vývoj regulace, která neztíží inovace umělé inteligence, je kritickou výzvou v oblasti odpovědné umělé inteligence.

Navzdory Obecnému nařízení o ochraně osobních údajů (GDPR), Kalifornskému zákonu o ochraně spotřebitelů (CCPA) a Zákonu o ochraně osobních informací (PIPL) jako regulačním orgánům zjistili výzkumníci umělé inteligence, že 97% webových stránek EU nesplňuje požadavky regulačního rámce GDPR.

Kromě toho zákonodárci čelí významné výzvě při dosažení konsensu o definici umělé inteligence, která zahrnuje jak klasické systémy umělé inteligence, tak nejnovější aplikace umělé inteligence.

3 hlavní přínosy odpovědné umělé inteligence

1. Snížená předpojatost

Odpovědná umělá inteligence snižuje předpojatost v rozhodovacích procesech, buduje důvěru v systémy umělé inteligence. Snížení předpojatosti v systémech umělé inteligence může poskytnout spravedlivý a rovný zdravotnický systém a snižuje předpojatost v službách založených na umělé inteligenci, jako je finanční služby atd.

2. Zlepšená transparentnost

Odpovědná umělá inteligence vytváří transparentní aplikace umělé inteligence, které budují důvěru v systémy umělé inteligence. Transparentní systémy umělé inteligence snižují riziko chyby a zneužití. Zlepšená transparentnost usnadňuje audit systému umělé inteligence, získává důvěru stakeholderů a může vést k odpovědným systémům umělé inteligence.

3. Lepší bezpečnost

Zabezpečené aplikace umělé inteligence zajišťují ochranu osobních údajů, produkují důvěryhodné a neškodlivé výstupy a jsou bezpečné před kybernetickými útoky.

Technologické giganti, jako Microsoft (MSFT ) a Google (GOOGL ), kteří jsou v čele vývoje systémů umělé inteligence, vyvinuli zásady odpovědné umělé inteligence. Odpovědná umělá inteligence zajišťuje, aby inovace v oblasti umělé inteligence nebyla škodlivá pro jednotlivce a společnost.

Myslitelé, výzkumníci, organizace a právní autority by měly neustále revidovat literaturu o odpovědné umělé inteligenci, aby zajistily bezpečnou budoucnost pro inovace umělé inteligence.

Pro více obsahu souvisejícího s umělou inteligencí navštivte unite.ai.