5 Základních Pilířů pro Zajištění Odpovědného Umělého Intelektu

Vidíme ohromující růst systémů umělé inteligence a strojového učení, které zpracovávají oceány dat, které jsou generovány v nové digitální ekonomice. Nicméně, s tímto růstem, je potřeba vážně uvažovat o etických a právních implikacích umělé inteligence.

Jak jsme stále více důvěřují sofistikovanějším a důležitějším úkolům systémům umělé inteligence, jako je například automatické schvalování půjček, musíme být absolutně jistí, že tyto systémy jsou odpovědné a důvěryhodné. Snížení biasu v umělé inteligenci se stalo obrovskou oblastí zájmu pro mnoho výzkumníků a má obrovské etické implikace, stejně jako množství autonomie, které tyto systémy dostanou.

Koncept Odpovědného Umělého Intelektu je důležitým rámcem, který může pomoci budovat důvěru ve vaše nasazení umělé inteligence. Existují pět základních pilířů pro Odpovědný Umělé Inteligent. Tento článek bude prozkoumávat tyto pilíře, aby vám pomohl budovat lepší systémy.

1. Reprodukovatelnost

Existuje staré přísloví ve světě vývoje softwaru, které zní: „hey, funguje to na mém počítači“. V strojovém učení a umělé inteligenci by toto přísloví mohlo být upraveno na: „hey, funguje to na mém datasetu“. To znamená, že modely strojového učení mohou často být černou skříňkou. Mnoho trénovacích datasetů může mít vrozené biasy, jako je bias výběru nebo potvrzovací bias, které snižují přesnost konečného produktu.

Abychom pomohli udělat systémy umělé inteligence a strojového učení více reprodukovatelnými a tedy přesnějšími a důvěryhodnějšími, prvním krokem je standardizovat pipeline MLOps. I když jsou nejchytřejší datoví vědci, mají své oblíbené technologie a knihovny, což znamená, že inženýrství funkcí a výsledné modely nejsou uniformní z osoby na osobu. Používáním nástrojů, jako je MLflow, můžete standardizovat pipeline MLOps a snížit tyto rozdíly.

Dalším způsobem, jak pomoci udělat systémy umělé inteligence a strojového učení více reprodukovatelnými, je použití takzvaných „zlatých datasetů“. Tyto jsou reprezentativní datasety, které fungují jako testy a validace nových modelů předtím, než jsou uvolněny do produkce.

2. Transparentnost

Jak bylo uvedeno dříve, mnoho modelů strojového učení, zejména neuronových sítí, jsou černé skříňky. Abychom je učinili více zodpovědnými, musíme je učinit více interpretovatelnými. Pro jednoduché systémy, jako jsou rozhodovací stromy, je poměrně snadné pochopit, jak a proč systém učinil určitou rozhodnutí, ale s rostoucí přesností a složitostí systému umělé inteligence, jeho interpretovatelnost často klesá.

Existuje nová oblast výzkumu nazvaná „vysvětlitelnost“, která se snaží přinést transparentnost i do komplexních systémů umělé inteligence, jako jsou neuronové sítě a hluboké učení. Tyto systémy používají proxy modely, aby kopírovaly výkon neuronové sítě, ale také se snaží poskytnout platná vysvětlení, která funkce jsou důležitá.

To vše vede k férovosti; chcete vědět, proč bylo učiněno určité rozhodnutí a zajistit, že toto rozhodnutí je férové. Chcete také zajistit, aby nebyly zohledněny nevhodné funkce, aby se do modelu nedostal bias.

3. Zodpovědnost

Možná nejdůležitější aspekt Odpovědného Umělého Intelektu je zodpovědnost. Existuje mnoho diskusí o tomto tématu, dokonce i ve vládním sektoru, protože se zabývá tím, jaké politiky budou řídit výsledky umělé inteligence. Tento politicky řízený přístup určuje, v jaké fázi by měli být lidé zapojeni do procesu.

Zodpovědnost vyžaduje robustní monitory a metriky, aby pomohly tvůrcům politik a kontrolorům systémů umělé inteligence a strojového učení. Zodpovědnost skutečně spojuje reprodukovatelnost a transparentnost, ale potřebuje efektivní dohled v podobě etických komisí pro umělou inteligenci. Tyto komise mohou řešit rozhodnutí o politice, rozhodovat, co je důležité měřit, a provádět přezkumy férovosti.

4. Bezpečnost

Bezpečnost umělé inteligence se zaměřuje na důvěrnost a integritu dat. Když systémy zpracovávají data, chcete, aby byly v bezpečném prostředí. Chcete, aby data byla šifrována, zatímco jsou v klidu v databázi, a také během přenosu přes pipeline, ale zranitelnosti stále existují, zatímco jsou data zasílána do modelu strojového učení jako plain text. Technologie, jako je homomorfní šifrování, řeší tento problém, umožňující školení modelů v šifrovaném prostředí.

Dalším aspektem je bezpečnost modelu samotného. Například útoky na modely, jako jsou model inversion attacks, umožňují útočníkům naučit se trénovací data, která byla použita k sestavení modelu. Existují také útoky na otrávení modelu, které vkládají špatná data do modelu během školení a úplně poškozují jeho výkon. Testování modelu na útoky, jako jsou tyto, může udržet model v bezpečí a zabezpečení.

5. Soukromí

Google a OpenMined jsou dvě organizace, které nedávno prioritizovaly soukromí umělé inteligence, a OpenMined hostila nedávnou konferenci na toto téma. S novými regulacemi, jako je GDPR a CCPA, a potenciálně dalšími na cestě, soukromí bude hrát centrální roli v tom, jak budeme trénovat modely strojového učení.

Jedním ze způsobů, jak zajistit, že zpracováváte data zákazníků způsobem, který je vědom si soukromí, je použití federovaného učení. Tato decentralizovaná metoda strojového učení trénuje různé modely místně a poté agreguje každý model v centrálním uzlu, zatímco udržuje data v bezpečí, zabezpečené a soukromé. Další metodou je zavést statistický šum, aby se zabránilo úniku individuálních hodnot zákazníků. To udržuje vaši práci s agregovanými daty, aby se zajistilo, že individuální data nejsou dostupná algoritmu.

Udržení Odpovědnosti Umělé Inteligence

 Nakonec, udržení odpovědnosti umělé inteligence je na každé organizaci, která navrhuje systémy umělé inteligence a strojového učení. Cíleným uplatňováním technologií v rámci těchto pěti pilířů Odpovědného Umělého Intelektu můžete nejen využít sílu umělé inteligence, ale můžete tak učinit důvěryhodným a přímým způsobem, který ujistí vaši organizaci, zákazníky a regulátory.