Vědci se domnívají, že umělá inteligence může být použita k ochraně soukromí lidí

Dva profesoři informačních věd nedávno publikovali článek v The Conversation, ve kterém argumentují, že umělá inteligence může pomoci zachovat soukromí lidí a napravit některé problémy, které sama vytvořila.

Zhiyuan Chen a Aryya Gangopadhyay argumentují, že algoritmy umělé inteligence mohou být použity k ochraně soukromí lidí a potlačení některých z mnoha problémů s ochranou soukromí, které jiné použití umělé inteligence vytvořilo. Chen a Gangopadhyay uznávají, že mnoho produktů poháněných umělou inteligencí, které používáme pro pohodlí, by nefungovalo bez přístupu k velkým množství dat, což na první pohled vypadá jako rozpor s pokusy o zachování soukromí. Kromě toho, když se umělá inteligence rozšíří do více a více odvětví a aplikací, bude shromažďováno a uloženo více dat, což bude lákavé pro útočníky. Chen a Gangopadhyay však věří, že když je umělá inteligence použita správně, může pomoci zmírnit tyto problémy.

Chen a Gangopadhyay vysvětlují ve svém příspěvku, že rizika spojená s ochranou soukromí v souvislosti s umělou inteligencí pocházejí alespoň ze dvou různých zdrojů. Prvním zdrojem jsou velké datové sady shromážděné pro výuku modelů neuronových sítí, zatímco druhým zdrojem ohrožení soukromí jsou samotné modely. Data mohou potenciálně “uniknout” z těchto modelů, a chování modelů může prozradit podrobnosti o datech, která byla použita pro jejich výuku.

Hluboké neuronové sítě se skládají z mnoha vrstev neuronů, přičemž každá vrstva je spojena s vrstvami kolem ní. Jednotlivé neurony, stejně jako spoje mezi nimi, kódují různé části trénovacích dat. Model může být příliš dobrý v zapamatování vzorců trénovacích dat, i když model není přetížený. Stopy trénovacích dat existují uvnitř sítě a zlomyslní aktéři mohou být schopni určit aspekty trénovacích dat, jak zjistili výzkumníci z Cornellovy univerzity v jedné ze svých studií. Výzkumníci z Cornellovy univerzity zjistili, že algoritmy rozpoznávání obličejů mohou být zneužity útočníky k odhalení, které obrázky, a tedy které osoby, byly použity pro výuku modelu rozpoznávání obličejů. Výzkumníci z Cornellovy univerzity také objevili, že i když útočník nemá přístup k originálnímu modelu, který byl použit pro výuku aplikace, útočník může stále být schopen prozkoumat síť a určit, zda určitá osoba byla zahrnuta do trénovacích dat, jednoduše pomocí modelů, které byly vyškoleny na velmi podobných datech.

Některé modely umělé inteligence jsou v současné době používány k ochraně proti únikům dat a snaží se zajistit soukromí lidí. Modely umělé inteligence jsou často používány k detekci pokusů o hackování rozpoznáním vzorců chování, které hackeři používají k proniknutí do bezpečnostních metod. Hackeři však často mění své chování, aby oklamali modely umělé inteligence, které detekují vzorce.

Nové metody výuky a vývoje umělé inteligence se snaží učinit modely a aplikace umělé inteligence méně zranitelnými vůči metodám hackování a taktikám vyhýbání se zabezpečení. Adversarialní učení se snaží vyškolit modely umělé inteligence na simulacích škodlivých nebo nebezpečných vstupů a tím učinit modely odolnější vůči zneužití, odtud název “adversarial”. Podle Chen a Gangopadhyay jejich výzkum objevil metody boje proti malwaru, který je navržen ke krádeži soukromých informací. Dva výzkumníci vysvětlili, že jednou z nejúčinnějších metod, které našli pro odolávání malwaru, bylo zavedení nejistoty do modelu. Cílem je učinit to obtížnější pro zlomyslné aktéry předpovědět, jak model zareaguje na jakýkoli vstup.

Další metody využití umělé inteligence k ochraně soukromí zahrnují minimalizaci expozice dat při vytváření a výcviku modelu, stejně jako testování, aby se objevily zranitelnosti sítě. Když jde o zachování soukromí dat, federované učení může pomoci chránit soukromí citlivých dat, protože umožňuje modelu být vyškolena bez toho, aby trénovací data kdykoli opustila lokální zařízení, která obsahují data, a tím izoluje data a mnoho parametrů modelu před špionáží.

Nakonec Chen a Gangopadhyay argumentují, že zatímco rozšíření umělé inteligence vytvořilo nová rizika pro soukromí lidí, umělá inteligence může také pomoci chránit soukromí, pokud je navržena s péčí a uvážením.