Jak předcházet zkreslení ve strategii AI/ML a co s tím dělat

‘Zkreslení’ v modelech jakéhokoli typu popisuje situaci, ve které model reaguje nepřesně na podněty nebo vstupní data, protože nebyl trénován dostatečným množstvím kvalitních a rozmanitých dat, aby mohl poskytnout přesnou odpověď. Jedním z příkladů je funkce rozpoznávání obličeje telefonu Apple, která selhala u lidí s tmavší pletí mnohem častěji než u lidí se světlejší pletí. Model nebyl trénován na dostatečném množství obrázků lidí s tmavší pletí. To byl relativně nízkorizikový příklad zkreslení, ale je to přesně důvod, proč zákon EU o umělé inteligenci stanovil požadavky na prokázání účinnosti modelu (a kontrol) před uvedením na trh. Modely s výstupy, které mají dopad na obchodní, finanční, zdravotní nebo osobní situace, musí být důvěryhodné, jinak je nikdo nebude používat.

Předcházení zkreslení pomocí dat

Velká množství kvalitních dat

Mezi mnoha důležitými postupy pro správu dat je klíčovým prvkem pro překonání a minimalizaci zkreslení v modelech AI/ML získání velkých množství kvalitních, rozmanitých dat. To vyžaduje spolupráci s několika organizacemi, které taková data mají. Tradičně jsou získávání dat a spolupráce ohroženy problémy s ochranou soukromí a/nebo právem duševního vlastnictví – citlivá data nelze zaslat majiteli modelu a majitel modelu nemůže riskovat únik svého duševního vlastnictví majiteli dat. Častým řešením je práce s fiktivními nebo syntetickými daty, která mohou být užitečná, ale také mají omezení ve srovnání s použitím skutečných, plně kontextových dat. Zde poskytují technologie pro zlepšení soukromí (PETs) potřebné odpovědi.

Syntetická data: Blízko, ale ne dost

Syntetická data jsou uměle generována, aby napodobovala skutečná data. To je obtížné, ale stává se slightly jednodušší díky nástrojům AI. Kvalitní syntetická data by měla mít stejné vzdálenosti mezi funkcemi jako skutečná data, jinak nebudou užitečná. Kvalitní syntetická data lze použít k efektivnímu zvýšení rozmanitosti trénovacích dat vyplňováním mezer pro menší, okrajové populace nebo pro populace, pro které poskytovatel AI nemá dostatečná data. Syntetická data lze také použít k řešení okrajových případů, které by mohly být obtížně najít v dostatečném množství ve skutečném světě. Kromě toho mohou organizace generovat syntetická data, aby splnily požadavky na ochranu soukromí a rezidenci dat, které brání přístupu ke skutečným datům. To zní skvěle; nicméně, syntetická data jsou pouze částí puzzle, ne řešením.

Jedním z očividných omezení syntetických dat je odpojení od skutečného světa. Například autonomní vozidla trénovaná pouze na syntetických datech budou mít potíže se skutečnými, neočekávanými silničními podmínkami. Kromě toho syntetická data zdědí zkreslení ze skutečných dat, která byla použita k jejich generování – což prakticky znemožňuje náš diskuzi. V závěru jsou syntetická data užitečnou možností pro jemné ladění a řešení okrajových případů, ale významné zlepšení účinnosti modelu a minimalizace zkreslení stále závisí na přístupu ke skutečným datům.

Lepší způsob: Skutečná data prostřednictvím pracovních postupů s PETs

PETs chrání data při jejich použití. Pokud jde o modely AI/ML, mohou také chránit duševní vlastnictví modelu, který je spuštěn – „dva ptáci, jeden kámen“. Řešení, která využívají PETs, poskytují možnost trénovat modely na skutečných, citlivých datech, která nebyla dříve dostupná kvůli problémům s ochranou soukromí a bezpečnosti dat. Toto odemčení toků dat ke skutečným datům je nejlepší možností pro snížení zkreslení. Ale jak by to vlastně fungovalo?

Prozatím začínají vedoucí možnosti s důvěryhodným výpočetním prostředím. Poté následuje integrace s softwarovým řešením založeným na PETs, které je připraveno k použití a řeší požadavky na správu dat a bezpečnost, které nejsou zahrnuty ve standardním důvěryhodném výpočetním prostředí (TEE). S tímto řešením jsou modely a data šifrována před odesláním do zabezpečeného výpočetního prostředí. Prostředí může být hostováno kdekoli, což je důležité při řešení určitých požadavků na lokalizaci dat. To znamená, že jsou zachována jak duševní vlastnictví modelu, tak bezpečnost vstupních dat během výpočtu – ani poskytovatel důvěryhodného výpočetního prostředí nemá přístup k modelům nebo datům uvnitř něj. Šifrované výsledky jsou pak odeslány zpět k přezkumu a jsou k dispozici protokoly pro přezkum.

Tento tok odemkne nejlepší kvalitní data, bez ohledu na to, kde se nachází nebo kdo je vlastní, a vytvoří cestu k minimalizaci zkreslení a vysoce účinným modelům, kterým můžeme důvěřovat. Tento tok je také tím, co zákon EU o umělé inteligenci popsal ve svých požadavcích na regulační pískoviště pro umělou inteligenci.

Zajišťování etické a právní souladu

Získání kvalitních, skutečných dat je obtížné. Požadavky na ochranu soukromí a lokalizaci dat okamžitě omezují datové sady, ke kterým mají organizace přístup. Pro inovace a růst je nutné, aby data tekla těm, kteří z nich mohou získat hodnotu.

Článek 54 zákona EU o umělé inteligenci stanoví požadavky pro „vysoce rizikové“ typy modelů ve smyslu toho, co musí být prokázáno předtím, než mohou být uvedeny na trh. Stručně řečeno, týmy budou muset použít skutečná data ve regulačním pískovišti pro umělou inteligenci, aby prokázaly dostatečnou účinnost modelu a soulad se všemi kontrolami podrobně popsány v kapitole III, oddílu 2. Tyto kontroly zahrnují monitorování, transparentnost, vysvětlitelnost, bezpečnost dat, ochranu dat, minimalizaci dat a ochranu modelu – lze si to představit jako DevSecOps + Data Ops.

První výzvou bude najít skutečnou datovou sadu, kterou lze použít – protože se jedná o citlivá data pro takový typ modelů. Bez technických záruk mohou many organizace váhat, zda mohou důvěřovat poskytovateli modelu svými daty, nebo jim nebude dovoleno to udělat. Kromě toho, způsob, jakým zákon definuje „regulační pískoviště pro umělou inteligenci“, je sám o sobě výzvou. Některé z požadavků zahrnují záruku, že data jsou odstraněna ze systému po spuštění modelu, jakož i kontrolní mechanismy, vynucování a reporting.

Mnohé organizace se pokusily použít hotová data clean rooms (DCRs) a důvěryhodná výpočetní prostředí (TEEs). Ale samostatně tyto technologie vyžadují značné odborné znalosti a úsilí k provozování a splnění požadavků na regulaci dat a umělé inteligence.
DCRs jsou jednodušší na použití, ale zatím nejsou užitečné pro robustnější potřeby AI/ML. TEEs jsou zabezpečené servery a stále potřebují integrovanou platformu pro spolupráci, aby byly rychle užitečné. To nicméně identifikuje příležitost pro platformy založené na technologiích pro zlepšení soukromí, aby se integrovaly s TEEs a odstranily potřebu ručního nastavení a použití regulačního pískoviště pro umělou inteligenci, a tím i získání a použití citlivých dat.

Poskytováním možnosti použití více rozmanitých a komplexních datových sad způsobem, který chrání soukromí, tyto technologie pomáhají zajistit, aby postupy AI a ML splňovaly etické standardy a právní požadavky související s ochranou soukromí (například GDPR a zákon EU o umělé inteligenci v Evropě). V závěru, zatímco požadavky jsou často přijímány s nesouhlasem a povzdechy, tyto požadavky nás vedou k budování lepších modelů, kterým můžeme důvěřovat a spoléhat se na ně pro důležité rozhodování založené na datech, zatímco chráníme soukromí subjektů dat, které se používají pro vývoj a přizpůsobení modelu.