Odhalení偏见 v umělém inteligenci: Výzvy a řešení

Poslední pokrok v oblasti generativní umělé inteligence vedl k boomu podnikových aplikací napříč odvětvími, včetně financí, zdravotnictví a dopravy. Rozvoj této technologie bude také vést k rozvoji dalších technologií, jako jsou kybernetické obranné technologie, kvantové výpočetní pokroky a průlomové bezdrátové komunikační techniky. Nicméně, tento výbuch next-generation technologií přichází se svou vlastní sadou výzev.

Například přijetí umělé inteligence může umožnit sofistikovanější kybernetické útoky, paměťové a úložné úzké místa kvůli zvýšení výpočetní síly a etické obavy z předpojatostí prezentovaných modely umělé inteligence. Dobrou zprávou je, že NTT Research navrhl způsob, jak překonat předpojatost v hlubokých neuronových sítích (DNN), typu umělé inteligence.

Tato výzkum je významným průlomem, protože nezávislé modely umělé inteligence budou přispívat k náboru, systému trestní spravedlnosti a zdravotnictví, když nebudou ovlivněny charakteristikami, jako je rasa, pohlaví. V budoucnu má diskriminace potenciál být eliminována pomocí těchto automatizovaných systémů, což povede ke zlepšení firemních iniciativ DE&I. Nakonec modely umělé inteligence s nezávislými výsledky budou zlepšovat produktivitu a snižovat čas potřebný k dokončení těchto úkolů. Nicméně, několik firem bylo nuceno zastavit své programy generované umělou inteligencí kvůli předpojatým řešením technologie.

Například Amazon zrušil použití náborového algoritmu, když zjistil, že algoritmus vykazoval preferenci pro uchazeče, kteří používali slova jako “executed” nebo “captured” častěji, která byla více běžná v mužských životopisech. Další zřejmý příklad předpojatosti pochází od Joy Buolamwini, jedné z nejvlivnějších osob v oblasti umělé inteligence v roce 2023 podle TIME, ve spolupráci s Timnit Gebru na MIT, která odhalila, že technologie analýzy obličeje vykazovala vyšší chybovost při hodnocení menšin, zejména menšinových žen, potenciálně kvůli nedostatečně reprezentativním trénovacím datům.

Nedávno se DNN staly všudypřítomnými ve vědě, inženýrství a podnikání a dokonce i v populárních aplikacích, ale někdy se spoléhají na podezřelé atributy, které mohou přenášet předpojatost. Podle MIT studie v posledních letech vědci vyvinuli hluboké neuronové sítě schopné analyzovat obrovské množství vstupů, včetně zvuků a obrazů. Tyto sítě mohou identifikovat sdílené charakteristiky, což jim umožňuje klasifikovat cílová slova nebo objekty. V současné době tyto modely stojí na čele oboru jako primární modely pro replikaci biologických senzorických systémů.

NTT Research Senior Scientist a Associate na Harvard University Center for Brain Science Hidenori Tanaka a tři další vědci navrhli překonání omezení naivní jemné úpravy, metody snižování chyb nebo “ztrát” DNN, novým algoritmem, který snižuje závislost modelu na předpojatých atributech.

Studovali krajinu ztrát neuronové sítě skrze lens mode connectivity, pozorování, že minimizéry neuronových sítí získané prostřednictvím trénování na datové sadě jsou spojeny jednoduchými cestami nízké ztráty. Konkrétně se zeptali následující otázky: jsou minimizéry, které se spoléhají na různé mechanismy pro své předpovědi, spojeny jednoduchými cestami nízké ztráty?

Objevili, že naivní jemná úprava není schopna fundamentálně změnit rozhodovací mechanismus modelu, protože vyžaduje přesunutí do jiné údolí na krajině ztrát. Místo toho je nutné vést model přes bariéry, které oddělují “doly” nebo “údolí” nízké ztráty. Autoři nazývají tento korektivní algoritmus Connectivity-Based Fine-Tuning (CBFT).

Před tímto vývojem DNN, který klasifikuje obrázky, jako je ryba (ilustrace použité v tomto studiu), používal jak tvar objektu, tak pozadí jako vstupní parametry pro předpověď. Jeho cesty minimalizující ztráty by tedy fungovaly v mechanicky odlišných režimech: jeden spoléhající se na legitimní atribut tvaru a druhý na podezřelý atribut pozadí. Jako takový, tyto režimy by postrádaly lineární spojení, nebo jednoduchou cestu nízké ztráty.

Výzkumný tým chápe mechanistický pohled na mode connectivity, přičemž考虑uje dva sady parametrů, které minimalizují ztrátu pomocí pozadí a tvarů objektů jako vstupních atributů pro předpověď, a poté se zeptali, zda jsou takoví mechanicky odlišní minimizéry spojeni cestami nízké ztráty v krajině. Ovlivňuje odlišnost těchto mechanismů jednoduchost jejich spojovacích cest? Můžeme využít tuto spojení, abychom přepínali mezi minimizéry, které používají naše požadované mechanismy?

Jinými slovy, hluboké neuronové sítě, v závislosti na tom, co se naučily během trénování na konkrétní datové sadě, mohou se chovat velmi odlišně, když je testujete na jiné datové sadě. Návrh týmu se zjednodušil na koncept sdílených podobností. Vychází z předchozí myšlenky mode connectivity, ale s novým pohledem – zvažuje, jak podobné mechanismy fungují. Jejich výzkum vedl k následujícím pozoruhodným objevům:

• minimizéry, které mají různé mechanismy, mohou být spojeny rather komplexním, ne-lineárním způsobem
• když jsou dva minimizéry lineárně spojeni, je to úzce spojeno s tím, jak podobné jsou jejich modely z hlediska mechanismů
• jednoduchá jemná úprava nemusí být dostatečná k odstranění nežádoucích funkcí, které byly získány během předchozího trénování
• pokud najdete oblasti, které jsou lineárně spojeny v krajině, můžete učinit efektivní změny vnitřní funkcionality modelu.

Zatímco tento výzkum je velkým krokem vpřed v využití plného potenciálu umělé inteligence, etické obavy kolem umělé inteligence mohou stále být obtížným bojem. Technologové a výzkumníci pracují na potírání dalších etických slabostí v umělé inteligenci a dalších velkých jazycových modelech, jako je soukromí, autonomie, odpovědnost.

Umělá inteligence může být použita ke sběru a zpracování velkých množství osobních dat. Neautorizované nebo neetické použití těchto dat může ohrozit soukromí jednotlivců, což vede k obavám o sledování, porušování dat a krádeži identity. Umělá inteligence může také představovat hrozbu, pokud jde o odpovědnost svých autonomních aplikací, jako jsou samořiditelná auta. Zavedení právních rámců a etických standardů pro odpovědnost a odpovědnost bude nezbytné v nadcházejících letech.

Závěrem, rychlý růst technologie generativní umělé inteligence slibuje různé odvětví, od financí a zdravotnictví po dopravu. Navzdory těmto slibným vývojům etické obavy kolem umělé inteligence zůstávají podstatné. Když se pohybujeme v této transformační éře umělé inteligence, je důležité, aby technologové, výzkumníci a politici pracovali společně, aby zavedli právní rámce a etické standardy, které zajistí odpovědné a prospěšné použití technologie umělé inteligence v budoucnu. Vědci z NTT Research a University of Michigan jsou o krok napřed s návrhem algoritmu, který by mohl potenciálně eliminovat předpojatosti v umělé inteligenci.