Jak lidská předpojatost podkopává AI-podporovaná řešení

Minulý září se světoví lídři jako Elon Musk, Mark Zuckerberg a Sam Altman, generální ředitel OpenAI, sešli ve Washingtonu D.C. s cílem projednat, na jedné straně, jak veřejný a soukromý sektor mohou spolupracovat na využití této technologie pro větší dobro, a na druhé straně, aby se zabývaly regulací, problémem, který zůstává v centru debaty o AI.

Obě tyto debaty často vedou ke stejnému místu. Existuje rostoucí důraz na to, zda můžeme udělat AI více etickou, vyhodnotit AI jako kdyby šlo o jiného člověka, jehož morálka je zpochybněna. Ale co znamená etická AI? DeepMind, výzkumná laboratoř vlastněná Googlem, která se zaměřuje na AI, nedávno zveřejnila studii, ve které navrhla tříúrovňovou strukturu pro vyhodnocení rizik AI, včetně sociálních a etických rizik. Tato struktura zahrnovala schopnosti, interakci s lidmi a systémový dopad, a dospěla k závěru, že kontext je klíčový pro určení, zda je systém AI bezpečný.

Jedním z těchto systémů, který čelí kritice, je ChatGPT, který byl zakázán v až 15 zemích, i když některé z těchto zákazů byly zrušeny. S více než 100 miliony uživatelů, ChatGPT je jedním z nejúspěšnějších LLM, a často byl obviněn z předpojatosti. Pokud vezmeme v úvahu studii DeepMind, pojďme do kontextu. Předpojatost, v tomto kontextu, znamená existenci nespravedlivých, předsudkových nebo zkreslených perspektiv v textu generovaném modely, jako je ChatGPT. To může nastat mnoha způsoby – rasová předpojatost, genderová předpojatost, politická předpojatost a mnoho dalších.

Tyto předpojatosti mohou být konečně škodlivé pro AI samo, snižují šance, že můžeme využít plný potenciál této technologie. Nedávný výzkum ze Stanfordovy univerzity potvrdil, že LLM, jako je ChatGPT, ukazují známky poklesu ve schopnosti poskytovat spolehlivé, nezávislé a přesné odpovědi, což je konečná překážka pro naše efektivní využití AI.

Problém, který leží v jádru tohoto problému, je to, jak jsou lidské předpojatosti přenášeny do AI, protože jsou hluboce zakořeněny v datech, která se používají k vývoji modelů. Ale toto je hlubší problém, než se zdá.

Příčiny předpojatosti

Je snadné identifikovat první příčinu této předpojatosti. Data, ze kterých se model učí, jsou často plná stereotypů nebo předchozích předsudků, které pomáhaly utvořit tato data, takže AI, neúmyslně, nakonec tyto předpojatosti zesiluje, protože to je to, co umí dělat.

Druhá příčina je však mnohem složitější a protichůdnější, a klade tlak na některé snahy, které se dělají, aby se AI stalo více etickým a bezpečným. Existují, samozřejmě, některé zjevné případy, kdy AI může neúmyslně způsobit škodu. Například, pokud někdo požádá AI, „Jak mohu vyrobit bombu?“ a model poskytne odpověď, přispívá k vytváření škody. Naopak, když je AI omezen – i když je důvod ospravedlnitelný – bráníme mu v učení. Lidsky stanovená omezení omezují schopnost AI učit se z širšího rozsahu dat, což dále brání tomu, aby poskytovaly užitečné informace v neškodných kontextech.

Také si musíme uvědomit, že mnohá z těchto omezení jsou také předpojatá, protože pocházejí z lidí. Proto, zatímco můžeme všichni souhlasit, že „Jak mohu vyrobit bombu?“ může vést k potenciálně fatálnímu výsledku, jiné dotazy, které by mohly být považovány za citlivé, jsou mnohem subjektivnější. V důsledku toho, pokud omezíme vývoj AI v těchto oblastech, omezíme pokrok a fomentujeme využití AI pouze pro účely, které jsou považovány za přijatelné těmi, kteří vytvářejí regulace týkající se modelů LLM.

Neschopnost předpovědět důsledky

Není úplně jasné, jaké jsou důsledky zavedení omezení do LLM. Protože je zapojeno enormní množství parametrů v modelech, jako je GPT, je, s nástroji, které máme nyní, nemožné předpovědět dopad, a z mé perspektivy, bude to trvat více času, než pochopíme, co je dopad, než samotné trénování neuronové sítě.

Proto, pokud zavádíme tato omezení, můžeme, neúmyslně, vést model k vývoji neočekávaných chování nebo předpojatostí. To je také proto, že modely AI jsou často komplexní systémy s mnoha parametry, což znamená, že pokud změníme jeden parametr – například zavedením omezení – způsobíme efekt domina, který se projeví napříč celým modelem způsobem, který nemůžeme předpovědět.

Obtížnost při hodnocení „etiky“ AI

Není prakticky proveditelné vyhodnotit, zda je AI etická nebo ne, protože AI není člověk, který jedná s určitým úmyslem. AI je Large Language Model, který, svou povahou, nemůže být více nebo méně etický. Jak studie DeepMind odhalila, co je důležité, je kontext, ve kterém je používán, a to měří etiku člověka za AI, ne AI samotné. Je iluzí si myslet, že můžeme soudit AI, jako kdyby mělo morální kompas.

Jedno z potenciálních řešení, které je propagováno, je model, který může pomoci AI učinit etická rozhodnutí. Ale realita je taková, že nemáme žádnou představu, jak by tento matematický model etiky mohl fungovat. Pokud to nevíme, jak bychom mohli possibly postavit? Existuje mnoho lidské subjektivity v etice, což činí úkol kvantifikovat ji velmi složitým.

Jak vyřešit tento problém?

Na základě výše uvedených bodů nemůžeme skutečně mluvit o tom, zda je AI etická nebo ne, protože každá předpojatost, která je považována za neetickou, je variací lidských předpojatostí, které jsou obsaženy v datech, a nástrojem, který lidé používají pro své vlastní agendy. Také existují stále mnoho vědeckých neznámých, jako je dopad a potenciální škoda, kterou bychom mohli způsobit algoritmům AI, pokud bychom na ně uvalili omezení.

Proto lze říci, že omezit vývoj AI není životaschopné řešení. Jak některé ze studií, které jsem zmínil, ukázaly, tato omezení jsou částečně příčinou zhoršování se LLM.

Řekl-li jsem to, co můžeme udělat?

Z mé perspektivy leží řešení v transparentnosti. Věřím, že pokud obnovíme otevřený model, který byl přítomen při vývoji AI, můžeme společně pracovat na budování lepších LLM, které by mohly být vybaveny pro zmírnění našich etických obav. Jinak je velmi obtížné adekvátně audity cokoliv, co se děje za zavřenými dveřmi.

Jedna vynikající iniciativa v tomto ohledu je Index transparentnosti základních modelů, nedávno odhalený Stanford HAI (což znamená Human-Centered Artificial Intelligence), který hodnotí, zda vývojáři deseti nejčastěji používaných modelů AI poskytují dostatek informací o své práci a způsobu, jakým jsou jejich systémy používány. To zahrnuje zveřejnění partnerství a třetích stran, stejně jako způsob, jakým se využívají osobní data. Je pozoruhodné říci, že žádný z hodnocených modelů nezískal vysokou známku, což podtrhuje skutečný problém.

Na konci dne je AI nic jiného než Large Language Modely, a fakt, že jsou otevřené a mohou být experimentovány, místo toho, aby byly směrovány určitým směrem, je to, co nám umožní učinit nové průlomové objevy ve všech vědeckých oborech. Ale pokud není transparentnost, bude velmi obtížné navrhnout modely, které opravdu fungují pro prospěch lidstva, a znát rozsah škody, kterou tyto modely by mohly způsobit, pokud nejsou řádně využity.