Co znamená Bílá knihy o právech AI pro Ameriku a zbytek světa

Úřad Bílého domu pro vědu a technologii (OSTP) nedávno vydal bílou knihu s názvem “Návrh zákona o právech AI: Jak zajistit, aby automatizované systémy sloužily americkému lidu”. Tento rámec byl vydán jeden rok poté, co OSTP oznámil spuštění procesu pro vývoj “zákona o právech pro svět poháněný AI”.

Úvodní slovo v tomto zákoně jasně ilustruje, že Bílý dům chápe bezprostřední hrozby pro společnost, které představuje AI. V úvodu se uvádí:

“Mezi velkými výzvami, kterým dnes demokracie čelí, je používání technologií, dat a automatizovaných systémů způsobem, který ohrožuje práva americké veřejnosti. Často jsou tyto nástroje používány k omezení našich možností a zabránění přístupu ke kritickým zdrojům nebo službám. Tyto problémy jsou dobře zdokumentovány. V Americe a po celém světě se systémy, které měly pomoci s péčí o pacienty, ukázaly jako nebezpečné, neúčinné nebo zaujaté. Algoritmy používané při náboru a rozhodování o úvěrech byly shledány jako odraz a reprodukce stávajících nežádoucích nerovností nebo vnesení nových škodlivých předsudků a diskriminace. Nekontrolovaná sběr dat na sociálních médiích byl použit k ohrožení možností lidí, podkopání jejich soukromí nebo všudypřítomnému sledování jejich činnosti – často bez jejich vědomí nebo souhlasu.”

Co tento zákon o právech a navrhovaný rámec bude znamenat pro budoucnost AI, zůstává ještě vidět. Co víme, je to, že nové vývojové trendy se objevují exponenciální rychlostí. Co bylo dříve považováno za nemožné, okamžité překladové jazyky jsou nyní realitou, a zároveň máme revoluci v přirozeném jazykovém porozumění (NLU), kterou vede OpenAI a jejich slavná platforma GPT-3.

Od té doby jsme viděli okamžité generování obrázků pomocí techniky nazvané Stable Diffusion, která může brzy stát se mainstreamovým spotřebitelským produktem. V podstatě s touto technologií může uživatel jednoduše zadat libovolný dotaz, který si může představit, a jako kouzlem AI vygeneruje obrázek, který odpovídá dotazu.

Při zohlednění exponenciálního růstu a zákona urychlování návratnosti brzy nastane doba, kdy AI převezme každý aspekt každodenního života. Jednotlivci a společnosti, které to vědí a využijí tohoto paradigmatu, budou profitovat. Bohužel, velká část společnosti může padnout za oběť jak úmyslným, tak neúmyslným důsledkům AI.

Zákon o právech AI je určen k podpoře vývoje politik a postupů, které chrání občanská práva a podporují demokratické hodnoty při budování, nasazování a správě automatizovaných systémů. Jak se tento zákon bude porovnávat s čínským přístupem, zůstává ještě vidět, ale je to zákon o právech, který má potenciál změnit krajínu AI, a je pravděpodobné, že bude přijat spojenci, jako je Austrálie, Kanada a EU.

To, co je třeba uvést, je, že zákon o právech AI je nezávazný a netvoří politiku vlády USA. Neupravuje, nemění nebo neurčuje výklad žádného stávajícího zákona, předpisu, politiky nebo mezinárodního nástroje. To znamená, že bude na podnicích a vládách, aby dodržovaly politiky stanovené v tomto whitepaperu.

Tento zákon identifikoval pět principů, které by měly vést návrh, použití a nasazení automatizovaných systémů pro ochranu americké veřejnosti v éře umělé inteligence. Níže budeme uvádět 5 principů:

1. Bezpečné a efektivní systémy

Existuje jasná a přítomná hrozba pro společnost ze strany zneužívajících AI systémů, zejména těch, které spoléhají na hluboké učení. To se pokouší řešit tyto principy:

“Měli byste být chráněni před nebezpečnými nebo neúčinnými systémy. Automatizované systémy by měly být vyvinuty ve spolupráci s různými komunitami, zúčastněnými stranami a odborníky z daného oboru, aby identifikovali obavy, rizika a potenciální dopady systému. Systémy by měly projít testováním před nasazením, identifikací a zmírněním rizik a průběžným monitorováním, které prokáží, že jsou bezpečné a efektivní na základě jejich zamýšleného použití, zmírnění nebezpečných výsledků, včetně těch, které jsou mimo zamýšlené použití, a dodržování standardů specifických pro daný obor. Výsledky těchto ochranných opatření by měly zahrnovat možnost nenásazení systému nebo jeho odstranění z použití. Automatizované systémy by neměly být navrženy s úmyslem nebo rozumně předvídatelnou možností ohrožení vaší bezpečnosti nebo bezpečnosti vaší komunity. Měly by být navrženy tak, aby proaktivně chránily vás před újmy vyplývajícími z neúmyslných, ale předvídatelných, použití nebo dopadů automatizovaných systémů. Měli byste být chráněni před nevhodným nebo irelevantním použitím dat při návrhu, vývoji a nasazení automatizovaných systémů a před škodlivým dopadem jejich opětovného použití. Nezávislé hodnocení a reporting, které potvrzuje, že systém je bezpečný a efektivní, včetně reportingu kroků provedených ke zmírnění potenciálních škod, by mělo být provedeno a výsledky by měly být zveřejněny, kdykoli je to možné.”

2. Ochrana proti algoritmické diskriminaci

Tyto politiky řeší některé ze slonů v místnosti, pokud jde o zneužívání podniků vůči jednotlivcům.

Běžný problém při náboru zaměstnanců pomocí AI systémů je, že systém hlubokého učení často trénuje na zaujatých datech, aby dosáhl závěrů o náboru. To znamená, že špatné náborové postupy v minulosti budou vést k diskriminaci na základě pohlaví nebo rasy ze strany náborového agenta. Jedno studie ukázalo obtížnost pokusu o odstranění pohlaví z trénovacích dat.

Jiným základním problémem se zaujatými daty ze strany vlád je riziko nespravedlivého uvěznění, nebo dokonce algoritmů pro předpověď kriminality, které nabízejí delší tresty odnětí svobody menšinám.

“Měli byste nemuset čelit diskriminaci ze strany algoritmů a systémy by měly být používány a navrženy způsobem, který je spravedlivý. Algoritmická diskriminace nastává, když automatizované systémy přispívají k neoprávněnému odlišnému zacházení nebo dopadům, které jsou nevýhodné pro lidi na základě jejich rasy, barvy, etnické příslušnosti, pohlaví (včetně těhotenství, porodu a souvisejících zdravotních stavů, genderové identity, intersexuálního stavu a sexuální orientace) náboženství, věku, národního původu, zdravotního postižení, statutu veterána, genetické informace nebo jakékoli jiné klasifikace chráněné zákonem. V závislosti na konkrétních okolnostech může algoritmická diskriminace porušovat právní ochranu. Navrhovatelé, vývojáři a nasazení automatizovaných systémů by měli přijmout proaktivní a nepřetržité opatření k ochraně jednotlivců a komunit před algoritmickou diskriminací a k použití a návrhu systémů způsobem, který je spravedlivý. Tato ochrana by měla zahrnovat proaktivní hodnocení rovnosti jako součást návrhu systému, použití reprezentativních dat a ochranu proti proxy pro demografické rysy, zajištění přístupnosti pro osoby se zdravotním postižením při návrhu a vývoji, testování a zmírnění před nasazením a průběžné testování a zmírnění, a jasnou organizační kontrolu. Nezávislé hodnocení a reporting v podobě algoritmického dopadu, včetně výsledků testování a informací o zmírnění, by měly být provedeny a zveřejněny, kdykoli je to možné, aby potvrdily tyto ochrany.”

3. Ochrana osobních údajů

Tento princip ochrany osobních údajů je pravděpodobně ten, který bude mít největší dopad na největší segment populace. První polovina principu se zdá zabývat se sběrem dat, zejména s daty shromážděnými přes internet, známým problémem, zejména pro sociální média. Tato stejná data mohou být poté použita k prodeji reklam, nebo dokonce k manipulaci veřejného mínění a ovlivnění voleb.

“Měli byste být chráněni před zneužíváním osobních údajů prostřednictvím vestavěných ochranných opatření a měli byste mít kontrolu nad tím, jak jsou používána data o vás. Měli byste být chráněni před porušením soukromí prostřednictvím návrhů, které zajišťují, že tyto ochrany jsou zahrnuty výchozí, včetně zajištění, že sběr dat odpovídá rozumným očekáváním, a že jsou shromažďována pouze data, která jsou striktně nezbytná pro konkrétní kontext. Navrhovatelé, vývojáři a nasazení automatizovaných systémů by měli získat váš souhlas a respektovat vaše rozhodnutí týkající se sběru, použití, přístupu, přenosu a odstranění vašich dat způsobem, který je vhodný a v největší možné míře; pokud je to není možné, měly by být použity alternativní ochrany soukromí. Systémy by neměly používat rozhodnutí o uživatelském rozhraní a návrhu, která zakrývají volbu uživatele nebo zatěžují uživatele výchozími hodnotami, které jsou invazivní pro soukromí. Souhlas by měl být používán pouze k ospravedlnění sběru dat v případech, kdy může být poskytnut vhodným a smysluplným způsobem; současné praktiky oznamování a výběru pro široké použití dat by měly být změněny.”

Druhá polovina principu ochrany osobních údajů se zdá zabývat se sledováním ze strany vlád a podniků.

Podniky jsou目前 schopny monitorovat a špionovat zaměstnance, v některých případech může být to udělat ke zlepšení bezpečnosti na pracovišti, během pandemie COVID-19 to bylo k vynucení nošení roušek, nejčastěji se to však dělá pouze k monitorování, jak je využíván čas v práci. Ve většině těchto případů se zaměstnanci cítí, jako by byli monitorováni a kontrolováni beyond přijatelné míry.

“Posílené ochrany a omezení pro data a odvození související s citlivými doménami, včetně zdravotnictví, vzdělávání, trestního soudnictví a financí, a pro data týkající se mladistvých by měly dát přednost vám. V citlivých doménách by vaše data a související odvození měly být používány pouze pro nezbytné funkce, a měli byste být chráněni etickým přezkumem a zákazem použití. Vy a vaše komunity by měly být chráněny před nekontrolovaným sledováním; sledovací technologie by měly být podrobeny zvýšené kontrole, která zahrnuje alespoň předběžné hodnocení jejich potenciálních škod a omezení rozsahu, aby chránily soukromí a občanské svobody. Průběžné sledování a monitorování by neměly být používány ve vzdělávání, na pracovišti, v bydlení nebo v jiných kontextech, kde by použití takových sledovacích technologií mohlo omezit práva, možnosti nebo přístup. Kdykoli je to možné, měli byste mít přístup k reportingům, které potvrzují, že vaše rozhodnutí o datech byla respektována a poskytuje hodnocení potenciálního dopadu sledovacích technologií na vaše práva, možnosti nebo přístup.”

4. Oznámení a vysvětlení

To by mělo být výzvou pro podniky, aby nasadily poradní radu pro etiku AI, a také aby urychly vývoj vysvětlitelného AI. Vysvětlitelný AI je nezbytný v případě, že AI model udělá chybu, pochopení, jak AI funguje, umožňuje snadnou diagnostiku problému.

Vysvětlitelný AI také umožní transparentní sdílení informací o tom, jak jsou používána data a proč byla učiněna rozhodnutí AI. Bez vysvětlitelného AI bude nemožné dodržovat tyto politiky kvůli černé skříňce hlubokého učení.

Podniky, které se soustředí na zlepšování těchto systémů, také získají pozitivní výhody z pochopení nuancí a složitostí za tím, proč hluboký algoritmický systém učinil konkrétní rozhodnutí.

“Měli byste vědět, že automatizovaný systém je používán a rozumět, jak a proč přispívá k výsledkům, které vás ovlivňují. Navrhovatelé, vývojáři a nasazení automatizovaných systémů by měli poskytnout obecně přístupné dokumenty v běžném jazyce, včetně jasných popisů celkového fungování systému a role automatizace, oznámení o použití takových systémů, osobě nebo organizaci odpovědné za systém a vysvětlení výsledků, která jsou jasná, včasná a přístupná. Takové oznámení by mělo být udržováno aktuální a lidé ovlivnění systémem by měli být informováni o významných změnách v použití nebo klíčových funkcích. Měli byste vědět, jak a proč byl výsledek, který vás ovlivňuje, určen automatizovaným systémem, včetně případů, kdy automatizovaný systém není jediným vstupem, který určuje výsledek. Automatizované systémy by měly poskytovat vysvětlení, která jsou technicky platná, smysluplná a užitečná pro vás a pro operátory nebo jiné, kteří potřebují rozumět systému, a kalibrovaná na úrovni rizika na základě obsahu. Reporting, který zahrnuje souhrnné informace o těchto automatizovaných systémech v běžném jazyce a hodnocení jasu a kvality oznámení a vysvětlení, by měly být zveřejněny, kdykoli je to možné.”

5. Lidské alternativy, úvaha a záloha

Na rozdíl od většiny výše uvedených principů je tento princip nejvíce aplikovatelný na vládní subjekty nebo privatizované instituce, které pracují jménem vlády.

I s poradním radou pro etiku AI a vysvětlitelným AI je důležité se vrátit k lidské kontrole, když jsou ohroženy životy. Vždy existuje potenciál pro chybu a mít lidskou kontrolu v případě požadavku by mohlo zabránit scénáři, jako je AI, která posílá špatné lidi do vězení.

Soudní a trestní systémy mají největší prostor pro způsobení nezvratitelné újmy marginalizovaným členům společnosti a měly by věnovat zvláštní pozornost tomuto principu.

“Měli byste mít možnost opt-out, kde je to vhodné, a mít přístup k osobě, která může rychle zvážit a řešit problémy, se kterými se setkáte. Měli byste mít možnost opt-out z automatizovaných systémů ve prospěch lidské alternativy, kde je to vhodné. Příslušnost by měla být určena na základě rozumných očekávání v daném kontextu a se zaměřením na zajištění široké dostupnosti a ochranu veřejnosti před zejména škodlivými dopady. V některých případech může být lidská nebo jiná alternativa vyžadována zákonem. Měli byste mít přístup k včasné lidské kontrole a řešení problému, pokud automatizovaný systém selže, vyprodukuje chybu, nebo pokud byste chtěli odvolat, nebo zpochybnit jeho dopad na vás. Lidská kontrola a záloha by měly být přístupné, rovné, efektivní, udržované, doprovázené odpovídajícím školením operátorů, a neměly by uvalovat nepřiměřenou zátěž na veřejnost. Automatizované systémy s plánovaným použitím v citlivých doménách, včetně, ale nejen, trestního soudnictví, zaměstnání, vzdělávání a zdravotnictví, by měly být navíc přizpůsobeny účelu, poskytovat smysluplný přístup k dozoru, zahrnovat školení pro lidi, kteří interagují se systémem, a zahrnovat lidskou kontrolu pro nepříznivé nebo vysoce rizikové rozhodnutí. Reporting, který zahrnuje popis lidských procesů řízení a hodnocení včasnosti, dostupnosti, výsledků a efektivity, by měly být zveřejněny, kdykoli je to možné.”

Shrnutí

OSTP by mělo být pochváleno za to, že se pokusilo zavést rámec, který spojuje bezpečnostní protokoly, které jsou potřebné pro společnost, bez zavedení drakonických politik, které by mohly brzdit pokrok ve vývoji strojového učení.

Po výčtu principů zákon pokračuje poskytováním technického doprovodu k diskutovaným otázkám, jakož i podrobných informací o každém principu a nejlepších způsobech, jak postupovat při implementaci těchto principů.

Chytří podnikatelé a podniky by měli věnovat pozornost studiu tohoto zákona, protože může být pouze výhodné implementovat tyto politiky co nejdříve.

Vysvětlitelný AI bude pokračovat v dominanci důležitosti, jak je vidět z této citace ze zákona.

“Across the federal government, agencies are conducting and supporting research on explainable AI systems. The NIST is conducting fundamental research on the explainability of AI systems. A multidisciplinary team of researchers aims to develop measurement methods and best practices to support the implementation of core tenets of explainable AI. The Defense Advanced Research Projects Agency has a program on Explainable Artificial Intelligence that aims to create a suite of machine learning techniques that produce more explainable models, while maintaining a high level of learning performance (prediction accuracy), and enable human users to understand, appropriately trust, and effectively manage the emerging generation of artificially intelligent partners. The National Science Foundation’s program on Fairness in Artificial Intelligence also includes a specific interest in research foundations for explainable AI.”

Co by nemělo být přehlédnuto, je, že nakonec principy stanovené zde se stanou novým standardem.