Co znamená Bílého domu AI Bill of Rights pro Ameriku a zbytek světa

Úřad Bílého domu pro vědu a technologii (OSTP) nedávno vydal bílý dokument s názvem “Návrh zákona o právech AI: jak udělat automatizované systémy pracující pro americký lid”. Tento rámec byl vydán rok po tom, co OSTP oznámil spuštění procesu pro vývoj “zákona o právech pro svět poháněný umělou inteligencí”.

Úvodní slovo v tomto zákoně jasně ilustruje, že Bílý dům rozumí bezprostředním hrozbám pro společnost, které představuje umělá inteligence. To je to, co je uvedeno v úvodu:

“Mezi velkými výzvami, kterým dnes čelí demokracie, je použití technologií, dat a automatizovaných systémů způsoby, které ohrožují práva americké veřejnosti. Často jsou tyto nástroje používány k omezení našich možností a zabránění přístupu ke kritickým zdrojům nebo službám. Tyto problémy jsou dobře zdokumentovány. V Americe a po celém světě se systémy, které měly pomoci s péčí o pacienty, ukázaly jako nebezpečné, neúčinné nebo zaujaté. Algoritmy používané při náboru a rozhodování o úvěrech byly shledány jako odrážející a reprodukující stávající nežádoucí nerovnosti nebo vkládající nové škodlivé předpojatosti a diskriminaci. Nezřízená sběr dat ze sociálních médií byl použit k ohrožení možností lidí, podkopání jejich soukromí nebo všudypřítomnému sledování jejich činnosti – často bez jejich vědomí nebo souhlasu.”

Co tento Zákon o právech a navrhovaný rámec bude znamenat pro budoucnost umělé inteligence, zůstává ještě vidět. Co víme, je to, že nové vývoje se objevují v exponentiálním tempu. Co bylo dříve považováno za nemožné, okamžité překlad jazyka, je nyní realitou, a zároveň máme revoluci v přirozeném jazykovém pochopení (NLU), kterou vede OpenAI a jeho slavná platforma GPT-3.

Od té doby jsme viděli okamžité generování obrázků pomocí techniky nazvané Stable Diffusion, která může brzy stát mainstreamovým spotřebitelským produktem. V podstatě s touto technologií může uživatel jednoduše zadat libovolný dotaz, který si může představit, a jako kouzlo bude umělá inteligence generovat obrázek, který odpovídá dotazu.

Když vezmeme v úvahu exponenciální růst a zákon urychlování návratnosti, brzy nastane doba, kdy umělá inteligence ovládne každý aspekt denního života. Jednotlivci a společnosti, které to vědí a využijí této změny, budou profitovat. Bohužel, velká část společnosti může být oběťmi jak záměrných, tak nezáměrných důsledků umělé inteligence.

Zákon o právech AI je určen k podpoře vývoje politik a postupů, které chrání občanská práva a podporují demokratické hodnoty při budování, nasazování a správě automatizovaných systémů. Jak se tento zákon bude porovnávat s čínským přístupem, zůstává ještě vidět, ale je to zákon o právech, který má potenciál změnit krajinu umělé inteligence, a je pravděpodobné, že bude přijat spojenci, jako je Austrálie, Kanada a EU.

To, co bylo uvedeno, je to, že Zákon o právech AI je nezávazný a netvoří politiku vlády USA. Nenahrazuje, nemodifikuje ani nedává výklad žádného stávajícího zákona, nařízení, politiky nebo mezinárodního nástroje. To znamená, že bude na podnicích a vládách, aby se řídily zásadami uvedenými v tomto bílém dokumentu.

Tento zákon identifikoval pět principů, které by měly vést návrh, použití a nasazení automatizovaných systémů pro ochranu americké veřejnosti v éře umělé inteligence, níže budeme popisovat 5 principů:

1. Bezpečné a efektivní systémy

Existuje jasná a aktuální hrozba pro společnost ze strany zneužívajících systémů umělé inteligence, zejména těch, které spoléhají na hluboké učení. To se snaží řešit tyto principy:

“Měli byste být chráněni před nebezpečnými nebo neúčinnými systémy. Automatizované systémy by měly být vyvinuty v konzultaci s různými komunitami, zúčastněnými stranami a odborníky, aby identifikovali obavy, rizika a potenciální dopady systému. Systémy by měly podstoupit testování před nasazením, identifikaci rizik a zmírnění, angoing monitoring, které prokáže, že jsou bezpečné a efektivní na základě jejich zamýšleného použití, zmírnění nebezpečných výsledků, včetně těch, které jsou mimo zamýšlené použití, a dodržování standardů specifických pro doménu. Výsledky těchto ochranných opatření by měly zahrnovat možnost nenásazení systému nebo jeho odstranění z použití. Automatizované systémy by neměly být navrženy s úmyslem nebo rozumně předvídatelnou možností ohrožení vaší bezpečnosti nebo bezpečnosti vaší komunity. Měli byste být chráněni před nevhodným nebo irelevantním použitím dat při návrhu, vývoji a nasazení automatizovaných systémů a před kompozitním poškozením jejich opakovaného použití. Nezávislé hodnocení a reporting, které potvrzuje, že systém je bezpečný a efektivní, včetně reportingu kroků provedených k zmírnění potenciálních škod, by mělo být provedeno a výsledky by měly být zveřejněny, kdykoli je to možné.”

2. Ochrana proti algoritmické diskriminaci

Tyto politiky řeší některé ze slonů v místnosti, pokud jde o zneužívání podniků vůči jednotlivcům.

Častým problémem při náboru zaměstnanců pomocí systémů umělé inteligence je, že systém hlubokého učení často trénuje na zaujatých datech, aby dosáhl závěrů o náboru. To prakticky znamená, že špatné náborové postupy v minulosti povedou k pohlavní nebo rasové diskriminaci ze strany náborového agenta. Jedno studie ukázalo obtížnost pokusu o odstranění pohlaví z trénovacích dat.

Jedním z dalších hlavních problémů se zaujatými daty ze strany vlád je riziko nespravedlivého uvěznění, nebo dokonce algoritmy předpovídající kriminalitu, které nabízejí delší tresty odnětí svobody menšinám.

“Měli byste čelit diskriminaci ze strany algoritmů a systémy by měly být používány a navrženy způsobem, který je spravedlivý. Algoritmická diskriminace nastává, když automatizované systémy přispívají k nespravedlivému zacházení nebo dopadům, které poškozují lidi na základě jejich rasy, barvy, etnické příslušnosti, pohlaví (včetně těhotenství, porodu a souvisejících zdravotních stavů, genderové identity, intersex statusu a sexuální orientace), náboženství, věku, národního původu, zdravotního postižení, statutu veterána, genetické informace nebo jakékoli jiné klasifikace chráněné zákonem. V závislosti na konkrétních okolnostech, jako je algoritmická diskriminace, může porušovat právní ochranu. Navrhovatelé, vývojáři a nasazovatelé automatizovaných systémů by měli přijmout proaktivní a nepřetržité opatření k ochraně jednotlivců a komunit před algoritmickou diskriminací a k použití a návrhu systémů způsobem, který je spravedlivý. Tato ochrana by měla zahrnovat proaktivní hodnocení rovnosti jako součást návrhu systému, použití reprezentativních dat a ochranu proti proxy pro demografické rysy, zajištění přístupnosti pro lidi se zdravotním postižením v návrhu a vývoji, testování a zmírnění nesrovnalostí před nasazením aongoing, a jasnou organizační kontrolu. Nezávislé hodnocení a reporting v podobě algoritmického dopadu, včetně výsledků testování nesrovnalostí a informací o zmírnění, by mělo být provedeno a zveřejněno, kdykoli je to možné, aby potvrdilo tyto ochrany.”

3. Ochrana osobních údajů

Tento princip ochrany osobních údajů je tím, který pravděpodobně ovlivní největší část populace. První polovina principu se zdá zabývat se sběrem dat, zejména s daty shromážděnými přes internet, známým problémem, zejména pro platformy sociálních médií. Tato stejná data mohou být poté použita k prodeji reklamy, nebo dokonce horšímu, manipulovat veřejné mínění a ovlivňovat volby.

“Měli byste být chráněni před zneužíváním osobních údajů prostřednictvím vestavěných ochranných opatření a měli byste mít kontrolu nad tím, jak jsou data o vás používána. Měli byste být chráněni před porušením soukromí prostřednictvím návrhů, které zajišťují, že tato ochrana je zahrnuta od počátku, včetně zajištění, že sběr dat odpovídá rozumným očekáváním, a že jsou shromažďována pouze data, která jsou přísně nezbytná pro konkrétní kontext. Navrhovatelé, vývojáři a nasazovatelé automatizovaných systémů by měli žádat o váš souhlas a respektovat vaše rozhodnutí týkající se sběru, použití, přístupu, přenosu a odstranění vašich dat způsobem, který je vhodný a co největší. Pokud je to možné, alternativní ochranná opatření pro soukromí by designu by měla být použita. Systémy by neměly používat rozhodnutí o uživatelském rozhraní a návrhu, které zakrývají volbu uživatele nebo zatěžují uživatele výchozími hodnotami, které jsou invazivní pro soukromí. Souhlas by měl být používán pouze k ospravedlnění sběru dat v případech, kdy může být vhodně a smysluplně dán. Žádosti o souhlas by měly být stručné, srozumitelné v běžném jazyce a měly by vám poskytnout kontrolu nad sběrem dat a konkrétním kontextem použití; stávající praktiky oznamování a výběru pro široké použití dat by měly být změněny.”

Druhá polovina principu ochrany osobních údajů se zdá být zaměřena na sledování ze strany vlád a podniků.

V současné době jsou podniky schopny monitorovat a špehovat zaměstnance, v některých případech je to proto, aby vylepšili bezpečnost na pracovišti, během pandemie COVID-19 to bylo k vynucení nošení roušek, většinou je to však prostě proto, aby se monitorovalo, jak je využíván čas na pracovišti. Ve mnoha z těchto případů se zaměstnanci cítí, jako by byli monitorováni a kontrolováni nad rámec toho, co je považováno za přijatelné.

“Zvýšené ochrany a omezení pro data a odvození související se citlivými oblastmi, včetně zdravotnictví, vzdělávání, trestního práva a financí, a pro data týkající se mladistvých by měly dát přednost vám. V citlivých oblastech by vaše data a související odvození měla být používána pouze pro nezbytné funkce, a měli byste být chráněni etickým přezkumem a zákazy použití. Vy a vaše komunity by měly být chráněny před nezřízeným sledováním; sledovací technologie by měly být podrobeny zvýšené kontrole, která zahrnuje alespoň předběžné posouzení jejich potenciálních škod a omezení rozsahu, aby chránila soukromí a občanské svobody. Kontinuální sledování a monitorování by neměly být používány ve vzdělávání, na pracovišti, v bydlení nebo v jiných kontextech, kde by použití těchto sledovacích technologií mohlo omezit práva, příležitosti nebo přístup. Kdykoli je to možné, měli byste mít přístup k reportingům, která potvrzují, že vaše rozhodnutí o datech byla respektována a poskytuje hodnocení potenciálního dopadu sledovacích technologií na vaše práva, příležitosti nebo přístup.”

4. Oznámení a vysvětlení

To by mělo být výzvou pro podniky, aby nasadily poradní radu pro etiku umělé inteligence, stejně jako urychlit vývoj vysvětlitelné umělé inteligence. Vysvětlitelná umělá inteligence je nezbytná v případě, že model umělé inteligence udělá chybu, pochopení, jak umělá inteligence funguje, umožňuje snadnou diagnostiku problému.

Vysvětlitelná umělá inteligence také umožní transparentní sdílení informací o tom, jak jsou data používána, a proč bylo učiněno rozhodnutí umělou inteligencí. Bez vysvětlitelné umělé inteligence bude nemožné dodržovat tyto politiky kvůli černé skříňce hlubokého učení.

Podniky, které se soustředí na zlepšení těchto systémů, také získají pozitivní výhody z pochopení nuancí a složitostí za tím, proč hluboký algoritmický model učinil konkrétní rozhodnutí.

“Měli byste vědět, že automatizovaný systém je používán a rozumět tomu, jak a proč přispívá k výsledkům, které vás ovlivňují. Navrhovatelé, vývojáři a nasazovatelé automatizovaných systémů by měli poskytnout obecně přístupné dokumenty v běžném jazyce, včetně jasných popisů celkového fungování systému a role automatizace, oznámení, že takový systém je používán, fyzické nebo právnické osoby odpovědné za systém, a vysvětlení výsledků, které jsou jasná, včasná a přístupná. Takové oznámení by mělo být udržováno aktuální a lidé, kteří jsou ovlivněni systémem, by měli být informováni o významných změnách použití nebo klíčových funkcí. Měli byste vědět, jak a proč byl výsledek, který vás ovlivňuje, určen automatizovaným systémem, včetně případů, kdy automatizovaný systém není jediným vstupem, který určuje výsledek. Automatizované systémy by měly poskytovat vysvětlení, která jsou technicky platná, smysluplná a užitečná pro vás a pro operátory nebo ostatní, kteří potřebují rozumět systému, a kalibrovaná na základě úrovně rizika na základě obsahu. Reporting, který zahrnuje souhrnné informace o automatizovaných systémech v běžném jazyce a hodnocení jasnоты a kvality oznámení a vysvětlení, by mělo být zveřejněno, kdykoli je to možné.”

5. Lidské alternativy, úvaha a záloha

Na rozdíl od většiny výše uvedených principů je tento princip nejvíce aplikovatelný na vládní subjekty nebo privatizované instituce, které pracují jménem vlády.

I s poradním orgánem pro etiku umělé inteligence a vysvětlitelnou umělou inteligencí je důležité se vrátit k lidské kontrole, když jsou ohroženy životy. Vždy existuje potenciál pro chybu, a mít lidskou kontrolu v případě, kdy je to požadováno, by mohlo possibly zabránit scénáři, jako je umělá inteligence, která pošle špatné lidi do vězení.

Soudní a trestní systém mají největší prostor způsobit nenapravitelné škody marginalizovaným členům společnosti a měli by věnovat zvláštní pozornost tomuto principu.

“Měli byste mít možnost opt-out, kde je to vhodné, a mít přístup k člověku, který může rychle řešit problémy, se kterými se setkáte. Měli byste mít možnost opt-out z automatizovaných systémů ve prospěch lidské alternativy, kde je to vhodné. Příslušnost by měla být určena na základě rozumných očekávání v daném kontextu a se zaměřením na zajištění široké dostupnosti a ochranu veřejnosti před zvláště škodlivými dopady. V některých případech může být lidská nebo jiná alternativa vyžadována zákonem. Měli byste mít přístup k včasné lidské kontrole a řešení problému, pokud automatizovaný systém selže, vyprodukuje chybu, nebo pokud byste chtěli odvolat nebo napadnout jeho dopad na vás. Lidská kontrola a záloha by měly být přístupné, rovné, efektivní, udržované, doprovázené odpovídajícím operátorským školením a neměly by uvalit nepřiměřenou zátěž na veřejnost. Automatizované systémy s plánovaným použitím v citlivých oblastech, včetně, ale neomezeně na, trestní systém, zaměstnání, vzdělávání a zdravotnictví, by měly být navíc přizpůsobeny účelu, poskytovat smysluplný přístup k dozoru, zahrnovat školení pro lidi, kteří interagují se systémem, a zahrnovat lidskou kontrolu pro nepříznivé nebo vysoce rizikové rozhodnutí. Reporting, který zahrnuje popis lidských procesů řízení a hodnocení jejich včasnosti, dostupnosti, výsledků a efektivity, by měl být zveřejněn, kdykoli je to možné.”

Shrnutí

OSTP by měl být pochválen za to, že se pokusil zavést rámec, který spojuje bezpečnostní protokoly, které jsou potřebné pro společnost, bez zavedení drakonických politik, které by mohly brzdit pokrok ve vývoji strojového učení.

Po výčtu principů pokračuje zákon poskytováním technického doprovodu k diskutovaným otázkám, stejně jako podrobné informace o každém principu a nejlepších způsobech, jak postupovat k jejich implementaci.

Zkušení majitelé podniků a podniky by si měli všimnout, že je vhodné studovat tento zákon, protože může být pouze výhodné implementovat tyto politiky co nejdříve.

Vysvětlitelná umělá inteligence bude pokračovat v dominanci důležitosti, jak je vidět z tohoto citátu z zákona.

“Na celém federálním vládním úseku jsou agentury prováděny a podporovány výzkumy o vysvětlitelných systémech umělé inteligence. NIST provádí základní výzkum o vysvětlitelnosti systémů umělé inteligence. Multidisciplinární tým výzkumníků se snaží vyvinout metody měření a nejlepší postupy pro implementaci základních principů vysvětlitelné umělé inteligence. Agentura pro pokročilý výzkum a vývoj obrany má program na vysvětlitelnou umělou inteligenci, který má za cíl vytvořit sadu technik strojového učení, které produkují vysvětlitelnější modely, zatímco zachovávají vysokou úroveň učení (přesnost předpovědi), a umožňují lidem rozumět, správně důvěřovat a efektivně spravovat vznikající generaci umělých inteligentních partnerů. Program Národního vědeckého fondu na spravedlnost v umělé inteligenci také zahrnuje specifický zájem o výzkumné základy pro vysvětlitelnou umělou inteligenci.”

Co by nemělo být přehlédnuto, je to, že nakonec principy stanovené zde se stanou novým standardem.