Hva det hvite hus’ AI-bill of Rights betyr for Amerika og resten av verden

Det hvite hus’ kontor for vitenskap og teknologipolitikk (OSTP) har nylig publisert en hvitbok kalt “The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People”. Dette rammeverket ble publisert ett år etter at OSTP annonserte lanseringen av en prosess for å utvikle “en bill of rights for en AI-drevet verden”.

Forordet i denne loven illustrerer tydelig at Det hvite hus forstår de forestående truslene mot samfunnet som er fremmet av AI. Dette er hva som er uttalt i forordet:

“Blant de store utfordringene som demokratiets nåværende utfordringer er bruken av teknologi, data og automatiserte systemer på måter som truer rettighetene til det amerikanske publikum. For ofte brukes disse verktøyene til å begrense våre muligheter og forhindre vår tilgang til kritiske ressurser eller tjenester. Disse problemene er godt dokumentert. I Amerika og rundt om i verden har systemer som skal hjelpe med pasientpleie vist seg å være usikre, ineffektive eller fordomsfulle. Algoritmer brukt i ansættelses- og kreditvedtak har vært funnet å reflektere og reproducere eksisterende uønskede ulikheter eller innføre nye skadelige fordommer og diskriminering. Ukontrollert samling av sosiale medier har vært brukt til å true folks muligheter, undergrave deres personvern eller overvåke deres aktivitet – ofte uten deres kunnskap eller samtykke.”

Hva denne Bill of Rights og rammeverket den foreslår vil bety for fremtiden av AI, er det ennå ikke klart. Det vi vet er at nye utviklinger dukker opp i en stadig økende hastighet. Hva som en gang ble sett på som umulig, øyeblikkelig språkoversettelse, er nå en realitet, og samtidig har vi en revolusjon i naturlig språkforståelse (NLU) som er ledet av OpenAI og deres berømte plattform GPT-3.

Siden da har vi sett øyeblikkelig generering av bilder via en teknikk kalt Stable Diffusion som kan bli en mainstream-konsumprodukt. I essensen kan en bruker bare skrive inn en hvilken som helst forespørsel de kan forestille seg, og som magi vil AI generere et bilde som matcher forespørselen.

Når vi tar i betraktning eksponentiell vekst og Loven om akselererende avkastning, vil det snart komme en tid når AI har overtatt hver enkelt aspekt av daglig liv. Individene og selskapene som vet dette og tar fordel av denne paradigmeskiftet, vil profittere. Dessverre kan en stor del av samfunnet falle offer for både ondsinnet og uforutsett konsekvenser av AI.

AI-bill of Rights er ment å støtte utviklingen av politikker og praksiser som beskytter borgerrettigheter og fremmer demokratiske verdier i byggingen, utrullingen og styringen av automatiserte systemer. Hvordan denne loven vil sammenlignes med Kinas tilnærming er ennå ikke klart, men det er en lovbok som har potensialet til å endre AI-landskapet, og det er sannsynlig at den vil bli adoptert av allierte som Australia, Canada og EU.

Det er imidlertid sagt at AI-bill of Rights er ikke-bindende og utgjør ikke USAs regjeringens politikk. Den overstyrer ikke, endrer eller dirigerer en tolkning av noen eksisterende lov, forskrift, politikk eller internasjonalt instrument. Dette betyr at det vil være opp til bedrifter og regjeringer å følge politikken som er skissert i denne hvitboken.

Denne loven har identifisert fem prinsipper som bør guide design, bruk og utrulling av automatiserte systemer for å beskytte det amerikanske publikum i AI-alderen, nedenfor vil vi skissere de 5 prinsippene:

1. Sikre og effektive systemer

Det er en klar og nåværende fare for samfunnet ved misbruk av AI-systemer, spesielt de som er avhengige av dyp læring. Dette forsøkes å bli behandlet med disse prinsippene:

“Du bør være beskyttet mot usikre eller ineffektive systemer. Automatiserte systemer bør utvikles i samarbeid med diverse samfunn, interessenter og fagfolk for å identifisere bekymringer, risikoer og potensielle konsekvenser av systemet. Systemer bør gjennomgå for-utrullings testing, risikoidentifisering og -mitigering, og kontinuerlig overvåking som demonstrerer at de er sikre og effektive basert på deres ment å bruke, mitigering av usikre resultater inkludert de utenfor den ment å bruke, og overholdelse av domenespesifikke standarder. Resultatene av disse beskyttelsesmessige tiltakene bør inkludere muligheten for ikke å utrulle systemet eller fjerne et system fra bruk. Automatiserte systemer bør ikke være designet med en intensjon eller en rimelig forutseelig mulighet for å sette din sikkerhet eller sikkerheten til din samfunn i fare. De bør være designet for å proaktivt beskytte deg mot skader som stammer fra uforutsette, men forutseelige, bruk eller konsekvenser av automatiserte systemer. Du bør være beskyttet mot upassende eller irrelevant data-bruk i design, utvikling og utrulling av automatiserte systemer, og fra den samlede skaden av dens gjenbruk. Uavhengig evaluering og rapportering som bekrefter at systemet er sikert og effektivt, inkludert rapportering av tiltak som er tatt for å mitigere potensielle skader, bør utføres og resultater gjøres offentlige når det er mulig.”

2. Algoritme-diskrimineringsbeskyttelse

Disse politikker adresserer noen av elefantene i rommet når det gjelder bedrifter som misbruker enkeltpersoner.

Et vanlig problem når man ansætter ansatte med AI-systemer er at det dype læringssystemet ofte vil trene på fordomsfulle data for å nå ansættelseskonklusjoner. Dette betyr essensielt at dårlige ansættelsespraksiser i fortiden vil resultere i kjønns- eller rasediskriminering av en ansættelsesagent. En studie indikerte vanskeligheten med å forsøke å de-gender treningdata.

Et annet kjerneproblem med fordomsfulle data fra regjeringer er risikoen for urettmessig fengsling, eller enda verre kriminalitetsprediksjonsalgoritmer som tilbyr lengre fengselsstraffer til minoriteter.

“Du bør ikke møte diskriminering fra algoritmer og systemer bør være designet og brukt på en rettferdig måte. Algoritmisk diskriminering skjer når automatiserte systemer bidrar til urettferdig behandling eller konsekvenser som misgunst mot mennesker basert på deres rase, farge, etnisitet, kjønn (inkludert graviditet, fødsel og relaterte medisinske tilstander, kjønnsidentitet, interseksjonell status og seksuell orientering) religion, alder, nasjonal opprinnelse, funksjonsnedsettelse, veteranstatus, genetisk informasjon eller noen annen klassifisering beskyttet av lov. Avhengig av de spesifikke omstendighetene, som algoritmisk diskriminering kan være i strid med lovens beskyttelse. Designere, utviklere og utrullere av automatiserte systemer bør ta proaktive og kontinuerlige tiltak for å beskytte enkeltpersoner og samfunn mot algoritmisk diskriminering og for å bruke og designe systemer på en rettferdig måte. Dette beskyttelsen bør inkludere proaktive likebehandlingsvurderinger som en del av systemdesign, bruk av representativ data og beskyttelse mot proxyer for demografiske egenskaper, sikre tilgjengelighet for personer med funksjonsnedsettelse i design og utvikling, for- og pågående diskrimineringstesting og -mitigering, og tydelig organisatorisk tilsyn. Uavhengig evaluering og rapportering i form av en algoritmisk påvirkningsvurdering, inkludert diskrimineringstestingresultater og -mitigering, bør utføres og gjøres offentlige når det er mulig for å bekrefte disse beskyttelsene.”

3. Data-personvern

Dette data-personvernprinsippet er det som mest sannsynlig vil påvirke den største delen av befolkningen. Den første halvdelen av prinsippet synes å beskjeftige seg med innhenting av data, spesielt med data innhentet over internettet, et kjent problem særlig for sosiale medieplattformer. Denne samme data kan så bli brukt til å selge reklame, eller enda verre til å manipulere offentlig mening og påvirke valg.

“Du bør være beskyttet mot misbruk av data-praksiser via innbyggede beskyttelser og du bør ha kontroll over hvordan data om deg brukes. Du bør være beskyttet mot brudd på personvern gjennom designvalg som sikrer at slike beskyttelser er inkludert som standard, inkludert å sikre at datainnsamling stemmer overens med rimelige forventninger, og at bare data som er strengt nødvendig for den spesifikke konteksten samles inn. Designere, utviklere og utrullere av automatiserte systemer bør søke din tillatelse og respektere dine beslutninger med hensyn til innsamling, bruk, tilgang, overføring og sletting av dine data på passende måter og i størst mulig utstrekning; hvor det ikke er mulig, bør alternative personvern-beskyttelser brukes. Systemer bør ikke bruke brukeropplevelse og designbeslutninger som skjuler brukervalg eller belaster brukerne med standarder som er personvern-invasive. Samtykke bør bare brukes til å rettferdiggjøre innsamling av data i tilfeller hvor det kan gis på en passende og meningsfull måte. Alle samtykkesøknader bør være korte, være forståelige på vanlig språk og gi deg kontroll over datainnsamling og den spesifikke konteksten for bruk; nåværende vanskelige å forstå varsel- og valgpraksiser for bredt bruk av data bør endres.”

Den andre halvdelen av Data-personvernprinsippet synes å beskjeftige seg med overvåking fra både regjeringer og bedrifter.

For tiden kan bedrifter overvåke og spionere på ansatte, i noen tilfeller kan det være for å forbedre arbeidsplassen, under COVID-19-pandemien var det for å påtvinge bruk av masker, men oftest er det bare for å overvåke hvordan tiden på arbeidsplassen brukes. I mange av disse tilfellene føler ansatte at de overvåkes og kontrolleres på en måte som ikke er akseptabel.

“Forbedrede beskyttelser og begrensninger for data og slutninger relatert til følsomme domener, inkludert helse, arbeid, utdanning, kriminalitet og finansiell informasjon, og for data som gjelder ungdom, bør sette deg først. I følsomme domener bør dine data og relaterte slutninger bare brukes til nødvendige funksjoner, og du bør være beskyttet av etisk vurdering og bruk-forbud. Du og dine samfunn bør være fri fra ukontrollert overvåking; overvåkningsteknologier bør være underlagt forhøyet tilsyn som inkluderer minst en for-utrullingsvurdering av deres potensielle skader og begrensninger for å beskytte personvern og borgerrettigheter. Kontinuerlig overvåking og overvåking bør ikke brukes i utdanning, arbeid, bolig eller i andre sammenhenger hvor bruk av slike overvåkningsteknologier er sannsynlig å begrense rettigheter, muligheter eller tilgang. Når det er mulig bør du ha tilgang til rapportering som bekrefter at dine data-beslutninger har blitt respektert og gir en vurdering av den potensielle innvirkningen av overvåkningsteknologier på dine rettigheter, muligheter eller tilgang.”

Det bør bemerkes at AI kan brukes til å beskytte folks personvern.

4. Varsel og forklaring

Dette bør være et opprop til bedrifter for å utrulle en AI-etikkomité, samt å akselerere utviklingen av forklarbar AI. Forklarbar AI er nødvendig i tilfeller hvor en AI-modell gjør en feil, fordi å forstå hvordan AI fungerer muliggjør en enkel diagnose av et problem.

Forklarbar AI vil også tillate å dele informasjon om hvordan data brukes på en transparent måte, og hvorfor en beslutning ble tatt av AI. Uten forklarbar AI vil det være umulig å følge disse politikken på grunn av det svarte boks-problemet med dyp læring.

Bedrifter som fokuserer på å forbedre disse systemene, vil også få positive fordeler fra å forstå nuanser og kompleksiteter bak en dyp læring-algoritmes beslutninger.

“Du bør vite at et automatisert system brukes og forstå hvordan og hvorfor det bidrar til resultater som påvirker deg. Designere, utviklere og utrullere av automatiserte systemer bør gi allmenn tilgjengelig, vanlig språk-dokumentasjon inkludert klare beskrivelser av systemets funksjon og rollen automatisering spiller, varsel om at slike systemer er i bruk, den enkeltperson eller organisasjonen som er ansvarlig for systemet, og forklaringer av resultater som er klare, rettidige og tilgjengelige. Slike varsler bør holdes oppdatert og personer som er berørt av systemet bør bli underrettet om betydelige endringer i bruksområder eller nøkelfunksjoner. Du bør vite hvordan og hvorfor et resultat som påvirker deg ble bestemt av et automatisert system, inkludert når det automatiserte systemet ikke er den eneste inndata som bestemmer resultat. Automatiserte systemer bør gi forklaringer som er teknisk gyldige, meningsfulle og nyttige for deg og for operatører eller andre som trenger å forstå systemet, og kalibrert til risikonivået basert på innholdet. Rapportering som inkluderer sammenfattningsinformasjon om disse automatiserte systemene på vanlig språk og vurderinger av tydeligheten og kvaliteten på varslet og forklaringene, bør gjøres offentlig når det er mulig.”

5. Menneskelige alternativer, vurdering og reserve

I motsetning til de fleste av de ovennevnte prinsippene, er dette prinsippet mest anvendelig på regjeringsinstitusjoner eller privatiserte institusjoner som arbeider på vegne av regjeringen.

Selv med en AI-etikkomité og forklarbar AI, er det viktig å falle tilbake på menneskelig vurdering når liv er på spill. Det er alltid en mulighet for feil, og å ha en menneskelig vurdering av en sak når det er ønsket, kunne muligens unngå en situasjon som en AI som sender feil personer til fengsel.

Den juridiske og kriminelle systemet har mest rom for å forårsake irreparabel skade på marginaliserte medlemmer av samfunnet og bør ta spesiell merke til dette prinsippet.

“Du bør kunne velge å ikke bruke automatiserte systemer og ha tilgang til en person som kan raskt vurdere og løse problemer du møter. Du bør kunne velge å ikke bruke automatiserte systemer til fordel for et menneskelig alternativ, hvor det er passende. Passende bør bestemmes basert på rimelige forventninger i en gitt kontekst og med fokus på å sikre bred tilgjengelighet og beskytte offentligheten mot spesielt skadelige påvirkninger. I noen tilfeller kan et menneske eller annet alternativ være påkrevd av lov. Du bør ha tilgang til en rask menneskelig vurdering og reserve ved en feil eller hvis du ønsker å anke eller bestride systemets påvirkning på deg. Menneskelig vurdering og reserve bør være tilgjengelig, rettferdig, effektiv, vedlikeholdt, ledsaget av passende operatør-trening, og bør ikke påføre en ubegrunnet byrde på offentligheten. Automatiserte systemer med en ment å bruke innen følsomme domener, inkludert, men ikke begrenset til, kriminalsystem, ansættelse, utdanning og helse, bør i tillegg være tilpasset formålet, gi meningsfull tilgang til tilsyn, inkludere trening for alle som interagerer med systemet, og inkorporere menneskelig vurdering for ugunstige eller høyrisiko-beslutninger. Rapportering som inkluderer en beskrivelse av disse menneskelige styreprosessene og en vurdering av deres raskhet, tilgjengelighet, resultater og effektivitet, bør gjøres offentlig når det er mulig.”

Sammenfatting

OSTP bør gis kreditt for å forsøke å introdusere et rammeverk som broer sikkerhetsprotokollene som er nødvendige for samfunnet, uten å introdusere drakoniske politikker som kunne hemme fremgangen i utviklingen av maskinlæring.

Etter at prinsippene er skissert, fortsetter loven med å gi en teknisk kompanjon til problemene som diskuteres, samt detaljert informasjon om hver prinsipp og de beste måtene å gå videre for å implementere disse prinsippene.

Forstandige bedriftseiere og bedrifter bør ta merke til å studere denne loven, da det kan bare være fordeler å implementere disse politikken så snart som mulig.

Forklarbar AI vil fortsette å dominere i betydning, som kan ses fra denne sitaten fra loven.

“Over hele den føderale regjeringen, gjennomfører byråer og støtter forskning på forklarbare AI-systemer. NIST gjennomfører grunnleggende forskning på forklarbarheten av AI-systemer. Et tverrfaglig team av forskere har som mål å utvikle målemetoder og beste praksis for å støtte implementeringen av kjerneprinsippene for forklarbar AI. Forsvarsavdelingens forskningsbyrå har et program for forklarbar kunstig intelligens som har som mål å skape en samling av maskinlærings-teknikker som produserer mer forklarbare modeller, samtidig som de opprettholder et høyt nivå av læring (prediksjonsnøyaktighet), og muliggjør at menneskelige brukere kan forstå, tillit og effektivt håndtere den nye generasjonen av kunstig intelligente partnere. Nasjonalvitenskapsstiftelsens program for rettferdighet i kunstig intelligens inkluderer også en spesifikke interesse i forskningsgrunnlag for forklarbar AI.”

Hva som ikke bør oversees, er at til slutt vil prinsippene som er skissert her, bli den nye standarden.