Juliette Powell & Art Kleiner, Forfattere til The AI Dilemma – Interview Serie

The AI Dilemma er skrevet af Juliette Powell & Art Kleiner.

Juliette Powell er en forfatter, en tv-skaber med 9.000 live-shows under hendes bælte, og en teknolog og sociolog. Hun er også en kommentator på Bloomberg TV/ Business News Networks og en taler på konferencer arrangeret af The Economist og Den Internationale Finanskorporation. Hendes TED-talk har 130.000 visninger på YouTube. Juliette identificerer mønstre og praksis for succesfulde forretningsledere, der banker på etisk AI og data for at vinde. Hun er på fakultetet på NYU’s ITP, hvor hun underviser i fire kurser, herunder Design Skills for Responsible Media, et kursus baseret på hendes bog.

Art Kleiner er en forfatter, redaktør og fremtidsforsker. Hans bøger inkluderer The Age of Heretics, Who Really Matters, Privilege and Success, og The Wise. Han var redaktør af strategy+business, det prisvindende magasin udgivet af PwC. Art er også en længerevarende fakultetsmedlem på NYU-ITP og IMA, hvor hans kurser inkluderer co-undervisning i Responsible Technology og Future of Media.

“The AI Dilemma” er en bog, der fokuserer på farerne ved AI-teknologi i forkerte hænder, mens den samtidig anerkender fordelene ved AI til samfundet.

Problemer opstår, fordi den underliggende teknologi er så kompleks, at det bliver umuligt for slutbrugeren at forstå de indre mekanismer i et lukket system.

En af de mest betydningsfulde problemer, der fremhæves, er, hvordan definitionen af ansvarlig AI altid skifter, da samfundsværdier ofte ikke forbliver konsekvente over tid.

Jeg nød virkelig at læse “The AI Dilemma”. Det er en bog, der ikke sensationeliserer farerne ved AI eller dykker dybt ind i de potentielle faldgruber for kunstig intelligens (AGI). I stedet lærer læserne om de overraskende måder, vores personlige data bliver brugt uden vores viden, samt nogle af de nuværende begrænsninger ved AI og årsager til bekymring.

Herunder følger nogle spørgsmål, der er designet til at vise vores læsere, hvad de kan forvente af denne banebrydende bog.

Hvad inspirerede jer til at skrive “The AI Dilemma”?

Juliette gik på Columbia for at studere begrænsningerne og mulighederne for regulering af AI. Hun havde hørt førstehånds fra venner, der arbejdede på AI-projekter, om spændingen, der lå i disse projekter. Hun kom til den konklusion, at der var et AI-dilemma, et langt større problem end selvregulering. Hun udviklede Apex-benchmark-modellen – en model for, hvordan beslutninger om AI tendrer mod lavt ansvar på grund af interaktionerne mellem virksomheder og grupper inden for virksomhederne. Dette ledte til hendes afhandling.

Art havde arbejdet med Juliette på flere skriveprojekter. Han læste hendes afhandling og sagde: “Du har en bog her.” Juliette inviterede ham til at være medforfatter. Da de arbejdede på det sammen, opdagede de, at de havde meget forskellige perspektiver, men delte en stærk opfattelse af, at dette komplekse, højrisikable AI-fænomen ville kræve en bedre forståelse, så mennesker, der brugte det, kunne handle mere ansvarligt og effektivt.

Et af de grundlæggende problemer, der fremhæves i The AI Dilemma, er, at det i øjeblikket er umuligt at forstå, om et AI-system er ansvarligt eller om det fremmer social ulighed ved blot at studere dens kildekode. Hvor stort er dette problem?

Problemet ligger ikke primært i kildekoden. Som Cathy O’Neil påpeger, er det, når der er et lukket system, ikke kun koden. Det er det sociotekniske system – de menneskelige og tekniske kræfter, der former hinanden – der skal undersøges. Logikken, der opbyggede og frigav AI-systemet, involverede at identificere et formål, identificere data, sætte prioriteringer, opbygge modeller, oprette retningslinjer og guardrails for maskinlæring og beslutte, hvornår og hvordan et menneske skulle gribe ind. Det er den del, der skal gøres gennemsigtig – i hvert fald for observatører og revisorer. Risikoen for social ulighed og andre risici er langt større, når disse dele af processen er skjult. Du kan ikke rigtig omkonstruere designlogikken fra kildekoden.

Kan fokus på Explainable AI (XAI) nogensinde løse dette problem?

For ingeniører er explainable AI i øjeblikket betragtet som en gruppe tekniske begrænsninger og praksis, der sigter mod at gøre modellerne mere gennemsigtige for mennesker, der arbejder på dem. For en person, der er blevet uretfærdigt anklaget, har forklarbarhed en helt anden betydning og nødvendighed. De har brug for forklarbarhed for at kunne forsvare sig selv. Vi har alle brug for forklarbarhed i den forstand, at de erhvervs- eller regeringsbeslutninger, der ligger til grund for modellerne, bliver klare. I hvert fald i USA vil der altid være en spænding mellem forklarbarhed – menneskers ret til at vide – og en organisations ret til at konkurrere og innovere. Revisorer og regulatører har brug for en anden niveau af forklarbarhed. Vi dykker dybere ind i dette i The AI Dilemma.

Kan du dele dine synspunkter på, hvor vigtigt det er at holde interessenter (AI-virksomheder) ansvarlige for den kode, de frigiver til verden?

Indtil nu, for eksempel i Tempe, AZ-sagen om en selvstyret bil, der kolliderede og dræbte en fodgænger, blev operatøren holdt ansvarlig. En person blev idømt fængsel. Til sidst var det dog en organisatorisk fejl.

Når en bro kollapser, holdes den mekaniske ingeniør ansvarlig. Det skyldes, at mekaniske ingeniører er uddannet, løbende genuddannet og holdt ansvarlige af deres fag. Computer-ingeniører er ikke.

Bør interessenter, herunder AI-virksomheder, trænes og gen-trænes for at tage bedre beslutninger og have mere ansvar?

The AI Dilemma fokuserer meget på, hvordan virksomheder som Google (GOOGL ) og Meta kan høste og monitere vores personlige data. Kan du dele et eksempel på en betydelig misbrug af vores data, der bør være på alles radar?

Fra The AI Dilemma, side 67ff:

Nye tilfælde af systematisk personlig data-misbrug fortsætter med at dukke op i offentligheden, mange af dem involverer skjult brug af ansigtsgenkendelse. I december 2022 offentliggjorde MIT Technology Review beretninger om en længevarende praksis hos iRobot. Roomba-hus-robotter optager billeder og videoer taget i frivillige beta-testeres hjem, hvilket uundgåeligt betyder, at de indsamler intime personlige og familiære billeder. Disse billeder deles, uden testernes viden, med grupper uden for landet. I mindst ét tilfælde blev et billede af en person på en toilet offentliggjort på Facebook (META ). Imens i Iran har myndighederne begyndt at bruge data fra ansigtsgenkendelsessystemer til at spore og anholde kvinder, der ikke bærer hijab.16

Der er ingen grund til at uddybe disse historier yderligere. Der er så mange af dem. Det er vigtigt at identificere den kumulative effekt af at leve på denne måde. Vi mister vores fornemmelse af at have kontrol over vores liv, når vi føler, at vores private oplysninger kan blive brugt imod os på ethvert tidspunkt uden varsel.

En farlig koncept, der blev nævnt, er, hvordan vores hele verden er designet til at være friktionssløs, med definitionen af friktion som “ethvert punkt i kundens rejse med en virksomhed, hvor de rammer en hakke, der langsommere eller forårsager utilfredshed.” Hvordan kan vores forventning til en friktionssløs oplevelse potentielt føre til farlig AI?

I New Zealand foreslog en Pak’n’Save-måltid-robot en opskrift, der ville skabe klor-gas, hvis den blev brugt.

Friktionssløshed skaber en illusion af kontrol. Det er hurtigere og nemmere at lytte til appen end at se op mormors opskrift. Mennesker følger den letteste vej og indser ikke, hvor den fører dem hen.

Friktion, til gengæld, er kreativ. Du bliver involveret. Dette fører til reel kontrol. Reel kontrol kræver opmærksomhed og arbejde, og – i tilfældet af AI – en udvidet omkostnings-benefitanalyse.

Med illusionen af kontrol føles det, som om vi lever i en verden, hvor AI-systemer prompter mennesker, i stedet for at mennesker forbliver fuldt under kontrol. Kan du give nogle eksempler på, hvordan mennesker kollektivt tror, de har kontrol, når de i virkeligheden ikke har nogen?

I San Francisco lige nu, med robot-taxaer. Ideen om selvstyrende taxaer vækker to modsatrettede følelser: Begejstring (“taxaer til en langt lavere pris!”) og frygt (“vil de ramme mig?”). Derfor foreslår mange regulatører, at bilerne testes med mennesker i dem, der kan styre dem. Desværre kan det at have mennesker på vagt, klar til at overtage systemerne i realtid, ikke være en god test af offentlig sikkerhed. Overtilpasning er en hyppig dynamik med AI-systemer. Jo mere autonomt systemet er, jo mere tillider menneskelige operatører det og betaler ikke fuld opmærksomhed. Vi bliver kede af at overvåge disse teknologier. Når en ulykke faktisk er på vej til at ske, forventer vi det ikke og reagerer ofte ikke i tide.

Meget research gik ind i denne bog, var der noget, der overraskede jer?

En ting, der virkelig overraskede os, var, at mennesker verden over ikke kunne enes om, hvem der skulle leve og hvem der skulle dø i The Moral Machine’s simulation af en selvstyret bil-ulykke. Hvis vi ikke kan enes om det, er det svært at forestille sig, at vi kunne have en samlet global styre eller universelle standarder for AI-systemer.

I begge beskriver jer selv som iværksættere, hvordan vil det, I har lært og rapporteret om, påvirke jeres fremtidige bestræbelser?

Vores AI-rådgivningspraksis er rettet mod at hjælpe organisationer med at vokse ansvarligt med teknologien. Advokater, ingeniører, samfundsvidenskabsfolk og forretningsfolk er alle interessenter i AI’s fremtid. I vores arbejde bringer vi alle disse perspektiver sammen og praktiserer kreativ friktion for at finde bedre løsninger. Vi har udviklet rammer som regningen af intentionel risiko for at hjælpe med at navigere disse spørgsmål.

Tak for de gode svar, læsere, der ønsker at lære mere, skal besøge The AI Dilemma.