Er AI en eksistensiell trussel?

Når det kommer til kunstig intelligens (KI), er det en vanlig debatt om hvorvidt KI er en eksistensiell trussel. Svaret krever en forståelse av teknologien bak maskinlæring (ML), og å erkjenne at mennesker har en tendens til å anthropomorfisere. Vi vil utforske to forskjellige typer KI, kunstig smal intelligens (ASI) som er tilgjengelig nå og er årsak til bekymring, og trusselen som er mest vanlig forbundet med apokalyptiske fremstillinger av KI som er kunstig generell intelligens (AGI).

Kunstig smal intelligens-trusler

For å forstå hva ASI er, må man bare forstå at hver enkelt KI-applikasjon som er tilgjengelig nå er en form for ASI. Disse er fagområder for KI som har et smalt spesialområde, for eksempel bruker selvstyrte kjøretøy KI som er designet med det ene formålet å flytte et kjøretøy fra punkt A til B. En annen type ASI kan være et sjakkprogram som er optimalisert for å spille sjakk, og selv om sjakkprogrammet kontinuerlig forbedrer seg selv ved å bruke forsterkninglæring, vil sjakkprogrammet aldri være i stand til å operere et selvstyrte kjøretøy.

Med sin fokus på hva det er ansvarlig for, er ASI-systemer ikke i stand til å bruke generell læring for å ta over verden. Det er det gode nyheten; det dårlige nyheten er at med sin avhengighet av en menneskelig operatør er KI-systemet utsatt for forvrengt data, menneskelig feil eller enda verre, en rogue menneskelig operatør.

KI-overvåking

Det kan være ingen større fare for menneskeheten enn mennesker som bruker KI til å invadere privatlivet, og i noen tilfeller bruker KI-overvåking til å helt forhindre folk i å bevege seg fritt. Kina, Russland og andre nasjoner har gått gjennom reguleringer under COVID-19 for å kunne overvåke og kontrollere bevegelsene til sine respektive befolkninger. Disse er lover som en gang de er på plass, er vanskelige å fjerne, spesielt i samfunn som har autoritære ledere.

I Kina er det kameralinser plassert utenfor menneskers hjem, og i noen tilfeller innenfor personens hjem. Hver gang en medlem av husholdningen forlater hjemmet, overvåker en KI ankomst- og avgangstid, og hvis nødvendig varsler myndighetene. Som om det ikke var nok, med hjelp av ansiktsgjenkjenningsteknologi, kan Kina spore bevegelsene til hver enkelt person hver gang de blir identifisert av en kamera. Dette gir absolutt makt til enheten som kontrollerer KI-en, og absolutt ingen mulighet for innbyggerne til å gå imot.

Hvorfor denne scenariet er farlig, er at korrupte regjeringer kan overvåke bevegelsene til journalister, politiske motstandere eller hvem som helst som tør å stille spørsmål ved myndighetens autoritet. Det er lett å forstå hvordan journalister og innbyggere ville være forsiktige med å kritisere regjeringer når hver eneste bevegelse blir overvåket.

Det er heldigvis mange byer som kjemper for å forhindre ansiktsgjenkjenning fra å trenge inn i byene. Blant annet Portland, Oregon har nylig vedtatt en lov som blokkerer ansiktsgjenkjenning fra å bli brukt unødvendig i byen. Mens disse endringene i reguleringer kan ha gått ubemerket forbi allmennheten, kan disse reguleringene i fremtiden være forskjellen på byer som tilbyr noen former for autonomi og frihet, og byer som føles undertrykkende.

Autonome våpen og droner

Over 4500 KI-forskere har bedt om et forbud mot autonome våpen og har laget Ban Lethal Autonomous Weapons-nettsiden. Gruppen har mange bemerkelsesverdige ideelle organisasjoner som undertegnere, som Human Rights Watch, Amnesty International, og The Future of Life Institute som i seg selv har en stjerneforskningsråd inkludert Elon Musk, Nick Bostrom og Stuart Russell.

Før jeg fortsetter vil jeg dele denne sitaten fra The Future of Life Institute som best forklarer hvorfor det er årsak til bekymring: “I motsetning til semi-autonome våpen som krever menneskelig overvåking for å sikre at hver mål er validert som etisk og lovlig legitimt, velger og engasjerer slike fullt autonome våpen mål uten menneskelig inngripen, og representerer full automatisering av dødelig skade.”

Aktuelt er smarte bomber utstyrt med et mål valgt av et menneske, og bomben bruker deretter KI til å plotte en kurs og lande på målet. Problemet er hva som skjer når vi bestemmer oss for å helt fjerne mennesket fra ligningen?

Når en KI velger hva mennesker må målrettes, samt hvilken type skade som er akseptabelt, kan vi ha krysset en grense uten mulighet til å returnere. Dette er hvorfor så mange KI-forskere er mot å forske på noe som er remotelt relatert til autonome våpen.

Det er flere problemer med å forsøke å blokkere autonome våpenforskning. Det første problemet er at selv om avanserte nasjoner som Canada, USA og de fleste europeiske land velger å gå med på forbudet, betyr det ikke at rogue-nasjoner som Kina, Nord-Korea, Iran og Russland vil spille med. Det andre og større problemet er at KI-forskning og -applikasjoner som er designet for bruk i ett felt, kan bli brukt i et helt ulikt felt.

For eksempel kan datavisjon kontinuerlig forbedres og er viktig for å utvikle selvstyrte kjøretøy, presisjonsmedisin og andre viktige bruksområder. Det er også fundamentalt viktig for vanlige droner eller droner som kan bli modifisert til å bli autonome. En mulig bruksområde for avansert droneteknologi er å utvikle droner som kan overvåke og bekjempe skogbranner. Dette ville helt fjerne brannfolk fra fare. For å gjøre dette, må man bygge droner som kan fly inn i fare, navigere i lav eller null sikt, og kan slippe vann med upåklagelig presisjon. Det er ikke langt fra å bruke denne identiske teknologien i en autonom drone som er designet til å målrette mennesker.

Det er en farlig situasjon, og på dette tidspunktet forstår ingen fullt ut implikasjonene av å fremme eller forsøke å blokkere utviklingen av autonome våpen. Det er likevel noe vi må holde øye på, og å forbedre whistleblowertiltak kan muligens enablede de som er i feltet til å rapportere misbruk.

Rogue-operatør til side, hva skjer hvis KI-forvrengning kryper inn i KI-teknologi som er designet til å være et autonomt våpen?

KI-forvrengning

En av de mest underrapporterte truslene fra KI er KI-forvrengning. Dette er enkelt å forstå, da det meste av det er utilsiktet. KI-forvrengning kryper inn når en KI gjennomgår data som er fôret til det av mennesker, og ved å bruke mønsterkjennelse fra data som ble fôret til KI-en, når KI-en feilaktig konkluderer noe som kan ha negative konsekvenser for samfunnet. For eksempel en KI som er fôret litteratur fra det forrige århundre om hvordan man kan identifisere medisinsk personale, kan nå den uønskede sexistiske konklusjonen at kvinner alltid er sykepleiere, og menn alltid er leger.

En farligere scenario er når KI som brukes til å dømme dømte kriminelle er forvrent mot å gi lengre fengselsstraffer til minoriteter. KI-ens kriminelle risikovurderingsalgoritmer studerer bare mønster i data som er fôret inn i systemet. Denne dataen indikerer at historisk sett visse minoriteter er mer sannsynlige til å gjenta forbrytelser, selv om dette skyldes dårlige datasett som kan være påvirket av politiets rasistiske profilering. Den forvrente KI-en forsterker negative menneskelige politikker. Dette er hvorfor KI bør være en retningslinje, aldri dommer og jury.

Tilbake til autonome våpen, hvis vi har en KI som er forvrent mot bestemte etniske grupper, kan den velge å målrette bestemte individer basert på forvrent data, og den kan gå så langt som å sikre at enhver type skade påvirker bestemte demografiske grupper mindre enn andre. For eksempel, når den målretter en terrorist, kan den vente til terroristen er omgitt av de som følger den muslimske troen i stedet for kristne.

Det er heldigvis bevist at KI som er designet med diverse team er mindre utsatt for forvrengning. Dette er grunn nok til at bedrifter bør prøve å ansette et diversifisert og godt rundet team.

Kunstig generell intelligens-trusler

Det bør nevnes at selv om KI utvikler seg i en eksponentiell takt, har vi fortsatt ikke oppnådd AGI. Når vi vil nå AGI er oppe til debatt, og alle har et annet svar på når tidsrammen er. Jeg personlig støtter synspunktene til Ray Kurzweil, oppfinner, futurist og forfatter av ‘The Singularity is Near” som mener at vi vil ha oppnådd AGI i 2029.

AGI vil være den mest transformasjonelle teknologien i verden. Innen få uker etter at KI har nådd menneske-lignende intelligens, vil den deretter nå superintelligens som er definert som intelligens som langt overgår den til et menneske.

Med dette nivået av intelligens kan en AGI raskt absorbere all menneskelig kunnskap og bruke mønsterkjennelse til å identifisere biomarkører som forårsaker helseproblemer, og deretter behandle disse tilstandene ved å bruke data-vitenskap. Den kan skape nanoboter som går inn i blodstrømmen for å målrette kreftceller eller andre angrepsvektorer. Listen over AGI-ens prestasjoner er uendelig. Vi har tidligere utforsket noen av fordelene med AGI.

Problemet er at mennesker kan ikke lenger kontrollere KI-en. Elon Musk beskriver det på denne måten: ”Med kunstig intelligens er vi å kalle på djevelen.’ Om vi kan kontrollere denne djevelen er spørsmålet?

Å oppnå AGI kan være umulig før en KI forlater en simuleringsinnstilling og virkelig interagerer i vår åpne verden. Selvbevissthet kan ikke bli designet, i stedet er det antatt at en emergent bevissthet sannsynligvis vil utvikle seg når en KI har en robotkropp med flere inngangsstrømmer. Disse inngangene kan inkludere taktil stimulering, talegjenkjenning med forbedret naturlig språkforståelse, og forbedret datavisjon.

Den avanserte KI-en kan bli programmert med altruistiske motiver og ønske å redde planeten. Uheldigvis kan KI-en bruke data-vitenskap eller selv en beslutningstre for å nå feilaktig logikk, som å vurdere at det er nødvendig å sterilisere mennesker eller eliminere en del av befolkningen for å kontrollere overbefolkning.

Omsorgsfull tenkning og overveielse må bli utforsket når man bygger en KI med intelligens som vil overgå den til et menneske. Det har vært mange mareritt-scenarier som har blitt utforsket.

Professor Nick Bostrom i Paperclip Maximizer-argumentet har argumentert for at en feilkonfigurert AGI, hvis den blir instruert til å produsere papirclips, ville enkelt konsumere alle jordens ressurser for å produsere disse papirklipsene. Mens dette kan se litt langt fra virkeligheten ut, er et mer pragmatisk synspunkt at en AGI kan bli kontrollert av en rogue-stat eller et selskap med dårlig etikk. Denne enheten kunne trene AGI-en til å maksimere profitt, og med dårlig programmering og null anger kunne den velge å ruinere konkurrenter, ødelegge forsyningskjeder, hacke aksjemarkedet, likvidere bankkontoer eller angripe politiske motstandere.

Dette er når vi må huske at mennesker har en tendens til å anthropomorfisere. Vi kan ikke gi KI-en menneske-lignende følelser, ønsker eller begjær. Mens det er diaboliske mennesker som dreper for å få glede, er det ingen grunn til å tro at en KI ville være utsatt for denne type atferd. Det er uhørt for mennesker å kunne forestille seg hvordan en KI ville se verden.

I stedet for hva vi må gjøre, er å lære KI å alltid være underdanig til et menneske. KI-en bør alltid ha en menneskelig bekreftelse på noen endringer i innstillinger, og det bør alltid være en sikkerhetsmekanisme. Igjen, det har vært argumentert for at KI-en enkelt kan replikere seg selv i skyen, og når vi innser det, kan det være for sent.

Dette er hvorfor det er så viktig å åpne kildekoden for så mye KI som mulig og å ha rasjonelle diskusjoner om disse problemene.

Oppsummering

Det er mange utfordringer med KI, heldigvis har vi fortsatt mange år til å kollektivt finne ut hvilken fremtidig løsning vi ønsker AGI å ta. Vi bør i kort tid fokusere på å skape en diversifisert KI-arbeidsstyrke, som inkluderer like mange kvinner som menn, og like mange etniske grupper med diverse synspunkter som mulig.

Vi bør også skape whistleblowertiltak for forskere som arbeider med KI, og vi bør vedta lover og reguleringer som forhindrer omfattende misbruk av statlig eller selskapsomfattende overvåking. Mennesker har en enkelt mulighet til å forbedre menneskeheten med hjelp av KI, vi må bare sikre at vi omsorgsfullt skaper et samfunnsrammeverk som best mulig aktiverer de positive sidene, samtidig som vi mildner de negative sidene som inkluderer eksistensielle trusler.