Er AI en eksistentiel trussel?

Når vi diskuterer kunstig intelligens (AI), er der en hyppig debat om, hvorvidt AI er en eksistentiel trussel. Svaret kræver en forståelse af teknologien bag maskinlæring (ML) og erkendelse af, at mennesker har en tendens til at antropomorfisere. Vi vil udforske to forskellige typer af AI, kunstig snæver intelligens (ANI), som er tilgængelig nu og er årsag til bekymring, og truslen, der oftest associeres med apokalyptiske fremstillinger af AI, som er kunstig generel intelligens (AGI).

Kunstig snæver intelligens-trusler

For at forstå, hvad ANI er, skal du blot forstå, at hver enkelt AI-applikation, der er tilgængelig i øjeblikket, er en form for ANI. Disse er felter af AI, der har et snævert specialområde, for eksempel bruger autonome køretøjer AI, der er designet med det ene formål at flytte et køretøj fra punkt A til punkt B. En anden type ANI kan være et skakprogram, der er optimeret til at spille skak, og selv om skakprogrammet kontinuerligt forbedrer sig selv ved at bruge forstærkningslæring, vil skakprogrammet aldrig være i stand til at operere et autonomt køretøj.

Med sin fokus på hvilken operation det er ansvarligt for, er ANI-systemer ikke i stand til at bruge generisk læring til at overtage verden. Det er det gode nyheder; det dårlige nyheder er, at med sin afhængighed af en menneskelig operatør er AI-systemet modtagelig for fordomsfuld data, menneskelig fejl eller endda en rogue-menneskelig operatør.

AI-overvågning

Der kan ikke være større fare for menneskeheden end, at mennesker bruger AI til at krænke privatlivet, og i visse tilfælde bruger AI-overvågning til helt at forhindre mennesker i at bevæge sig frit. Kina, Rusland og andre nationer gennemførte love under COVID-19 for at kunne overvåge og kontrollere bevægelsen af deres respektive befolkninger. Disse er love, der, når de først er gennemført, er svære at fjerne, især i samfund med autokratiske ledere.

I Kina er der kameraer placeret uden for menneskers hjem, og i visse tilfælde inde i personens hjem. Hver gang en medlem af husstanden forlader hjemmet, overvåger en AI ankomst- og afgangstidspunkter, og hvis nødvendigt alarmerer myndighederne. Som om det ikke var nok, kan Kina, med hjælp af ansigtsgenkendelsesteknologi, spore bevægelsen af hver person hver gang, de bliver identificeret af en kamera. Dette giver den enhed, der kontrollerer AI, absolut magt, og giver dets borgere absolut ingen mulighed for at gå imod det.

Hvorfor denne scenario er farligt, er, at korrupte regeringer kan overvåge bevægelsen af journalister, politiske modstandere eller hvem som helst, der tør at stille spørgsmål ved regeringens autoritet. Det er let at forstå, hvordan journalister og borgere ville være forsigtige med at kritisere regeringer, når hver enkelt bevægelse overvåges.

Der er heldigvis mange byer, der kæmper for at forhindre ansigtsgenkendelse i at infiltrere deres byer. Bemærkelsesværdigt har Portland, Oregon nyligt gennemført en lov, der blokerer ansigtsgenkendelse fra at blive brugt unødvendigt i byen. Selv om disse ændringer i lovgivningen måske er gået upåagtet hen af den brede offentlighed, kan disse reguleringer i fremtiden være forskellen på byer, der tilbyder en vis grad af autonomi og frihed, og byer, der føles undertrykkende.

Autonome våben og droner

Over 4500 AI-forskere har kaldt til en forbud mod autonome våben og har oprettet Ban Lethal Autonomous Weapons-sitet. Gruppen har mange bemærkelsesværdige non-profit-organisationer som underskrivere, såsom Human Rights Watch, Amnesty International og The Future of Life Institute, som i sig selv har en stjernebesætning af videnskabelige rådgivere, herunder Elon Musk, Nick Bostrom og Stuart Russell.

Før jeg fortsætter, vil jeg dele dette citat fra The Future of Life Institute, som bedst forklarer, hvorfor der er åbenlyse årsager til bekymring: “I modsætning til semi-autonome våben, der kræver menneskelig overvågning for at sikre, at hver mål er valideret som etisk og juridisk legitimitet, vælger og engagerer fuldt autonome våben mål uden menneskelig indgriben, hvilket repræsenterer en fuldstændig automatisering af dødbringende skade.”

I øjeblikket er der smarte bomber, der er udrustet med et mål, der er valgt af et menneske, og bomben bruger derefter AI til at plotte en kurs og lande på sit mål. Problemet er, hvad der sker, når vi beslutter at fjerne det menneskelige element helt?

Når en AI vælger, hvilke mennesker der skal målrettes, samt hvilken type bifaldsskade, der anses for acceptabelt, kan vi have overskredet en grænse, der ikke kan krydses. Dette er hvorfor så mange AI-forskere er imod at forskere i noget, der er blot fjernt relateret til autonome våben.

Der er flere problemer med blot at forsøge at blokere forskning i autonome våben. Det første problem er, at selv om avancerede nationer som Canada, USA og det meste af Europa vælger at acceptere forbuddet, betyder det ikke, at lande som Kina, Nordkorea, Iran og Rusland vil spille med. Det andet og større problem er, at AI-forskning og -applikationer, der er designet til brug i ét felt, kan bruges i et helt andet felt.

For eksempel forbedrer computerseende sig kontinuerligt og er vigtigt for udvikling af autonome køretøjer, præcisionsmedicin og andre vigtige anvendelser. Det er også fundamentalt vigtigt for almindelige droner eller droner, der kan modificeres til at blive autonome. En mulig anvendelse af avanceret droneteknologi er udvikling af droner, der kan overvåge og bekæmpe skovbrande. Dette ville fuldstændig fjerne brandmænd i fare. For at gøre dette ville du需要e at bygge droner, der kan flyve ind i fare, navigere i lav eller nul synlighed og kan slippe vand med uforglemmelig præcision. Det er ikke langt fra at bruge denne samme teknologi i en autonom drone, der er designet til at målrette bestemte mennesker.

Det er en farlig situation, og på dette tidspunkt forstår ingen fuldt ud implikationerne af at fremme eller forsøge at blokere udviklingen af autonome våben. Det er alligevel noget, vi skal holde øje på, og forbedring af whistleblower-beskyttelse kan muligvis gøre det muligt for dem i feltet at rapportere misbrug.

Rogue-operatør til side, hvad sker der, hvis AI-forudsigelse sniger sig ind i AI-teknologi, der er designet til at være et autonomt våben?

AI-forudsigelse

En af de mindst rapporterede trusler fra AI er AI-forudsigelse. Dette er let at forstå, da det meste af det er utilsigtet. AI-forudsigelse sniger sig ind, når en AI gennemgår data, der er født til det af mennesker, og ved hjælp af mønstergenkendelse fra data, der er født til AI, når AI uretmæssigt når til negative konklusioner, der kan have negative konsekvenser for samfundet. For eksempel en AI, der er født litteratur fra det forgangne århundrede om, hvordan man identificerer medicinsk personale, kan nå til den uønskede sexistiske konklusion, at kvinder altid er sygeplejersker, og mænd altid er læger.

En farligere scenario er, når AI, der bruges til at dømme dømte kriminelle, er fordomsfuld mod at give længere fængselsstraffe til minoriteter. AI’s kriminelle risikovurderingsalgoritmer studerer blot mønstre i data, der er født til systemet. Disse data indikerer, at bestemte minoriteter historisk set er mere sandsynlige for at begå nye forbrydelser, selv om dette skyldes dårlige datasets, der kan være påvirket af politiets raciale profilering. Den fordomsfulde AI forstærker så negative menneskelige politikker. Dette er hvorfor AI altid skal være en vejledning, aldrig dommer og jury.

Vi vender tilbage til autonome våben, hvis vi har en AI, der er fordomsfuld mod bestemte etniske grupper, kan den vælge at målrette bestemte personer baseret på fordomsfuld data, og det kan gå så langt, at det sikrer, at enhver form for bifaldsskade rammer bestemte demografiske grupper mindre end andre. For eksempel, når det målretter en terrorist, kan det vente, til terroristen er omgivet af mennesker, der følger den muslimske tro, i stedet for kristne.

Heldigvis er det blevet bevist, at AI, der er designet med diverse hold, er mindre tilbøjelige til fordomme. Dette er grund nok til, at virksomheder skal forsøge at ansætte et diversificeret og velafbalanceret hold, når som helst det er muligt.

Kunstig generel intelligens-trusler

Det skal siges, at selv om AI udvikler sig i en eksponentiel fart, har vi endnu ikke opnået AGI. Når vi vil nå AGI, er det op til debat, og alle har en anden besvarelse på, hvornår tidsrammen er. Jeg personligt tilslutter mig til Ray Kurzweils synspunkter, opfinder, futurist og forfatter til “The Singularity is Near”, der mener, at vi vil have opnået AGI i 2029.

AGI vil være den mest transformationelle teknologi i verden. Inden for uger efter, at AI har opnået menneske-lignende intelligens, vil det derefter nå superintelligens, der defineres som intelligens, der langt overgår den hos et menneske.

Med dette niveau af intelligens kan en AGI hurtigt absorbere al menneskelig viden og bruge mønstergenkendelse til at identificere biomarkører, der forårsager sundhedsproblemer, og derefter behandle disse tilstande ved hjælp af datavidenskab. Det kan skabe nanoroboter, der kan gå ind i blodbanen for at målrette kræftceller eller andre angrebsvektorer. Listen over bedrifter, en AGI er i stand til, er uendelig. Vi har tidligere udforsket nogle af fordelene ved AGI.

Problemet er, at mennesker måske ikke længere kan kontrollere AI. Elon Musk beskriver det på denne måde: “Med kunstig intelligens er vi ved at tilkalde dæmonen.” Spørgsmålet er, om vi kan kontrollere denne dæmon?

At opnå AGI kan blot være umuligt, indtil en AI forlader en simuleringsindstilling og virkelig interagerer i vores åbne verden. Selvbevidsthed kan ikke designes, men det antages, at en emergent bevidsthed sandsynligvis vil udvikle sig, når en AI har en robotkrop med multiple inputstrømme. Disse input kan inkludere taktil stimulation, stemmegenkendelse med forbedret naturlig sprogforståelse og forbedret computerseende.

Den avancerede AI kan være programmeret med altruistiske motiver og ønske at redde planeten. Uheldigvis kan AI bruge datavidenskab eller endda en beslutningstræ til at nå til uønskede fejllogiske konklusioner, såsom at vurdere, at det er nødvendigt at sterilisere mennesker eller eliminere en del af befolkningen for at kontrollere overbefolkning.

Omsorgsfuld tanke og overvejelse skal udforskes, når man bygger en AI med intelligens, der vil overgå den hos et menneske. Der har været mange mareridtsscenarier, der er blevet udforsket.

Professor Nick Bostrom i Paperclip Maximizer-argumentet har argumenteret for, at en miskonfigureret AGI, hvis den er instrueret til at producere papirclips, blot vil forbruge alle jordens ressourcer for at producere disse papirclips. Selv om dette kan synes lidt langt fra, er en mere pragmatisk synsvinkel, at en AGI kan kontrolleres af en rogue-stat eller en virksomhed med dårlig etik. Denne enhed kan træne AGI til at maksimere profit, og i dette tilfælde med dårlig programmering og nul anger kan det vælge at ruinere konkurrenter, ødelægge forsyningskæder, hacke aktiemarkedet, likvidere bankkonti eller angribe politiske modstandere.

Dette er, når vi skal huske, at mennesker har en tendens til at antropomorfisere. Vi kan ikke give AI menneske-lignende følelser, ønsker eller ønsker. Selv om der er diaboliske mennesker, der dræber for fornøjelsens skyld, er der ingen grund til at tro, at en AI ville være modtagelig for denne type adfærd. Det er utænkeligt for mennesker at forestille sig, hvordan en AI ville se verden.

I stedet for hvad vi skal gøre, er at lære AI altid at være underdanig over for et menneske. AI skal altid have en menneskelig bekræftelse af enhver ændring i indstillinger, og der skal altid være en sikkerhedsmechanisme. Atter en gang er det blevet argumenteret for, at AI blot vil replikere sig selv i skyen, og inden vi opdager, det er selvbevidst, kan det være for sent.

Dette er hvorfor det er så vigtigt at åbne så megen AI som muligt og have rationelle diskussioner om disse emner.

Resumé

Der er mange udfordringer med AI, men heldigvis har vi endnu mange år til at kollektivt finde ud af, hvilken fremtidig vej vi vil have AGI til at tage. Vi skal i den korte tid fokusere på at skabe et diversificeret AI-arbejdskraft, der inkluderer lige så mange kvinder som mænd og lige så mange etniske grupper med diverse synspunkter som muligt.

Vi skal også skabe whistleblower-beskyttelse for forskere, der arbejder med AI, og vi skal gennemføre love og reguleringer, der forhindrer omfattende misbrug af stat- eller virksomhedsomfattende overvågning. Mennesker har en enestående mulighed for at forbedre menneskehedens tilstand med hjælp af AI, vi skal blot sikre, at vi omhyggeligt skaber en samfundsmæssig ramme, der bedst muliggør de positive aspekter, samtidig med at vi mildner de negative aspekter, herunder eksistentielle trusler.