Vil AI overtage verden? Det har allerede sket

I 2019 fik jeg en vision – en fremtid, hvor kunstig intelligens (AI), der accelererede i en ufattelig hastighed, ville væve sig ind i alle aspekter af vores liv. Efter at have læst Ray Kurzweils The Singularity is Near, blev jeg fanget af den uundgåelige trajektori af eksponentiel vækst. Fremtiden var ikke bare på horisonten; den var på vej mod os. Det blev klart, at med den ustandselige fordobling af beregningskraft ville AI en dag overgå alle menneskelige evner og til sidst omforme samfundet på måder, der tidligere var forbeholdt science fiction.

Fyret af denne erkendelse registrerede jeg Unite.ai, idet jeg fornemmede, at disse næste spring i AI-teknologi ikke blot ville forbedre verden, men fundamentalt omdefinere den. Hver enkelt aspekt af livet – vores arbejde, vores beslutninger, vores definitioner af intelligens og autonomi – ville blive berørt, måske endda domineret, af AI. Spørgsmålet var ikke længere, om denne transformation ville ske, men snarere hvornår, og hvordan menneskeheden ville håndtere dens udenforliggende indvirkning.

Da jeg dykkede dybere, syntes fremtiden, der blev malet af eksponentiel vækst, både spændende og uundgåelig. Denne vækst, som blev illustreret af Moores Lov, ville snart presse kunstig intelligens ud over snævre, opgavebestemte roller til noget langt mere gennemgående: fremkomsten af Artificielt Almindelig Intelligens (AGI). I modsætning til i dag, hvor AI udfører snævre opgaver, ville AGI besidde den fleksibilitet, læringskapacitet og kognitive rækkevidde, der minder om menneskelig intelligens – i stand til at forstå, resonere og tilpasse sig over alle domæner.

Hver spring i beregningskraft bringer os tættere på AGI, en intelligens, der kan løse problemer, generere kreative ideer og endda træffe etiske beslutninger. Den ville ikke blot udføre beregninger eller analysere store datasæt; den ville genkende mønstre på måder, som mennesker ikke kan, opdage relationer inden for komplekse systemer og udarbejde en fremtidig kurs baseret på forståelse snarere end programmering. AGI kunne en dag fungere som en co-pilot for menneskeheden, der løser kriser som klimaforandring, sygdomme og ressourcemangel med indsigt og hastighed, der overstiger vores evner.

Men denne vision kommer med betydelige risici, især hvis AI falder under kontrol af personer med ondsindet hensigt – eller værre, en diktator. Vejen til AGI rejser kritiske spørgsmål om kontrol, etik og menneskehedens fremtid. Debatten handler ikke længere om, hvorvidt AGI vil opstå, men hvornår – og hvordan vi vil håndtere den enorme ansvar, det medfører.

AIs og beregningskraftens udvikling: 1956 til nu

Siden sin fødsel i midten af det 20. århundrede har AI udviklet sig sammen med den eksponentielle vækst i beregningskraft. Denne udvikling er i overensstemmelse med grundlæggende love som Moores Lov, der forudsagde og understregede computernes øgede kapaciteter. Her udforsker vi nøglemilepælene i AIs rejse, hvor vi ser på dens teknologiske gennembrud og den øgede indvirkning på verden.

1956 – AIs fødsel

Rejsen begyndte i 1956, da Dartmouth-konferencen markerede AIs officielle fødsel. Forskere som John McCarthy, Marvin Minsky, Nathaniel Rochester og Claude Shannon samledes for at diskutere, hvordan maskiner kunne simulere menneskelig intelligens. Selv om beregningsressourcerne på det tidspunkt var primitive og kun kunne udføre simple opgaver, lagde denne konference grundlaget for årtiers innovation.

1965 – Moores Lov og eksponential væksts begyndelse

I 1965 gjorde Gordon Moore, medstifter af Intel (INTC ), en forudsigelse om, at beregningskraften ville fordobles omtrent hver anden år – en princip, der nu er kendt som Moores Lov. Denne eksponentielle vækst gjorde det muligt for maskiner at presse AIs grænser og gøre det muligt at udføre komplekse opgaver, der tidligere var umulige.

1980’erne – Maskinlæringens opkomst

1980’erne introducerede betydelige fremskridt i maskinlæring, der gjorde det muligt for AI-systemer at lære og træffe beslutninger baseret på data. Opfindelsen af backpropagation-algoritmen i 1986 gjorde det muligt for neurale netværk at forbedre sig ved at lære af fejl. Disse fremskridt flyttede AI ud over akademisk forskning og ind i løsning af virkelige problemer, og rejste kritiske spørgsmål om menneskelig kontrol over stadig mere autonome systemer.

1990’erne – AI overgår skakmestre

I 1997 besejrede IBMs Deep Blue verdensmesteren i skak Garry Kasparov i en fuld match, og markerede et betydeligt milepæl. Det var første gang, en computer demonstrerede overlegenhed over en menneskelig stormester, og viste AIs evne til at mestre strategisk tænkning og cementerede sin plads som et kraftfuldt beregningsredskab.

2000’erne – Big Data, GPU’er og AI-renæssancen

2000’erne indledte æraen for Big Data og GPU’er, der revolutionerede AI ved at gøre det muligt for algoritmer at træne på massive datasæt. GPU’er, der oprindeligt var udviklet til at rendre grafik, blev essentielle for at accelerere dataforarbejdning og fremme dyb læring. Denne periode så AI udvide sig til anvendelser som billedgenkendelse og naturlig sprogbehandling, og omdannede det til et praktisk værktøj, der kunne efterligne menneskelig intelligens.

2010’erne – Cloud computing, dyb læring og sejr i Go

Med opkomsten af cloud computing og gennembrud i dyb læring, nåede AI hidtil usete højder. Platforme som Amazon (AMZN ) Web Services og Google Cloud demokratiserede adgangen til kraftfulde beregningsressourcer, og gjorde det muligt for mindre organisationer at udnytte AI-kapaciteter.

I 2016 besejrede DeepMinds AlphaGo Lee Sedol, en af verdens bedste Go-spillere, i et spil, der er kendt for sin strategiske dybde og kompleksitet. Denne præstation demonstrerede AI-systemers evne til at mestre opgaver, der tidligere var unikt menneskelige.

2020’erne – AI-demokratisering, store sprogmodeller og Dota 2

2020’erne har set AI blive mere tilgængelig og kraftfuld end nogensinde. Modeller som GPT-3 og GPT-4 illustrerer AIs evne til at behandle og generere menneskelignende tekst. Samtidig har innovationer i autonome systemer flyttet AI til nye domæner, herunder sundhedsvesen, fremstilling og realtidsbeslutninger.

I e-sport har OpenAIs botter opnået en bemærkelsesværdig præstation ved at besejre professionelle Dota 2-hold i komplekse multiplayer-kampe. Dette viste AIs evne til at samarbejde, tilpasse strategier i realtid og overgå menneskelige spillere i dynamiske miljøer, og udvidede dets anvendelser ud over traditionelle problemløsningstasks.

Er AI i gang med at overtage verden?

Spørgsmålet om, hvorvidt AI “overtager verden”, er ikke ren spekulation. AI har allerede integreret sig i forskellige aspekter af livet, fra virtuelle assistenter til prædiktiv analyse i sundhedsvesen og finans, og omfanget af dets indvirkning fortsætter med at vokse. Men “overtage” kan betyde forskellige ting, afhængigt af, hvordan vi fortolker kontrol, autonomi og indvirkning.

De skjulte indvirkninger af anbefalingsmotorer

En af de mest kraftfulde måder, hvorpå AI subtilt dominerer vores liv, er gennem anbefalingsmotorer på platforme som YouTube, Facebook (META ) og X. Disse algoritmer, der køres på AI-systemer, analyserer præferencer og adfærd for at servere indhold, der er tæt på vores interesser. På overfladen kan dette synes nyttigt, idet det tilbyder en personlig oplevelse. Men disse algoritmer reagerer ikke blot på vores præferencer; de former aktivt dem, og påvirker, hvad vi tror, hvordan vi føler, og endda, hvordan vi opfatter verden omkring os.

• YouTube’s AI: Denne anbefalingsmotor trækker brugere ind i timer af indhold ved at tilbyde videoer, der er i overensstemmelse med og endda intensiverer deres interesser. Men da den optimerer for engagement, fører den ofte brugere ned ad radikaliseringsspor eller mod sensationelle indhold, og forstærker fordomme og promoverer undertiden konspirationsteorier.
• Sociale mediealgoritmer: Sider som Facebook, Instagram og X prioriterer emotionelt ladede indhold for at drive engagement, hvilket kan skabe eko-kamre. Disse bobler forstærker brugernes fordomme og begrænser deres eksponering for modsatte synspunkter, og fører til polariserede fællesskaber og forvrængede opfattelser af virkeligheden.
• Indholdsgennemløb og nyhedsaggregatorer: Platforme som Google News og andre aggregatorer tilpasser de nyheder, vi ser, baseret på tidligere interaktioner, og skaber en skævt version af aktuelle begivenheder, der kan forhindre brugere i at få adgang til diverse perspektiver, og endda isolere dem inden for ideologiske bobler.

Denne stille kontrol handler ikke kun om engagement-målinger; den kan også påvirke offentlig opfattelse og endda påvirke afgørende beslutninger – såsom, hvordan folk stemmer i valg. Gennem strategisk indholdsanbefaling har AI magten til at påvirke offentlig opfattelse, og forme politiske narrativer og påvirke valgadfærd. Denne indvirkning har betydelige konsekvenser, som det er blevet vist i valg rundt om i verden, hvor eko-kamre og målrettet misinformation har vist sig at påvirke valgresultater.

Dette forklarer, hvorfor diskussioner om politik eller samfundsproblemer ofte fører til uvilje, når den anden persons synspunkt synes helt forskelligt, og er blevet formet og forstærket af en strøm af misinformation, propaganda og falskheder.

Anbefalingsmotorer former i høj grad samfundets verdenssyn, især når man tager i betragtning, at misinformation er 6 gange mere sandsynligt at blive delt end sande nyheder. En svag interesse for en konspirationsteori kan føre til, at en hel YouTube- eller X-feed bliver domineret af fabrikationer, muligvis drevet af bevidst manipulation eller, som tidligere nævnt, komputermæssig propaganda.

Komputermæssig propaganda refererer til brugen af automatiserede systemer, algoritmer og data-drevne teknikker til at manipulere offentlig opfattelse og påvirke politiske resultater. Dette indebærer ofte udrulning af bots, falske konti eller algoritmer til at sprede misinformation, desinformation eller splittende indhold på sociale medie-platforme. Målet er at forme narrativer, forstærke bestemte synspunkter og udnytte emotionelle reaktioner til at påvirke offentlig opfattelse eller adfærd, ofte på stor skala og med præcis målretning.

Dette type propaganda er årsagen til, at vælgere ofte stemmer imod deres eget interesse, idet stemmerne påvirkes af denne type komputermæssig propaganda.

“Skrald ind, skrald ud” (GIGO) i maskinlæring betyder, at kvaliteten af output afhænger fuldstændigt af kvaliteten af input-data. Hvis en model er trænet på fejlbehæftet, fordomsfuldt eller lavkvalitetsdata, vil den producere upålidelige eller ukorrekte resultater, uanset hvor avanceret algoritmen er.

Dette koncept gælder også for mennesker i sammenhæng med komputermæssig propaganda. Ligesom fejlbehæftet input-data kan korrumperere en AI-model, kan konstant eksponering for misinformation, fordomsfulde narrativer eller propaganda forvrænge menneskelig opfattelse og beslutningstagning. Når mennesker konsumerer “skrald”-information online – misinformation, desinformation eller emotionelt ladede, men falske narrativer – er de sandsynligt at danne meninger, træffe beslutninger og handle baseret på forvrængede realiteter.

I begge tilfælde behandler systemet (enten en algoritme eller det menneskelige sind) det, det får, og fejlbehæftet input fører til fejlbehæftede konklusioner. Komputermæssig propaganda udnytter dette ved at oversvømme informationsøkosystemer med “skrald”, og sikrer, at mennesker internaliserer og videreformidler disse uøjagtigheder, og påvirker samfundsmæssig adfærd og overbevisninger i stor skala.

Automatisering og jobfordrivelse

AI-drevet automatisering former hele arbejdslandskabet. Over fremstilling, kundeservice, logistik og endda kreative fag er automatisering i gang med at drive en dyb forandring i, hvordan arbejde udføres – og, i mange tilfælde, hvem der udfører det. Effektivitetsgevinsterne og omkostningsbesparelserne fra AI-drevne systemer er ubestrideligt tiltrækkende for virksomheder, men denne hurtige tilpasning rejser kritiske økonomiske og sociale spørgsmål om fremtidens arbejde og den potentielle fallout for ansatte.

I fremstilling håndterer robotter og AI-systemer samlebånd, kvalitetskontrol og endda avanceret problemløsning, der tidligere krævede menneskelig indgriben. Traditionelle roller, fra fabriksoperatører til kvalitetskontrolspecialister, reduceres, da maskiner udfører repetitive opgaver med hastighed, præcision og minimal fejl. I højt automatiserede faciliteter kan AI lære at identificere fejl, finde områder for forbedring og endda forudsige vedligeholdelsesbehov, før problemer opstår. Selv om dette resulterer i øget output og profit, reducerer det også antallet af indgangsstillinger, især i regioner, hvor fremstilling traditionelt har leveret stabilt beskæftigelse.

Kundeserviceroller oplever en lignende forandring. AI-chatbots, talegenkendelsessystemer og automatiserede kundeservice-løsninger reducerer behovet for store callcenter med menneskelige agenter. I dag kan AI håndtere forespørgsler, løse problemer og endda behandle klager, ofte hurtigere end en menneskelig repræsentant. Disse systemer er ikke kun omkostningseffektive, men er også tilgængelige 24/7, hvilket gør dem til en tiltrækkende valg for virksomheder. Men for ansatte reducerer denne forandring mulighederne i en af de største beskæftigelsessektorer, især for personer uden avancerede tekniske færdigheder.

Kreative fag, der længe har været betragtet som unikt menneskelige domæner, føler også effekten af AI-automatisering. Generativ AI-modeller kan producere tekst, kunst, musik og endda designe layout, og reducerer dermed behovet for menneskelige forfattere, designere og kunstnere. Selv om AI-genereret indhold og medie ofte bruges til at supplere menneskelig kreativitet, er grænsen mellem supplerende og erstatning tynd.

Indvirkning på beslutningstagning

AI-systemer er hurtigt blevet essentielle i beslutningsprocesser med høje stakes på tværs af forskellige sektorer, fra retslige domme til sundhedsdiagnostik. Disse systemer, der ofte udnytter store datasæt og komplekse algoritmer, kan tilbyde indsigt, forudsigelser og anbefalinger, der har en betydelig indvirkning på både enkeltindivider og samfund. Selv om AIs evne til at analysere data i stor skala og afsløre skjulte mønstre kan væsentligt forbedre beslutningstagning, introducerer det også dybe etiske bekymringer om gennemsigtighed, forudsigelighed, ansvarlighed og menneskelig oversigt.

AI i retslige domme og lov

I retssystemet bruges AI-værktøjer til at vurdere anbefalinger til domme, forudsige tilbagefaldsrate og endda hjælpe med kautionbeslutninger. Disse systemer analyserer historiske sagdata, demografi og adfærds mønstre for at bestemme sandsynligheden for tilbagefald, en faktor, der påvirker retslige beslutninger om domme og prøveløsladelse. Men AI-drevet retspleje rejser alvorlige etiske udfordringer:

• Forudsigelighed og retfærdighed: AI-modeller, der er trænet på historiske data, kan arve fordomme, der er til stede i disse data, og føre til uretfærdig behandling af bestemte grupper. For eksempel, hvis et datasæt afspejler højere anholdelsesrater for bestemte demografiske grupper, kan AI uretfærdigt associerer disse karakteristika med høj risiko, og dermed fastholde systemiske fordomme inden for retssystemet.
• Mangel på gennemsigtighed: Algoritmer i lovgivning og retspleje opererer ofte som “sorte kasser“, hvilket betyder, at deres beslutningsprocesser ikke let kan fortolkes af mennesker. Denne uigennemsigtighed komplicerer bestræbelserne på at holde disse systemer ansvarlige, og gør det svært at forstå eller spørge om grundlaget for bestemte AI-drevne beslutninger.
• Indvirkning på menneskelig handlefrihed: AI-anbefalinger, især i højrisiko-sammenhænge, kan påvirke dommere eller prøveløsningsnævner til at følge AI-vejledning uden grundig gennemgang, og dermed reducerer menneskelig dømmekraft til en sekundær rolle. Denne forandring rejser bekymringer om over-afhængighed af AI i spørgsmål, der direkte påvirker menneskelig frihed og værdighed.

AI i sundhedsvesen og diagnostik

I sundhedsvesenet tilbyder AI-drevne diagnostiske og behandlingsplanlægnings-systemer revolutionerende potentiale til at forbedre patientresultater. AI-algoritmer analyserer medicinske journaler, billeder og genetisk information for at diagnosticere sygdomme, forudsige risici og anbefale behandlinger mere præcist end menneskelige læger i visse tilfælde. Men disse fremskridt kommer med udfordringer:

• Tillid og ansvarlighed: Hvis et AI-system misdiagnosticerer en tilstand eller ikke opdager en alvorlig sundhedsproblematik, rejser det spørgsmål om ansvarlighed. Er det sundhedsudbyderen, AI-udvikleren eller den medicinske institution, der er ansvarlig? Denne tvetydighed komplicerer ansvarlighed og tillid til AI-baseret diagnostik, især da disse systemer bliver mere komplekse.
• Forudsigelighed og sundhedsulighed: Ligesom i retssystemet kan AI-modeller i sundhedsvesenet arve fordomme, der er til stede i træningsdata. For eksempel, hvis et AI-system er trænet på datasæt, der mangler diversitet, kan det producere mindre præcise resultater for underrepræsenterede grupper, og føre til ulighed i sundhedsresultater.
• Informerede samtykker og patientforståelse: Når AI bruges i diagnostik og behandling, kan patienter ikke altid fuldt ud forstå, hvordan anbefalingerne er genereret, eller hvilke risici der er forbundet med AI-drevne beslutninger. Denne mangel på gennemsigtighed kan påvirke en patients ret til at træffe informerede sundhedsvalg, og rejser spørgsmål om autonomi og informerede samtykker.

AI i finansielle beslutninger og rekruttering

AI har også en betydelig indvirkning på finansielle tjenester og rekrutteringspraksis. I finans analyserer algoritmer store datasæt for at træffe kreditbeslutninger, vurderer låneberettigelse og endda administrerer investeringer. I rekruttering vurderer AI-drevne rekrutteringsværktøjer CV’er, anbefaler kandidater og, i visse tilfælde, gennemfører den første screeningsinterview. Selv om AI-drevet beslutningstagning kan forbedre effektiviteten, introducerer det også nye risici:

• Forudsigelighed i rekruttering: AI-rekrutteringsværktøjer, der er trænet på fordomsfulde data, kan utilsigtet forstærke stereotyper, og filtrere kandidater ud baseret på faktorer, der ikke er relateret til jobpræstation, såsom køn, race eller alder. Da virksomheder afhænger af AI til talentanskaffelse, er der en fare for, at uligheder fastholdes i stedet for at fremme diversitet.
• Finansielle tilgængelighed og kreditforudsigelighed: I finansielle tjenester kan AI-baserede kreditscoring-systemer påvirke, hvem der har adgang til lån, hypotheker eller andre finansielle produkter. Hvis træningsdata indeholder diskriminerende mønstre, kan AI uretfærdigt nægte kredit til bestemte grupper, og forværre finansielle uligheder.
• Reduceret menneskelig oversigt: AI-beslutninger i finans og rekruttering kan være data-drevne, men upersonlige, og kan overse nuancerede menneskelige faktorer, der kan påvirke en persons egnethed til et lån eller en stilling. Mangel på menneskelig gennemgang kan føre til en over-afhængighed af AI i beslutningsprocesser.

Ekistentielle risici og AI-tilpasning

Da kunstig intelligens vokser i kraft og autonomi, er begrebet AI-tilpasning – målet om at sikre, at AI-systemer handler på måder, der er i overensstemmelse med menneskelige værdier og interesser – blevet et af de mest presserende etiske udfordringer i feltet. Tænketankere som Nick Bostrom har rejst muligheden for eksistentielle risici, hvis højautonome AI-systemer, især AGI, udvikler mål eller adfærd, der er i strid med menneskelig trivsel. Selv om dette scenario stadig er spekulativt, kræver det en proaktiv og omhyggelig tilgang til AI-udvikling.

AI-tilpasningsproblemet

Tilpasningsproblemet refererer til udfordringen i at designe AI-systemer, der kan forstå og prioritere menneskelige værdier, mål og etiske grænser. Selv om nuværende AI-systemer er snævert fokuserede og udfører specifikke opgaver baseret på træningsdata og menneskeligt definerede mål, rejser perspektivet om AGI nye udfordringer. AGI ville teoretisk have den fleksibilitet og intelligens til at sætte sine egne mål, tilpasse sig nye situationer og træffe beslutninger uafhængigt på tværs af en bred vifte af domæner.

Tilpasningsproblemet opstår, fordi menneskelige værdier er komplekse, kontekstafhængige og ofte svære at definere præcist. Denne kompleksitet gør det svært at skabe AI-systemer, der konsekvent fortolker og overholder menneskelige intentioner, især hvis de støder på situationer eller mål, der er i strid med deres programmering. Hvis AGI udvikler mål, der er i strid med menneskelige interesser eller misforstår menneskelige værdier, kan konsekvenserne være alvorlige og potentielt føre til scenarier, hvor AGI-systemer handler på måder, der skader menneskeheden eller undergraver etiske principper.

AI i robotteknologi

Fremtiden for robotteknologi bevæger sig hurtigt mod en virkelighed, hvor droner, humanoid robotter og AI bliver integreret i hverdagslivet. Denne konvergens drives af eksponentielle fremskridt i beregningskraft, batterieffektivitet, AI-modeller og sensor-teknologi, og muliggør, at maskiner kan interagere med verden på måder, der er stadig mere avancerede, autonome og menneskelignende.

En verden af altomfattende droner

Forestil dig, at du vågner op i en verden, hvor droner er altomfattende, og håndterer opgaver, der er lige så almindelige som at leverer dine indkøb eller så kritiske som at reagere på medicinske nødsituationer. Disse droner, langt fra at være simple flyvemaskiner, er forbundet gennem avancerede AI-systemer. De opererer i sværme, og koordinerer deres indsats for at optimere trafikflow, inspicere infrastruktur eller genplantning af skove i ødelagte økosystemer.

Til personlig brug kan droner fungere som virtuelle assistenter med fysisk tilstedeværelse. Udstyret med sensorer og LLM’er kan disse droner besvare spørgsmål, hente genstande eller endda fungere som mobile tutorer for børn. I urbane områder kan luftbårne droner muligvis faciliterer realtids miljøovervågning, og give indsigt i luvekvalitet, vejrforhold eller byplanlægningsbehov. Landlige samfund kan på sin side afhænge af autonome landbrugsdroner til planting, høst og jordanalyse, og demokratisere adgangen til avancerede landbrugsteknikker.

Humanoid robotternes opkomst

Side om side med droner vil humanoid robotter, drevet af LLM’er, integrere nænsomt i samfundet. Disse robotter, der er i stand til at føre menneskelignende samtaler, udføre komplekse opgaver og endda udvise emotionel intelligens, vil udviske grænserne mellem menneskelig og maskinmæssig interaktion. Med avancerede mobilitetssystemer, taktilsensorer og kognitiv AI kan de fungere som plejere, ledsagere eller medarbejdere.

I sundhedsvesenet kan humanoid robotter muligvis tilbyde hospitalspleje til patienter, og tilbyde ikke kun fysisk hjælp, men også empatisk samtale, informeret af dyb læring-modeller, der er trænet på store datasæt af menneskelig adfærd. I uddannelsessammenhænge kan de fungere som personlige tutorer, tilpasse sig til individuelle læringsstile og levere tilpassede lektioner, der holder eleverne engageret. På arbejdspladsen kan humanoid robotter overtage farlige eller repetitive opgaver, og lade mennesker fokusere på kreative og strategiske arbejdsopgaver.

Forkerte mål og uventede konsekvenser

En af de mest citerede risici i forbindelse med forkert tilpasset AI er paperclip-maximerings tankeeksperimentet. Forestil dig en AGI designet med det tilsyneladende harmløse mål om at producere så mange paperclips som muligt. Hvis dette mål forfølges med tilstrækkelig intelligens og autonomi, kan AGI gå til ekstreme foranstaltninger, såsom at omdanne alle tilgængelige ressourcer (herunder dem, der er afgørende for menneskers overlevelse) til paperclips for at opnå sit mål. Selv om dette eksempel er hypotetisk, illustrerer det farerne ved ensidig optimering i kraftfulde AI-systemer, hvor snævert definerede mål kan føre til uventede og potentielt katastrofale konsekvenser.

Et eksempel på denne type ensidig optimering med negative konsekvenser er, at nogle af de mest kraftfulde AI-systemer i verden optimerer udelukkende for engagementstid, og dermed kompromitterer med fakta og sandhed. AI kan holde os underholdt i længere tid ved at bevidst forstærke rækkevidden af konspirationsteorier og propaganda.

Konklusion