AI og tillidsbuen

Tidligt sidste år, da vores team lavede forudsigelser om, hvad der ville ligge foran, var det enige, at omslagene var ved at blive taget af kunstig intelligens (AI). Vi ville endelig se, hvad det kunne gøre, og håbe at få klarhed over dets indvirkning på forretning og samfund og hvordan man skulle fortsætte. Det var ikke en ny forudsigelse, men dens kerne var korrekt, selvom vi stadig kæmper med implikationerne af AI og hvordan (eller om) det skal kontrolleres på en eller anden måde.

Vi ville ende med at se Apple, Microsoft og Google bygge AI ind i enheder og bringe dets kraft til en bredere og større publikum. Så igen, en chatbot i en AI-drevet søgetjeneste truede brugere og påstod, at den spionerede på medarbejdere, mens en anden foreslog at bruge Elmer’s lim i hjemmelavet pizza for at holde osten fast. Alligevel voksede AI-forretningsadoptionssager dramatisk, og markedet voksede også. Ifølge data fra Crunchbase gik næsten en tredjedel af alle globale ventureinvesteringer sidste år til selskaber i AI-relaterede felter alene.

Men selv om OpenAI leverede virkelig bemærkelsesværdige forbedrede resonneringsfærdigheder, opfordrede den anerkendte AI-forsker, Yoshua Bengio, til at indføre sikkerhedsforanstaltninger for “frontier-modeller” med potentialet til at forårsage katastrofale skader. Og selv om teknologien ville tage hjem to Nobelpriser for anvendelser i videnskab, udtrykte en af modtagerne bekymring over at have systemer “mere intelligente end os, der til sidst tager kontrol”.

I sådan en hurtigt udviklende branche er det svært for eksperter og teknologer at følge med, endsige for dem i hovedstrømmen.

Og disse AI-fejl – og bekymringer over privatliv og ukontrolleret brug – har kun øget offentlighedens forsigtighed.

Stol bare på mig

Vi befinder os midt på en tillidsbue, som kræver, at vi fremmer offentlighedens accept af AI, samtidig med at vi sikrer, at forretnings- og teknologisamfundene handler ansvarligt. Den første del er, hvor spillet bliver spillet lige nu, på det corporate niveau, og får fart med hver sikker og lydig implementering. Vi bygger på vores beviser, som til sidst vil føre til øget offentlig tillid. Den anden del er dog langt mere kompliceret.

Hvem definerer og gennemtvinger en ansvarlig brug af AI? Kan en branche skabe retningslinjer, når de selv er dem, der har brug for regulering? Hvis teknologer har svært ved at følge med AI, vil politikere så være informerede og holde deres politiske dagsordener ude af diskussionen? Og hvis en AI-milliardær pludselig vil tale om kontrol, havde de så en åbenbaring eller forsøger de bare at bremse for at komme i gang?

“Stol bare på mig” er ikke nok med AI, uanset hvem du er.

Tillid, men verificér

Mennesker ser på generativ AI som ChatGPT og undrer sig over, om det vil være deres næste Google? Nu er det øverste resultat af en Google-søgning skabt af dets AI-model, Gemini. Problemet er, at du ikke kan stole på det til forretningsformål i stor skala, når et simpelt spørgsmål som “Er råt kød sikkert at spise?” returnerer svaret “Ja, frosset”. Du skal inspicere dataene.

Tillidsbuen for offentligheden vil spejle, hvad den gjorde med konventionel søgning, opnået over tid og med beviser på pålidelighed. Ironisk nok har vi i vores forsøg på at forenkle og forbedre søgningen taget et skridt tilbage. Nu, efter at have fået det AI-genererede svar øverst, skal du rulle forbi en lang liste af sponsorlinks, klikke på de næste fem og stadig kvalificere informationen.

Det er meget arbejde, når du søger efter et hurtigt svar – og du kan ikke have hele en virksomhed, der gør det samme. Men hvis du beriger de data, du har udvundet med titusinder af dine egne servicetickets, og så bringer du virkelig viden om din omgang ind. Algoritmerne kan derefter konfigurere hallucinationer ned, men det er stadig en “tillid, men verificér”-situation.

Hold politikken ude af det

Når det kommer til at regulere AI, stiller nogen sig selv spørgsmålet, om hesten allerede er ude af stalden og sandsynligvis ikke vil blive fanget. For eksempel er der mangel på virkelig effektive værktøjer til at tjekke, om en studerende har skrevet en opgave eller brugt GenAI. Teknologien er bare for langt foran.

At regulere dette ville være meget komplekst, og for at være ærlig, ville vi glide ud på tynd is. Vi ved, at teknologiselskaber er årtier foran foreslåede eksterne reguleringer. Men vi er gode til at banke en vej, ikke til at blive holdt tilbage. Alligevel, til sidst, kan det falde til innovatorerne at prøve at anvende styring. Hvem andre kunne gøre det – ansvarligt?

Der er mange politikere, der elsker at give det en chance. Risikoen, ud over mangel på forståelse, er, hvis de har en personlig og politisk dagsorden at fremme. Deres fokus ville potentielt være mindre på at dyrke AI og mere på at gøre, hvad der er i deres bedste politiske interesser. De kunne arbejde ud fra offentlighedens frygt, ved at bruge en tung hånd til at bremse dens fremgang.

Lovgivningen om CHIPS og videnskab var et godt eksempel på sund regeringshandling, som producerede en dramatisk 15-dobbelt øgning i opførelsen af produktionsfaciliteter for computere og elektroniske enheder. Men dette blev muligt gennem bipartisanship – en stadig mere sjælden sag i en tidligere æra.

Er vi værdige?

Der er meget penge, der flyder ind i AI, og over de næste to årtier vil meget blive gjort af teknologiselskaber. Hvad, hvor hurtigt og hvor sikkert bliver set. På en given dag kan en dyb fake blive cirkuleret, der viser en person i rampelyset, der jonglerer med æggene fra en truet fugl. Offentligheden vil reagere med rædsel, og selv om det kan blive afsløret som AI-genereret, kan ægget ikke gå tilbage i skallen – skaden er sket.

Vi har brug for, at sådanne ting bliver reguleret af informerede teknologer. Hvad form det tager – en råd, standardiseringsorgan, international ramme – bliver set. Hvad der er kendt, er, at AI er på en tillidsbue, og som en branche har vi brug for at bevise, at vi er værdige til det.