AI og tillitsbuen

Tidlig i fjor, da vårt team gjorde prediksjoner om hva som ville ligge foran, var det enighet om at pakningen rundt kunstig intelligens (AI) skulle fjernes. Vi skulle endelig se hva det kunne gjøre, og håpet å få klarhet på dess innvirkning på bedrift og samfunn og hvordan vi skulle gå videre. Det var ikke en ny prediksjon, men dens kjerne var riktig, selv om vi fortsatt sliter med implikasjonene av AI og hvordan (eller om) det skal kontrolleres på noen måte.

Vi ville ende opp med å se Apple, Microsoft og Google bygge AI inn i enheter og bringe dens kraft til et bredere og større publikum. Deretter, en chatbot i et AI-drevet søkeverktøy truet brukere og hevdet at det spionerte på ansatte, mens en annen foreslo å bruke Elmer’s lim i hjemmelaget pizza for å holde ost fra å gli av. Likevel, voks AI-tilpasning i bedriftsbruk tilfeller dramatisk og markedet også. Ifølge data fra Crunchbase, gikk nesten en tredjedel av all global venturefinansiering i fjor til selskaper i AI-relaterte felt alene.

Men selv om OpenAI leverte virkelig bemerkelsesverdig forbedret resonnering, oppfordret den kjente AI-forskeren, Yoshua Bengio, til å adoptere sikkerhetstiltak for “grensemodeller” med potensialet til å forårsake katastrofale skader. Og selv om teknologien ville ta hjem to Nobelpriser for anvendelser i vitenskap, uttrykte en av mottakerne bekymring over å ha systemer “mer intelligente enn oss som til slutt tar kontroll.”

I et så raskt utviklende område, er det vanskelig for ekspertteknologer å holde pace, ikke å nevne de i hovedstrømmen.

Og disse AI-hikker – og bekymringer over personvern og ukontrollert bruk – har bare økt offentlig skepsis.

Bare tro meg

Vi finner oss midt på en tillitsbue, en som krever fremgang i offentlig aksept av AI, samtidig som bedrifts- og teknologisamfunnet handler ansvarlig. Den første delen er der spillene spilles nå, på bedriftsnivå, og får fremdrift med hver trygg og lydig utrulling. Vi bygger på våre bevispunkter, som til slutt vil føre til økt offentlig tillit. Den andre delen er imidlertid mye mer komplisert.

Hvem definerer og håndhever ansvarlig bruk av AI? Kan en bransje lage retningslinjer når de selv trenger å bli regulert? Hvis teknologer har problemer med å følge AI, vil politikere være informerte, og holde sine politiske agendauer utenfor diskusjonen? Og når en AI-milliardær plutselig ønsker å snakke om kontroll, hadde de en åpenbaring eller prøver de bare å bremse for å holde pace?

“Bare tro meg” er ikke nok med AI, uansett hvem du er.

Tillit, men verifiser

Folk ser på generativ AI som ChatGPT og undrer seg på om det vil bli deres neste Google? Vel, det øverste resultatet av en Google-søk er nå skapt av dens AI-modell, Gemini. Problemet er at du ikke kan stole på det for bedrift i stor skala når et enkelt spørsmål som “Er rått kjøtt trygt å konsumere?” returnerer svaret “Ja, frosset.” Du må inspisere dataene.

Tillitsbuen hos offentligheten vil speile hva den gjorde med konvensjonell søk, tilegnet over tid og med bevis på pålitelighet. Ironisk nok, i vår forsøk på å forenkle og forbedre søk, har vi tatt et skritt tilbake. Nå, etter å ha fått det AI-genererte svaret øverst, må du blåse forbi en lang liste med sponsorlenker, klikke på de neste fem og fortsatt kvalifisere informasjonen.

Dette er mye arbeid når du søker etter et raskt svar – og du kan ikke ha en hel bedrift som gjør det samme. Likevel, berik dataene du har gravd ut med titusener av dine egne servicetickets og du bringer inn faktisk kunnskap om din omgang. Algoritmisk kan du da konfigurere hallusinasjoner ned, men likevel forblir det en “tillit, men verifiser”-situasjon.

<strong Hold politikken utenfor det

Når det gjelder å regulere AI, poserer noen at hesten allerede har forlatt laden og sannsynligvis ikke vil bli fanget. For eksempel, er det mangel på virkelig effektive verktøy for å sjekke om en student har skrevet en oppgave eller brukt GenAI. Teknologien er bare for langt fremme.

Å regulere dette ville være svært komplisert, og å være ærlig, ville vi glide ut på tynn is. Vi vet at teknologiselskaper er tiår foran foreslåtte eksterne regulatorene. Likevel er vi gode til å grave en vei, ikke å bli holdt tilbake. Likevel, til slutt, kan det falle til innovatørene å prøve å anvende styring. Hvem ellers kunne gjøre det – ansvarlig?

Det er mange politikere som ville elske å gi det en prøve. Risikoen, i tillegg til mangel på forståelse, er at de har en personlig og politisk agenda å fremme. Deres fokus ville potensielt være mindre på å dyrke AI og mer på å gjøre hva som er i deres beste politiske interesser. De kunne arbeide av offentlige frykter, ved å bruke en tung hånd til å hemme dens fremgang.

LOCHIPS- og vitenskapsloven var et godt eksempel på sunn regjeringshandling, som produserte en dramatisk 15-folds økning i byggingen av fabrikker for datamaskiner og elektroniske enheter. Men dette var mulig gjennom bipartiskhet – en stadig mer sjelden fenomen i en tidligere æra.

Er vi verdige?

Det er mye penger som flyter inn i AI, og over de neste to tiårene vil mye bli gjort av teknologiselskaper. Hvordan mye, hvor raskt og hvor trygt blir det, er å se. På en given dag, kan en dyp feil bli sirkulert, som viser noen i rampelyset som jonglerer eggene til en truet fugl. Offentligheten ville reagere i sjokk, og selv om det kan avsløres å være AI-generert, kommer egget ikke tilbake i skallet – skaden er allerede gjort.

Vi trenger slike ting å bli regulert av informerte teknologer. Hva form det tar – en råd, standardkropp, internasjonal ramme – er å se. Hva som er kjent, er at AI er på en tillitsbue, og som en bransje, må vi bevise at vi er verdige av det.