AI och tillitsbågen

I början av förra året, när vårt team gjorde förutsägelser om vad som skulle ligga framför, var det allmänna omdömet att omslagen skulle tas av artificiell intelligens (AI). Vi skulle äntligen se vad den kunde göra och hoppas få klarhet på dess påverkan på affärer och samhälle och hur man skulle gå vidare. Det var inte en ny förutsägelse, men dess kärna var korrekt, även om vi fortfarande brottas med konsekvenserna av AI och hur (eller om) den borde kontrolleras på något sätt.

Vi skulle se Apple, Microsoft och Google bygga in AI i enheter och ta dess kraft till en bredare och större publik. Sedan igen, en chatbot i ett AI-drivet sökverktyg hotade användare och hävdade att den spionerade på anställda, medan en annan föreslog att man skulle använda Elmer’s lim i hemmagjord pizza för att hålla osten från att glida av. Trots allt växte AI-företagsanvändningsfall dramatiskt och så gjorde marknaden. Enligt data från Crunchbase gick nästan en tredjedel av all global riskkapitalfinansiering förra året till företag inom AI-relaterade områden ensamma.

Men även om OpenAI levererade verkligen imponerande förbättrad resonemang, uppmanade den kända AI-forskaren Yoshua Bengio till antagande av säkerhetsåtgärder för ” gränsmodeller” med potential att orsaka katastrofala skador. Och även om tekniken skulle ta hem två Nobelpris för tillämpningar inom vetenskap, uttryckte en av mottagarna oro över att ha system “mer intelligenta än oss som till slut tar kontroll”.

I ett sådant snabbt föränderligt utrymme är det svårt för experter inom teknologi att hålla jämna steg, för att inte tala om dem i mainstream.

Och dessa AI-hicka – och bekymmer över sekretess och oreglerad användning – har bara ökat den allmänna misstänksamheten.

Bara lita på mig

Vi befinner oss mitt på en tillitsbåge, en som kräver ökad allmän acceptans av AI, samtidigt som vi säkerställer att affärs- och teknologisamhällen agerar ansvarsfullt. Den första delen är där spelet spelas just nu, på företagsnivå, och får fart med varje säker och sund distribution. Vi bygger på våra bevispunkter, som till slut kommer att leda till ökad allmän tillit. Den andra delen är dock mycket knepigare.

Vem definierar och tillämpar ett ansvarsfullt användande av AI? Kan en bransch skapa riktlinjer när de är de som behöver regleras? Om teknologer har svårt att följa AI, kommer politiker att vara informerade och hålla sina politiska agendor utanför diskussionen? Och när en AI-miljardär plötsligt vill prata om kontroll, hade de en uppenbarelse eller försöker de bara bromsa in för att hinna med?

“Bara lita på mig” kommer inte att fungera med AI, oavsett vem du är.

Lita men verifiera

Människor tittar på generativ AI som ChatGPT och undrar om det kommer att vara deras nästa Google? Jo, den översta resultatet av en Google-sökning skapas nu av dess AI-modell, Gemini. Problemet är att du inte kan lita på det för affärer i stor skala när en enkel fråga som “Är rått kött säkert att konsumera?” returnerar svaret “Ja, fryst”. Du behöver inspektera data.

Tillitsbågen för allmänheten kommer att spegla vad den gjorde med konventionell sökning, vunnit över tid och med bevis på tillförlitlighet. Ironiskt nog har vi i vår strävan att förenkla och förbättra sökningen tagit ett steg bakåt. Nu, efter att ha fått det AI-genererade svaret högst upp, måste du scrolla förbi en lång lista med sponsorlänkar, klicka på de fem nästa och fortfarande kvalificera informationen.

Det är mycket arbete när du letar efter ett snabbt svar – och du kan inte ha ett helt företag som gör samma sak. Men om du berikar de data du har samlat in med tiotusentals av dina egna servicebiljetter och tar in verklig kunskap om din miljö, kan du konfigurera hallucinationer nedåt, men det förblir en “lita men verifiera”-situation.

Håll politiken utanför

När det gäller att reglera AI, gör vissa anspråk på att hästen redan har lämnat stallet och troligen inte kommer att fångas. Till exempel finns det en brist på verkligt effektiva verktyg för att kontrollera om en student skrev en uppsats eller använde GenAI. Teknologin är helt enkelt för långt framme.

Att reglera detta skulle vara mycket komplext, och för att vara ärlig, vi skulle vara på tunn is. Vi vet att techföretag är decennier före föreslagna yttre reglerare. Men vi är bra på att skapa en väg, inte att hållas tillbaka. Ändå, till slut, kan det falla på innovatörer att försöka tillämpa styrning. Vem annars kunde göra det – ansvarsfullt?

Det finns många politiker som skulle älska att ge det ett försök. Risken, utöver brist på förståelse, är att de har en personlig och politisk agenda att främja. Deras fokus, potentiellt, skulle vara mindre på att odla AI och mer på att göra vad som ligger i deras bästa politiska intressen. De kanske kunde arbeta med offentliga farhågor, med en tung hand för att bromsa dess framsteg.

Lagen CHIPS och Science Act var ett bra exempel på sunda statliga åtgärder, som producerade en dramatisk 15-faldig ökning av byggnationen av tillverkningsanläggningar för datormaskiner och elektroniska enheter. Men detta var möjligt genom bipartisanship – en alltmer sällsynt företeelse i vår tid.

Är vi värda?

Det finns mycket pengar som flödar in i AI och under de närmaste två decennierna kommer mycket att göras av techföretag. Hur mycket, hur snabbt och hur säkert återstår att se. På vilken given dag kan en djupfalskhet cirkulera, som visar någon i rampljuset jonglerar ägg från en utrotningshotad fågel. Allmänheten skulle reagera i fasa, och även om det kan avslöjas att det är AI-genererat, kan det inte återgå till skalen – skadan är redan skedd.

Vi behöver sådana saker reglerade av informerade teknologer. Vilken form det tar – en råd, en standardiseringsorganisation, ett internationellt ramverk – återstår att se. Vad som är känt är att AI är på en tillitsbåge, och som en bransch behöver vi bevisa att vi är värda det.