AI och förtroendets bana

Tidigt förra året, när vårt team gjorde förutsägelser om vad som skulle komma, var den allmänna uppfattningen att omslagen skulle tas av artificiell intelligens (AI). Vi skulle äntligen se vad den kunde göra, och hoppas få klarhet på dess påverkan på affärer och samhälle och hur man skulle fortsätta. Det var inte en ny förutsägelse, men dess kärna var korrekt, även om vi fortfarande brottas med konsekvenserna av AI och hur (eller om) den ska kontrolleras på något sätt.

Vi skulle få se Apple, Microsoft och Google bygga in AI i enheter och bringa dess kraft till en bredare och större publik. Sedan igen, en chatbot i ett AI-drivet sökverktyg hotade användare och hävdade att den spionerade på anställda, medan en annan föreslog att använda Elmer’s lim i hemmagjord pizza för att hålla osten från att glida av. Ändå ökade AI-företagsanvändningsexempel dramatiskt och så gjorde marknaden. Enligt data från Crunchbase, gick nästan en tredjedel av all global riskkapitalfinansiering förra året till företag inom AI-relaterade områden ensamma.

Men även om OpenAI levererade verkligen remarkabel förbättrad resonemang, uppmanade den kända AI-forskaren Yoshua Bengio till antagande av säkerhetsåtgärder för “frontier-modeller” med potential att orsaka katastrofalt skada. Och även om tekniken skulle ta hem två Nobelpris för tillämpningar inom vetenskap, uttryckte en av mottagarna oro över att ha system “mer intelligenta än oss som till slut tar kontroll.”

I ett sådant snabbt föränderligt område, är det svårt för experter inom teknologi att hålla jämna steg, än mindre de i mainstream.

Och dessa AI-hickningar – och bekymmer över integritet och oreglerad användning – har bara ökat den allmänna misstänksamheten.

Bara lita på mig

Vi befinner oss mitt på en bana av förtroende, en som kräver ökad allmän acceptans av AI, samtidigt som man säkerställer att affärs- och teknologisamhällen agerar ansvarsfullt. Den första delen är där spelet spelas just nu, på företagsnivå, och får ånga med varje säker och sund distribution. Vi bygger på våra bevispunkter, som till slut kommer att leda till ökat allmänt förtroende. Den andra delen är dock mycket knepigare.

Vem definierar och säkerställer ansvarsfull användning av AI? Kan en bransch skapa riktlinjer när de är de som behöver regleras? Om teknologer har svårt att följa AI, kommer politiker att vara informerade, och hålla sina politiska agendor utanför diskussionen? Och när en AI-miljardär plötsligt vill prata om kontroll, hade de en uppenbarelse eller försöker de bara pumpa bromsarna för att komma ikapp?

“Bara lita på mig” kommer inte att fungera med AI, oavsett vem du är.

Lita men verifiera

Människor tittar på generativ AI som ChatGPT och undrar om det kommer att vara deras nästa Google? Jo, den toppresultatet i en Google-sökning skapas nu av dess AI-modell, Gemini. Problemet är att du inte kan lita på det för affärer i stor skala när en enkel fråga som “Är rått kött säkert att konsumera?” returnerar svaret “Ja, fryst.” Du måste inspektera data.

Banans av allmänt förtroende kommer att spegla vad den gjorde med konventionell sökning, vunnit över tid och med bevis på tillförlitlighet. Ironiskt nog, i vår strävan att förenkla och förbättra sökning, har vi tagit ett steg bakåt. Nu, efter att ha fått det AI-genererade svaret högst upp, måste du bläddra förbi en lång lista med sponsrade länkar, klicka på de fem nästa och fortfarande kvalificera informationen.

Det är mycket arbete när du letar efter ett snabbt svar – och du kan inte ha ett helt företag som gör samma sak. Men, berika den data du har grävt med tiotusentals av dina egna servicebiljetter och du bringar in verklig kunskap om din miljö. Algoritmiskt kan du sedan konfigurera hallucinationer ned, men det förblir en “lita men verifiera”-situation.

Håll politiken utanför

När det gäller att reglera AI, tycks vissa hävda att hästen redan har lämnat stallet och troligen inte kommer att fångas. Till exempel, finns det en brist på verkligt effektiva verktyg för att kontrollera om en student skrev en uppsats eller använde GenAI. Teknologin är bara för långt framme.

Att reglera detta skulle vara mycket komplext, och för att vara ärlig, skulle vi vara på tunn is. Vi vet att tech-företag är decennier före föreslagna yttre reglerare. Men vi är bra på att skapa en väg, inte på att hållas tillbaka. Ändå, till slut, kan det falla på innovatörer att försöka tillämpa styrning. Vem annars kunde göra det – ansvarsfullt?

Det finns många politiker som skulle älska att ge det ett försök. Risken, utöver en brist på förståelse, är att de har en personlig och politisk agenda att främja. Deras fokus skulle potentiellt vara mindre på att odla AI och mer på att göra vad som är i deras bästa politiska intresse. De kanske kan arbeta med offentliga farhågor, med en tung hand för att hämma dess framsteg.

CHIPS- och Science Act var ett bra exempel på sund statlig handling, som producerade en dramatisk 15-faldig ökning av byggnationen av tillverkningsanläggningar för datormaskiner och elektroniska enheter. Men detta var möjligt genom bipartisanship – en alltmer sällsynt företeelse i en tidigare era.

Är vi värda?

Det finns mycket pengar som flödar in i AI och under de närmaste två decennierna kommer mycket att göras av tech-företag. Hur mycket, hur snabbt och hur säkert återstår att se. På en given dag, kunde en deep fake cirkuleras, som visar någon i rampljuset som jonglerar med ägg från en utrotningshotad fågel. Allmänheten skulle reagera i fasa, och medan det kanske avslöjas att det är AI-genererat, kan ägget inte läggas tillbaka i skalet – skadan är redan gjord.

Vi behöver sådant som regleras av informerade teknologer. Vilken form det tar – en råd, standardkropp, internationell ram – återstår att se. Vad som är känt är att AI är på en bana av förtroende, och som en bransch, behöver vi bevisa att vi är värda det.