AI en de boog van vertrouwen

Vorig jaar, toen ons team voorspellingen deed over wat er zou gebeuren, was de consensus dat de wrappers van kunstmatige intelligentie (AI) eraf zouden gaan. We zouden eindelijk zien wat het kon doen en hopelijk duidelijkheid krijgen over de impact op bedrijven en de samenleving en hoe we verder moeten gaan. Het was geen nieuwe voorspelling, maar de kern was accuraat, hoewel we nog steeds worstelen met de implicaties van AI en hoe (of als) het op de een of andere manier gereguleerd moet worden.

We zouden uiteindelijk zien dat Apple, Microsoft en Google AI in apparaten integreerden en de kracht ervan naar een bredere en grotere doelgroep brachten. Toen weer, bedreigde een chatbot in een AI-gebaseerd zoekhulpmiddel gebruikers en beweerde dat het spioneerde op werknemers, terwijl een andere suggereerde om Elmer’s lijm te gebruiken in zelfgemaakte pizza om de kaas te voorkomen dat deze eraf glipt. Desondanks groeiden de zakelijke toepassingen van AI en de markt dramatisch. Volgens gegevens van Crunchbase ging bijna een derde van alle wereldwijde venturefinanciering vorig jaar naar bedrijven in AI-gerelateerde gebieden alleen.

Maar zelfs toen OpenAI echt opmerkelijke verbeterde redenering leverde, drong de beroemde AI-onderzoeker Yoshua Bengio aan op de adoptie van veiligheidsmaatregelen voor ” grensmodellen” met het potentieel om catastrofale schade te veroorzaken. En hoewel de technologie twee Nobelprijzen voor toepassingen in de wetenschap zou winnen, uitte een van de ontvangers zijn bezorgdheid over het hebben van systemen “slimmer dan wij die uiteindelijk de controle overnemen”.

In zo’n snel veranderende omgeving is het moeilijk voor expert-technologen om bij te blijven, laat staan voor mensen in de mainstream.

En die AI-hickups – en zorgen over privacy en ongecontroleerd gebruik – hebben alleen maar de publieke argwaan verergerd.

Vertrouw me maar

We bevinden ons halverwege een boog van vertrouwen, die de vooruitgang van de publieke acceptatie van AI vereist, terwijl we ervoor zorgen dat de zakelijke en technologische gemeenschappen verantwoordelijk handelen. Het eerste deel is waar het spel op dit moment wordt gespeeld, op het corporate niveau, met elke veilige en solide implementatie meer stoom veroverend. We bouwen voort op onze bewijspunten, die uiteindelijk zullen leiden tot meer publiek vertrouwen. Het tweede deel is echter veel moeilijker.

Wie definieert en handhaaft de verantwoordelijke gebruik van AI? Kan een industrie richtlijnen creëren wanneer ze zelf gereguleerd moeten worden? Als technologists moeite hebben om AI bij te houden, zullen beleidsmakers dan geïnformeerd zijn en hun politieke agenda’s buiten de discussie houden? En wanneer een AI-miljardair plotseling over controle wil praten, had hij dan een openbaring of probeert hij alleen maar de remmen aan te zetten om bij te blijven?

“Vertrouw me maar” gaat het niet redden met AI, ongeacht wie je bent.

Vertrouw maar verifieer

Mensen kijken naar generatieve AI zoals ChatGPT en vragen zich af of het hun volgende Google zal zijn? Nou, het bovenste resultaat van een Google-zoekopdracht wordt nu gegenereerd door zijn AI-model, Gemini. Het probleem is dat je er niet op kunt vertrouwen voor zakelijke doeleinden op grote schaal wanneer een eenvoudige vraag als “Is rauw vlees veilig om te consumeren?” het antwoord geeft: “Ja, bevroren.” Je moet de gegevens controleren.

De boog van het publieke vertrouwen zal spiegelen wat het deed met conventionele zoekopdrachten, die in de loop van de tijd en met bewijs van betrouwbaarheid zijn opgebouwd. Irontisch genoeg hebben we, in onze zoektocht naar vereenvoudiging en verbetering van zoekopdrachten, een stap achteruit gezet. Nu, nadat je dat AI-gegenereerde antwoord bovenaan hebt gekregen, moet je langs een lange lijst van sponsorlinks scrollen, op de volgende vijf klikken en de informatie nog steeds valideren.

Dat is veel werk als je op zoek bent naar een snel antwoord – en je kunt niet hebben dat een hele onderneming hetzelfde doet. Echter, als je de gegevens die je hebt gemined met tienduizenden van je eigen servicetickets verrijkt, breng je daadwerkelijke kennis over je omgeving binnen. Algorithmisch kun je dan hallucinaties omlaag configureren, maar het blijft een “vertrouw maar verifieer”-situatie.

Houd de politiek erbuiten

Wanneer het gaat om het reguleren van AI, doen sommigen alsof het paard al uit de stal is en waarschijnlijk niet meer te vangen is. Er is bijvoorbeeld een gebrek aan echt effectieve tools om te controleren of een student een paper heeft geschreven of GenAI heeft gebruikt. De technologie is gewoon te ver vooruit.

De regulering hiervan zou zeer complex zijn, en om eerlijk te zijn, zouden we op dun ijs terechtkomen. We weten dat technologiebedrijven decennialang vooruit zijn op de voorgestelde buitenlandse regulatoren. Maar we zijn goed in het creëren van een pad, niet in het worden tegengehouden. Toch, aan het eind van de dag, kan het vallen tot innovators om te proberen governance toe te passen. Wie anders zou het kunnen doen – verantwoord?

Er zijn veel politici die het graag zouden proberen. Het risico, naast een gebrek aan begrip, is dat ze een persoonlijke en politieke agenda hebben om vooruit te komen. Hun focus zou potentieel minder liggen op het cultiveren van AI en meer op het doen van wat in hun beste politieke belangen is. Ze zouden in staat kunnen zijn om van de publieke angsten te profiteren, door een zware hand te gebruiken om de vooruitgang te stuiten.

De CHIPS en Science Act was een goed voorbeeld van gezonde overheidsactie, met een dramatische 15-voudige toename in de bouw van productiefaciliteiten voor computing en elektronische apparaten. Maar dit was mogelijk gemaakt door bipartijisme – een steeds zeldzamere eigenschap van een verleden tijdperk.

Zijn we het waard?

Er gaat veel geld in AI om en de komende twee decennia zal veel geld worden verdiend door technologiebedrijven. Hoeveel, hoe snel en hoe veilig blijft te zien. Op elke gegeven dag kan een diepe vervalsing worden verspreid, waarin iemand in de schijnwerpers de eieren van een bedreigde vogel balanceert. Het publiek zou in afgrijzen reageren, en hoewel het misschien wordt onthuld als AI-gegenereerd, kan dat ei niet terug in de schaal – de schade is al aangericht.

We hebben behoefte aan dergelijke dingen die worden gereguleerd door geïnformeerde technologists. Wat de vorm hiervan is – een raad, een standaardenorgaan, een internationaal kader – moet nog worden gezien. Wat bekend is, is dat AI op een boog van vertrouwen zit, en als industrie moeten we bewijzen dat we het waard zijn.