Hoe mensen de AI-wapenwedloop kunnen navigeren

AI-hulpmiddelen worden door velen gezien als een zegen voor onderzoek, van werkprojecten tot schoolwerk tot wetenschap. Bijvoorbeeld, in plaats van uren te besteden aan het zorgvuldig onderzoeken van websites, kunt u ChatGPT een vraag stellen en het zal een ogenschijnlijk samenhangend antwoord teruggeven. De vraag is echter – kunt u die resultaten vertrouwen? Ervaring leert dat het antwoord vaak “nee” is. AI werkt alleen goed wanneer mensen meer betrokken zijn, het richting geven en toezicht houden, en vervolgens de resultaten die het produceert, verifiëren tegen de echte wereld. Maar met de snelle groei van de generatieve AI-sector en de constante release van nieuwe hulpmiddelen, kan het voor consumenten moeilijk zijn om de rol te begrijpen die ze moeten spelen bij het werken met AI-hulpmiddelen.

De AI-sector is enorm en wordt alleen maar groter, met experts die stellen dat het tegen 2030 een waarde van meer dan een triljoen dollar zal hebben. Het is dan ook geen verrassing dat bijna elk groot technologiebedrijf – van Apple (AAPL ) tot Amazon (AMZN ) tot IBM tot Microsoft, en vele anderen – zijn eigen versie van AI-technologie uitbrengt, en vooral geavanceerde generatieve AI-producten.

Gezien de inzet, is het ook geen verrassing dat bedrijven zo snel mogelijk werken om nieuwe functies uit te brengen die hen een voorsprong geven op de concurrentie. Het is inderdaad een wapenwedloop, waarbij bedrijven proberen om zo veel mogelijk gebruikers in hun ecosysteem te binden. Bedrijven hopen dat functies die gebruikers in staat stellen om AI-systemen op de eenvoudigste manier mogelijk te gebruiken – zoals het krijgen van alle informatie die nodig is voor een onderzoeksproject door alleen maar een generatieve AI-chatbot een vraag te stellen – hen meer klanten zullen opleveren, die bij het product of de merknaam zullen blijven als nieuwe functies regelmatig worden toegevoegd.

Maar soms, in hun race om als eerste te zijn, brengen bedrijven functies uit die mogelijk niet goed zijn getest, of waarvan de beperkingen niet goed worden begrepen of gedefinieerd. Terwijl bedrijven in het verleden hebben gestreden om marktaandeel op veel technologieën en toepassingen, lijkt het dat de huidige wapenwedloop meer bedrijven ertoe aanzet om meer “half-bakken” producten uit te brengen – met de resulterende half-bakken resultaten. Als men voor onderzoeksdoeleinden afhankelijk is van dergelijke resultaten – of het nu gaat om zakelijke, persoonlijke, medische, academische of andere doeleinden – kan dit leiden tot ongewenste resultaten, waaronder reputatieschade, zakelijke verliezen of zelfs levensgevaar.

AI-mislukkingen hebben aanzienlijke verliezen veroorzaakt voor verschillende bedrijven. Een bedrijf genaamd iTutor werd in 2023 met $365.000 beboet, nadat hun AI-algoritme tientallen sollicitanten had afgewezen vanwege hun leeftijd. Zillow, een vastgoedmarkt, verloor in 2021 honderden miljoenen dollars vanwege onjuiste prijspredicties door hun AI-systeem. Gebruikers die afhankelijk waren van AI voor medisch advies liepen ook risico. Chat GPT bijvoorbeeld, verschafte onjuiste informatie aan gebruikers over de interactie tussen bloeddruklowering medicatie verapamil en Paxlovid, Pfizers antivirale pil voor Covid-19 – en of een patiënt deze medicijnen tegelijk kon innemen. Als men afhankelijk is van het onjuiste advies van het systeem dat er geen interactie is tussen de twee, kan men zich in gevaar brengen. (PFE )

Terwijl deze incidenten de kranten haalden, zijn er veel andere AI-fouten die dat niet doen – maar die even dodelijk kunnen zijn voor carrières en reputaties. Bijvoorbeeld, een gehaaste marketingmanager die op zoek is naar een shortcut om rapporten te maken, kan verleid worden om een AI-hulpmiddel te gebruiken om het te genereren – en als dat hulpmiddel onjuiste informatie presenteert, kan men op zoek zijn naar een andere baan. Een student die ChatGPT gebruikt om een rapport te schrijven – en wiens professor slim genoeg is om de bron van dat rapport te herkennen – kan te maken krijgen met een F, mogelijk voor het semester. En een advocaat wiens assistent AI-hulpmiddelen gebruikt voor juridisch werk, kan beboet worden of zelfs geschorst worden als het geval dat men presenteert, vertekend is vanwege slechte gegevens.

Bijna alle deze situaties kunnen worden voorkomen – als mensen de AI aansturen en meer inzicht hebben in de onderzoeksloop. AI moet worden gezien als een partnerschap tussen mens en machine. Het is een echte samenwerking – en dat is de uitstekende waarde ervan.

Terwijl meer krachtige zoek-, opmaak- en analysefuncties welkom zijn, moeten de makers van AI-producten ook mechanismen opnemen die samenwerking mogelijk maken. Systemen moeten feitcontrolehulpmiddelen bevatten die gebruikers in staat stellen om de resultaten van rapporten van hulpmiddelen zoals ChatGPT te verifiëren, en gebruikers de oorspronkelijke bronnen van specifieke gegevenspunten of stukken informatie laten zien. Dit zal niet alleen superieure onderzoeksresultaten opleveren, maar ook het vertrouwen in onszelf herstellen; we kunnen een rapport indienen of een beleid aanbevelen met vertrouwen op basis van feiten die we vertrouwen en begrijpen.

Gebruikers moeten ook erkennen en afwegen wat op het spel staat als men afhankelijk is van AI om onderzoek te produceren. Ze moeten de mate van saaiheid afwegen tegen de belangrijkheid van het resultaat. Bijvoorbeeld, mensen kunnen zich waarschijnlijk minder betrokken voelen bij het gebruik van AI voor een vergelijking van lokale restaurants. Maar als men onderzoek doet dat zal informeren over belangrijke zakelijke beslissingen of het ontwerp van vliegtuigen of medische apparatuur, moeten gebruikers meer betrokken zijn bij elk stadium van het AI-gedreven onderzoeksproces. Hoe belangrijker de beslissing, hoe belangrijker het is dat mensen er deel van uitmaken. Onderzoek voor relatief kleine beslissingen kan waarschijnlijk volledig worden toevertrouwd aan AI.

AI wordt steeds beter – zelfs zonder menselijke hulp. Het is mogelijk, zo niet waarschijnlijk, dat AI-hulpmiddelen die in staat zijn om zichzelf te verifiëren, zullen verschijnen, die hun resultaten controleren tegen de echte wereld op dezelfde manier als een mens zou doen – of de wereld een veel betere plek maken, of het vernietigen. Maar AI-hulpmiddelen zullen mogelijk niet zo snel dat niveau bereiken als veel mensen denken, als het al ooit gebeurt. Dit betekent dat de menselijke factor nog steeds essentieel zal zijn in elk onderzoeksproject. Zo goed als AI-hulpmiddelen zijn in het ontdekken van gegevens en het organiseren van informatie, kunnen ze niet worden vertrouwd om context te evalueren en die informatie te gebruiken op de manier waarop wij, als mensen, nodig hebben. Voor de voorzienbare toekomst is het belangrijk dat onderzoekers AI-hulpmiddelen zien voor wat ze zijn; hulpmiddelen om de klus te klaren, in plaats van iets dat mensen en menselijke hersenen op de job vervangt. AI-hulpmiddelen kunnen niet worden vertrouwd om context te evalueren en die informatie te gebruiken op de manier waarop wij, als mensen, nodig hebben. Voor de voorzienbare toekomst is het belangrijk dat onderzoekers AI-hulpmiddelen zien voor wat ze zijn; hulpmiddelen om de klus te klaren, in plaats van iets dat mensen en menselijke hersenen op de job vervangt.