Hur människor kan navigera i AI-vapenracen

AI-verktyg ses av många som en välsignelse för forskning, från arbetsprojekt till skolarbete till vetenskap. Till exempel, istället för att spendera timmar på att noggrant undersöka webbplatser, kan du bara ställa en fråga till ChatGPT, och det kommer att returnera ett till synes klokt svar. Frågan är dock – kan du lita på resultaten? Erfarenheten visar att svaret ofta är “nej”. AI fungerar bara bra när människor är mer involverade, dirigerar och övervakar det, och sedan granskar resultaten det producerar mot den verkliga världen. Men med den snabba tillväxten av den generativa AI-sektorn och nya verktyg som konstant släpps, kan det vara utmanande för konsumenter att förstå och acceptera den roll de måste spela när de arbetar med AI-verktyg.

AI-sektorn är enorm och blir bara större, med experter som hävdar att den kommer att vara värd över en biljon dollar innan 2030. Det borde inte komma som en överraskning att nästan varje stor tech-företag – från Apple (AAPL ) till Amazon (AMZN ) till IBM till Microsoft, och många fler – släpper sin egen version av AI-teknologi, och särskilt avancerade generativa AI-produkter.

Givet sådana insatser, borde det inte heller komma som en överraskning att företag arbetar så snabbt som möjligt för att släppa nya funktioner som kommer att ge dem en fördel gentemot konkurrensen. Det är, i själva verket, en vapenracen, där företag försöker låsa in så många användare i sin ekosystem som möjligt. Företag hoppas att funktioner som tillåter användare att utnyttja AI-system på det enklaste sättet – till exempel att kunna få all information som behövs för ett forskningsprojekt genom att bara ställa en generativ AI-chattbot en fråga – kommer att vinna dem fler kunder, som kommer att stanna med produkten eller varumärket när nya funktioner läggs till regelbundet.

Men ibland, i sin jakt på att vara först, släpper företag funktioner som kanske inte har granskats ordentligt, eller vars begränsningar inte är väl förstådda eller definierade. Medan företag tidigare har konkurrerat om marknadsandelar för många teknologier och applikationer, verkar den nuvarande vapenracen leda till att fler företag släpper fler “halvfärdiga” produkter än någonsin – med de resulterande halvfärdiga resultaten. Att förlita sig på sådana resultat för forskningsändamål – oavsett om det är affärs-, personliga, medicinska, akademiska eller andra ändamål – kan leda till oönskade resultat, inklusive skador på anseende, affärsförluster eller till och med risk för liv.

AI-misslyckanden har orsakat betydande förluster för flera företag. Ett företag som heter iTutor fick böta 365 000 dollar i 2023, efter att dess AI-algoritm hade avvisat dussintals jobbsökande på grund av deras ålder. Fastighetsmarknaden Zillow förlorade hundratals miljoner dollar i 2021 på grund av felaktiga prisförutsägelser från dess AI-system. Användare som förlitade sig på AI för medicinska råd har också varit i fara. Chat GPT, till exempel, tillhandahöll felaktig information till användare om interaktionen mellan blodtryckssänkande medicin verapamil och Paxlovid, Pfizers antivirala piller för Covid-19 – och om en patient kunde ta dessa läkemedel samtidigt. De som förlitade sig på systemets felaktiga råd att det inte fanns någon interaktion mellan de två kunde finna sig i fara. (PFE )

Medan dessa incidenter gjorde rubriker, finns det många andra AI-misslyckanden som inte gör det – men de kan vara lika dödliga för karriärer och anseende. Till exempel, en stressad marknadschef som letar efter en genväg för att förbereda rapporter kan vara frestad att använda ett AI-verktyg för att generera den – och om det verktyget presenterar information som inte är korrekt, kan de finna sig själva letande efter ett nytt jobb. En student som använder ChatGPT för att skriva en rapport – och vars professor är tillräckligt klok för att inse källan till den rapporten – kan stå inför ett F, möjligen för terminen. Och en advokat vars assistent använder AI-verktyg för juridiskt arbete kan finna sig själv bötfälld eller till och med avskedad om fallet de presenterar är snett på grund av dåliga data.

Nästan alla dessa situationer kan förhindras – om människor dirigerar AI och har mer insyn i forskningsloopen. AI måste ses som ett partnerskap mellan människa och maskin. Det är ett sant samarbete – och det är dess utmärkta värde.

Medan mer kraftfull sökning, formatering och analysfunktioner är välkomna, behöver tillverkare av AI-produkter också inkludera mekanismer som tillåter samarbete. System behöver inkludera faktakontrollverktyg som kommer att möjliggöra för användare att granska resultaten från verktyg som ChatGPT, och låta användare se de ursprungliga källorna till specifika data eller informationsbitar. Detta kommer att producera överlägsen forskning, och återställa förtroendet för oss själva; vi kan lämna in en rapport, eller rekommendera en policy med tillförsikt baserat på fakta som vi litar på och förstår.

Användare behöver också erkänna och väga vad som står på spel när de förlitar sig på AI för att producera forskning. De bör väga tråkighetsnivån med resultatets betydelse. Till exempel kan människor förmodligen vara mindre involverade när de använder AI för att jämföra lokala restauranger. Men när de gör forskning som kommer att informera viktiga affärsbeslut eller designen av flygplan eller medicinsk utrustning, till exempel, behöver användare vara mer involverade i varje skede av AI-drivet forskningsprocess. Ju viktigare beslutet är, desto viktigare är det att människor är en del av det. Forskning för relativt små beslut kan förmodligen helt anförtros åt AI.

AI blir bättre hela tiden – även utan mänsklig hjälp. Det är möjligt, om inte troligt, att AI-verktyg som kan granska sig själva uppkommer, som kontrollerar sina resultat mot den verkliga världen på samma sätt som en människa – antingen gör världen till en mycket bättre plats, eller förstör den. Men AI-verktyg kan inte nå den nivån så snabbt som många tror, om någonsin. Detta betyder att den mänskliga faktorn fortfarande kommer att vara avgörande i alla forskningsprojekt. Så bra som AI-verktyg är på att upptäcka data och organisera information, kan de inte lita på att utvärdera sammanhang och använda den informationen på det sätt som vi, som människor, behöver den. För den förutsägbara framtiden är det viktigt att forskare ser AI-verktyg för vad de är; verktyg för att hjälpa till att få jobbet gjort, snarare än något som ersätter människor och mänskliga hjärnor på jobbet. AI kan inte lita på att utvärdera sammanhang och använda informationen på det sätt som vi, som människor, behöver den. För den förutsägbara framtiden är det viktigt att forskare ser AI-verktyg för vad de är; verktyg för att hjälpa till att få jobbet gjort, snarare än något som ersätter människor och mänskliga hjärnor på jobbet.