Hvordan mennesker kan navigere i AI-våpenkappløpet

AI-verktøy sees av mange som en velsignelse for forskning, fra arbeidsprosjekter til skolearbeid til vitenskap. For eksempel, i stedet for å bruke timer på å nøye undersøke nettsteder, kan du bare spørre ChatGPT en spørsmål, og det vil returnere et tilsynelatende sammenhengende svar. Spørsmålet er imidlertid – kan du stole på disse resultater? Erfaring viser at svaret ofte er “nei”. AI fungerer bare godt når mennesker er mer involvert, dirigerer og overvåker det, og deretter vurderer resultater det produserer mot den virkelige verden. Men med den raske veksten i generativ AI-sektoren og nye verktøy som konstant utgis, kan det være utfordrende for forbrukere å forstå og omfavne rollen de må spille når de arbeider med AI-verktøy.

AI-sektoren er enorm, og vokser bare større, med eksperter som sier at den vil være verdt over en billion dollar innen 2030. Det burde ikke være overraskende at nesten alle store teknologiselskaper – fra Apple (AAPL ) til Amazon (AMZN ) til IBM til Microsoft, og mange andre – utgir sine egne versjoner av AI-teknologi, og spesielt avanserte generative AI-produkter.

Gitt slike innsatser, burde det heller ikke være overraskende at selskaper arbeider så raskt som mulig for å utgi nye funksjoner som vil gi dem en føring på konkurransen. Det er, i sannhet, en våpenkappløp, med selskaper som søker å låse inn så mange brukere i sine økosystemer som mulig. Selskaper håper at funksjoner som tillater brukere å bruke AI-systemer på den enkleste måten mulig – som å få all informasjon en trenger for et forskningsprosjekt ved å bare spørre en generativ AI-chatbot et spørsmål – vil vinne dem flere kunder, som vil forbli med produktet eller merkevaren når nye funksjoner utgis på en jevn basis.

Men noen ganger, i deres kappløp for å være først, utgir selskaper funksjoner som kanskje ikke har blitt gjennomgått ordentlig, eller hvis grenser ikke er godt forstått eller definert. Mens selskaper tidligere har konkurrert om markedsoversikt på mange teknologier og applikasjoner, synes det at den nåværende våpenkappløpet fører til at flere selskaper utgir flere “halvbakte” produkter enn noensinne – med de resulterende halvbakte resultater. Å stole på slike resultater for forskningsformål – enten forretnings-, personlige-, medisinske-, akademiske- eller andre formål – kan føre til uønskede resultater, inkludert skader på rykte, forretningsTap eller til og med livsfare.

AI-uhell har ført til betydelige tap for flere bedrifter. Et selskap kalt iTutor ble idømt 365 000 dollar i 2023, etter at deres AI-algoritme avviste dusinvis av jobbsøkere på grunn av deres alder. Eiendomsmarkedet Zillow tapte hundredvis av millioner dollar i 2021 på grunn av feilaktige prisforutsigelser fra deres AI-system. Brukere som stolte på AI for medisinsk råd har også vært i fare. Chat GPT, for eksempel, ga feilaktig informasjon til brukere om interaksjonen mellom blodtrykksenkende medikament verapamil og Paxlovid, Pfizers antivirale pill for Covid-19 – og om en pasient kunne ta disse medikamentene samtidig. De som stolte på systemets feilaktige råd om at det ikke var noen interaksjon mellom de to, kunne finne seg i fare. (PFE )

mens disse hendelsene fikk overskrifter, finnes det mange andre AI-feil som ikke gjør det – men de kan likevel være like dødelige for karrierer og rykter. For eksempel kan en stresset markedsføringsleder som søker etter en kortvei for å forberede rapporter, bli fristet til å bruke et AI-verktøy for å generere den – og hvis verktøyet presenterer informasjon som ikke er korrekt, kan de finne seg selv på jakt etter en ny jobb. En student som bruker ChatGPT for å skrive en rapport – og hvis professor er smart nok til å innse kilde til rapporten – kan møte en F, kanskje for semesteret. Og en advokat hvis assistent bruker AI-verktøy for juridisk arbeid, kan finne seg selv bøtelagt eller til og med fratatt advokatbevilling hvis saken de presenterer er skjev på grunn av dårlig data.

Nesten alle disse situasjonene kan forebygges – hvis mennesker dirigerer AI og har mer åpenhet inn i forskningsløkken. AI må sees på som et samarbeid mellom menneske og maskin. Det er et sant samarbeid – og det er dens utmerkede verdi.

mens mer kraftfulle søke-, formaterings- og analysefunksjoner er velkommen, må også produsentene av AI-produkter inkludere mekanismer som tillater dette samarbeidet. Systemer må inkludere faktasjekksverktøy som vil enable brukere å vurderer resultater fra verktøy som ChatGPT, og la brukere se de opprinnelige kildene til bestemte datapunkter eller informasjon. Dette vil både produsere bedre forskning, og gjenopprette tillit til oss selv; vi kan levere en rapport, eller anbefale en politikk med tillit basert på fakta som vi stoler på og forstår.

Brukere må også erkjenne og vurdere hva som står på spill når de stoler på AI for å produsere forskning. De må vurdere nivået av kjedsomhet med viktigheten av utfallet. For eksempel kan mennesker kanskje unngå å være mindre involvert når de bruker AI for å sammenligne lokale restauranter. Men når de gjør forskning som vil informere viktige forretningsbeslutninger eller design av fly eller medisinsk utstyr, for eksempel, må brukerne være mer involvert på hver enkelt fase av AI-drevet forskningsprosess. Jo viktigere avgjørelsen er, jo viktigere er det at mennesker er en del av den. Forskning for relativt små avgjørelser kan kanskje fullstendig tillits til AI.

AI blir bedre og bedre – selv uten menneskelig hjelp. Det er mulig, hvis ikke sannsynlig, at AI-verktøy som kan vurderer seg selv oppstår, som sjekker sine resultater mot den virkelige verden på samme måte som et menneske vil – enten gjør verden til en mye bedre plass, eller ødelegger den. Men AI-verktøy kan kanskje ikke nå dette nivået så raskt som mange tror, hvis noen gang. Dette betyr at den menneskelige faktoren fortsatt vil være essensiell i ethvert forskningsprosjekt. Så god som AI-verktøy er i å oppdage data og organisere informasjon, kan de ikke stoles på til å vurderer kontekst og bruke den informasjonen på den måten som vi, som mennesker, trenger den til å bli brukt. For den forutsigbare fremtiden er det viktig at forskere ser AI-verktøy for hva de er; verktøy for å hjelpe med å gjøre jobben, snarere enn noe som erstatter mennesker og menneskelige hjerner på jobben. hey kan ikke stoles på til å vurderer kontekst og bruke den informasjonen på den måten som vi, som mennesker, trenger den til å bli brukt. For den forutsigbare fremtiden er det viktig at forskere ser AI-verktøy for hva de er; verktøy for å hjelpe med å gjøre jobben, snarere enn noe som erstatter mennesker og menneskelige hjerner på jobben.