Etikk
Økende bekymringer over AI-hallusinasjoner og fordommer: Aporias rapport for 2024 understreker behovet for bransjestandarder
Legg til Unite.AI blant dine foretrukne kilder på Google
En ny rapport fra Aporia, en ledende aktør i AI-kontrollplattform-sektoren, har avdekket noen overraskende funn i området kunstig intelligens og maskinlæring (AI og ML). Rapporten, som heter “2024 AI og ML-rapport: Utvikling av modeller og løsninger”, viser en økende trend av hallusinasjoner og fordommer i generative AI og store språkmodeller (LLM), noe som utgjør en kritisk utfordring for en bransje som raskt nærmer seg modenhett.
AI-hallusinasjoner refererer til tilfeller der generative AI-modeller produserer utdata som er feil, meningsløse eller frakoblet virkeligheten. Disse hallusinasjonene kan variere fra mindre uakkurater til betydelige feil, inkludert generering av fordomsfulle eller potensielt skadelig innhold.
Konsekvensene av AI-hallusinasjoner kan være betydelige, særlig siden disse modellene stadig mer integreres i ulike aspekter av næringsliv og samfunn. For eksempel kan uakkurate AI-generert informasjon føre til desinformasjon, mens fordomsfulle innhold kan videreforedle stereotyper eller urimelige praksiser. I følsomme anvendelser som helse, finansiell rådgivning eller juridisk rådgivning kan slike feil ha alvorlige konsekvenser, og påvirke beslutninger og resultater.
Rapportens funn understreker nødvendigheten av nøye overvåking og observasjon av produksjonsmodeller.
Aporias undersøkelse inkluderte svar fra 1 000 maskinlæringsfagfolk basert i Nord-Amerika og Storbritannia. Disse personene arbeider i selskaper med mellom 500 og 7 000 ansatte, over ulike sektorer som finansiell, helse, reise, forsikring, programvare og detaljhandel. Funnene understreker både utfordringene og mulighetene som møter ML-produsjonsledere, og kaster lys over den viktige rollen AI-optimiering spiller for effisiens og verdiutvikling.
Nøkkelinnsikter fra rapporten inkluderer:
- Prevalens av operasjonelle utfordringer: En overveldende 93 % av maskinlæringsingeniører rapporterer å møte problemer med produksjonsmodeller enten daglig eller ukentlig. Denne betydelige statistikken understreker den kritiske behovet for effektive overvåkings- og kontrollverktøy for å sikre jevne operasjoner.
- Forekomst av AI-hallusinasjoner: En bekymringsverdig 89 % av ingeniører som arbeider med store språkmodeller og generative AI rapporterer å oppleve hallusinasjoner i disse modellene. Disse hallusinasjonene manifesterer seg som faktiske feil, fordommer eller innhold som kan være skadelig.
- Fokus på fordomsreduksjon: Til tross for hindringer i å oppdage fordomsfulle data og mangel på tilstrekkelige overvåkingsverktøy, understreker en bemerkelsesverdig 83 % av undersøkelsesrespondentene viktigheten av å overvåke fordommer i AI-prosjekter.
- Behov for sanntidsobservasjon: En betydelig 88 % av maskinlæringsfagfolk mener at sanntidsobservasjon er essensiell for å identifisere problemer i produksjonsmodeller, en funksjon som ikke er til stede i alle bedrifter på grunn av mangel på automatiserte overvåkingsverktøy.
- Resursinvestering i utvikling: Rapporten avslører at selskaper i gjennomsnitt investerer omtrent fire måneder i å utvikle verktøy og dashboards for å overvåke produksjon, noe som kan vekke bekymring om effisiens og kostnadseffektivitet i slike investeringer.
“Vår rapport viser en klar konsensus blant bransjen, AI-produkter utvikles i raskt tempo, og det vil være konsekvenser hvis disse ML-modellene ikke overvåkes,” uttaler Liran Hason, administrerende direktør i Aporia. “Ingeniørene som står bak disse verktøyene har talt – det er problemer med teknologien, og de kan løses. Men riktige overvåkingsverktøy er nødvendige for å sikre at bedrifter og forbrukere mottar det beste mulige produkt, fritt for hallusinasjoner og fordommer.”
Aporia, som er dedikert til å forbedre effektiviteten av AI-produkter drevet av maskinlæring, har vært opptatt av å møte MLOps-utfordringer og å fremme ansvarlige AI-praksiser. Selskapets fokus på kundetilbakemeldinger og integrering av brukertilbakemeldinger har ført til utvikling av robuste verktøy og funksjoner for å forbedre brukeropplevelsen, støtte utvidelsen av produksjonsmodeller og hjelpe med å eliminere hallusinasjoner.
Den fullstendige rapporten fra Aporia tilbyr en dyptgående analyse av disse funnene og deres implikasjoner for AI-bransjen. For å utforske mer, besøk Aporias undersøkelsesrapport.
