Stigende bekymringer over AI-hallucinationer og bias: Aporias 2024-rapport fremhæver et presserende behov for industristandarder

A seneste rapport fra Aporia, en leder inden for AI-kontrolplatformssektoren, har frembragt nogle overraskende resultater inden for kunstig intelligens og maskinlæring (AI & ML). Med titlen "2024 AI & ML Report: Evolution of Models & Solutions", peger undersøgelsen udført af Aporia på en voksende tendens til hallucinationer og skævheder inden for generative AI og store sprogmodeller (LLM'er), hvilket signalerer en afgørende udfordring for en industri, der hurtigt er på vej mod modenhed.

AI hallucinationer henvise til tilfælde, hvor generativ generative AI-modeller producere output, der er forkerte, meningsløse eller afbrudt fra virkeligheden. Disse hallucinationer kan variere fra mindre unøjagtigheder til væsentlige fejl, herunder generering af forudindtaget eller potentielt skadeligt indhold.

Konsekvenserne af AI-hallucinationer kan være betydelige, især da disse modeller i stigende grad integreres i forskellige aspekter af erhvervslivet og samfundet. For eksempel kan unøjagtighed i AI-genereret information føre til misinformation, mens forudindtaget indhold kan fastholde stereotyper eller unfair praksis. I følsomme applikationer som sundhedspleje, finans eller juridisk rådgivning kan sådanne fejl have alvorlige konsekvenser og påvirke beslutninger og resultater.

Undersøgelsens resultater understreger nødvendigheden af ​​årvågen overvågning og observation af produktionsmodeller.

Aporias undersøgelse omfattede svar fra 1,000 maskinlæringsprofessionelle baseret i Nordamerika og Storbritannien. Disse personer arbejder i virksomheder, der spænder fra 500 til 7,000 ansatte, på tværs af sektorer som finans, sundhedspleje, rejser, forsikring, software og detailhandel. Resultaterne understreger både de udfordringer og muligheder, som ML-produktionsledere står over for, og kaster lys over den vitale rolle, AI-optimering spiller for effektivitet og værdiskabelse.

Nøgleindsigter fra rapporten indeholder:

1. Udbredelse af operationelle udfordringer: Overvældende 93 % af maskinlæringsingeniører rapporterer, at de støder på problemer med produktionsmodeller enten dagligt eller ugentligt. Denne betydelige statistik understreger det kritiske behov for effektive overvågnings- og kontrolværktøjer for at sikre problemfri drift.
2. Forekomst af AI-hallucinationer: A omkring 89 % af ingeniører, der arbejder med store sprogmodeller og generativ AI, rapporterer, at de oplever hallucinationer i disse modeller. Disse hallucinationer viser sig som faktuelle fejl, skævheder eller indhold, der kan være skadeligt.
3. Fokus på Bias Mitigation: På trods af forhindringer i at opdage skæve data og manglen på tilstrækkelige overvågningsværktøjer, understreger bemærkelsesværdige 83 % af de adspurgte i undersøgelsen vigtigheden af ​​overvågning for bias i AI-projekter.
4. Vigtigheden af ​​observerbarhed i realtid: En væsentlig 88% af maskinlæringsprofessionelle mener, at observerbarhed i realtid er afgørende for at identificere problemer i produktionsmodeller, en evne, der ikke findes i alle virksomheder på grund af mangel på automatiserede overvågningsværktøjer.
5. Ressourceinvestering i udvikling: Rapporten afslører, at virksomheder i gennemsnit investerer omkring fire måneder i at udvikle værktøjer og dashboards til overvågning af produktionen, hvilket fremhæver potentielle bekymringer vedrørende effektiviteten og omkostningseffektiviteten af ​​sådanne investeringer.

"Vores rapport viser en klar konsensus blandt industrien, AI-produkter bliver implementeret i et hurtigt tempo, og der vil være konsekvenser, hvis disse ML-modeller ikke overvåges," udtalte Liran Hason, administrerende direktør for Aporia. “Ingeniørerne, der står bag disse værktøjer, har talt – der er problemer med teknologien, og de kan løses. Men de korrekte observerbarhedsværktøjer er nødvendige for at sikre, at både virksomheder og forbrugere modtager det bedst mulige produkt, fri for hallucinationer og bias."

Aporia, forpligtet til at forbedre effektiviteten af ​​AI-produkter drevet af machine learning, har adresseret MLOps-udfordringer og slået til lyd for ansvarlig AI-praksis. Virksomhedens kundecentrerede tilgang og integration af brugerfeedback har ført til udviklingen af ​​robuste værktøjer og funktioner til at forbedre brugeroplevelsen, understøtte udvidelsen af ​​produktionsmodeller og hjælpe med at eliminere hallucinationer.

Den fulde rapport fra Aporia giver et dybdegående kig på disse resultater og deres implikationer for kunstig intelligens-industrien. For at udforske mere, besøg Aporias undersøgelsesrapport.