Tħassib li qed jiżdied dwar l-alluċinazzjonijiet u l-preġudizzju tal-IA: Ir-Rapport tal-2024 ta' Aporia Jenfasizza Ħtieġa Urġenti għal Standards tal-Industrija

A rapport riċenti minn Aporia, mexxej fis-settur tal-pjattaforma tal-kontroll tal-AI, ħareġ fid-dawl xi sejbiet sorprendenti fil-qasam tal-intelliġenza artifiċjali u t-tagħlim tal-magni (AI & ML). It-titlu “2024 AI & ML Report: Evolution of Models & Solutions,” l-istħarriġ imwettaq minn Aporia jindika xejra dejjem tikber ta’ alluċinazzjonijiet u preġudizzji fi ħdan AI ġenerattivi u mudelli ta’ lingwa kbira (LLMs), li jindika sfida kruċjali għal industrija li qed tavvanza malajr lejn maturità.

Alluċinazzjonijiet AI irreferi għal każijiet fejn ġenerattiv mudelli AI ġenerattivi tipproduċi outputs li huma żbaljati, bla sens, jew skonnettjati mir-realtà. Dawn l-alluċinazzjonijiet jistgħu jvarjaw minn ineżattezzi minuri għal żbalji sinifikanti, inkluż il-ġenerazzjoni ta 'kontenut preġudikat jew potenzjalment ta' ħsara.

Il-konsegwenzi tal-alluċinazzjonijiet tal-IA jistgħu jkunu sinifikanti, speċjalment peress li dawn il-mudelli huma dejjem aktar integrati f'diversi aspetti tan-negozju u tas-soċjetà. Pereżempju, l-ineżattezza fl-informazzjoni ġġenerata mill-AI tista’ twassal għal misinformazzjoni, filwaqt li l-kontenut preġudikat jista’ jipperpetwa sterjotipi jew prattiki inġusti. F'applikazzjonijiet sensittivi bħall-kura tas-saħħa, il-finanzi, jew pariri legali, żbalji bħal dawn jista' jkollhom implikazzjonijiet serji, li jaffettwaw id-deċiżjonijiet u r-riżultati.

Is-sejbiet tal-istħarriġ jenfasizzaw il-ħtieġa ta 'monitoraġġ u osservazzjoni viġilanti tal-mudelli ta' produzzjoni.

L-istħarriġ ta’ Aporia kien jinkludi tweġibiet minn 1,000 professjonist tat-tagħlim tal-magni bbażati fl-Amerika ta’ Fuq u r-Renju Unit. Dawn l-individwi jaħdmu f'kumpaniji li jvarjaw minn 500 sa 7,000 impjegat, f'setturi differenti bħall-finanzi, il-kura tas-saħħa, l-ivvjaġġar, l-assigurazzjoni, is-softwer u l-bejgħ bl-imnut. Is-sejbiet jenfasizzaw kemm l-isfidi kif ukoll l-opportunitajiet li jiffaċċjaw il-mexxejja tal-produzzjoni tal-ML, u jitfgħu dawl fuq ir-rwol vitali tal-ottimizzazzjoni tal-AI għall-effiċjenza u l-ħolqien tal-valur.

Intuwizzjonijiet ewlenin mir-rapport jinkludi:

1. Prevalenza ta' Sfidi Operattivi: 93% kbira tal-inġiniera tat-tagħlim tal-magni jirrappurtaw li jiltaqgħu ma 'kwistjonijiet ma' mudelli ta 'produzzjoni jew kuljum jew kull ġimgħa. Din l-istatistika sinifikanti tenfasizza l-ħtieġa kritika għal monitoraġġ effettiv u għodod ta 'kontroll biex jiżguraw operazzjonijiet bla xkiel.
2. Inċidenza ta' Alluċinazzjonijiet AI: Madwar 89% tal-inġiniera li jaħdmu b'mudelli lingwistiċi kbar u AI ġenerattiva jirrappurtaw li jesperjenzaw alluċinazzjonijiet f'dawn il-mudelli. Dawn l-alluċinazzjonijiet jimmanifestaw bħala żbalji fattwali, preġudizzji, jew kontenut li jista 'jkun ta' ħsara.
3. Iffoka fuq il-Mitigazzjoni tal-Preġudizzju: Minkejja l-ostakli fl-iskoperta tad-dejta preġudikata u n-nuqqas ta’ għodod ta’ monitoraġġ suffiċjenti, 83 % notevoli tar-rispondenti tal-istħarriġ jenfasizzaw l-importanza tal-monitoraġġ għall-preġudizzju fil-proġetti tal-IA.
4. Importanza tal-Osservabbiltà f'Ħin Real: 88% sostanzjali tal-professjonisti tat-tagħlim tal-magni jemmnu li l-osservabilità f'ħin reali hija essenzjali għall-identifikazzjoni ta 'kwistjonijiet fil-mudelli ta' produzzjoni, kapaċità mhux preżenti fl-intrapriżi kollha minħabba nuqqas ta 'għodod ta' monitoraġġ awtomatizzati.
5. Investiment tar-Riżorsi fl-Iżvilupp: Ir-rapport jiżvela li, bħala medja, il-kumpaniji jinvestu madwar erba' xhur fl-iżvilupp ta' għodod u dashboards għall-monitoraġġ tal-produzzjoni, filwaqt li jenfasizzaw tħassib potenzjali rigward l-effiċjenza u l-kosteffettività ta' tali investimenti.

"Ir-rapport tagħna juri kunsens ċar fost l-industrija, il-prodotti AI qed jiġu skjerati b'pass mgħaġġel, u se jkun hemm konsegwenzi jekk dawn il-mudelli ML ma jkunux qed jiġu mmonitorjati," stqarr Liran Hason, CEO ta’ Aporia. “L-inġiniera li huma wara dawn l-għodod tkellmu – hemm problemi bit-teknoloġija u jistgħu jiġu rranġati. Iżda l-għodod ta’ osservabilità korretti huma meħtieġa biex jiżguraw li l-intrapriżi u l-konsumaturi bl-istess mod qed jirċievu l-aħjar prodott possibbli, mingħajr alluċinazzjonijiet u preġudizzji.”

Aporija, impenjata li ttejjeb l-effettività tal-prodotti tal-IA li jaħdmu bit-tagħlim tal-magni, ilha tindirizza l-isfidi tal-MLOps u tħeġġeġ prattiki responsabbli tal-AI. L-approċċ iċċentrat fuq il-klijent u l-integrazzjoni tal-feedback tal-utent tal-kumpanija wasslu għall-iżvilupp ta 'għodod u karatteristiċi robusti biex itejbu l-esperjenza tal-utent, jappoġġjaw l-espansjoni ta' mudelli ta 'produzzjoni, u jgħinu biex jiġu eliminati l-alluċinazzjonijiet.

Ir-rapport sħiħ minn Aporia joffri ħarsa fil-fond lejn dawn is-sejbiet u l-implikazzjonijiet tagħhom għall-industrija tal-IA. Biex tesplora aktar, żur Rapport ta' Stħarriġ ta' Aporia.