Pieaug bažas par mākslīgā intelekta halucinācijām un aizspriedumiem: Aporia 2024. gada pārskatā uzsvērta steidzama nepieciešamība pēc nozares standartiem

A jaunākais ziņojums no AporiaAI vadības platformu sektora līderis ir atklājis dažus pārsteidzošus atklājumus mākslīgā intelekta un mašīnmācīšanās (AI un ML) jomā. Aporia veiktā aptauja ar nosaukumu “2024. gada AI un ML ziņojums: modeļu un risinājumu attīstība” norāda uz pieaugošu halucināciju un aizspriedumu tendenci ģeneratīvajos AI un lielo valodu modeļos (LLM), kas norāda uz būtisku izaicinājumu nozarei, kas strauji virzās uz priekšu. briedums.

AI halucinācijas attiecas uz gadījumiem, kad ģeneratīva ģeneratīvie AI modeļi radīt nepareizus, nejēdzīgus vai no realitātes atdalītus rezultātus. Šīs halucinācijas var būt no nelielām neprecizitātēm līdz būtiskām kļūdām, tostarp neobjektīva vai potenciāli kaitīga satura ģenerēšanai.

AI halucināciju sekas var būt nozīmīgas, jo īpaši tāpēc, ka šie modeļi arvien vairāk tiek integrēti dažādos uzņēmējdarbības un sabiedrības aspektos. Piemēram, neprecizitāte mākslīgā intelekta radītajā informācijā var radīt dezinformāciju, savukārt neobjektīvs saturs var iemūžināt stereotipus vai negodīgu praksi. Sensitīvās lietojumprogrammās, piemēram, veselības aprūpē, finansēs vai juridiskās konsultācijās, šādām kļūdām var būt nopietnas sekas, kas var ietekmēt lēmumus un rezultātus.

Aptaujas rezultāti uzsver nepieciešamību pēc modras ražošanas modeļu uzraudzības un novērošanas.

Aporia aptauja ietvēra atbildes no 1,000 mašīnmācības profesionāļiem, kas atrodas Ziemeļamerikā un Apvienotajā Karalistē. Šīs personas strādā uzņēmumos, kuros ir no 500 līdz 7,000 darbinieku, tādās nozarēs kā finanses, veselības aprūpe, ceļojumi, apdrošināšana, programmatūra un mazumtirdzniecība. Rezultāti uzsver gan izaicinājumus, gan iespējas, ar kurām saskaras ML ražošanas līderi, atklājot AI optimizācijas būtisko lomu efektivitātes un vērtības radīšanā.

Galvenās atziņas no ziņojuma ietver:

1. Darbības izaicinājumu izplatība: pārliecinoši 93% mašīnmācīšanās inženieru ziņo, ka katru dienu vai reizi nedēļā sastopas ar ražošanas modeļu problēmām. Šī nozīmīgā statistika uzsver kritisko nepieciešamību pēc efektīviem uzraudzības un kontroles instrumentiem, lai nodrošinātu netraucētu darbību.
2. AI halucināciju biežums: aptuveni 89% inženieru, kas strādā ar lieliem valodas modeļiem un ģeneratīvo AI, ziņo, ka šajos modeļos ir radušās halucinācijas. Šīs halucinācijas izpaužas kā faktu kļūdas, aizspriedumi vai saturs, kas varētu būt kaitīgs.
3. Koncentrējieties uz aizspriedumu mazināšanu: Neraugoties uz šķēršļiem neobjektīvu datu noteikšanā un pietiekamu uzraudzības rīku trūkumu, ievērojami 83% aptaujas respondentu uzsver neobjektivitātes uzraudzības nozīmi AI projektos.
4. Reāllaika novērojamības nozīme: Ievērojami 88% mašīnmācīšanās profesionāļu uzskata, ka novērojamība reāllaikā ir būtiska, lai identificētu problēmas ražošanas modeļos. Šī iespēja nav pieejama visos uzņēmumos, jo trūkst automatizētu uzraudzības rīku.
5. Resursu investīcijas attīstībāZiņojums atklāj, ka vidēji uzņēmumi iegulda apmēram četrus mēnešus, izstrādājot ražošanas uzraudzības rīkus un informācijas paneļus, uzsverot iespējamās bažas par šādu ieguldījumu efektivitāti un rentabilitāti.

"Mūsu ziņojums liecina par nepārprotamu vienprātību nozares starpā, AI produkti tiek ieviesti strauji, un tam būs sekas, ja šie ML modeļi netiks uzraudzīti." paziņoja Liran Hason, Aporia izpilddirektore. "Inženieri, kas ir aiz šiem rīkiem, ir runājuši — ir problēmas ar tehnoloģiju, un tās var novērst. Taču ir nepieciešami pareizi novērošanas rīki, lai nodrošinātu, ka uzņēmumi un patērētāji saņem vislabāko iespējamo produktu bez halucinācijām un aizspriedumiem.

Aporija, kas ir apņēmusies uzlabot ar mašīnmācīšanos darbināmo AI produktu efektivitāti, ir risinājusi MLOps problēmas un iestājusies par atbildīgu AI praksi. Uzņēmuma klientu orientētā pieeja un lietotāju atsauksmju integrācija ir ļāvusi izstrādāt stabilus rīkus un funkcijas, lai uzlabotu lietotāju pieredzi, atbalstītu ražošanas modeļu paplašināšanu un palīdzētu novērst halucinācijas.

Pilns Aporia ziņojums piedāvā padziļinātu ieskatu šajos atklājumos un to ietekmes uz AI nozari. Lai izpētītu vairāk, apmeklējiet Aporias aptaujas ziņojums.