Vaxandi áhyggjur vegna gervigreindar ofskynjana og hlutdrægni: Aporia 2024 skýrsla undirstrikar brýna þörf fyrir iðnaðarstaðla

A nýleg skýrsla frá Aporia, sem er leiðandi í gervigreindarkerfisgeiranum, hefur dregið fram í dagsljósið nokkrar óvæntar niðurstöður á sviði gervigreindar og vélanáms (AI & ML). Könnunin, sem unnin var af Aporia, sem ber titilinn „2024 AI & ML Report: Evolution of Models & Solutions“, bendir á vaxandi tilhneigingu ofskynjana og hlutdrægni innan kynslóða gervigreindar og stórra tungumálalíkana (LLM), sem gefur til kynna mikilvæga áskorun fyrir iðnað sem þróast hratt í átt að þroska.

AI ofskynjanir vísa til tilvika þar sem generative kynslóðar gervigreind módel framleiða úttak sem eru rangar, vitlausar eða ótengdar raunveruleikanum. Þessar ofskynjanir geta verið allt frá smávægilegum ónákvæmni upp í verulegar villur, þar með talið myndun hlutdrægs eða hugsanlega skaðlegs efnis.

Afleiðingar gervigreindar ofskynjana geta verið umtalsverðar, sérstaklega þar sem þessi líkön eru í auknum mæli samþætt ýmsum þáttum viðskipta og samfélags. Til dæmis getur ónákvæmni í AI-mynduðum upplýsingum leitt til rangra upplýsinga á meðan hlutdrægt efni getur viðhaldið staðalímyndum eða ósanngjörnum starfsháttum. Í viðkvæmum forritum eins og heilsugæslu, fjármálum eða lögfræðiráðgjöf gætu slíkar villur haft alvarlegar afleiðingar og haft áhrif á ákvarðanir og niðurstöður.

Niðurstöður könnunarinnar leggja áherslu á nauðsyn þess að fylgjast vel með og fylgjast með framleiðslulíkönum.

Könnun Aporia innihélt svör frá 1,000 vélnámssérfræðingum með aðsetur í Norður-Ameríku og Bretlandi. Þessir einstaklingar vinna í fyrirtækjum á bilinu 500 til 7,000 starfsmenn, þvert á geira eins og fjármál, heilsugæslu, ferðalög, tryggingar, hugbúnað og smásölu. Niðurstöðurnar undirstrika bæði áskoranir og tækifæri sem ML framleiðsluleiðtogar standa frammi fyrir og varpa ljósi á mikilvæga hlutverk gervigreindar hagræðingar fyrir skilvirkni og verðmætasköpun.

Helstu innsýn úr skýrslunni kemur fram:

1. Algengi rekstraráskorana: Yfirgnæfandi 93% vélanámsverkfræðinga segja að þeir hafi lent í vandræðum með framleiðslulíkön annað hvort daglega eða vikulega. Þessi mikilvæga tölfræði undirstrikar mikilvæga þörfina fyrir skilvirk vöktunar- og eftirlitstæki til að tryggja hnökralausan rekstur.
2. Tíðni gervigreindar ofskynjana: Um 89% verkfræðinga sem vinna með stór tungumálalíkön og skapandi gervigreind segja að þeir hafi upplifað ofskynjanir í þessum gerðum. Þessar ofskynjanir birtast sem staðreyndavillur, hlutdrægni eða efni sem gæti verið skaðlegt.
3. Einbeittu þér að því að draga úr hlutdrægni: Þrátt fyrir hindranir við að greina hlutdræg gögn og skort á fullnægjandi vöktunartækjum, leggja áberandi 83% svarenda könnunarinnar áherslu á mikilvægi þess að fylgjast með hlutdrægni í gervigreindarverkefnum.
4. Mikilvægi rauntímaathugunar: Umtalsvert 88% sérfræðinga í vélnámi telja að rauntíma athugun sé nauðsynleg til að bera kennsl á vandamál í framleiðslulíkönum, hæfileiki sem er ekki til staðar í öllum fyrirtækjum vegna skorts á sjálfvirkum vöktunartækjum.
5. Auðlindafjárfesting í þróun: Skýrslan leiðir í ljós að fyrirtæki fjárfesta að meðaltali um fjóra mánuði í að þróa verkfæri og mælaborð til að fylgjast með framleiðslu og varpa ljósi á hugsanlegar áhyggjur varðandi hagkvæmni og hagkvæmni slíkra fjárfestinga.

„Skýrslan okkar sýnir skýra samstöðu meðal iðnaðarins, gervigreindarvörur eru notaðar á miklum hraða og það mun hafa afleiðingar ef ekki er fylgst með þessum ML módelum,“ sagði Liran Hason, forstjóri Aporia. “Verkfræðingarnir sem standa á bak við þessi verkfæri hafa talað - það eru vandamál með tæknina og hægt er að laga þau. En það er þörf á réttum athugunartækjum til að tryggja að bæði fyrirtæki og neytendur fái bestu mögulegu vöruna, lausa við ofskynjanir og hlutdrægni.“

Aporia, sem hefur skuldbundið sig til að auka skilvirkni gervigreindarvara knúin af vélanámi, hefur tekið á MLOps áskorunum og talað fyrir ábyrgum gervigreindaraðferðum. Viðskiptamiðuð nálgun fyrirtækisins og samþætting endurgjöf notenda hefur leitt til þróunar á öflugum verkfærum og eiginleikum til að bæta notendaupplifun, styðja við stækkun framleiðslulíkana og hjálpa til við að útrýma ofskynjunum.

Skýrslan í heild frá Aporia býður upp á ítarlega skoðun á þessum niðurstöðum og afleiðingum þeirra fyrir gervigreindariðnaðinn. Til að kanna meira skaltu heimsækja Könnunarskýrsla Aporia.