Kasvavat huolet tekoäly-hallusinaatioista ja harhasta: Aporian vuoden 2024 raportti korostaa alan standardien kiireellistä tarvetta

A tuore raportti AporiastaTekoälyn ohjausalustasektorin johtava yritys on tuonut esiin hämmästyttäviä löytöjä tekoälyn ja koneoppimisen (AI & ML) alalla. Aporian tekemä tutkimus, jonka otsikko on "2024 AI & ML Report: Evolution of Models & Solutions", osoittaa hallusinaatioiden ja harhojen kasvavaan trendiin generatiivisissa tekoälymalleissa ja suurissa kielimalleissa (LLM), mikä osoittaa ratkaisevan haasteen teollisuudelle, joka etenee nopeasti kohti kypsyys.

AI hallusinaatiot viittaa tapauksiin, joissa generatiivisia generatiivisia tekoälymalleja tuottaa tuloksia, jotka ovat virheellisiä, järjettömiä tai irrallisia todellisuudesta. Nämä hallusinaatiot voivat vaihdella pienistä epätarkkuuksista merkittäviin virheisiin, mukaan lukien puolueellisen tai mahdollisesti haitallisen sisällön tuottaminen.

Tekoälyhalusinaatioiden seuraukset voivat olla merkittäviä, varsinkin kun nämä mallit integroituvat yhä enemmän liiketoiminnan ja yhteiskunnan eri osa-alueisiin. Esimerkiksi tekoälyn tuottaman tiedon epätarkkuus voi johtaa väärään tietoon, kun taas puolueellinen sisältö voi säilyttää stereotypioita tai epäreiluja käytäntöjä. Arkaluonteisissa sovelluksissa, kuten terveydenhuollossa, rahoituksessa tai oikeudellisissa neuvoissa, tällaisilla virheillä voi olla vakavia seurauksia, jotka voivat vaikuttaa päätöksiin ja tuloksiin.

Tutkimuksen tulokset korostavat valppaan seurannan ja tuotantomallien tarkkailun tarvetta.

Aporian kyselyyn sisältyi vastauksia 1,000 koneoppimisen ammattilaiselta Pohjois-Amerikasta ja Iso-Britanniasta. Nämä henkilöt työskentelevät yrityksissä, joissa on 500–7,000 XNUMX työntekijää eri aloilla, kuten rahoitus, terveydenhuolto, matkailu, vakuutus, ohjelmisto ja vähittäiskauppa. Löydökset korostavat sekä ML-tuotannon johtajien kohtaamia haasteita että mahdollisuuksia ja valaisevat tekoälyn optimoinnin elintärkeää roolia tehokkuuden ja arvon luomisen kannalta.

Keskeiset oivallukset raportista löytyy:

1. Toiminnallisten haasteiden yleisyys: Ylivoimaisesti 93 % koneoppimisen insinööreistä ilmoittaa kohtaavansa ongelmia tuotantomalleissa joko päivittäin tai viikoittain. Tämä merkittävä tilasto korostaa tehokkaiden seuranta- ja valvontatyökalujen kriittistä tarvetta toiminnan sujuvuuden varmistamiseksi.
2. AI-hallusinaatioiden esiintyvyys: Noin 89 % suurten kielimallien ja generatiivisen tekoälyn parissa työskentelevistä insinööreistä ilmoittaa kokeneensa hallusinaatioita näissä malleissa. Nämä hallusinaatiot ilmenevät tosiasioihin liittyvinä virheinä, harhoina tai sisällönä, joka voi olla haitallista.
3. Keskity puolueellisuuden lieventämiseen: Huolimatta puolueellisten tietojen havaitsemisesta ja riittävien seurantatyökalujen puutteesta, huomattava 83 % kyselyyn vastanneista korostaa harhan seurannan merkitystä tekoälyprojekteissa.
4. Reaaliaikaisen havainnoinnin merkitys: Huomattava 88 % koneoppimisen ammattilaisista uskoo, että reaaliaikainen havainnointi on välttämätöntä tuotantomallien ongelmien tunnistamiseksi. Tämä ominaisuus ei ole käytettävissä kaikissa yrityksissä automaattisten valvontatyökalujen puutteen vuoksi.
5. Resurssien sijoittaminen kehitykseen: Raportista käy ilmi, että yritykset investoivat keskimäärin noin neljä kuukautta tuotannon seurantaan tarkoitettujen työkalujen ja kojetaulujen kehittämiseen, mikä tuo esiin tällaisten investointien tehokkuuteen ja kustannustehokkuuteen liittyviä mahdollisia huolenaiheita.

"Raporttimme osoittaa selkeän yksimielisyyden alan keskuudessa, tekoälytuotteita otetaan käyttöön nopeassa tahdissa, ja sillä on seurauksia, jos näitä ML-malleja ei valvota." sanoi Liran Hason, Aporian toimitusjohtaja. "Näiden työkalujen takana olevat insinöörit ovat puhuneet – tekniikassa on ongelmia ja ne voidaan korjata. Mutta oikeat havainnointityökalut tarvitaan sen varmistamiseksi, että yritykset ja kuluttajat saavat parhaan mahdollisen tuotteen ilman hallusinaatioita ja ennakkoluuloja."

aporia, joka on sitoutunut parantamaan koneoppimiseen perustuvien tekoälytuotteiden tehokkuutta, on vastannut MLOpsin haasteisiin ja puolustanut vastuullisia tekoälykäytäntöjä. Yrityksen asiakaslähtöinen lähestymistapa ja käyttäjäpalautteen integrointi ovat johtaneet kestävien työkalujen ja ominaisuuksien kehittämiseen, jotka parantavat käyttökokemusta, tukevat tuotantomallien laajentamista ja auttavat poistamaan hallusinaatioita.

Aporian koko raportti tarjoaa syvällisen katsauksen näihin havaintoihin ja niiden vaikutuksiin tekoälyteollisuuteen. Tutustu lisää vierailemalla Aporian tutkimusraportti.