Ongelmat mahdollisista riskeistä ChatGPT: ssä voimistuvat, mutta onko AI: n kehityksen pysäyttäminen hyvä liike?

Vaikka Elon Musk ja muut maailmanlaajuiset teknologiajohtajat ovat vaatineet taukoa AI: n kehityksessä ChatGPT: n julkaisun jälkeen, jotkut kriitikot uskovat, että kehityksen pysäyttäminen ei ole ratkaisu. AI- evankelista Andrew Pery, älykkään automaation yritys ABBYY: n edustaja, uskoo, että tauon pitäminen on kuin yrittäisiin laittaa hampaatahrat takaisin tubettiin. Hän kertoo meille, miksi…

AI-sovellukset ovat yleisiä ja vaikuttavat lähes jokaiseen elämän osa-alueeseen. Vaikka hidastaminen on ymmärrettävää, se voi olla mahdotonta tällä hetkellä.

On olemassa merkittäviä huolenaiheita, jotka vaativat lisää sääntelyä vähentämään mahdollisia haitallisia vaikutuksia.

Italian tietosuojaviranomainen on toistaiseksi estänyt ChatGPT: n käytön koko maassa yksityisen datan keräämisen ja prosessoinnin yhteydessä olevien huolenaiheiden vuoksi, mukaan lukien lapsille sopimattomien vastausten puute.

European Consumer Organisation (BEUC) kehottaa EU: ta tutkimaan suurten kielen mallien mahdollisia haitallisia vaikutuksia, koska “huolenaiheet kasvavat siitä, miten ChatGPT ja muut chatbotit voivat pettää ja manipuloida ihmisiä. Nämä AI-järjestelmät tarvitsevat lisää julkista tarkastelua, ja viranomaiset on palautettava valvontansa niiden ylle.”

Yhdysvalloissa Center for AI and Digital Policy on jättänyt valituksen Federal Trade Commissionille, jonka mukaan ChatGPT rikkoaa Federal Trade Commission Actin 5 §:ää (15 USC 45). Valituksen perusteena on, että ChatGPT: llä ei ole selkeää ohjeistusta AI-järjestelmien avoimuudesta ja selkeyydestä. Viitattiin ChatGPT: n tunnustamiin riskeihin, mukaan lukien yksityisyyden loukkaaminen, haitallisen sisällön tuottaminen ja disinformaation leviäminen.

Vaikka suurten kielen mallien hyödyt ovat merkittäviä, tutkimus osoittaa, että niillä on myös pimeä puoli. On osoitettu, että se tuottaa virheellisiä vastauksia, koska ChatGPT: n perusmalli perustuu syvään oppimiseen, joka hyödyntää laajoja internetin koulutusaineistoja. Toisin kuin muut chatbotit, ChatGPT käyttää kielen malleja, jotka perustuvat syvään oppimiseen, ja generoi tekstiä, joka muistuttaa ihmisten keskustelua, ja “se päätyy vastaukseen tekemällä sarjan arvauksia, mikä on osa syytä, miksi se voi väittää väärää vastausta kuin se olisi täysin totta.”

Lisäksi on osoitettu, että ChatGPT korostaa ja vahvistaa puolueellisuutta, josta seuraa “vastauksia, jotka syrjivät sukupuolta, rotua ja vähemmistöryhmiä, mihin yhtiö yrittää vastata.” ChatGPT voi myös olla hyödyllinen väline epäilyttäville toimijoille, jotka voivat hyödyntää sitä hyväkseen ja uhata käyttäjien yksityisyyttä ja altistaa heidät huijaushyökkäyksille.

Nämä huolenaiheet ovat johtaneet siihen, että Euroopan parlamentti on julkaissut kommentin, jossa korostetaan tarvetta vahvistaa nykyisten EU: n tekoälylain luonnoksen säännöksiä, jotka ovat vielä vireillä. Kommentti korostaa, että nykyisen luonnoksen keskittyminen kapeisiin tekoälysovelluksiin, kuten rekrytointiin, luottokelpoisuuteen, työllistymiseen, lainvalvontaan ja sosiaalipalveluihin, ei kata yleispäteviä tekoälyjärjestelmiä, jotka tarjoavat edistyneitä kognitiivisia kykyjä ja “voivat suorittaa laajan valikoiman älykkäitä tehtäviä.” On esitetty vaatimuksia laajentaa luonnoksen soveltamisalaa käsittämään myös yleispätevien tekoälyjärjestelmien korkea riski, jolloin kehittäjien on suoritettava tiukat ennakkoarviot ennen järjestelmien markkinoille saattamista ja jatkuvasti seurattava niiden suorituskykyä mahdollisten odottamattomien haitallisten tulosten varalta.

Erityisen hyödyllinen tutkimus osoittaa, että EU: n tekoälylain luonnos on “pääasiassa keskittynyt perinteisiin tekoälymalliin eikä uuteen sukupolveen, jonka syntymää me todistamme tänään.”

Se suosittelee neljää strategiaa, joita sääntelijöiden on otettava huomioon.

1. Vaatimus kehittäjiltä, että he ilmoittavat säännöllisesti riskienhallintaprosessien tehokkuudesta vähentämään haitallisia tuloksia.
2. Yritysten on ilmoitettava asiakkailleen, että sisältö on tekoälyllä generoitu.
3. Kehittäjien on noudatettava virallista prosessia vaiheittaisista julkaisuista riskienhallintakehyksenä, jotta voidaan estää mahdollisia odottamattomia haitallisia seurauksia.
4. Kehittäjien on otettava vastuu “haittojen juurien” poistamisesta “proaktiivisesti tarkastamalla koulutusaineistoa virheellisyyksistä.”

Teknologisen kehityksen riskejä ylläpitävä tekijä on innovaattoreiden pyrkimys saavuttaa ensimmäisen liikkeen etu adoptoimalla “julkaista ja korjata myöhemmin” -liiketoimintamallin. Vaikka OpenAI on jonkin verran avoin ChatGPT: n mahdollisista riskeistä, he ovat julkaisseet sen laajasti kaupalliseen käyttöön “ostaja varoituksella” -vastuulla käyttäjille itse arvioida ja ottaa riskejä. Tämä saattaa olla kestämätön lähestymistapa, kun otetaan huomioon keskustelutekoälyjärjestelmien laaja vaikutus. Proaktiivinen sääntely ja tehokkaat täytäntöönpanotoimenpiteet on asetettava etusijalle käsiteltäessä tällaista mullistavaa teknologiaa.

Teollisuus ja lainsäätäjät tulisi toimia hyvissä aikomuksissa ja luoda toimiva sääntely, joka perustuu ihmiskeskeisiin arvoihin, kuten avoimuuteen, vastuullisuuteen ja reiluuteen. Viittaamalla olemassa oleviin lakeihin, kuten AIA: aan, yksityisen ja julkisen sektorin johtajat voivat suunnitella perusteellisia, maailmanlaajuisesti standardisoituja käytäntöjä, jotka estävät epäilyttävät käytöt ja lieventävät haitallisia seurauksia, pitäen tekoälyä rajoissa, jotka parantavat ihmisten elämänkokemuksia.