AI-mallit ja alustat

Teknologiajohtajat korostavat tekoälyn riskejä ja vahvan tekoälysääntelyn kiireellisyyttä

Haziqa Sajid
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatTeknologiajohtajat varoittavat, että tekoälyn ihmisälyä ylittäminen aiheuttaa…
Näytä lisää
  • Teknologiajohtajat varoittavat, että tekoälyn ihmisälyä ylittäminen aiheuttaa eksistentiaalisia riskejä, jotka vaativat kiireellisiä turvallisuusinvestointeja.
  • Yli 300 miljoonaa työpaikkaa on automoitavissa generatiivisen tekoälyn avulla, mikä edellyttää laajoja työvoiman uudelleenkoulutusohjelmia.
  • Ennakkoluuloiset tekoälyjärjestelmät voivat jatkaa syrjintää rekrytoinnissa ja lainvalvonnassa ilman tiukkaa auditointia.

Tekoälyn kasvu ja kehitys ovat olleet eksponentiaalisia viime vuosina. Statista raportoi, että vuoteen 2024 mennessä maailmanlaajuinen tekoälymarkkinan tuotto on noin 3000 miljardia dollaria, verrattuna 126 miljardiin dollariin vuonna 2015. Teknologiajohtajat varoittavat kuitenkin tekoälyn eri vaaroista.

Erityisesti viimeaikainen generatiivisen tekoälyn mallien aalto, kuten ChatGPT, on tuonut uusia kykyjä eri tietosuojan kannalta herkkiin aloihin, kuten terveydenhuoltoon, koulutukseen, rahoitukseen jne. Nämä tekoälyyn perustuvat kehitykset ovat haavoittuvia, koska niissä on monia tekoälyn puutteita, joita pahantahtoiset toimijat voivat hyödyntää.

Käydään läpi, mitä tekoälyasiantuntijat sanovat viimeaikaisista kehityksistä ja korostavat tekoälyn mahdollisia vaaroja. Käsittelemme myös, miten näitä vaaroja voidaan hallita.

Teknologiajohtajat ja heidän huolenaiheensa tekoälyn riskejä koskien

Geoffrey Hinton

Geoffrey Hinton, kuuluisa tekoälyteknologiajohtaja (ja tämän alan “kummisetä”), joka äskettäin lähti Googlelta (GOOGL ), on ilmaissut huolensa tekoälyn nopeasta kehityksestä ja sen mahdollisista vaaroista. Hinton uskoo, että tekoälychatbotit voivat tulla “melko pelottaviksi”, jos ne ylittävät ihmisen älykkyyden.

Hinton sanoo:

“Tällä hetkellä näemme asioita, kuten GPT-4, joka ylittää ihmisen yleistiedon määrän, ja se ylittää sen pitkällä marginaalilla. Järkeilyssä se ei ole yhtä hyvä, mutta se tekee jo yksinkertaista järkeilyä. Ja kehityksen nopeuden vuoksi odotamme, että asiat paranevat melko nopeasti. Niinpä meidän on syytä olla huolissamme siitä.”

Lisäksi hän uskoo, että “pahat toimijat” voivat käyttää tekoälyä “pahoihin tarkoituksiin”, kuten antaa robotille alitavoitteita. Vaikka hänellä on huolia, Hinton uskoo, että tekoäly voi tuoda lyhytaikaisia hyötyjä, mutta meidän on myös panostettava tekoälyn turvallisuuteen ja hallintaan.

Elon Musk

Elon Muskin osallistuminen tekoälyyn alkoi hänen varhaisesta sijoituksestaan DeepMindiin vuonna 2010, ja hän oli mukana perustamassa OpenAI:ta ja otti tekoälyn mukaan Teslan autonomisiin ajoneuvoihin.

Vaikka hän on innostunut tekoälystä, hän usein korostaa tekoälyn riskejä. Musk sanoo, että voimakkaat tekoälyjärjestelmät voivat olla vaarallisempia sivilisaatiolle kuin ydinaseet. Haastattelussa Fox Newsissa huhtikuussa 2023 hän sanoi:

“Tekoäly on vaarallisempaa kuin, sanotaan, huonosti hallittu lentokoneen suunnittelu tai tuotannon ylläpito tai huonosti valmistettu auto. Siinä on potentiaali — riippumatta siitä, kuinka pienenä todennäköisyyttä pidetään — mutta se on merkittävä ja sillä on potentiaali tuhota sivilisaatio.”

Lisäksi Musk tukee hallituksen sääntelyä tekoälystä turvallisuuden varmistamiseksi, vaikka “se ei ole niin hauskaa”.

Pysäytä jättiläismäiset tekoälykokeet: Avoin kirje, jota tukevat tuhannet tekoälyasiantuntijat

Future of Life Institute julkaisi avoimen kirjeen 22. maaliskuuta 2023. Kirjeessä vaaditaan tilapäistä kuuden kuukauden keskeytystä tekoälyjärjestelmien kehittämisestä, jotka ovat edistyneempiä kuin GPT-4. Kirjeen kirjoittajat ilmaisevat huolensa tekoälyjärjestelmien kehittämisen nopeudesta, joka aiheuttaa vakavia sosioekonomisia haasteita.

Lisäksi kirjeessä todetaan, että tekoälykehittäjien on työskenneltävä päättäjien kanssa dokumentoidakseen tekoälyhallintajärjestelmät. Kesäkuussa 2023 kirje on allekirjoitettu yli 31 000 tekoälykehittäjän, asiantuntijan ja teknologiajohtajan toimesta. Merkittäviin allekirjoittajiin kuuluvat Elon Musk, Steve Wozniak (Apple (AAPL ) -yhtiön toinen perustaja), Emad Mostaque (Stability AI:n toimitusjohtaja), Yoshua Bengio (Turing-palkinnon voittaja) ja monet muut.

Vastaväitteet tekoälyn kehittämisen keskeyttämisestä

Kaksi merkittävää tekoälyjohtajaa, Andrew Ng ja Yann LeCun, ovat vastustaneet kuuden kuukauden keskeytystä edistyneiden tekoälyjärjestelmien kehittämisessä ja pitävät keskeytystä huonona ideana.

Ng sanoo, että tekoälyyn liittyy riskejä, kuten vinoumia ja vallan keskittymistä, mutta sen tuottama arvo koulutuksessa, terveydenhuollossa ja tarpeisiin reagoivassa valmennuksessa on valtava.

Yann LeCun sanoo, ettei tutkimusta ja kehittämistä pitäisi pysäyttää, mutta loppukäyttäjille päätyviä tekoälytuotteita voidaan säännellä.

Mitkä ovat tekoälyn mahdolliset vaarat ja välittömät riskit?

Tekoälyn mahdolliset vaarat ja välittömät riskit

1. Työpaikkojen korvautuminen

Tekoälyasiantuntijat uskovat, että älykkäät tekoälyjärjestelmät voivat korvata kognitiivisia ja luovia tehtäviä. Investointipankki Goldman Sachs (GS ) arvioi, että noin 300 miljoonaa työpaikkaa tulee automaatioon generatiivisen tekoälyn avulla.

Siispä tekoälyn kehittämiseen on ryhdyttävä sääntelyyn, jotta se ei aiheuta vakavaa taloudellista laskua. Tämän haasteen ratkaisemiseksi tarvitaan koulutusohjelmia, joilla työntekijöiden osaamista kehitetään ja heitä koulutetaan uusiin tehtäviin.

2. Harhat tekoälyjärjestelmissä

Ennakkoluulot, joita ihmisillä esiintyy sukupuoleen, etniseen taustaan tai ihonväriin liittyen, voivat tahattomasti siirtyä tekoälyjärjestelmien koulutusdataan ja tehdä järjestelmistä vinoutuneita.

Esimerkiksi työnhakuun liittyvissä tehtävissä harhainen tekoälyjärjestelmä voi hylätä tietyistä etnisistä taustoista olevien henkilöiden ansioluetteloita, mikä aiheuttaa syrjintää työmarkkinoilla. Lainvalvonnassa vinoutunut ennakoiva poliisitoiminta voi kohdistua epäsuhtaisesti tiettyihin naapurustoihin tai demografisiin ryhmiin.

Siispä on tärkeää, että on olemassa kattava datastrategia, joka koskee tekoälyn riskejä, erityisesti harhaa. Tekoälyjärjestelmiä on arvioitava ja tarkastettava säännöllisesti, jotta ne ovat reiluja.

3. Turvallisuuskriittiset tekoälysovellukset

Autonomiset ajoneuvot, lääketieteellinen diagnosointi ja hoito, ilmailujärjestelmät, ydinvoimalan ohjaus jne. ovat kaikki esimerkkejä turvallisuuskriittisistä tekoälysovelluksista. Nämä tekoälyjärjestelmät on kehitettävä varovasti, koska jopa pienet virheet voivat aiheuttaa vakavia seurauksia ihmiselle tai ympäristölle.

Esimerkiksi tekoälyohjelmiston Maneuvering Characteristics Augmentation System (MCAS) virheellisyys on osittain vastuussa kahden Boeing 737 MAX -lentokoneen tuhoutumisesta, ensin lokakuussa 2018 ja sitten maaliskuussa 2019. Valitettavasti onnettomuudet vaativat 346 ihmisen hengen.

Miten voimme voittaa tekoälyjärjestelmien riskit? – Vastuullinen tekoälykehitys ja sääntely

Vastuullinen tekoälykehitys ja sääntely

Vastuullinen tekoäly (RAI) tarkoittaa tekoälyjärjestelmien kehittämistä ja käyttöönottoa, jotka ovat reiluja, vastuullisia, avoimia ja turvallisia, ja jotka varmistavat yksityisyyden ja noudattavat lakien ja yhteiskunnallisten normien määräyksiä. Vastuullisen tekoälyn toteuttaminen voi olla monimutkaista, koska tekoälyjärjestelmiä kehitetään laajasti ja nopeasti.

Kuitenkin suuret teknologiayritykset ovat kehittäneet vastuullisen tekoälyn kehykset, kuten:

  1. Microsoftin vastuullinen tekoäly
  2. Googlen tekoälyperiaatteet
  3. IBM:n luotettava tekoäly

Tekoälylaboratoriot ympäri maailmaa voivat ottaa vaikutteita näistä periaatteista tai kehittää omat vastuulliset tekoälykehykset luotettavien tekoälyjärjestelmien luomiseksi.

Tekoälyn sääntely

Koska data on tekoälyjärjestelmien olennainen osa, tekoälyorganisaatioiden ja -laboratorioiden on noudatettava seuraavia sääntelyjä varmistamaan datan turvallisuuden, yksityisyyden ja turvallisuuden.

  1. GDPR (Yleinen tietosuoja-asetus) – EU:n tietosuojakehys.
  2. CCPA (Kalifornian kuluttajien tietosuoja-asetus) – Kalifornian osavaltion laki kuluttajien oikeuksien ja suojelun vuoksi.
  3. HIPAA (Terveydenhuollon tietosuojalaki) – Yhdysvaltain laki, joka suojaa potilaiden terveydenhuollon tietoja.
  4. EU:n tekoälyasetus ja luotettavan tekoälyn eettiset ohjeet – Euroopan komission tekoälysääntely.

On olemassa eri maiden alueellisia ja paikallisia lakeja, joita on säädetty suojellakseen kansalaisia. Organisaatiot, jotka eivät varmista sääntelyn noudattamista dataa koskien, voivat joutua vakaviin seuraamuksiin. Esimerkiksi GDPR on asettanut sakon 20 miljoonaa euroa tai 4 % vuotuisesta voitosta vakavista rikkomuksista, kuten laittomasta tietojen käsittelystä, epäilyttävistä suostumuksesta, tietosuojan loukkaamisesta tai suojattoman datan siirtämisestä kansainväliselle taholle.

Tekoälykehitys ja sääntely – Nykytila ja tulevaisuus

Jokaisen kuukauden myötä tekoälyn edistysaskeleet saavuttavat ennennäkemättömiä korkeuksia. Mutta niiden mukana olevat tekoälynsääntelyt ja -hallintokehykset ovat jäljessä. Niiden on oltava vahvemmat ja tarkemmat.

Teknologiajohtajat ja tekoälykehittäjät ovat varoittaneet tekoälyn riskeistä, jos sitä ei säännellä riittävästi. Tekoälytutkimus ja -kehitys voivat tuoda arvoa monilla aloilla, mutta on selvää, että varovainen sääntely on nyt välttämätöntä.

Lisää tekoälyyn liittyvää sisältöä löytyy unite.ai:sta.

Haziqa on datatieteilijä, jolla on laaja kokemus teknisen sisällön kirjoittamisesta tekoäly- ja SaaS-yrityksille.