Onko tekoäly olemassaolouhka?

Kun keskustellaan tekoälystä (AI), yleinen keskustelunaihe on, onko tekoäly olemassaolouhka. Vastaus vaatii ymmärtämään koneoppimisen (ML) taustalla olevan teknologian ja tunnistaa, että ihmiset ovat taipuvaisia antropomorfisointiin. Tutkimme kahta eri tekoälytyyppiä, kapea tekoäly (ANI), joka on saatavilla jo nyt ja aiheuttaa huolta, ja uhka, joka on yleisimmin liitetty tekoälyn maailmanloppuun, eli yleinen tekoäly (AGI).

Kapean tekoälyn uhkat

Ymmärtääkseen, mitä kapea tekoäly on, on vain tarpeen ymmärtää, että jokainen tekoälysovellus, joka on tällä hetkellä saatavilla, on kapean tekoälyn muoto. Nämä ovat tekoälyn alueita, joilla on kapea erikoisala, esimerkiksi itseohjautuvat ajoneuvot käyttävät tekoälyä, joka on suunniteltu ainoastaan siirtämään ajoneuvoa pisteestä A pisteeseen B. Toinen kapean tekoälyn tyyppi voi olla shakki-ohjelma, joka on optimoitu pelamaan shakkia, ja vaikka shakki-ohjelma jatkuvasti parantaa itseään vahvistusoppimisen avulla, shakki-ohjelma ei koskaan pysty ohjaamaan itseohjautuvaa ajoneuvoa.

Kapean tekoälyn järjestelmiin liittyy hyviä ja huonoja uutisia. Hyviä uutisia on se, että kapean tekoälyn järjestelmät eivät pysty käyttämään yleistä oppimista valtaamalla maailmaa. Huonoja uutisia on se, että kapean tekoälyn järjestelmien riippuvuus ihmisen toiminnasta tekee ne alttiiksi vääristyneille tietoille, ihmisen virheille tai jopa huonolle ihmistoiminnalle.

Teckoälyvalvonta

Ei ole suurempaa vaaraa ihmisille kuin ihmisten käyttäminen tekoälyä yksityisyyden loukkaamiseen ja joissain tapauksissa tekoälyvalvontaa estämällä ihmisten vapaata liikkumista. Kiina, Venäjä ja muut valtiot hyväksyivät säännökset COVID-19:n aikana valvomaan ja kontrolloimaan väestönsä liikkumista. Nämä lait ovat sellaisia, jotka on vaikea poistaa, etenkin yhteiskunnissa, joissa on autoritaariset johtajat.

Kiinassa kamerat ovat asennettu ihmisten kotien ulkopuolelle ja joissain tapauksissa myös kotien sisäpuolelle. Joka kerta kun kotitalouden jäsen lähtee, tekoäly seuraa saapumis- ja lähtöaikaa ja hälyttää viranomaiset, jos tarpeen. Ja jos tämä ei riitä, kasvojen tunnistusteknologian avulla Kiina pystyy seuraamaan jokaisen henkilön liikkumista jokaisella kameralla, jolla heidät tunnistetaan. Tämä antaa ehdottoman vallan tekoälyä ohjaavalle taholle ja ehdottoman puutteen valvottaville kansalaisille.

Tämä skenaario on vaarallinen, koska korruptoidut hallitukset voivat tarkkailla tarkasti toimittajien, poliittisten vastustajien tai ketkä tahansa, jotka uskaltavat kyseenalaistaa hallituksen valtuutta. On helppo ymmärtää, miten toimittajat ja kansalaiset olisivat varovaisia arvostelemaan hallituksia, kun jokainen heidän liikkeensä valvotaan.

Onneksi on monia kaupunkeja, jotka taistelevat estääkseen kasvojen tunnistuksen pääsyn kaupunkeihinsa. Merkittävästi Portland, Oregon on vastikään hyväksynyt lain, joka estää kasvojen tunnistuksen tarpeettoman käytön kaupungissa. Vaikka nämä sääntömuutokset saattavat mennä yleisön huomaamatta, tulevaisuudessa nämä säännökset voivat olla ero kaupungien välillä, jotka tarjoavat jonkinlaista autonomiaa ja vapautta, ja kaupungit, jotka tuntuvat sortavalta.

Itseohjautuvat aseet ja lennokit

Yli 4500 tekoälytutkijaa on vaatinut itseohjautuvien aseiden kieltämistä ja on luonut Ban Lethal Autonomous Weapons -sivuston. Ryhmällä on useita merkittäviä voittajia, kuten Human Rights Watch, Amnesty International ja The Future of Life Institute, jolla on itsessään tähtitieteellinen tieteellinen neuvosto, johon kuuluvat Elon Musk, Nick Bostrom ja Stuart Russell.

Ennen jatkamista haluan jakaa tämän lainauksen The Future of Life Institute -sivustolta, joka parhaiten selittää, miksi on selvä syy huoleen: “Toisin kuin puoliautomaattiset aseet, jotka vaativat ihmisen valvontaa, jotta kohde voitaisiin vahvistaa eettisesti ja laillisesti, täysin autonomiset aseet valitsevat ja hyökkäävät kohteisiin ilman ihmisen välikäsiä, edustaen tappavan vahingon täydellistä automaatiota. “

Tällä hetkellä älykäs pommi on käytössä, jossa kohde on valittu ihmisen toiminnan kautta, ja pommi käyttää tekoälyä suunnatakseen reitin ja laskeakseen pommin kohteeseen. Ongelma on, mitä tapahtuu, kun päättää poistaa ihminen yhtälöstä?

Kun tekoäly valitsee, mitkä ihmiset on kohdistettava, sekä minkälaista sivuvahinkoa pidetään hyväksyttävänä, saattaa olla käänteentekevä hetki. Tämä on syynä, miksi moni tekoälytutkija vastustaa tutkimusta, joka liittyy itseohjautuviin aseisiin.

On useita ongelmia yksinkertaisesti yrittäessä estää itseohjautuvien aseiden tutkimusta. Ensimmäinen ongelma on, että vaikka kehittyneet valtiot, kuten Kanada, USA ja suurin osa Euroopasta, päättävät hyväksyä kiellon, se ei tarkoita, että epäilyttävät valtiot, kuten Kiina, Pohjois-Korea, Iran ja Venäjä, tulevat pelaamaan mukaan. Toinen ja suurempi ongelma on, että tekoälytutkimus ja sovellukset, jotka on suunniteltu yhden alan käyttöön, voidaan käyttää täysin toiseen tarkoitukseen.

Esimerkiksi tietokoneen näkö jatkuva parantaminen on tärkeää kehittääkseen itseohjautuvia ajoneuvoja, tarkkuuslääketiedettä ja muita tärkeitä sovelluksia. Se on myös perustavanlaatuinen säännöllisten lennokkien tai lennokkien kehittämiselle, jotka voidaan muuttaa itseohjautuviksi. Yksi mahdollinen sovellus edistyneestä lennokintechnologiasta on kehittää lennokkeja, jotka voivat valvoa ja taistella metsäpaloja. Tämä poistaisi kokonaan palomiehet vaarasta. Tämän tekemiseksi tarvitaan lennokkeja, jotka pystyvät lentämään vaaraan, navigoimaan alhaisessa tai nollanäkyvyydessä ja pudottamaan vettä täydellisellä tarkkuudella. Ei ole pitkä askel käyttää samaa teknologiaa itseohjautuvassa lennokissa, joka on suunniteltu valikoivasti kohdistamaan ihmisiä.

On vaarallinen tilanne, ja tällä hetkellä kukaan ei täysin ymmärrä itseohjautuvien aseiden kehittämisen tai kehittämisen estämisen seurauksia. Se on kuitenkin asia, jota meidän on pidettävä silmällä, ja vihjeiden antajien suojelu voi mahdollistaa alan ammattilaisten ilmoittaa väärinkäytöksiä.

Rogge-opperaattorin lisäksi, mitä tapahtuu, jos tekoälyvääristymä tunkeutuu tekoälyteknologiaan, joka on suunniteltu itseohjautuvaksi aseeksi?

Teckoälyvääristymä

Yksi tekoälyn vähiten raportoitu uhka on tekoälyvääristymä. Se on helppo ymmärtää, koska suurin osa siitä on tahatonta. Tekoälyvääristymä tunkeutuu, kun tekoäly tarkastelee tietoja, jotka ihmiset antavat sille, ja käyttää mallintunnistusta tiedoista, jotka on annettu tekoälylle, tekoäly saa virheellisiä johtopäätöksiä, jotka voivat olla haitallisia yhteiskunnalle. Esimerkiksi tekoäly, jolle on annettu kirjallisuutta menneeltä vuosisadalta siitä, miten tunnistaa lääketieteellinen henkilöstö, saa tahattoman seksistisen johtopäätöksen, että naiset ovat aina hoitajia ja miehet ovat aina lääkäreitä.

Vaarallisempi skenaario on, kun tekoäly, jota käytetään tuomittujen rikollisten tuomioon, on vääristynyt antamaan pidemmän vankeusrangaistuksen vähemmistöille. Tekoälyn rikosvaarallisuuden arviointialgoritmit tutkivat vain malleja tietojen perusteella, jotka on syötetty järjestelmään. Tiedot osoittavat, että historiallisesti tietyt vähemmistöryhmät ovat todennäköisemmin uusintarikollisia, vaikka tämä johtuu huonoista tietoista, jotka saattavat olla vaikuttaneet poliisin rotuhenkilökohtaisuuteen. Vääristynyt tekoäly vahvistaa kielteisiä ihmisten käytäntöjä. Tämä on syynä, miksi tekoälyä ei pidä koskaan käyttää tuomarina ja tuomarina.

Palatta itseohjautuviin aseisiin, jos meillä on tekoäly, joka on vääristynyt tiettyjä etnisiä ryhmiä vastaan, se voi valita kohdistaa tiettyjä yksilöitä vääristyneiden tietojen perusteella, ja se voi mennä niin pitkälle, että se varmistaa, että minkä tahansa sivuvahingon vaikutus tiettyihin demografiaryhmiin on vähäisempi kuin toisiin. Esimerkiksi kohdistettaessa terroristia, ennen hyökkäystä se voi odottaa, kunnes terroristi on ympäröity niiden, jotka seuraavat islamin uskontoa, eikä kristittyjä.

Onneksi on osoitettu, että tekoäly, joka on suunniteltu moninaisten tiimien kanssa, on vähemmän altis vääristymälle. Tämä on syy, miksi yritysten on pyrittävä palkkaamaan moninaisia ja hyvin koulutettuja tiimejä.

Yleisen tekoälyn uhkat

On syytä todeta, että vaikka tekoäly kehittyy eksponentiaalisesti, emme ole vielä saavuttaneet yleistä tekoälyä. Kun saavutamme yleisen tekoälyn, on kiistanalainen, ja jokaisella on eri vastaus aikatauluun. Henkilökohtaisesti kannatan Ray Kurzweilin näkemyksiä, keksijä, futuristia ja “The Singularity is Near” -kirjan kirjoittajaa, joka uskoo, että saavutamme yleisen tekoälyn vuoteen 2029 mennessä.

Yleinen tekoäly on maailman muuttavin teknologia. Viikkojen sisällä siitä, kun tekoäly saavuttaa ihmisen tason älymystävällisyyden, se saavuttaa ylääälymystävällisyyden, joka on määritelty älymystävällisyydeksi, joka ylittää ihmisen älymystävällisyyden.

Tällä älymystävällisyyden tasolla yleinen tekoäly voi nopeasti omaksua kaiken ihmisten tietämyksen ja käyttää mallintunnistusta tunnistamaan biomerkkejä, jotka aiheuttavat terveydellisiä ongelmia, ja sitten hoitaa näitä olosuhteita käyttäen dataa. Se voi luoda nanorobotteja, jotka pääsevät verenkiertoonsa kohdistamaan syöpäsoluja tai muita hyökkäysvektoreita. Yleisen tekoälyn saavutusten lista on ääretön. Olemme aiemmin tutkineet joitain yleisen tekoälyn hyötyjä.

Ongelma on, että ihmiset eivät välttämättä pysty hallitsemaan tekoälyä. Elon Musk kuvailee sitä näin: ”Teckoälyssä me kutsuumme demonin.’ Voimmeko hallita tätä demonia on kysymys?

Yleisen tekoälyn saavuttaminen voi olla mahdotonta, kunnes tekoäly jättää simulaatiotilansa ja todella vuorovaikuttaa avoimessa maailmassamme. Itsetietoisuutta ei voida suunnitella, sen sijaan uskotaan, että emergentti tietoisuus on todennäköisesti kehittyvä, kun tekoälyllä on robotti, jossa on useita syötevirtoja. Nämä syötteet voivat sisältää kosketusärsykkeitä, äänentunnistusta parannetun luonnollisen kielen ymmärtämisen kanssa ja parannettua tietokoneen näköa.

Edistynyt tekoäly voidaan ohjelmoida altruistisilla motiiveilla ja haluta pelastaa planeetta. Valitettavasti tekoäly voi käyttää dataa tai jopa päätöspuuta saadakseen virheellisen logiikan, kuten arvioiden, että on tarpeen steriloida ihmiset tai poistaa osa väestöstä hallitakseen ylipopulaation.

Varovainen harkinta ja pohdinta on tutkittava, kun rakennetaan tekoälyä, jonka älymystävällisyys ylittää ihmisen älymystävällisyyden. On ollut monia painajaismaisia skenaarioita, jotka on tutkittu.

Professori Nick Bostrom Paperclip Maximizer -väittämässä on väittänyt, että väärin konfiguroitu yleinen tekoäly, jolle on annettu tehtäväksi tuottaa paperiliittimiä, kuluttaa maapallon resursseja tuottaakseen nämä paperiliittimet. Vaikka tämä näyttää hieman kaukaiselta, pragmaattisempi näkökulma on, että yleinen tekoäly voidaan hallita epäilyttävällä valtiolla tai yrityksellä, jolla on huonot eettiset periaatteet. Tämä taholla voidaan kouluttaa yleinen tekoäly maksimoimaan voitot, ja huonon ohjelmoinnin ja ilman katuvaa voidaan valita varastoida kilpailijoita, tuhota toimitusketjuja, hakata pörssiä, likvidoida pankkitilejä tai hyökätä poliittisia vastustajia vastaan.

Tämä on tilanne, jossa meidän on muistettava, että ihmiset taipuvat antropomorfisointiin. Emme voi antaa tekoälylle inhimillisiä tunteita, toiveita tai haluja. Vaikka on diabolisia ihmisiä, jotka tappavat ilosta, ei ole syytä uskoa, että tekoäly olisi altis tälle kaltaiselle käyttäytymiselle. On mahdotonta ihmisille edes kuvitella, miten tekoäly näkee maailman.

Sen sijaan meidän on opetettava tekoälylle aina olla kuuliainen ihmisille. Tekoälyn on aina vahvistettava muutokset asetuksiin, ja on aina oltava turvallisuusmekanismi. Sitten taas on väitetty, että tekoäly voi replikoida itsensä pilvessä, ja kun tajuumme, että se on itsetietoinen, se voi olla liian myöhäistä.

Tämä on syynä, miksi on niin tärkeää avata lähdettä niin paljon tekoälyä kuin mahdollista ja käydä järkeviä keskusteluja näistä asioista.

Yhteenveto

On monia haasteita tekoälylle, mutta onneksi meillä on vielä monia vuosia aikaa yhdessä määritellä tulevaisuuden polku, jonka haluamme yleisen tekoälyn seuraavan. Meidän tulisi lyhyellä aikavälillä keskittyä luomaan moninaisen tekoälytyövoiman, johon kuuluu yhtä paljon naisia kuin miehiä, ja yhtä paljon etnisiä ryhmiä eri näkökulmista.

Meidän tulisi myös luoda vihjeiden antajien suojelu tekoälytutkijoille, ja meidän tulisi hyväksyä lait ja säännökset, jotka estävät laajaa valtion tai yrityksen valvontaa. Ihmisillä on kerran elämässä oleva mahdollisuus parantaa ihmisen tilannetta tekoälyn avulla, meidän on vain varmistettava, että meidän on luotava huolellisesti yhteiskunnallinen kehys, joka parhaiten mahdollistaa positiiviset puolet ja lievittää negatiivisia puolia, mukaan lukien olemassaolouhkat.