Háþróuð gervigreind tækni býður upp á siðferðilegar áskoranir - hugsunarleiðtogar

Eftir Alfred Crews, Jr, varaforseta og aðalráðgjafa leyniþjónustu- og öryggisgeirans BAE Systems Inc.

Fyrr á þessu ári, fyrir heimsfaraldurinn, sótti ég siðfræðiráðstefnu Citadel's í Charleston, þar sem við ræddum siðfræði í upplýsingaöflun eins og það tengist vernd þjóðaröryggis. Í varnariðnaðinum erum við að sjá útbreiðslu þekkingar, tölvunar og háþróaðrar tækni, sérstaklega á sviði gervigreindar (AI) og vélanáms (ML). Hins vegar gætu verið veruleg vandamál þegar gervigreind er beitt í samhengi við upplýsingaöflun eða rauntíma bardaga.

Gervigreind ásamt skammtatölvu skapar áhættu

Það sem við verðum að efast um, greina og ákvarða leið fram á við er þegar við notum gervigreind ásamt skammtatölvugetu í ferli ákvarðanatöku á stríðstímum. Manstu til dæmis eftir Terminator? Þar sem tæknin okkar tekur stórum skrefum er raunveruleiki þess sem Skynet kynnti fyrir okkur. Við gætum verið að spyrja okkur: „Kemr Skynet að sækja okkur? Farðu með mér í göngutúr niður minnisstíginn; gervigreindarvélarnar tóku við vegna þess að þær höfðu getu til að hugsa og taka ákvarðanir á eigin spýtur, án þess að maður stjórnaði því. Þegar vélarnar drógu frá því að mennirnir væru pöddur, ætluðu þeir að eyða mannkyninu. Ekki misskilja mig, gervigreind hefur mikla möguleika, en ég tel að það hljóti að hafa stjórnbreytur vegna áhættuþáttarins.

Siðferðileg tvískinnungur gervigreindar og heimspekileg vandamál

Ég tel að þetta sé einmitt ástæðan fyrir því að bandaríska varnarmálaráðuneytið (DoD) gaf út sitt Siðareglur fyrir gervigreind, vegna þess að notkun gervigreindar veldur nýjum siðferðilegum óljósum og áhættum. Þegar gervigreind er sameinuð og skammtatölvunargetu eykst getan til að taka ákvarðanir og hættan á að missa stjórnina – meira en við gætum gert okkur grein fyrir í dag. Skammtatölvur setur stýrikerfi mannsheilans okkar til skammar vegna þess að ofurtölvur geta gert veldisvísis fleiri útreikninga hraðari og með meiri nákvæmni en mannsheilinn mun nokkurn tíma geta gert.

Að auki veldur notkun gervigreindar ásamt tölvumálum heimspekilegu vandamáli. Á hvaða tímapunkti mun heimurinn leyfa vélum að hafa eigin vilja; og ef vélum er leyft að hugsa sjálfar, þýðir það þá að vélin sjálf sé orðin sjálfsmeðvituð? Er það líf að vera meðvitaður um sjálfan sig? Sem samfélag höfum við ekki enn ákveðið hvernig á að skilgreina þetta ástand. Þannig, eins og staðan er í dag, gætu vélar sem grípa til aðgerða á eigin spýtur án þess að maður stjórni því leitt til afleiðinga. Gæti vél hnekið íhlutun manns til að stöðva eld? Ef vélin starfar ein og sér, munum við þá geta dregið úr tappanum?

Eins og ég sé það er auðvelt að nota gervigreind frá varnarsjónarmiðum. Hins vegar, hversu miklu auðveldara væri að fara yfir í sókn? Á brotinu myndu vélar taka ákvarðanir um bardagaskot á staðnum. Myndi vél sem skýtur niður óvin vera brot á Genfarsáttmálanum og lögum um vopnuð átök? Með því að flytja inn í þetta rými á hröðum hraða, verður heimurinn að vera sammála um að notkun gervigreindar og skammtatölvunar í bardaga verði að spila inn í lögin sem við höfum núna.

DoD hefur stöðu þegar gervigreind er notuð með sjálfstæðum kerfum og segir að það muni alltaf vera einstaklingur sem tekur þátt í ákvarðanatökuferlinu; manneskja myndi hringja í síðasta sinn þegar hann ýtti í gikkinn til að skjóta af vopni. Það er regla okkar, en hvað gerist ef andstæðingur ákveður að fara aðra leið og lætur vél sem hæfir gervigreind taka allar lokaákvarðanir? Þá hefði vélin, sem, eins og við ræddum, nú þegar hraðari, snjallari og nákvæmari, kostinn.

Við skulum skoða dróna með gervigreind og andlitsgreiningu: Dróninn skýtur af eigin vilja vegna fyrirfram ákveðið skotmark sem er merkt sem hryðjuverkamaður. Hver ber eiginlega ábyrgð á skotinu? Er ábyrgð ef um hlutdræg mistök er að ræða?

Hlutdrægni bakað inn í gervigreind/ML

Rannsóknir benda til þess að vél er ólíklegri til að gera mistök en manneskjan. Hins vegar sanna rannsóknir einnig að hlutdrægni sé í vélanámi sem byggist á því að „kennarinn“ mannsins kennir vélina. Fimm siðferðisreglur DoD um gervigreind vísa til núverandi hlutdrægni þegar hún segir: "Deildin mun gera vísvitandi ráðstafanir til að lágmarka óviljandi hlutdrægni í gervigreindargetu." Við vitum nú þegar í gegn sannreyndar rannsóknir að í notkun andlitsgreiningarforrita sé hlutdrægni í garð litaðs fólks með rangar jákvæðar niðurstöður. Þegar einstaklingur býr til kóðann sem kennir vélinni hvernig á að taka ákvarðanir verður hlutdrægni. Þetta gæti verið óviljandi vegna þess að sá sem bjó til gervigreindina var ekki meðvitaður um hlutdrægni sem var til staðar í honum sjálfum.

Svo, hvernig útilokar maður hlutdrægni? AI framleiðsla er aðeins eins góð og inntakið. Þess vegna verður að vera eftirlit. Þú verður að stjórna gögnunum sem streyma inn því það er það sem gæti gert gervigreindarniðurstöður ógildar. Hönnuðir verða stöðugt að endurskrifa kóðann til að útrýma hlutdrægni.

Heimurinn til að skilgreina bestu notkun tækni  

Tæknin er í sjálfu sér hvorki góð né slæm. Það er hvernig þjóð notar það sem gæti tekið bestu fyrirætlanir og látið það fara úrskeiðis. Eftir því sem tækninni fleygir fram á þann hátt sem hefur áhrif á mannslíf, verður heimurinn að vinna saman að því að skilgreina viðeigandi aðgerðir. Ef við tökum manneskjuna út úr jöfnunni í gervigreindarforritum, tökum við líka hléið áður en við tökum í gikkinn - þessi siðferðilegi áttaviti sem leiðir okkur; sem staldrar við þegar við stoppum og spyrjum: "Er þetta rétt?" Vél sem er kennt að taka þátt mun ekki hafa það hlé. Svo, spurningin er, í framtíðinni, mun heimurinn standa fyrir þessu? Hversu langt mun heimurinn ganga til að leyfa vélum að taka bardagaákvarðanir?