Vísindamenn segja að menn myndu ekki geta stjórnað ofurgreindu gervigreind

Allir sem eru meðvitaðir um gervigreind (AI) hafa líklega heyrt einhverja útgáfu af því að hún losnaði að lokum undan stjórn manna. Þetta er ekki bara þema úr Sci-Fi kvikmyndum, heldur mjög sterkur möguleiki sem hefur marga sérfræðinga í viðkomandi iðnaði. Margir þessara sérfræðinga, þar á meðal vísindamenn, mæla með því að við byrjum að búa okkur undir þennan möguleika og forðast hann á allan hátt. 

Nú hefur alþjóðlegur hópur vísindamanna tekið þessa hugmynd og stutt hana með fræðilegum útreikningum. Teymið, sem innihélt vísindamenn frá Center for Humans and Machines við Max Planck Institute for Human Development, notaði þessa útreikninga til að sýna fram á hvernig ekki væri hægt að stjórna ofurgreindri gervigreind. 

Rannsóknin var nýlega birt í Journal of Artificial Intelligence Research. 

Ofurgreind gervigreind kerfi

Óttinn við ofurgreindu gervigreindarkerfi hefur að gera með þá staðreynd að slíkt kerfi væri mun æðri en menn. Það gæti ekki aðeins lært sjálfstætt, heldur gæti það líka fengið aðgang að öllum núverandi gögnum og unnið úr þeim mjög hratt. 

Slíkur atburður gæti leitt til þess að hin ofurgreinda gervigreind taki fram úr öllum núverandi vélum á netinu, og þó að það gæti og myndi gera hluti eins og lækna sjúkdóma og leysa önnur stór vandamál sem mannkynið stendur frammi fyrir, er hættan á að hlutirnir fari úr böndunum líka mikil. 

Manuel Cebrian er meðhöfundur rannsóknarinnar og leiðtogi Digital Mobilization Group við Center for Humans and Machines, Max Planck Institute for Human Development. 

„Ofgreind vél sem stjórnar heiminum hljómar eins og vísindaskáldskapur. En það eru nú þegar til vélar sem framkvæma ákveðin mikilvæg verkefni sjálfstætt án þess að forritarar skilji að fullu hvernig þeir lærðu það. Sú spurning vaknar því hvort þetta geti einhvern tíma orðið óviðráðanlegt og hættulegt fyrir mannkynið,“ segir Cebrian. 

Að stjórna kerfinu

Það eru tveir helstu skólar í hugsun þegar kemur að því að stjórna slíku kerfi. Í fyrsta lagi gætu menn takmarkað getu ofurgreindrar gervigreindar með því að takmarka aðgang þess að sumum gagnaveitum, eins og öllu internetinu. Kerfið gæti líka virkað án þess að komast í snertingu við umheiminn. Hins vegar er vandamálið við þetta að það myndi takmarka verulega möguleika gervigreindar.

Kerfinu yrði stjórnað með því að leyfa því aðeins að sækjast eftir niðurstöðum sem gagnast mannkyninu og það væri hægt að gera með því að forrita siðferðisreglur inn í það. 

Rannsóknin fól í sér að teymið þróaði fræðilegt innilokunaralgrím sem kemur í veg fyrir að ofurgreind gervigreind skaði menn undir neinum kringumstæðum. Þetta er hægt að ná með því að búa til eftirlíkingu af hegðun gervigreindar og greina hvers kyns hegðun sem gæti verið skaðleg. Þrátt fyrir þessa efnilegu kenningu sýnir núverandi greining að ekki er hægt að þróa slíkt reiknirit. 

Iyad Rahwan er forstöðumaður Miðstöðvar fyrir menn og vélar.

„Ef þú brýtur vandamálið niður í grunnreglur úr fræðilegri tölvunarfræði, kemur í ljós að reiknirit sem myndi skipa gervigreind að eyðileggja ekki heiminn gæti óvart stöðvað eigin starfsemi. Ef þetta gerðist myndirðu ekki vita hvort innilokunaralgrímið er enn að greina ógnina eða hvort það hefur hætt að innihalda skaðlega gervigreindina. Í raun gerir þetta innilokunaralgrímið ónothæft,“ segir Rahwan.

Annað mál er að sérfræðingar gætu ekki einu sinni áttað sig á því hvenær ofurgreind vél nær því ástandi, aðallega vegna þess að hún væri gáfaðri en menn.