Ass AI eng existenziell Bedrohung?

Wann Dir iwwer Kënschtlech Intelligenz (AI) diskutéiert, ass eng gemeinsam Debatt ob AI eng existenziell Bedrohung ass. D'Äntwert erfuerdert d'Technologie hannert Machine Learning (ML) ze verstoen an ze erkennen datt d'Mënschen d'Tendenz hunn ze anthropomorphiséieren. Mir wäerten zwou verschidden Aarte vun AI entdecken, Kënschtlech Narrow Intelligence (ANI) déi elo verfügbar ass a Ursaach fir Suergen ass, an d'Drohung déi am allgemengen mat apokalyptesche Renditioune vun AI assoziéiert ass, wat Artificial General Intelligence (AGI) ass.

Kënschtlech schmuel Intelligenz Geforen

Fir ze verstoen wat ANI ass, musst Dir einfach verstoen datt all eenzel AI Applikatioun déi de Moment verfügbar ass eng Form vun ANI ass. Dëst sinn Felder vun AI déi e schmuele Spezialfeld hunn, zum Beispill autonom Gefierer benotzen AI déi mam eenzegen Zweck entworf ass e Gefier vum Punkt A op B ze bewegen. Eng aner Aart vun ANI kéint e Schachprogramm sinn deen optimiséiert ass fir ze spillen Schach, an och wann de Schachprogramm sech kontinuéierlech verbessert andeems d'Verstäerkungsléiere benotzt, wäert de Schachprogramm ni fäeg sinn en autonomt Gefier ze bedreiwen.

Mat sengem Fokus op egal wéi eng Operatioun et verantwortlech ass, sinn ANI Systemer net fäeg generaliséiert Léieren ze benotzen fir d'Welt ze iwwerhuelen. Dat ass déi gutt Noriicht; déi schlecht Neiegkeet ass datt mat senger Ofhängegkeet op e mënschleche Bedreiwer den AI System ufälleg ass fir biased Daten, mënschleche Feeler, oder nach méi schlëmm, e schlëmmen mënschleche Bedreiwer.

AI Iwwerwaachung

Et kann keng gréisser Gefor fir d'Mënschheet sinn wéi d'Mënschen, déi AI benotzen fir d'Privatsphär z'invaséieren, an an e puer Fäll d'AI-Iwwerwaachung ze benotzen fir d'Leit komplett ze verhënneren, sech fräi ze beweegen.  China, Russland an aner Natiounen hunn Reglementer wärend dem COVID-19 duerchgaang fir hinnen z'erméiglechen d'Bewegung vun hirer jeweileger Populatioun ze iwwerwaachen an ze kontrolléieren. Dëst si Gesetzer déi eemol op der Plaz sinn, schwéier ze läschen, besonnesch a Gesellschaften déi autokratesch Leadere weisen.

A China si Kameraen ausserhalb vun de Leit hir Haiser stationéiert, an e puer Fäll bannent der Persoun doheem. All Kéier wann e Member vum Stot fortgeet, iwwerwaacht eng AI d'Zäit vun der Arrivée an dem Depart, an alarméiert wann néideg d'Autoritéiten. Wéi wann dat net genuch wier, mat der Hëllef vu Gesiichtserkennungstechnologie, China ass fäeg d'Bewegung vun all Persoun all Kéier wann se vun enger Kamera identifizéiert ginn. Dëst bitt absolut Kraaft fir d'Entitéit déi den AI kontrolléiert, an absolut Null Recours fir seng Bierger.

Firwat dëst Szenario geféierlech ass, ass datt korrupt Regierungen d'Bewegunge vu Journalisten, politesche Géigner oder jidderengem suergfälteg iwwerwaache kënnen, dee sech traut d'Autoritéit vun der Regierung a Fro ze stellen. Et ass einfach ze verstoen wéi Journalisten a Bierger virsiichteg wiere Regierungen ze kritiséieren wann all Bewegung iwwerwaacht gëtt.

Et gi glécklecherweis vill Stied déi kämpfen fir ze verhënneren datt d'Gesiichtserkennung hir Stied infiltréiert. Notamment, Portland, Oregon huet viru kuerzem e Gesetz gestëmmt dat blockéiert datt d'Gesiichtserkennung onnéideg an der Stad benotzt gëtt. Iwwerdeems dës Ännerungen an der Regulatioun vläicht vun der Allgemengheet net bemierkt ginn, kënnen dës Reglementer an Zukunft den Ënnerscheed tëscht Stied sinn, déi eng Aart vun Autonomie a Fräiheet ubidden, a Stied, déi oppressiv fillen.

Autonom Waffen an Dronen

Iwwer 4500 AI Fuerschunge fuerderen e Verbuet op autonom Waffen an hunn d' Ban Lethal Autonom Waffen ze verbannen Websäit. D'Grupp huet vill bemierkenswäert Net-Gewënn als Ënnerschrëfte wéi Mënscherechter Waacht, Amnesty International, An der D'Zukunft vum Liewen Institut déi u sech e stellar wëssenschaftleche Berodungsrot huet, dorënner den Elon Musk, Nick Bostrom a Stuart Russell.

Ier ech weiderfuere wäert ech dëst Zitat vum The Future of Life Institut deelen, wat am Beschten erkläert firwat et kloer Ursaach fir Suergen ass: "Am Géigesaz zu semi-autonome Waffen déi mënschlech Iwwerwaachung erfuerderen fir sécherzestellen datt all Zil als ethesch a legal legitim validéiert ass, sou wéi voll autonom Waffen wielt an engagéieren Ziler ouni mënschlech Interventioun, representéiert eng komplett Automatiséierung vum fatale Schued. "

Momentan gi Smart Bommen mat engem Zil ausgewielt vun engem Mënsch agesat, an d'Bomm benotzt dann AI fir e Kurs ze plangen an op säin Zil ze landen. De Problem ass wat geschitt wa mir décidéieren de Mënsch komplett aus der Equatioun ze läschen?

Wann en AI wielt wat d'Mënsche gezielt brauchen, souwéi d'Aart vu Nieweschued, déi als akzeptabel ugesi gëtt, hu mir vläicht e Punkt ouni Retour iwwerschratt. Dofir sinn esou vill AI Fuerscher dogéint fir alles ze fuerschen wat op afstand mat autonome Waffen verbonnen ass.

Et gi verschidde Probleemer mam einfach Versuch autonom Waffenfuerschung ze blockéieren. Den éischte Problem ass och wann fortgeschratt Natiounen wéi Kanada, d'USA, an déi meescht vun Europa entscheeden fir de Verbuet averstanen ze sinn, heescht et net datt schlëmm Natiounen wéi China, Nordkorea, Iran a Russland matspillen. Den zweeten a gréissere Problem ass datt AI Fuerschung an Uwendungen, déi fir Benotzung an engem Feld entworf sinn, an engem komplett net verwandte Feld benotzt kënne ginn.

Zum Beispill verbessert d'Computervisioun kontinuéierlech an ass wichteg fir autonom Gefierer, Präzisiounsmedizin an aner wichteg Benotzungsfäll z'entwéckelen. Et ass och grondsätzlech wichteg fir regulär Dronen oder Dronen déi geännert kënne ginn fir autonom ze ginn. Ee potenziell Benotzungsfall vu fortgeschratt Drone Technologie ass Dronen z'entwéckelen déi Bëschbränn iwwerwaachen a bekämpfen. Dëst géif d'Pompjeeë komplett aus dem Harms Wee ewechhuelen. Fir dëst ze maachen, musst Dir Dronen bauen déi fäeg sinn a Schued ze fléien, fir a geréng oder null Visibilitéit ze navigéieren, a fäeg sinn Waasser mat impeccabel Präzisioun ze falen. Et ass net wäit ewech fir dann dës identesch Technologie an enger autonomer Dron ze benotzen déi entwéckelt ass fir selektiv Mënschen ze zielen.

Et ass e geféierleche Problem an zu dësem Zäitpunkt versteet keen d'Implikatioune vum Fortschrëtt oder Versuch d'Entwécklung vun autonome Waffen ze blockéieren. Et ass awer eppes wat mir mussen eis Aen ophalen, verbesseren Whistle Blower Schutz kann déi am Feld erlaben Mëssbrauch ze mellen.

Rogue Bedreiwer ofgesinn, wat geschitt wann AI Bias an AI Technologie kräizt déi entwéckelt ass fir eng autonom Waff ze sinn?

AI Bias

Eng vun den onreportéiertsten Gefore vun AI ass AI Bias. Dëst ass einfach ze verstoen well déi meescht vun et ongewollt ass. AI Bias rutscht eran, wann en AI Daten iwwerpréift, déi vu Mënsche gefiddert ginn, mat Mustererkennung vun den Donnéeën, déi un den AI gefüttert goufen, erreecht d'AI falsch Conclusiounen, déi negativ Auswierkungen op d'Gesellschaft hunn. Zum Beispill, eng AI déi Literatur aus dem leschte Joerhonnert gefiddert gëtt iwwer wéi medizinescht Personal z'identifizéieren kann déi ongewollt sexistesch Conclusioun erreechen datt Fraen sinn ëmmer Infirmièren, a Männer sinn ëmmer Dokteren.

E méi geféierleche Szenario ass wéini AI déi benotzt gëtt fir veruerteelt Krimineller ze veruerteelen ass partiell fir méi laang Prisongsstrofe fir Minoritéiten ze ginn. Dem AI seng kriminell Risikobewäertung Algorithmen studéieren einfach Musteren an den Donnéeën, déi an de System gefüttert goufen. Dës Donnéeë weisen datt historesch bestëmmte Minoritéiten méi wahrscheinlech erëm beleidegen, och wann dat wéinst schlechten Datesätz ass, déi vu Police-Rasseprofiléierung beaflosst kënne ginn. Déi partiell AI verstäerkt dann negativ mënschlech Politik. Dofir sollt AI eng Richtlinn sinn, ni Riichter a Jury.

Zréck op autonom Waffen, wa mir eng AI hunn, déi géint verschidden ethnesch Gruppen partizipéiert ass, kéint et wielen fir bestëmmten Individuen op Basis vu biased Donnéeën ze zielen, an et kéint esou wäit goen, datt all Zort vu Nieweschued bestëmmte Demografie manner beaflosst wéi anerer. . Zum Beispill, wann Dir en Terrorist zielt, ier et attackéiert, kann et waarden bis den Terrorist ëmgi gëtt vun deenen, déi dem Moslemesche Glawen anstatt Chrëschten verfollegen.

Glécklecherweis ass et bewisen datt AI déi mat verschiddenen Teams entworf ass manner ufälleg fir Bias sinn. Dëst ass Grond genuch fir Entreprisen ze probéieren wann iwwerhaapt méiglech eng divers gutt ofgerënnt Team ze astellen.

Kënschtlech Allgemeng Intelligenz Bedrohungen

Et soll festgestallt ginn datt wärend AI an engem exponentielle Tempo viru geet, mir nach ëmmer net AGI erreecht hunn. Wéini mir AGI erreechen ass op fir Debatt, a jiddereen huet eng aner Äntwert op eng Timeline. Ech perséinlech abonnéieren op d'Meenungen vum Ray Kurzweil, Erfinder, Futurist, an Auteur vun 'The Singularity is Near', dee mengt datt mir wäerten hunn erreecht AGI bis 2029.

AGI wäert déi transformativst Technologie op der Welt sinn. Bannent Woche vun AI erreechen Mënsch-Niveau Intelligenz, wäert et dann erreechen Superintelligenz déi als Intelligenz definéiert gëtt, déi déi vun engem Mënsch wäit iwwerschreift.

Mat dësem Niveau vun der Intelligenz konnt en AGI séier all mënschlecht Wëssen absorbéieren a Mustererkennung benotzen fir Biomarker ze identifizéieren déi Gesondheetsprobleemer verursaachen, an dann dës Konditioune behandelen andeems Dir Datenwëssenschaft benotzt. Et kéint Nanobots erstellen, déi an de Bluttkrees kommen fir Kriibszellen oder aner Attackvektoren ze zielen. D'Lëscht vun den Erreechen en AGI ass fäeg ass onendlech. Mir hu virdru e puer vun de exploréiert Virdeeler vun AGI.

De Problem ass datt d'Mënschen net méi fäeg sinn d'AI ze kontrolléieren. Elon Musk beschreift et esou: "Mat kënschtlecher Intelligenz ruffe mir den Dämon op.' Wäerte mir fäeg sinn dësen Dämon ze kontrolléieren ass d'Fro?

AGI z'erreechen kann einfach onméiglech sinn bis en AI e Simulatiounsastellung verléisst fir wierklech an eiser oppener Welt ze interagéieren. Selbstbewosstsinn kann net entworf ginn, amplaz gëtt ugeholl datt eng emergent Bewosstsinn ass méiglecherweis ze evoluéieren wann en AI e robotesche Kierper huet mat multiple Input Streams. Dës Inpute kënnen taktile Stimulatioun, Stëmmerkennung mat verstäerkter natierlecher Sproochverständnis, a verstäerkter Computervisioun enthalen.

Déi fortgeschratt AI ka mat altruistesche Motiver programméiert ginn a wëll de Planéit retten. Leider kann d'AI benotzen data science, oder souguer a Entscheedungsbam fir onerwënscht fehlerhafter Logik ze kommen, wéi zum Beispill ze bewäerten datt et néideg ass d'Mënschen ze steriliséieren, oder e puer vun der mënschlecher Bevëlkerung ze eliminéieren fir d'mënschlech Iwwerpopulatioun ze kontrolléieren.

Virsiichteg Gedanken an Iwwerleeung musse exploréiert ginn wann Dir en AI mat Intelligenz baut, déi dee vun engem Mënsch wäit iwwerschreift. Et goufen vill Albtraumszenarien déi exploréiert goufen.

Professer Nick Bostrom am Paperclip Maximizer Argument huet argumentéiert datt e falsch konfiguréierten AGI, wann se opgefuerdert ginn Pabeierclips ze produzéieren, einfach all d'Äerdressourcen konsuméiere fir dës Paperclips ze produzéieren. Och wann dëst e bësse wäit ausgesinn schéngt, ass e méi pragmatesche Standpunkt datt en AGI vun engem rogue Staat oder enger Corporation mat enger schlechter Ethik kontrolléiert ka ginn. Dës Entitéit konnt d'AGI trainéieren fir Profitter ze maximéieren, an an dësem Fall mat enger schlechter Programméierung an Null Berouegung kéint et wielen fir Konkurrenten ze bankrotten, Versuergungsketten ze zerstéieren, d'Bourse ze hacken, Bankkonten ze liquidéieren oder politesch Géigner ze attackéieren.

Dëst ass wann mir mussen drun erënneren datt d'Mënschen éischter anthropomorphiséieren. Mir kënnen den AI Mënsch-Typ Emotiounen, Wënsch oder Wënsch net ginn. Wärend et diabolesch Mënschen sinn, déi fir Freed ëmbréngen, gëtt et kee Grond ze gleewen datt eng AI ufälleg wier fir dës Zort Verhalen. Et ass ondenkbar fir Mënschen iwwerhaapt ze betruechten wéi eng AI d'Welt géif gesinn.

Amplaz wat mir maache mussen ass AI léiere fir ëmmer e Mënsch ze respektéieren. D'AI soll ëmmer e Mënsch hunn all Ännerungen an Astellungen confirméieren, an et soll ëmmer e Feeler-sécher Mechanismus ginn. Duerno gouf et argumentéiert datt AI sech einfach an der Wollek replizéiert, a wann mir realiséieren datt et selbstbewosst ass, kann et ze spéit sinn.

Dofir ass et sou wichteg sou vill AI wéi méiglech opzemaachen an rational Diskussiounen iwwer dës Themen ze hunn.

Resumé

Et gi vill Erausfuerderunge fir AI, glécklecherweis hu mir nach vill Joer fir zesummen den zukünftege Wee erauszefannen, dee mir wëllen AGI huelen. Mir sollten kuerzfristeg fokusséieren op eng divers AI Aarbechtskräft ze kreéieren, déi sou vill Fraen wéi Männer enthält, an esou vill ethnesch Gruppen mat verschiddenste Standpunkter wéi méiglech.

Mir sollten och Whistleblower-Protectiounen fir Fuerscher kreéieren déi un AI schaffen, a mir sollten Gesetzer a Reglementer passéieren déi verbreet Mëssbrauch vu staatlechen oder gesellschaftleche Iwwerwaachung verhënneren. D'Mënschen hunn eng eemoleg Geleeënheet fir de mënschlechen Zoustand mat der Hëllef vun AI ze verbesseren, mir musse just dofir suergen datt mir suergfälteg e gesellschaftleche Kader erstellen deen déi Positives am beschten erméiglecht, wärend d'Negativer reduzéieren déi existenziell Bedrohungen enthalen.