Teknoloġiji Avvanzati tal-AI Jippreżentaw Sfidi Etiċi - Mexxejja tal-Ħsieb

Minn Alfred Crews, Jr il-Viċi President u avukat ewlieni għas-settur tal-Intelliġenza u s-Sigurtà ta' BAE Systems Inc.

Aktar kmieni din is-sena, qabel il-pandemija globali, attendejt il-Konferenza dwar l-Etika tal-Intelliġenza taċ-Ċittadella f’Charleston, fejn iddiskutejna s-suġġett tal-etika fil-ġbir tal-intelliġenza kif għandu x’jaqsam mal-protezzjoni tas-sigurtà nazzjonali. Fl-industrija tad-difiża, qed naraw il-proliferazzjoni ta 'għarfien, kompjuters, u teknoloġiji avvanzati, speċjalment fil-qasam tal-intelliġenza artifiċjali (AI) u t-tagħlim tal-magni (ML). Madankollu, jista' jkun hemm kwistjonijiet sinifikanti meta tintuża l-AI fil-kuntest tal-ġbir tal-intelliġenza jew il-ġlieda f'ħin reali.

L-AI flimkien mal-komputazzjoni kwantistika tippreżenta riskji

Dak li rridu niddubitaw, nanalizzaw u niddeterminaw triq 'il quddiem huwa meta nużaw l-AI flimkien ma' kapaċitajiet ta' komputazzjoni quantum fil-proċess tat-teħid tad-deċiżjonijiet fi żmien il-gwerra. Per eżempju, tiftakar it-Terminator? Hekk kif it-teknoloġija tagħna tagħmel leaps and bounds, ir-realtà ta’ dak li ppreżenta Skynet tinsab quddiemna. Nistgħu nkunu qed nistaqsu lilna nfusna, "Skynet ġej biex iġibna?" Ħu stroll 'l isfel il-korsija tal-memorja miegħi; il-magni AI ħadu f'idejhom għax kellhom il-kapaċità li jaħsbu u jieħdu deċiżjonijiet waħedhom, mingħajr bniedem li jidderieġih. Meta l-magni naqqsu li l-bnedmin kienu bug, huma bdew jeqirdu l-umanità. Taħsibx ħażin, l-AI għandha potenzjal kbir, iżda nemmen li għandu jkollha parametri ta 'kontroll minħabba l-fattur ta' riskju involut.

L-ambigwitajiet etiċi u d-dilemma filosofika tal-AI

Nemmen li dan huwa preċiżament għaliex id-Dipartiment tad-Difiża tal-Istati Uniti (DoD) ħareġ tiegħu stess Prinċipji Etiċi għall-AI, minħabba li l-użu tal-AI jqajjem ambigwitajiet u riskji etiċi ġodda. Meta tgħaqqad l-AI mal-kapaċitajiet tal-komputazzjoni kwantistika, l-abbiltà li tieħu deċiżjonijiet bidliet u r-riskju li jintilef il-kontroll jiżdied - aktar milli nistgħu nirrealizzaw illum. L-informatika kwantika tpoġġi s-sistema operattiva tal-moħħ tal-bniedem tagħna għall-mistħija għax is-super-kompjuters jistgħu jagħmlu b'mod esponenzjali aktar kalkoli aktar malajr u b'aktar preċiżjoni milli qatt se jkun kapaċi l-imħuħ uman tagħna.

Barra minn hekk, l-użu tal-AI flimkien mal-kompjuters jippreżenta dilemma filosofika. F'liema punt id-dinja se tippermetti li l-magni jkollhom rieda tagħhom stess; u, jekk il-magni jitħallew jaħsbu waħedhom, dan ifisser li l-magna nnifisha saret konxja minnha nfisha? Li tkun konxju minnu nnifsu jikkostitwixxi l-ħajja? Bħala soċjetà, għadna ma ddeterminajnax kif niddefinixxu din is-sitwazzjoni. Għalhekk, kif inhi llum, magni li jieħdu azzjoni waħedhom mingħajr bniedem biex jikkontrollawha, jistgħu jwasslu għal ramifikazzjonijiet. Tista’ magna tegħleb l-intervent ta’ bniedem biex twaqqaf in-nar? Jekk il-magna tkun qed topera waħedha, inkunu nistgħu niġbdu l-plagg?

Kif narah jien, l-użu tal-AI minn lat difensiv huwa faċli li tagħmel. Madankollu, kemm ikun aktar faċli li tittrasferixxi għall-offensiva? Fuq ir-reat, il-magni jkunu qed jieħdu deċiżjonijiet ta 'sparar tal-ġlied fuq il-post. Magna li tispara ghadu tikkostitwixxi ksur tal-Konvenzjoni ta' Ġinevra u l-liġijiet tal-kunflitt armat? Nimxu f'dan l-ispazju b'rata mgħaġġla, id-dinja trid taqbel li l-użu tal-AI u l-komputazzjoni quantum fil-ġlieda għandhom jidħlu fil-liġijiet li għandna fis-seħħ bħalissa.

Id-DoD għandu pożizzjoni meta juża AI b'sistemi awtonomi u jiddikjara li dejjem se jkun hemm persuna involuta fil-proċess tat-teħid tad-deċiżjonijiet; persuna kienet tagħmel l-aħħar sejħa meta tiġbed grillu biex tispara arma. Dik hija r-regola tagħna, imma x'jiġri jekk avversarju jiddeċiedi li jieħu rotta oħra u jkollu magna kapaċi għall-AI tieħu d-deċiżjonijiet finali kollha? Imbagħad il-magna, li, kif iddiskutejna, hija diġà aktar mgħaġġla, aktar intelliġenti u aktar preċiża, ikollha l-vantaġġ.

Ejja nħarsu lejn drone mgħammar b'AI u rikonoxximent tal-wiċċ: Id-drone jispara waħdu minħabba mira determinata minn qabel ittikkettata bħala terrorista. Min hu fil-fatt responsabbli għall-isparar? Hemm responsabbiltà jekk ikun hemm żball preġudikat?

Bias moħmija f'AI/ML

Ir-riċerka tindika l-fatt li magna hija inqas probabbli li tagħmel żbalji milli jagħmel bniedem. Madankollu, ir-riċerka turi wkoll li hemm preġudizzju fit-tagħlim tal-magni bbażat fuq il-“għalliem” uman li jgħallem il-magna. Il-ħames Prinċipji Etiċi tal-AI tad-DoD irreferew għal preġudizzji eżistenti meta jiddikjara, "Id-Dipartiment se jieħu passi intenzjonati biex jimminimizza l-preġudizzju mhux intenzjonat fil-kapaċitajiet tal-AI." Aħna diġà nafu permezz studji ppruvati li fl-użu ta 'applikazzjonijiet ta' rikonoxximent tal-wiċċ hemm preġudizzju lejn nies ta 'kulur b'pożittivi foloz. Meta persuna toħloq il-kodiċi li tgħallem lill-magna kif tieħu deċiżjonijiet, ikun hemm preġudizzji. Dan jista 'jkun mhux intenzjonat minħabba li l-persuna li toħloq l-AI ma kinitx konxja tal-preġudizzju li kien jeżisti fih innifsu.

Allura, kif wieħed jelimina l-preġudizzju? L-output AI huwa tajjeb biss daqs l-input. Għalhekk, irid ikun hemm kontrolli. Int trid tikkontrolla d-dejta li tiċċirkola għaliex dan huwa dak li jista 'jagħmel ir-riżultati tal-AI inqas validi. L-iżviluppaturi dejjem ikollhom jerġgħu jiktbu l-kodiċi biex jeliminaw il-preġudizzju.

Id-dinja biex tiddefinixxi l-aħjar użu tat-teknoloġija  

It-teknoloġija fiha nnifisha mhix tajba jew ħażina. Huwa kif nazzjon jużah li jista 'jieħu l-aħjar intenzjonijiet u jġibu ħażin. Hekk kif it-teknoloġija tavvanza b'modi li jkollhom impatt fuq il-ħajja tal-bniedem, id-dinja trid taħdem flimkien biex tiddefinixxi azzjoni xierqa. Jekk nieħdu l-bniedem mill-ekwazzjoni fl-applikazzjonijiet tal-AI, nieħdu wkoll dik il-pawsa qabel ma nġibu l-grillu - dak il-boxxla morali li jiggwidana; dik il-pawża meta nieqfu u nistaqsu, “Dan hu tajjeb?” Magna mgħallma biex tidħol mhux se jkollha dik il-pawsa. Allura, il-mistoqsija hija, fil-futur, id-dinja se toqgħod għal dan? Kemm se tmur id-dinja biex tippermetti lill-magni jieħdu deċiżjonijiet tal-ġlieda kontra?