Geavanceerde AI-technologieën stellen ethische uitdagingen – Thought Leaders

Door Alfred Crews, Jr., vice-president en chief counsel voor de Intelligence & Security-afdeling van BAE Systems Inc.

Vorig jaar, voordat de wereldwijde pandemie uitbrak, nam ik deel aan de Intelligence Ethics Conference van The Citadel in Charleston, waar we het onderwerp van ethiek in inlichtingengathering bespraken in verband met de bescherming van de nationale veiligheid. In de defensie-industrie zien we een toename van kennis, computing en geavanceerde technologieën, met name op het gebied van kunstmatige intelligentie (AI) en machine learning (ML). Echter, er kunnen significante problemen ontstaan bij het inzetten van AI in de context van inlichtingengathering of real-time gevechten.

AI in combinatie met quantum computing brengt risico’s met zich

Wat we moeten bevragen, analyseren en een weg vooruit moeten vinden, is wanneer we AI in combinatie met quantum computing-capaciteiten gebruiken in het proces van besluitvorming tijdens oorlog. Bijvoorbeeld, herinner je je de Terminator? Terwijl onze technologie sprongen maakt, is de realiteit van wat Skynet presenteert voor ons. We kunnen ons afvragen: “Komt Skynet ons halen?” Laten we even teruggaan in de tijd; de AI-machines namen de controle over omdat ze in staat waren om zelf te denken en beslissingen te nemen zonder menselijke instructies. Toen de machines concludeerden dat mensen een bug waren, besloten ze om de mensheid te vernietigen. Maak je geen zorgen, AI heeft een groot potentieel, maar ik geloof dat het controleparameters nodig heeft vanwege het risicofactor.

De ethische ambiguïteiten en filosofische dilemma’s van AI

Ik geloof dat dit precies is waarom het Amerikaanse ministerie van Defensie (DoD) zijn eigen Ethical Principles for AI heeft uitgegeven, omdat het gebruik van AI nieuwe ethische ambiguïteiten en risico’s met zich meebrengt. Wanneer we AI combineren met quantum computing-capaciteiten, verandert de mogelijkheid om beslissingen te nemen en neemt het risico om de controle te verliezen toe – meer dan we ons vandaag realiseren. Quantum computing maakt onze menselijke hersenen tot schande omdat supercomputers exponentieel meer berekeningen kunnen uitvoeren en met meer precisie dan onze menselijke hersenen ooit zullen kunnen.

Bovendien brengt het gebruik van AI in combinatie met computing een filosofisch dilemma met zich. Op welk moment zal de wereld toestaan dat machines een eigen wil hebben; en als machines toegestaan worden om zelf te denken, betekent dit dan dat de machine zelf bewust is geworden? Betekent bewustzijn leven? Als samenleving hebben we nog niet bepaald hoe we deze situatie moeten definiëren. Dus, zoals het er nu voor staat, kunnen machines die zelfstandig handelen zonder menselijke instructies, tot gevolgen leiden. Kan een machine een menselijke interventie om een vuur te stoppen, overschrijden? Als de machine zelfstandig werkt, zullen we in staat zijn om de stekker eruit te trekken?

Volgens mij is het gebruik van AI vanuit een defensief oogpunt gemakkelijk te doen. Echter, hoeveel gemakkelijker zou het zijn om over te schakelen naar het offensief? In het offensief zouden machines beslissingen nemen over gevechten op het moment. Zou een machine die een vijand neerschiet, een schending van het Verdrag van Genève en de wetten van de oorlog zijn? Terwijl we deze ruimte snel betreden, moet de wereld overeenkomen dat het gebruik van AI en quantum computing in gevechten moet voldoen aan de wetten die we nu hebben.

Het DoD heeft een positie ingenomen bij het gebruik van AI met autonome systemen en stelt dat er altijd een persoon betrokken zal zijn bij het beslissingsproces; een persoon zal de finale beslissing nemen over het afvuren van een wapen. Dat is onze regel, maar wat gebeurt er als een tegenstander besluit om een andere route te nemen en een AI-capabele machine alle finale beslissingen laat nemen? Dan zou de machine, die, zoals we hebben besproken, al sneller, slimmer en nauwkeuriger is, het voordeel hebben.

Laten we naar een drone met AI en gezichtsherkenning kijken: de drone schiet zelfstandig omdat het een vooraf bepaald doelwit heeft gelabeld als terrorist. Wie is eigenlijk verantwoordelijk voor het schieten? Is er aansprakelijkheid als er een vooroordeel fout is?

Vooringenomenheid in AI/ML

Onderzoek wijst uit dat een machine minder geneigd is om fouten te maken dan een mens. Echter, onderzoek bewijst ook dat er vooringenomenheid is in machine learning op basis van de menselijke “leraar” die de machine leert. De vijf ethische principes van AI van het DoD verwijzen naar bestaande vooringenomenheid wanneer het zegt: “Het departement zal bewuste stappen nemen om onbedoelde vooringenomenheid in AI-capaciteiten te minimaliseren.” We weten al door bewezen studies dat er vooringenomenheid is in gezichtsherkenningstoepassingen ten aanzien van mensen van kleur met valse positieven. Wanneer iemand de code creëert die de machine leert om beslissingen te nemen, zullen er vooringenomenheden zijn. Dit kan onbewust zijn omdat de persoon die de AI creëert, zich niet bewust was van de vooringenomenheid die in zichzelf bestond.

Hoe elimineer je vooringenomenheid? De uitvoer van AI is alleen zo goed als de invoer. Daarom moeten er controlemaatregelen zijn. Je moet de gegevens die binnenkomen controleren, omdat dat is wat de resultaten van AI minder valide kan maken. Ontwikkelaars zullen constant de code moeten herschrijven om de vooringenomenheid te elimineren.

De wereld moet de beste manier van technologiegebruik definiëren

Technologie op zich is niet goed of slecht. Het is hoe een natie het gebruikt dat de beste bedoelingen kan hebben en toch verkeerd kan gaan. Terwijl technologie vooruitgang boekt op manieren die het menselijk leven beïnvloeden, moet de wereld samenwerken om passende actie te definiëren. Als we de mens uit de vergelijking halen in AI-toepassingen, nemen we ook dat moment van aarzeling weg voordat we de trekker overhalen – die morele kompas die ons leidt; dat moment van aarzeling wanneer we stoppen en vragen: “Is dit goed?” Een machine die is geleerd om te reageren, zal dat moment van aarzeling niet hebben. Dus, de vraag is, zal de wereld in de toekomst hiermee instemmen? Hoe ver zal de wereld gaan om machines te laten beslissen over gevechten?