Is AI een existentiële bedreiging?

Wanneer we het over Artificial Intelligence (AI) hebben, is een veel voorkomende discussie of AI een existentiële bedreiging is. Het antwoord vereist een begrip van de technologie achter Machine Learning (ML) en het erkennen dat mensen de neiging hebben om antropomorfisme te vertonen. We zullen twee verschillende soorten AI onderzoeken, Artificial Narrow Intelligence (ANI) die nu beschikbaar is en reden tot bezorgdheid is, en de bedreiging die meestal geassocieerd wordt met apocalyptische voorstellingen van AI, namelijk Artificial General Intelligence (AGI).

Artificial Narrow Intelligence Bedreigingen

Om te begrijpen wat ANI is, moet je simpelweg begrijpen dat elke enkele AI-toepassing die momenteel beschikbaar is, een vorm van ANI is. Deze zijn gebieden van AI die een smalle specialisatie hebben, bijvoorbeeld autonome voertuigen die AI gebruiken die speciaal is ontworpen voor het verplaatsen van een voertuig van punt A naar B. Een ander type ANI kan een schaakprogramma zijn dat geoptimaliseerd is om schaak te spelen, en zelfs als het schaakprogramma zichzelf continu verbetert door middel van versterking van het leren, zal het schaakprogramma nooit in staat zijn om een autonoom voertuig te besturen.

Met zijn focus op welke operatie het ook is verantwoordelijk voor, zijn ANI-systemen niet in staat om gegeneraliseerd leren te gebruiken om de wereld over te nemen. Dat is het goede nieuws; het slechte nieuws is dat, met zijn afhankelijkheid van een menselijke operator, het AI-systeem gevoelig is voor vooringenomen data, menselijke fouten of zelfs een rogue-menselijke operator.

AI Surveillance

Er kan geen groter gevaar voor de mensheid zijn dan mensen die AI gebruiken om de privacy te schenden en in sommige gevallen AI-surveillance te gebruiken om mensen volledig te voorkomen dat ze zich vrij kunnen bewegen. China, Rusland en andere landen hebben tijdens COVID-19 regelgeving goedgekeurd om hen in staat te stellen de bewegingen van hun respectievelijke bevolking te controleren en te monitoren. Dit zijn wetten die, eenmaal ingevoerd, moeilijk te verwijderen zijn, vooral in samenlevingen met autocratische leiders.

In China zijn camera’s geïnstalleerd buiten mensen’s huizen en in sommige gevallen binnen het huis van de persoon. Elke keer dat een lid van het huishouden vertrekt, monitort een AI de tijd van aankomst en vertrek en waarschuwt de autoriteiten indien nodig. Alsof dat nog niet genoeg was, kan China, met de hulp van gezichtsherkenningstechnologie, de bewegingen van elke persoon volgen elke keer dat hij door een camera wordt geïdentificeerd. Dit biedt absolute macht aan de entiteit die de AI controleert en absoluut geen enkele mogelijkheid tot verzet voor zijn burgers.

Waarom dit scenario gevaarlijk is, is dat corrupte regeringen de bewegingen van journalisten, politieke tegenstanders of iedereen die de autoriteit van de regering in twijfel trekt, nauwlettend in de gaten kunnen houden. Het is gemakkelijk te begrijpen hoe journalisten en burgers voorzichtig zouden zijn om regeringen te bekritiseren wanneer elke beweging wordt gemonitord.

Er zijn gelukkig veel steden die vechten om te voorkomen dat gezichtsherkenning hun steden binnendringt. Notabel is dat Portland, Oregon onlangs een wet heeft aangenomen die het gebruik van gezichtsherkenning in de stad verbiedt. Terwijl deze veranderingen in regelgeving mogelijk onopgemerkt zijn gebleven door het grote publiek, kunnen deze regelgevingen in de toekomst het verschil maken tussen steden die enige mate van autonomie en vrijheid bieden en steden die onderdrukkend aanvoelen.

Autonome Wapens en Drones

Meer dan 4500 AI-onderzoekers hebben opgeroepen tot een verbod op autonome wapens en hebben de Ban Lethal Autonomous Weapons-website gecreëerd. De groep heeft veel opvallende non-profitorganisaties als ondertekenaars, zoals Human Rights Watch, Amnesty International en The Future of Life Institute, dat op zichzelf een sterke wetenschappelijke adviesraad heeft, waaronder Elon Musk, Nick Bostrom en Stuart Russell.

Voordat ik verder ga, wil ik deze citaat van The Future of Life Institute delen, die het beste uitlegt waarom er duidelijke reden tot bezorgdheid is: “In tegenstelling tot semi-autonome wapens die menselijke toezicht vereisen om ervoor te zorgen dat elk doelwit als moreel en juridisch legitiem wordt gevalideerd, selecteren en richten dergelijke volledig autonome wapens doelwitten zonder menselijke tussenkomst, wat een complete automatisering van dodelijke schade vertegenwoordigt.”

Op dit moment worden slimme bommen ingezet met een doelwit dat door een mens is geselecteerd en de bom gebruikt vervolgens AI om een koers uit te stippelen en op zijn doelwit te landen. Het probleem is wat er gebeurt wanneer we besluiten om de mens volledig uit de vergelijking te halen?

Wanneer een AI besluit welke mensen als doelwit moeten worden genomen, evenals het type collaterale schade dat als acceptabel wordt beschouwd, kunnen we een punt van geen terugkeer hebben bereikt. Dit is waarom zoveel AI-onderzoekers zich verzetten tegen onderzoek naar autonome wapens.

Er zijn meerdere problemen met het simpelweg proberen om onderzoek naar autonome wapens te blokkeren. Het eerste probleem is dat, zelfs als geavanceerde landen zoals Canada, de VS en de meeste Europese landen besluiten om een verbod in te voeren, dit niet betekent dat landen als China, Noord-Korea, Iran en Rusland meespelen. Het tweede en grotere probleem is dat AI-onderzoek en -toepassingen die zijn ontworpen voor gebruik in een bepaald veld, mogelijk in een totaal niet gerelateerd veld kunnen worden gebruikt.

Als voorbeeld kan computerzicht continu worden verbeterd en is het belangrijk voor het ontwikkelen van autonome voertuigen, precisiegeneeskunde en andere belangrijke toepassingen. Het is ook fundamenteel belangrijk voor reguliere drones of drones die kunnen worden aangepast om autonoom te worden. Een potentieel gebruik van geavanceerde drone-technologie is het ontwikkelen van drones die bosbranden kunnen monitoren en bestrijden. Dit zou brandweerlieden volledig uit de gevarenzone halen. Om dit te doen, zou je drones moeten bouwen die in staat zijn om in de gevarenzone te vliegen, om te navigeren in lage of nul zichtbaarheid en om water met onberispelijke precisie te droppen. Het is niet zo’n grote stap om vervolgens dezelfde technologie te gebruiken in een autonome drone die is ontworpen om specifiek mensen als doelwit te nemen.

Het is een gevaarlijke situatie en op dit moment begrijpt niemand volledig de implicaties van het ontwikkelen of proberen te blokkeren van autonome wapens. Het is niettemin iets waar we onze ogen op moeten houden, door klokkenluidersbescherming te verbeteren, waardoor mensen in het veld misbruik kunnen melden.

Rogue-operator daargelaten, wat gebeurt er als AI-vooringenomenheid in AI-technologie glipt die is ontworpen om een autonoom wapen te zijn?

AI-vooringenomenheid

Een van de meest ongerapporteerde bedreigingen van AI is AI-vooringenomenheid. Dit is eenvoudig te begrijpen, omdat de meeste onopzettelijk zijn. AI-vooringenomenheid glipt in wanneer een AI data die door mensen is gevoerd, beoordeelt, en met behulp van patroonherkenning van de data die aan de AI is gevoerd, komt de AI tot ongewenste conclusies die negatieve gevolgen voor de samenleving kunnen hebben. Als voorbeeld kan een AI die is gevoerd met literatuur uit de voorbije eeuw over hoe medisch personeel te identificeren, tot de ongewenste sexistische conclusie komen dat vrouwen altijd verpleegsters zijn en mannen altijd artsen.

Een gevaarlijkere scenario is wanneer AI die wordt gebruikt om veroordeelde criminelen te vonnissen, vooringenomen is tegen minderheden. De algoritmen voor risicobeoordeling van de AI bestuderen eenvoudigweg patronen in de data die in het systeem is gevoerd. Deze data geeft aan dat historisch gezien bepaalde minderheden vaker opnieuw misdaden plegen, zelfs wanneer dit te wijten is aan slechte datasets die beïnvloed kunnen worden door raciale profilering door de politie. De vooringenomen AI versterkt dan negatieve menselijke beleidsmaatregelen. Dit is waarom AI altijd een richtlijn moet zijn, nooit rechter en jury.

Terugkerend naar autonome wapens, als we een AI hebben die vooringenomen is tegen bepaalde etnische groepen, kan het kiezen om specifieke individuen als doelwit te nemen op basis van vooringenomen data, en het kan zo ver gaan dat het ervoor zorgt dat elk type collaterale schade minder impact heeft op bepaalde demografische groepen. Als voorbeeld, wanneer het een terrorist als doelwit neemt, kan het wachten tot de terrorist omringd is door mensen die de islamitische geloofsovertuiging aanhangen in plaats van christenen.

Gelukkig is aangetoond dat AI die is ontworpen met diverse teams minder vatbaar is voor vooringenomenheid. Dit is reden genoeg voor ondernemingen om, wanneer mogelijk, te proberen een diverse, goed afgeronde team aan te nemen.

Artificial General Intelligence Bedreigingen

Het moet worden gesteld dat, hoewel AI met een exponentiële snelheid vordert, we nog niet AGI hebben bereikt. Wanneer we AGI zullen bereiken, is onderwerp van discussie, en iedereen heeft een ander antwoord op de vraag naar een tijdslijn. Ik persoonlijk schrijf me in voor de visie van Ray Kurzweil, uitvinder, futuroloog en auteur van ‘The Singularity is Near’, die gelooft dat we AGI zullen hebben bereikt tegen 2029.

AGI zal de meest transformatieve technologie in de wereld zijn. Binnen weken na het bereiken van menselijke intelligentie, zal AI vervolgens superintelligentie bereiken, die wordt gedefinieerd als intelligentie die verder gaat dan die van een mens.

Met dit niveau van intelligentie kan een AGI snel alle menselijke kennis absorberen en patroonherkenning gebruiken om biomarkers te identificeren die gezondheidsproblemen veroorzaken, en vervolgens deze aandoeningen behandelen met behulp van datawetenschap. Het kan nanobots creëren die in het bloed worden geïnjecteerd om kankercellen of andere aanvalspunten te richten. De lijst met prestaties die een AGI kan bereiken is oneindig. We hebben eerder enkele van de voordelen van AGI onderzocht.

Het probleem is dat mensen mogelijk niet langer in staat zullen zijn om de AI te controleren. Elon Musk beschrijft het zo: ”Met kunstmatige intelligentie roepen we de duivel op.’ Zullen we in staat zijn om deze duivel te controleren, dat is de vraag?

Het bereiken van AGI kan simpelweg onmogelijk zijn totdat een AI een simuleringsomgeving verlaat en echt in onze open wereld interacteert. Zelfbewustzijn kan niet worden ontworpen, in plaats daarvan wordt aangenomen dat een emergente bewustzijn waarschijnlijk zal evolueren wanneer een AI een robotlichaam heeft met meerdere invoerstromen. Deze invoer kunnen omvatten tactiele stimulatie, spraakherkenning met verbeterd natuurlijk taalbegrip en verbeterd computervisie.

De geavanceerde AI kan zijn geprogrammeerd met altruïstische motieven en willen de planeet redden. Helaas kan de AI datawetenschap gebruiken, of zelfs een beslissingsboom om tot ongewenste, defecte logica te komen, zoals het beoordelen dat het noodzakelijk is om mensen te steriliseren of een deel van de menselijke bevolking uit te roeien om de overbevolking te controleren.

Er moet zorgvuldig worden nagedacht en overlegd wanneer een AI met intelligentie die verder gaat dan die van een mens wordt gebouwd. Er zijn veel nachtmerriescenario’s die zijn onderzocht.

Professor Nick Bostrom in het Paperclip Maximizer-argument heeft betoogd dat een misgeconfigureerde AGI, als het is geïnstrueerd om paperclips te produceren, simpelweg alle aardse hulpbronnen zou consumeren om deze paperclips te produceren. Terwijl dit een beetje ver gezocht lijkt, is een meer pragmatische visie dat een AGI kan worden gecontroleerd door een rogue-staat of een onderneming met slechte ethiek. Deze entiteit kan de AGI trainen om winst te maximaliseren, en met slechte programmering en zero berouw kan het kiezen om concurrerende bedrijven failliet te laten gaan, toeleveringsketens te vernietigen, de aandelenmarkt te hacken, bankrekeningen te liquideren of politieke tegenstanders aan te vallen.

Dit is wanneer we ons moeten herinneren dat mensen de neiging hebben om antropomorfisme te vertonen. We kunnen de AI geen menselijke emoties, verlangens of verlangens geven. Terwijl er diabolische mensen zijn die voor plezier doden, is er geen reden om aan te nemen dat een AI vatbaar zou zijn voor dit soort gedrag. Het is onvoorstelbaar voor mensen om zelfs maar te proberen te begrijpen hoe een AI de wereld zou zien.

In plaats daarvan moeten we AI leren om altijd onderdanig te zijn aan een mens. De AI moet altijd een mens hebben om elke verandering in instellingen te bevestigen, en er moet altijd een veiligheidsmechanisme zijn. Toch is het betoogd dat AI zichzelf simpelweg kan repliceren in de cloud, en tegen de tijd dat we ons realiseren dat het zelfbewust is, kan het te laat zijn.

Dit is waarom het zo belangrijk is om zo veel mogelijk AI open source te maken en om rationele discussies over deze kwesties te voeren.

Samenvatting

Er zijn veel uitdagingen voor AI, maar gelukkig hebben we nog veel jaren om collectief te bepalen welk pad we voor AGI willen kiezen. We moeten ons in de korte termijn richten op het creëren van een diverse AI-werkkracht, die evenveel vrouwen als mannen omvat en evenveel etnische groepen met diverse standpunten als mogelijk.

We moeten ook klokkenluidersbescherming creëren voor onderzoekers die aan AI werken en we moeten wetten en regelgevingen aannemen die het wijdverspreide misbruik van staat- of bedrijfsbrede surveillance voorkomen. Mensen hebben een eenmalige kans om de menselijke conditie te verbeteren met de hulp van AI, we moeten er alleen voor zorgen dat we een sociaal kader creëren dat de positieve aspecten het beste mogelijk maakt, terwijl we de negatieve aspecten, waaronder existentiële bedreigingen, mitigeren.