Thought leaders
AI en de strijd tegen technofobie
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Wanneer het gaat om Generative AI en Large Language Models, zoals ChatGPT, is de AI-enthusiasme gemengd met technofobie. Dit is natuurlijk voor het algemene publiek: ze houden van nieuwe, spannende dingen, maar ze zijn bang voor het onbekende. Het nieuwe is dat verschillende prominente wetenschappers zelf techno-sceptici zijn geworden, zo niet technofoben. Het geval van de wetenschappers en industrieën die om een zes maanden durende stopzetting van AI-onderzoek vragen, of de scepsis van de top AI-wetenschapper prof. A. Hinton, zijn voorbeelden hiervan. Het enige gerelateerde historische equivalent dat ik me kan herinneren, is de kritiek op atoombommen en kernwapens door een deel van de wetenschappelijke gemeenschap tijdens de Koude Oorlog. Gelukkig is de mensheid erin geslaagd om deze bezorgdheden op een redelijk bevredigende manier aan te pakken.
Natuurlijk heeft iedereen het recht om de huidige staat van AI-zaken in twijfel te trekken:
- Niemand weet waarom Large Language Models zo goed werken en of ze een limiet hebben.
- Veel gevaar schuilt erin dat de slechte mensen ‘AI-bommen’ creëren, vooral als staten passieve toeschouwers blijven in termen van regelgeving.
Dit zijn legitieme bezorgdheden die de angst voor het onbekende aanwakkeren, zelfs bij prominente wetenschappers. Immers, ze zijn zelf ook mensen.
Kan AI-onderzoek echter tijdelijk stopgezet worden? Volgens mij niet, omdat AI de reactie van de mensheid is op een wereld met een steeds grotere complexiteit. Aangezien de fysieke en sociale complexiteitprocessen zeer diep en onstuitbaar lijken, zijn AI en burgerlijke metamorfose onze enige hoop om een soepele overgang te maken van de huidige Informatiemaatschappij naar een Kennismaatschappij. Anders kunnen we te maken krijgen met een catastrofale sociale implosie.
De oplossing is om onze kennis van AI-vooruitgang te verdiepen, de ontwikkeling ervan te versnellen, het gebruik ervan te reguleren om de positieve impact te maximaliseren, terwijl we de reeds zichtbare en andere verborgen negatieve effecten minimaliseren. AI-onderzoek kan en moet anders worden: opener, democratischer, wetenschappelijker en ethischer. Hieronder volgt een voorgestelde lijst van punten om dit doel te bereiken:
- Het eerste woord over belangrijke AI-onderwerpen met een grote maatschappelijke impact moet worden gedelegeerd aan gekozen parlementen en regeringen, in plaats van aan bedrijven of individuele wetenschappers.
- Elke inspanning moet worden geleverd om de exploratie van de positieve aspecten van AI in sociale en financiële vooruitgang te faciliteren en de negatieve aspecten te minimaliseren.
- De positieve impact van AI-systemen kan hun negatieve aspecten overtreffen, als er adequate regelgevende maatregelen worden genomen. Technofobie is noch gerechtvaardigd, noch een oplossing.
- Volgens mij vormt de grootste huidige bedreiging het feit dat dergelijke AI-systemen te veel gewone mensen met weinig (of gemiddelde) opleiding en/of weinig onderzoeksvermogen op afstand kunnen bedriegen. Dit kan extreem gevaarlijk zijn voor de democratie en elke vorm van sociaal-economische vooruitgang.
- In de nabije toekomst moeten we de grote bedreiging van LLM en/of CAN-gebruik in illegale activiteiten (vals spelen bij universitaire examens is een relatief onschuldig gebruik in de ruimte van de gerelateerde criminele mogelijkheden) tegen gaan.
- Hun impact op arbeid en markten zal op lange termijn zeer positief zijn.
- Gezien het bovenstaande moeten AI-systemen: a) verplicht worden door internationale wetgeving om te worden geregistreerd in een ‘AI-systeemregister’, en b) hun gebruikers op de hoogte stellen dat ze communiceren met of de resultaten van een AI-systeem gebruiken.
- Aangezien AI-systemen een enorme maatschappelijke impact hebben, en om het voordeel en de sociaal-economische vooruitgang te maximaliseren, moeten geavanceerde sleutel-AI-systeemtechnologieën open worden.
- AI-gerelateerde gegevens moeten (ten minste gedeeltelijk) worden gedemocratiseerd, eveneens om het voordeel en de sociaal-economische vooruitgang te maximaliseren.
- Er moeten adequate financiële compensatiemechanismen worden voorzien voor AI-technologiekampioenen om eventuele winstverlies te compenseren als gevolg van de bovengenoemde openheid, en om sterke toekomstige investeringen in AI-R&D te garanderen (bijv. via octrooien, verplichte licentieovereenkomsten).
- Het evenwicht tussen academische en industriële AI-onderzoek moet opnieuw worden overwogen om de onderzoeksoutput te maximaliseren, terwijl de concurrentiekracht en de beloning voor genomen R&D-risico’s worden gehandhaafd.
- Onderwijspraktijken moeten op alle onderwijsniveaus worden herzien om het voordeel van AI-technologieën te maximaliseren, terwijl een nieuwe generatie creatieve en aanpasbare burgers en (AI-)wetenschappers wordt gecreëerd.
- Er moeten adequate AI-regelgevings-/toezichts-/financieringsmechanismen worden gecreëerd en versterkt om bovenstaande te garanderen.
Verschillende van deze punten worden in detail behandeld in mijn recente 4-delige boek over ‘AI Science and Society’, met name in de delen A (hergeschreven in mei 2023 om LLM’s en Artificial General Intelligence te behandelen) en C.
Boekverwijzingen:
Artificial Intelligence Science and Society Part C: AI Science and Society
