Tech-leiders benadrukken de risico’s van AI en de urgentie van robuuste AI-regulering

De groei en ontwikkeling van AI zijn de afgelopen jaren exponentieel toegenomen. Statista meldt dat de wereldwijde AI-markt tegen 2024 een omzet van ongeveer 3000 miljard dollar zal genereren, vergeleken met 126 miljard dollar in 2015. Echter, tech-leiders waarschuwen ons nu voor de verschillende risico’s van AI.

Vooral de recente golf van generatieve AI-modellen zoals ChatGPT heeft nieuwe mogelijkheden geïntroduceerd in verschillende gevoelige sectoren, zoals gezondheidszorg, onderwijs, financiën, enz. Deze AI-gebaseerde ontwikkelingen zijn kwetsbaar vanwege vele AI-tekortkomingen die kwaadwillige agenten kunnen exploiteren.

Laten we bespreken wat AI-experts zeggen over de recente ontwikkelingen en de potentiële risico’s van AI benadrukken. We zullen ook kort ingaan op hoe deze risico’s kunnen worden beheerd.

Tech-leiders en hun zorgen over de risico’s van AI

Geoffrey Hinton

Geoffrey Hinton – een beroemde AI-techleider (en de peetvader van dit veld), die onlangs Google (GOOGL ) verliet, heeft zijn zorgen geuit over de snelle ontwikkeling van AI en de potentiële gevaren ervan. Hinton gelooft dat AI-chatbots “best eng” kunnen worden als ze de menselijke intelligentie overtreffen.

Hinton zegt:

“Op dit moment zien we dingen zoals GPT-4 die een persoon in termen van algemene kennis overtreffen, en dat met een grote marge. Wat betreft redeneren is het niet zo goed, maar het doet al eenvoudige redenering. En gezien de snelheid van de vooruitgang, verwachten we dat dingen snel beter zullen worden. Dus we moeten ons zorgen maken over dat.”

Bovendien gelooft hij dat “slechte actoren” AI kunnen gebruiken voor “slechte dingen”, zoals het toestaan van robots om subdoelen te hebben. Ondanks zijn zorgen gelooft Hinton dat AI korte-termijnvoordelen kan brengen, maar we moeten ook zwaar investeren in AI-veiligheid en -controle.

Elon Musk

Elon Musks betrokkenheid bij AI begon met zijn vroege investering in DeepMind in 2010, tot het mede-oprichten van OpenAI en het integreren van AI in Teslas autonome voertuigen.

Hoewel hij enthousiast is over AI, spreekt hij vaak zijn zorgen uit over de risico’s van AI. Musk zegt dat krachtige AI-systemen gevaarlijker kunnen zijn voor de beschaving dan nucleaire wapens. In een interview bij Fox News in april 2023, zei hij:

“AI is gevaarlijker dan, zeg, slecht beheerde vliegtuigontwerp of productieonderhoud of slechte autobouw. In die zin heeft het het potentieel – hoe klein men dat ook mag beschouwen – maar het is niet triviaal en heeft het potentieel van beschavingsvernietiging.”

Bovendien steunt Musk overheidsreguleringen op AI om veiligheid te garanderen tegen potentiële risico’s, hoewel “het niet zo leuk is”.

Stop giant AI-experimenten: een open brief ondersteund door duizenden AI-experts

Future of Life Institute publiceerde op 22 maart 2023 een open brief. De brief roept op tot een tijdelijke stop van zes maanden voor AI-systemen die geavanceerder zijn dan GPT-4. De auteurs uiten hun zorgen over het tempo waarin AI-systemen worden ontwikkeld en de ernstige socio-economische uitdagingen die dit met zich meebrengt.

Bovendien stelt de brief dat AI-ontwikkelaars moeten samenwerken met beleidsmakers om AI-governancesystemen te documenteren. Tot juni 2023 is de brief ondertekend door meer dan 31.000 AI-ontwikkelaars, experts en tech-leiders. Opvallende ondertekenaars zijn onder andere Elon Musk, Steve Wozniak (mede-oprichter van Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (Turing Prize-winnaar) en vele anderen.

Tegenargumenten over het stoppen van AI-ontwikkeling

Twee prominente AI-leiders, Andrew Ng en Yann LeCun, hebben zich uitgesproken tegen het zesmaandse verbod op het ontwikkelen van geavanceerde AI-systemen en beschouwen de pauze als een slecht idee.

Ng zegt dat hoewel AI enkele risico’s heeft, zoals vooroordelen, de waarde die door AI wordt gecreëerd in gebieden zoals onderwijs, gezondheidszorg en responsief coachen enorm is.

Yann LeCun zegt dat onderzoek en ontwikkeling niet moeten worden stopgezet, hoewel AI-producten die de eindgebruiker bereiken, gereguleerd kunnen worden.

Wat zijn de potentiële gevaren en onmiddellijke risico’s van AI?

1. Banenverlies

AI-experts geloven dat intelligente AI-systemen cognitieve en creatieve taken kunnen vervangen. De investeringsbank Goldman Sachs schat dat ongeveer 300 miljoen banen zullen worden geautomatiseerd door generatieve AI.

Daarom moeten er regels zijn voor de ontwikkeling van AI om te voorkomen dat het een ernstige economische neergang veroorzaakt. Er moeten educatieve programma’s zijn voor het omscholen en bijscholen van werknemers om deze uitdaging aan te gaan.

2. Vooroordeelde AI-systemen

Vooroordelen die onder mensen bestaan over geslacht, ras of kleur kunnen onbewust in de data doordringen die wordt gebruikt voor het trainen van AI-systemen, waardoor AI-systemen vooroordeelde worden.

Als voorbeeld, in de context van werving, kan een vooroordeelde AI-systeem cv’s van personen van specifieke etnische achtergronden afwijzen, waardoor discriminatie op de arbeidsmarkt ontstaat. In politie, kan vooroordeelde predictieve politiezorg onevenredig specifieke buurten of demografische groepen targeten.

Daarom is het essentieel om een uitgebreide datastrategie te hebben die AI-risico’s aanpakt, met name vooroordelen. AI-systemen moeten regelmatig worden geëvalueerd en geaudit om ze eerlijk te houden.

3. Veiligheidskritische AI-toepassingen

Autonome voertuigen, medische diagnose & behandeling, luchtvaartsystemen, nucleaire centralebesturing, enz. zijn allemaal voorbeelden van veiligheidskritische AI-toepassingen. Deze AI-systemen moeten voorzichtig worden ontwikkeld, omdat zelfs kleine fouten ernstige gevolgen kunnen hebben voor het menselijk leven of het milieu.

Als voorbeeld, het falen van de AI-software Maneuvering Characteristics Augmentation System (MCAS) wordt deels toegeschreven aan de crash van de twee Boeing 737 MAX, eerst in oktober 2018 en vervolgens in maart 2019. Helaas kostten de twee crashes het leven van 346 mensen.

Hoe kunnen we de risico’s van AI-systemen overwinnen? – Verantwoorde AI-ontwikkeling & regelgeving

Verantwoorde AI (RAI) houdt in dat eerlijke, verantwoorde, transparante en veilige AI-systemen worden ontwikkeld en ingezet die privacy garanderen en wettelijke regels en sociale normen volgen. Het implementeren van RAI kan complex zijn gezien de brede en snelle ontwikkeling van AI-systemen.

Echter, grote technologiebedrijven hebben RAI-kaders ontwikkeld, zoals:

1. Microsoft’s Verantwoorde AI
2. Google’s AI-principes
3. IBM’S Vertrouwde AI

AI-labs over de hele wereld kunnen inspiratie putten uit deze principes of hun eigen verantwoorde AI-kaders ontwikkelen om betrouwbare AI-systemen te maken.

AI-regelgeving

Aangezien data een essentieel onderdeel is van AI-systemen, moeten AI-gebaseerde organisaties en labs de volgende regels naleven om databeveiliging, -privacy en -veiligheid te garanderen.

1. GDPR (Algemene Verordening Gegevensbescherming) – een kader voor gegevensbescherming van de EU.
2. CCPA (California Consumer Privacy Act) – een Californische wet voor privacyrechten en consumentenbescherming.
3. HIPAA (Health Insurance Portability and Accountability Act) – een Amerikaanse wet die patiëntengegevens beschermt.
4. EU AI-wet, en ethische richtlijnen voor betrouwbare AI – een EU-regulering voor AI.

Er zijn verschillende regionale en lokale wetten van kracht in verschillende landen om hun burgers te beschermen. Organisaties die niet zorgen voor regelgevingsconformiteit rondom data, kunnen zware boetes krijgen. Bijvoorbeeld, de GDPR heeft een boete van 20 miljoen euro of 4% van de jaarlijkse winst ingesteld voor ernstige inbreuken, zoals onrechtmatige gegevensverwerking, niet-bewezen toestemming voor gegevens, schending van rechten van betrokkenen of niet-beschermd gegevenstransfer naar een internationale entiteit.

AI-ontwikkeling & regelgeving – Heden & Toekomst

Met elke voorbijgaande maand bereiken AI-ontwikkelingen ongekende hoogtes. Echter, de bijbehorende AI-reguleringen en governance-kaders zijn in achterstand. Ze moeten robuuster en specifieker zijn.

Tech-leiders en AI-ontwikkelaars hebben alarm geslagen over de risico’s van AI als het niet adequaat wordt gereguleerd. Onderzoek en ontwikkeling in AI kunnen verdere waarde brengen in veel sectoren, maar het is duidelijk dat zorgvuldige regulering nu imperatief is.

Voor meer AI-gerelateerde inhoud, bezoek unite.ai.