Tekniska ledare som belyser riskerna med AI och brådskan med robust AI-reglering

AI-tillväxt och framsteg har varit exponentiella under de senaste åren. Statista rapporterar att år 2024 kommer den globala AI-marknaden att generera en förbluffande omsättning på cirka 3000 miljarder dollar, jämfört med 126 miljarder dollar år 2015. Tekniska ledare varnar dock nu för de olika riskerna med AI.

Särskilt den senaste vågen av generativ AI-modeller som ChatGPT har introducerat nya funktioner i olika datakänsliga sektorer, som hälsovård, utbildning, finans med mera. Dessa AI-baserade utvecklingar är sårbara på grund av många AI-brister som skadliga aktörer kan utnyttja.

Låt oss diskutera vad AI-experter säger om de senaste utvecklingarna och belysa de potentiella riskerna med AI. Vi kommer också att kort beröra hur dessa risker kan hanteras.

Tekniska ledare och deras farhågor relaterade till riskerna med AI

Geoffrey Hinton

Geoffrey Hinton – en berömd AI-teknisk ledare (och “gudfar” till detta område), som nyligen lämnade Google (GOOGL ), har uttryckt sina farhågor om den snabba utvecklingen av AI och dess potentiella faror. Hinton tror att AI-chattbotar kan bli “ganska skrämmande” om de överträffar mänsklig intelligens.

Hinton säger:

“Just nu ser vi saker som GPT-4 som överträffar en person i mängden allmän kunskap den har, och den överträffar den med långt. När det gäller resonemang är den inte lika bra, men den gör redan enkla resonemang. Och med tanke på utvecklingstakten förväntar vi oss att saker och ting kommer att bli bättre ganska snabbt. Så vi måste oroa oss för det.”

Dessutom tror han att “dåliga aktörer” kan använda AI för “dåliga saker”, som att låta robotar ha undermål. Trots sina farhågor tror Hinton att AI kan medföra kortfristiga fördelar, men att vi också bör investera kraftigt i AI-säkerhet och kontroll.

Elon Musk

Elon Musks engagemang i AI började med hans tidiga investering i DeepMind år 2010, för att sedan medgrundande OpenAI och integrera AI i Teslas autonoma fordon.

Även om han är entusiastisk över AI, så uttrycker han ofta farhågor om riskerna med AI. Musk säger att kraftfulla AI-system kan vara farligare för civilisationen än kärnvapen. I en intervju på Fox News i april 2023 sa han:

“AI är farligare än, säg, dåligt utformade flygplan eller underhåll av fordon eller dålig bilproduktion. I den meningen att det har potentialen – hur liten man än kan betrakta den sannolikheten – men den är inte försumbar och har potentialen att förstöra civilisationen.”

Dessutom stöder Musk regeringens reglering av AI för att säkerställa säkerhet från potentiella risker, även om “det inte är så roligt”.

Pausa stora AI-experiment: Ett öppet brev som stöds av tusentals AI-experter

Future of Life Institute publicerade ett öppet brev den 22 mars 2023. Brevet kräver en tillfällig sex månaders paus på AI-systemutveckling som är mer avancerad än GPT-4. Författarna uttrycker sina farhågor om att takten i vilken AI-system utvecklas utgör allvarliga socioekonomiska utmaningar.

Dessutom påpekar brevet att AI-utvecklare bör arbeta med beslutsfattare för att dokumentera AI-styrningssystem. I juni 2023 hade brevet undertecknats av mer än 31 000 AI-utvecklare, experter och tekniska ledare. Bemärkta undertecknare inkluderar Elon Musk, Steve Wozniak (medgrundare av Apple (AAPL )), Emad Mostaque (VD, Stability AI), Yoshua Bengio (Turing-pristagare) och många fler.

Argument mot att stoppa AI-utveckling

Två framstående AI-ledare, Andrew Ng och Yann LeCun, har motsatt sig den sex månader långa pausen på att utveckla avancerade AI-system och betraktar pausen som en dålig idé.

Ng säger att även om AI har vissa risker, som bias, koncentration av makt osv., så är värdet som skapas av AI inom områden som utbildning, hälsovård och responsiv coachning enormt.

Yann LeCun säger att forskning och utveckling inte bör stoppas, men att AI-produkter som når slutanvändaren kan regleras.

Vilka är de potentiella farorna och omedelbara riskerna med AI?

1. Jobbförlust

AI-experter tror att intelligenta AI-system kan ersätta kognitiva och kreativa uppgifter. Investmentbanken Goldman Sachs uppskattar att cirka 300 miljoner jobb kommer att automatiseras av generativ AI.

Därför bör det finnas regleringar på utvecklingen av AI så att det inte orsakar en allvarlig ekonomisk nedgång. Det bör också finnas utbildningsprogram för att förbättra och omutbilda anställda för att möta denna utmaning.

2. Fördomsfulla AI-system

Fördomar som finns bland människor om kön, ras eller färg kan oavsiktligt tränga in i data som används för att träna AI-system, vilket gör AI-systemen fördomsfulla.

Till exempel, i sammanhanget med rekrytering, kan ett fördomsfullt AI-system avvisa ansökningar från personer med specifika etniska bakgrunder, vilket skapar diskriminering på arbetsmarknaden. Inom lagföring kan fördomsfull prediktiv polisverksamhet rikta sig mot specifika områden eller demografiska grupper.

Därför är det viktigt att ha en omfattande datastrategi som hanterar AI-risker, särskilt fördomar. AI-system måste utvärderas och granskas regelbundet för att hålla dem rättvisa.

3. Säkerhetskritiska AI-tillämpningar

Autonoma fordon, medicinsk diagnos och behandling, flygledningssystem, kärnkraftverkskontroll med mera är alla exempel på säkerhetskritiska AI-tillämpningar. Dessa AI-system måste utvecklas försiktigt eftersom även mindre fel kan ha allvarliga konsekvenser för människoliv eller miljön.

Till exempel tillskrivs felaktigt fungerande AI-programvara kallad Maneuvering Characteristics Augmentation System (MCAS) delvis till kraschen av de två Boeing 737 MAX, först i oktober 2018 och sedan i mars 2019. Tyvärr dödades 346 människor i de två krascherna.

Hur kan vi övervinna riskerna med AI-system? – Ansvarsfull AI-utveckling och regleringsenhet

Ansvarsfull AI (RAI) innebär att utveckla och distribuera rättvisa, ansvariga, transparenta och säkra AI-system som säkerställer sekretess och följer lagregler och sociala normer. Att implementera RAI kan vara komplext med tanke på AI-systemens breda och snabba utveckling.

Men stora teknikföretag har utvecklat RAI-ramverk, som:

1. Microsofts ansvarsfulla AI
2. Googles AI-principer
3. IBMs betrodda AI

AI-laboratorier runt om i världen kan ta inspiration från dessa principer eller utveckla sina egna ansvarsfulla AI-ramverk för att skapa tillförlitliga AI-system.

AI-regleringsenhet

Eftersom data är en integrerad komponent i AI-system, måste AI-baserade organisationer och laboratorier följa följande regler för att säkerställa datasäkerhet, sekretess och säkerhet.

1. GDPR (Allmänna dataskyddsförordningen) – ett ramverk för dataskydd inom EU.
2. CCPA (Kaliforniens konsumentdataskyddslag) – en kalifornisk statlig lag om konsumenträttigheter och dataskydd.
3. HIPAA (Lag om portabilitet och ansvarighet för hälsoförsäkring) – en amerikansk lag som skyddar patienters medicinska data.
4. EU:s AI-lag och Etiska riktlinjer för tillförlitlig AI – en europeisk kommissionens AI-reglering.

Det finns olika regionala och lokala lagar som antagits av olika länder för att skydda sina medborgare. Organisationer som inte säkerställer regleringsenhet kring data kan få allvarliga straff. Till exempel har GDPR fastställt en avgift på 20 miljoner euro eller 4 % av årsomsättning för allvarliga överträdelser som olaglig datahantering, olaglig dataöverföring, kränkning av dataskydd och otillåten dataöverföring till en internationell enhet.

AI-utveckling och reglering – Nuvarande och framtida

Med varje månad som går når AI-utvecklingen oanade höjder. Men de åtföljande AI-regleringarna och styrningsramverken är eftersatta. De behöver vara mer robusta och specifika.

Tekniska ledare och AI-utvecklare har larmat om riskerna med AI om det inte regleras tillräckligt. Forskning och utveckling inom AI kan ytterligare skapa värde inom många sektorer, men det är tydligt att noggrann reglering nu är nödvändig.

För mer AI-relaterat innehåll, besök unite.ai.