Farhågor över potentiella risker med ChatGPT ökar, men är ett stopp för AI en bra åtgärd?

Medan Elon Musk och andra globala techledare har krävt ett stopp i AI efter utgivningen av ChatGPT, tror vissa kritiker att ett stopp i utvecklingen inte är lösningen. AI-evangelisten Andrew Pery, från det intelligenta automationsföretaget ABBYY, tror att att ta en paus är som att försöka stoppa tillbaka tandkräm i tuben. Här berättar han varför…

AI-applikationer är överallt och påverkar nästan alla aspekter av våra liv. Att bromsa nu kan vara omöjligt.

Det finns säkert påtagliga farhågor som kräver ökad reglering för att begränsa dess potentiellt skadliga effekter.

För inte länge sedan blockerade den italienska dataskyddsmyndigheten tillfälligt användningen av ChatGPT i hela landet på grund av integritetsfarhågor relaterade till insamling och behandling av personuppgifter som används för att träna modellen, samt brist på skyddsåtgärder som utsätter barn för svar som är “absolut olämpliga för deras ålder och medvetenhet”.

Den europeiska konsumentorganisationen (BEUC) uppmanar EU att utreda de potentiellt skadliga effekterna av storskaliga språkmodeller med tanke på “farhågor om hur ChatGPT och liknande chatbots kan lura och manipulera människor. Dessa AI-system behöver större offentlig granskning, och offentliga myndigheter måste återta kontrollen över dem.”

I USA har Centrum för AI och digital politik lämnat in en anmälan till Federal Trade Commission om att ChatGPT bryter mot avdelning 5 i Federal Trade Commission Act (FTC Act) (15 USC 45). Grund för anmälan är att ChatGPT påstås inte uppfylla vägledningen som utfärdats av FTC för transparens och förklarbarhet av AI-system. Hänvisning gjordes till ChatGPT:s erkännanden av flera kända risker, inklusive kränkning av integritetsrättigheter, generering av skadligt innehåll och spridning av desinformation.

Nyttan av storskaliga språkmodeller som ChatGPT är utan tvekan, men forskning visar dess mörka sida. Det har visat sig producera felaktiga svar, eftersom den underliggande ChatGPT-modellen bygger på djupinlärningsalgoritmer som utnyttjar stora träningsdatamängder från internet. Till skillnad från andra chatbots använder ChatGPT språkmodeller baserade på djupinlärningstekniker som genererar text som liknar mänskliga samtal, och plattformen “kommer fram till ett svar genom att göra en serie gissningar, vilket är en del av anledningen till att den kan argumentera för felaktiga svar som om de vore helt sanna.”

Dessutom har ChatGPT visat sig förstärka och förstora bias, vilket resulterar i “svar som diskriminerar mot kön, ras och minoritetsgrupper, något som företaget försöker mildra.” ChatGPT kan också vara en guldgruva för illvilliga aktörer att utnyttja oskyldiga användare, vilket komprometterar deras integritet och utsätter dem för bedrägeriattacker.

Dessa farhågor ledde till att den europeiska parlamentet publicerade en kommentar som förstärker behovet av att ytterligare stärka de nuvarande bestämmelserna i utkastet till EU:s artificiell intelligenslag, som fortfarande väntar på ratificering. Kommentaren påpekar att det nuvarande utkastet till den föreslagna förordningen fokuserar på vad som kallas smal AI-tillämpningar, bestående av specifika kategorier av högrisk-AI-system som rekrytering, kreditvärdighet, anställning, lagföring och behörighet till sociala tjänster. EU-utkastet till AI-förordning täcker dock inte allmänna syften AI, som storskaliga språkmodeller som tillhandahåller mer avancerade kognitiva förmågor och som kan “utföra en mängd olika intelligenta uppgifter.” Det finns krav på att utöka omfattningen av utkastet till förordning för att omfatta en separat högriskkategori för allmänna syften AI-system, som kräver att utvecklare genomför rigorös ex ante-konformitetstestning innan de släpper ut sådana system på marknaden och kontinuerligt övervakar deras prestanda för potentiellt oväntade skadliga utgångar.

En särskilt användbar forskning väcker medvetenhet om denna lucka som EU:s AI-förordning “i huvudsak fokuserar på konventionella AI-modeller, och inte på den nya generationen vars födelse vi är vittne till idag.”

Det rekommenderar fyra strategier som tillsynsmyndigheter bör överväga.

1. Kräv att utvecklare av sådana system regelbundet rapporterar om effektiviteten i deras riskhanteringsprocesser för att mildra skadliga utgångar.
2. Företag som använder storskaliga språkmodeller bör vara skyldiga att informera sina kunder om att innehållet genererades av AI.
3. Utvecklare bör följa en formell process för etappvis utgåvor, som en del av en riskhanteringsram, designad för att skydda mot potentiellt oförutsedda skadliga konsekvenser.
4. Lägg ansvaret på utvecklare att “mildra risken vid dess rötter” genom att proaktivt granska träningsdatamängden för felaktiga representationer.

En faktor som bidrar till riskerna med disruptiva teknologier är innovatörernas strävan efter att uppnå försteg genom att anta en “skeppa först och fixa senare”-affärsmodell. Medan OpenAI är ganska öppen om de potentiella riskerna med ChatGPT, har de släppt det för bred kommersiell användning med en “köpare varning” pålagd på användarna att väga och ta på sig riskerna själva. Det kan vara en ohållbar tillvägagångssätt med tanke på den omfattande påverkan av konversationsbaserade AI-system. Proaktiv reglering i kombination med robusta verkställighetsåtgärder måste vara av största vikt när man hanterar sådan disruptiv teknik.

Artificiell intelligens genomsyrar redan nästan alla delar av våra liv, vilket innebär att ett stopp i AI-utvecklingen kan medföra en mängd oförutsedda hinder och konsekvenser. Istället för att plötsligt bromsa, bör bransch- och lagstiftningsaktörer samarbeta i god tro för att genomföra genomförbara regleringar som är rotade i människocentrerade värderingar som transparens, ansvar och rättvisa. Genom att hänvisa till befintlig lagstiftning som AI-lagen, kan ledare inom den privata och offentliga sektorn utforma grundliga, globalt standardiserade policys som kommer att förhindra illvilliga användningar och mildra negativa konsekvenser, och därmed hålla artificiell intelligens inom gränserna för att förbättra mänskliga upplevelser.