Generativ AI:s sociala påverkan: Fördelar och hot

Idag Generativ AI har en omvälvande kraft över olika aspekter av samhället. Dess inflytande sträcker sig från informationsteknologi och hälsovård till detaljhandel och konst, och tränger in i våra dagliga liv.

Enligt eMarketer, visar Generativ AI tidig anammande med en projicerad 100 miljoner eller fler användare i USA ensam inom dess första fyra år. Därför är det viktigt att utvärdera den sociala påverkan av denna teknik.

Medan den lovar ökad effektivitet, produktivitet och ekonomiska fördelar, finns det också farhågor beträffande den etiska användningen av AI-drivna generativa system.

Denna artikel undersöker hur Generativ AI omdefinierar normer, utmanar etiska och sociala gränser och utvärderar behovet av en regleringsram för att hantera den sociala påverkan.

Hur Generativ AI påverkar oss

Generativ AI har haft en betydande inverkan på våra liv, och förändrar hur vi opererar och interagerar med den digitala världen.

Låt oss undersöka några av dess positiva och negativa sociala påverkningar.

Det goda

På bara några år sedan dess introduktion, har Generativ AI förvandlat affärsverksamhet och öppnat upp nya möjligheter för kreativitet, och lovar effektivitetsvinster och förbättrade marknadsdynamik.

Låt oss diskutera dess positiva sociala påverkan:

1. Snabba affärsprocesser

Under de kommande åren kan Generativ AI minska SG&A (Sälj, Allmänt och Administrativt) kostnader med 40%.

Generativ AI accelererar affärsprocesshantering genom att automatisera komplexa uppgifter, främja innovation och minska manuellt arbete. Till exempel, i dataanalys, accelererar modeller som Google’s BigQuery ML processen att extrahera insikter från stora datamängder.

Som resultat, njuter företagen av bättre marknadsanalys och snabbare tid till marknaden.

2. Gör kreativt innehåll mer tillgängligt

Mer än 50% av marknadsförare ger Generativ AI credit för förbättrad prestation i engagemang, konverteringar och snabbare kreativa cykler.

Dessutom har Generativ AI-verktyg automatiserat innehållsskapande, och gjort element som bilder, ljud, video etc. bara ett enkelt klick bort. Till exempel, verktyg som Canva och Midjourney använder Generativ AI för att hjälpa användare att skapa visuellt tilltalande grafik och kraftfulla bilder.

Dessutom hjälper verktyg som ChatGPT att brainstorma innehållsidéer baserat på användarprompt om målgruppen. Detta förbättrar användarupplevelsen och utvidgar räckvidden för kreativt innehåll, och kopplar artister och entreprenörer direkt till en global publik.

3. Kunskap på dina fingrar

Knewtons studie visar att studenter som använder AI-drivna adaptiva inlärningsprogram visade en anmärkningsvärd 62% förbättring i testresultat.

Generativ AI bringar kunskap till vår omedelbara åtkomst med stora språkmodeller (LLM) som ChatGPT eller Bard.ai. De svarar på frågor, genererar innehåll och översätter språk, och gör informationsåtervinning effektiv och personlig. Dessutom ger det utbildning, och erbjuder skräddarsydda handledning och personliga inlärningsupplevelser för att berika utbildningsresan med kontinuerlig självutbildning.

Till exempel, Khanmigo, ett AI-drivet verktyg av Khan Academy, fungerar som en skrivcoach för att lära sig koda och erbjuder prompter för att vägleda studenter i studier, debatter och samarbeten.

Det dåliga

Trots de positiva påverkningarna, finns det också utmaningar med den omfattande användningen av Generativ AI.

Låt oss undersöka dess negativa sociala påverkan:

1. Brist på kvalitetskontroll

Människor kan uppfatta Generativ AI-modellers utdata som objektiv sanning, och bortse från potentialen för felaktigheter, såsom hallucinationer. Detta kan urholka förtroendet för informationskällor och bidra till spridningen av desinformation, och påverka samhälleliga uppfattningar och beslutsfattande.

Felaktiga AI-utdata väcker farhågor om autenticiteten och noggrannheten hos AI-genererat innehåll. Medan befintliga regleringsramar främst fokuserar på dataskydd och säkerhet, är det svårt att träna modeller för att hantera varje möjlig scenario.

Denna komplexitet gör det svårt att reglera varje modells utdata, särskilt där användarprompt kan oavsiktligt generera skadligt innehåll.

2. Partisk AI

Generativ AI är lika bra som de data den tränas på. Partiskhet kan smyga sig in vid någon tidpunkt, från datainsamling till modelldistribution, och representera otillräckligt den övergripande befolkningens mångfald.

Till exempel, undersökning av över 5 000 bilder från Stable Diffusion avslöjar att den förstärker ras- och könsskillnader. I denna analys, avbildade Stable Diffusion, en text-till-bild-modell, vita män som chefer och kvinnor i underordnade roller. Otroligt nog, stereotypiserade den också mörkhyade män med brott och mörkhyade kvinnor med underordnade arbeten.

Att hantera dessa utmaningar kräver att man erkänner data-partiskhet och inför robusta regleringsramar under hela AI-livscykeln för att säkerställa rättvisa och ansvar i AI-generativa system.

3. Spridande av falskhet

Deepfakes och desinformation skapad med Generativ AI-modeller kan påverka massorna och manipulera allmän opinion. Dessutom kan Deepfakes utlösa väpnade konflikter och presentera en distinkt fara för både utländsk och inhemsk nationell säkerhet.

Den oreglerade spridningen av falskt innehåll över internet påverkar negativt miljontals människor och bränslar politisk, religiös och social oenighet.

Detta väcker brådskande frågor om de etiska implikationerna av AI-genererad information.

4. Inget ramverk för att definiera ägande

För närvarande finns det inget omfattande ramverk för att definiera ägande av AI-genererat innehåll. Frågan om vem som äger de data som genereras och bearbetas av AI-system förblir olöst.

Till exempel, i en rättslig tvist initierad i slutet av 2022, känd som Andersen v. Stability AI et al., gick tre konstnärer samman för att väcka en grupptalan mot olika Generativ AI-plattformar.

Stämningsansökan påstod att dessa AI-system använde konstnärernas ursprungliga verk utan att erhålla nödvändiga licenser. Konstnärerna hävdar att dessa plattformar använde deras unika stilar för att träna AI, vilket möjliggjorde för användare att generera verk som kan sakna tillräcklig omvandling från deras existerande skyddade skapelse.

Dessutom Generativ AI möjliggör omfattande innehållsgenerering, och värdet som genereras av humana proffs inom kreativa branscher blir tvivelaktigt. Det utmanar också definitionen och skyddet av immateriella rättigheter.

Reglering av Generativ AI:s sociala påverkan

Generativ AI saknar en omfattande regleringsram, och väcker farhågor om dess potential för både konstruktiv och skadlig påverkan på samhället.

Inflytelserika intressenter förespråkar etablering av robusta regleringsramar.

Till exempel, har Europeiska unionen föreslagit den första regleringsramen för AI, som förväntas antas 2024. Med en framtidsorienterad ansats, har denna ram regler som är knutna till AI-tillämpningar som kan anpassa sig till teknologisk förändring.

Det föreslår också att etablera skyldigheter för användare och leverantörer, och föreslår för-marknads konformitetstester, och föreslår efter-marknadsenhet under en definierad styrstruktur.

Dessutom Ada Lovelace Institute, en förespråkare för AI-reglering, rapporterade om vikten av väl utformad reglering för att förhindra maktkoncentration, säkerställa tillgång, och tillhandahålla åtgärder för att maximera fördelarna.

Att implementera regleringsramar skulle representera ett betydande steg i att hantera de associerade riskerna med Generativ AI. Med dess djupgående påverkan på samhället, behöver denna teknik tillsyn, genomtänkt reglering och en pågående dialog mellan intressenter.

För att hålla sig informerad om de senaste framstegen inom AI, dess sociala påverkan och regleringsramar, besök Unite.ai.