Sociální dopad generativní AI: Přínosy a hrozby

Dnes Generativní AI má transformační sílu napříč různými aspekty společnosti. Její vliv se rozšiřuje od informačních technologií a zdravotnictví po maloobchod a umění, proniká do našeho každodenního života. 

Podle eMarketer, Generativní AI ukazuje ranou adopci s předpokládanými 100 miliony nebo více uživateli pouze ve Spojených státech během prvních čtyř let. Proto je důležité vyhodnotit sociální dopad této technologie.   

Zatímco slibuje zvýšenou efektivitu, produktivitu a ekonomické výhody, existují také obavy týkající se etického použití AI poháněných generativních systémů. 

Tento článek zkoumá, jak Generativní AI předefinuje normy, vyzývá etické a společenské hranice a vyhodnocuje potřebu regulačního rámce pro řízení sociálního dopadu. 

Jak Generativní AI ovlivňuje nás

Generativní AI významně ovlivnila náš život, transformovala, jak fungujeme a interagujeme s digitálním světem. 

Podívejme se na některé z jejích pozitivních a negativních sociálních dopadů. 

To dobré

Za pouhých několik let od jejího zavedení, Generativní AI transformovala obchodní operace a otevřela nové cesty pro kreativitu, slibující efektivitu a zlepšené tržní dynamiky. 

Podívejme se na její pozitivní sociální dopad:

1. Rychlé obchodní postupy

V průběhu následujících několika let, Generativní AI může snížit SG&A (Prodej, Obecné a Správní) náklady o 40%.

Generativní AI urychluje řízení obchodních procesů automatizací složitých úkolů, podporou inovace a snížením manuální zátěže. Například v analýze dat, modely jako Google’s BigQuery ML urychlují proces extrakce informací z velkých datových sad. 

V důsledku toho podniky využívají lepší analýzu trhu a rychlejší dobu nástupu na trh.

2. Zajištění přístupu k tvůrčímu obsahu

Více než 50% marketérů připisuje Generativní AI zlepšení výkonu v zapojení, konverzích a rychlejších tvůrčích cyklech. 

Kromě toho, Generativní AI nástroje automatizovaly tvůrčí obsah, činí prvky jako obrázky, audio, video atd. pouze jednoduchým kliknutím. Například nástroje jako Canva a Midjourney využívají Generativní AI k usnadnění uživatelům vytváření vizuálně atraktivních grafik a silných obrázků. 

Kromě toho, nástroje jako ChatGPT pomáhají generovat nápady pro obsah na základě uživatelských vstupů o cílovém publiku. To zlepšuje uživatelský zážitek a rozšiřuje dosah tvůrčího obsahu, spojující umělce a podnikatele přímo se globálním publikem.

3. Znalosti na dosah

Knewton’s studie ukazuje, že studenti využívající AI poháněné adaptační programy prokázali pozoruhodné 62% zlepšení ve výsledcích testů.

Generativní AI přináší znalosti k našim okamžitým potřebám s velkými jazykovými modely (LLM) jako ChatGPT nebo Bard.ai. Tyto modely odpovídají na otázky, generují obsah a překládají jazyky, činí získávání informací efektivním a personalizovaným. Kromě toho, posiluje vzdělávání, nabízející přizpůsobenou výuku a personalizované vzdělávací zkušenosti, aby obohatily vzdělávací cestu kontinuálním sebevzděláváním. 

Například, Khanmigo, AI poháněný nástroj od Khan Academy, funguje jako trenér pro učení programovat a nabízí nápady pro studenty ke studiu, debatám a spolupráci.

To špatné

Navzdory pozitivním dopadům, existují také výzvy spojené s širokým použitím Generativní AI. 

Podívejme se na její negativní sociální dopad: 

1. Chybějící kontrola kvality

Lidé mohou považovat výstup Generativní AI modelů za objektivní pravdu, přehlížející potenciál pro nesprávnosti, jako jsou halucinace. To může podkopat důvěru v informační zdroje a přispět k šíření dezinformací, ovlivňujících společenské vnímání a rozhodování.

Nesprávné AI výstupy vyvolávají obavy o autenticitu a přesnost AI generovaného obsahu. Zatímco existující regulační rámce se primárně zaměřují na ochranu dat a bezpečnost, je obtížné trénovat modely, aby zvládly každou možnou situaci. 

Tato komplexnost činí regulaci každého modelového výstupu výzvou, zejména tam, kde uživatelské vstupní údaje mohou neúmyslně generovat škodlivý obsah. 

2. Zaujatá AI

Generativní AI je tak dobrá, jak jsou data, na kterých je trénována. Zaujatost může proniknout do kteréhokoli stádia, od sběru dat po nasazení modelu, nepřesně reprezentujících rozmanitost celkové populace. 

Například, zkoumání více než 5 000 obrázků ze Stable Diffusion odhaluje, že to zesiluje rasové a genderové nerovnosti. V této analýze, Stable Diffusion, text-to-obrázek model, znázorňuje bílé muže jako CEO a ženy v podřízených rolích. Šokujícím způsobem, také stereotypizuje tmavé muže se zločinem a tmavé ženy s podřadnými pracemi. 

Řešení těchto výzev vyžaduje uznání datové zaujatosti a implementaci robustních regulačních rámců po celý život AI, aby zajistily spravedlnost a odpovědnost v AI generativních systémech.

3. Šíření falešnosti

Deepfakes a dezinformace vytvořené s Generativní AI modely mohou ovlivnit masy a manipulovat veřejným míněním. Kromě toho, Deepfakes mohou vyvolat ozbrojené konflikty, představující zvláštní hrozbu pro zahraniční i domácí národní bezpečnost.

Nesměřené šíření falešného obsahu po internetu negativně ovlivňuje miliony a palí politické, náboženské a sociální nesváry.  Například, v roce 2019, údajný deepfake hrál roli v pokusu o státní převrat v Gabonu.

To vyvolává naléhavé otázky o etických implikacích AI generované informace.

4. Žádný rámec pro definování vlastnictví

V současné době neexistuje komplexní rámec pro definování vlastnictví AI generovaného obsahu. Otázka, kdo vlastní data generovaná a zpracovaná AI systémy, zůstává nevyřešena. 

Například, v právní věci zahájené na konci roku 2022, známé jako Andersen v. Stability AI et al., tři umělci se spojili, aby podali hromadnou žalobu proti různým Generativní AI platformám. 

Žaloba tvrdila, že tyto AI systémy využily originální díla umělců bez získání nezbytných licencí. Umělci argumentují, že tyto platformy využily jejich jedinečné styly k trénování AI, umožňujícím uživatelům generovat díla, která mohou postrádat dostatečnou transformaci z jejich stávajících chráněných děl.

Kromě toho, Generativní AI umožňuje širokou generaci obsahu, a hodnota generovaná lidskými profesionály v kreativních odvětvích se stává spornou. To také zpochybňuje definici a ochranu duševního vlastnictví.

Regulace sociálního dopadu Generativní AI

Generativní AI postrádá komplexní regulační rámec, vyvolávající obavy o její potenciál pro konstruktivní i škodlivé dopady na společnost. 

Vlivní aktéři prosazují zavedení robustních regulačních rámců.

Například, Evropská unie navrhla první regulační rámec pro AI, aby vzbudila důvěru, který má být přijat v roce 2024. S budoucím přístupem, tento rámec má pravidla vázaná na AI aplikace, která se mohou přizpůsobit technologickým změnám. 

Navrhuje také stanovení povinností pro uživatele a poskytovatele, navrhování předběžných tržních hodnocení, a navrhování post-tržního vymáhání v rámci definované struktury řízení.

Kromě toho, Ada Lovelace Institute, obhájce regulace AI, uvedl, že dobře navržená regulace je nezbytná pro prevenci koncentrace moci, zajištění přístupu, poskytování mechanismů nápravy a maximalizaci výhod.

Implementace regulačních rámců by představovala podstatný krok v řešení souvisejících rizik Generativní AI. S hlubokým vlivem na společnost, tato technologie potřebuje dohled, uvážlivou regulaci a pokračující dialog mezi aktéry.  

Abyste zůstali informováni o nejnovějších pokrocích v AI, jejím sociálním dopadu a regulačních rámcích, navštivte Unite.ai.