AI torzítás és kulturális sztereotípiák: hatások, korlátok és mérséklés

A mesterséges intelligencia (AI), különösen Generatív AI, továbbra is felülmúlja a várakozásokat azzal a képességével, hogy megérti és utánozza az emberi megismerést és intelligenciát. Azonban sok esetben az AI-rendszerek eredményei vagy előrejelzései tükrözhetik a mesterséges intelligencia különböző típusait, például kulturális és faji alapú.

BuzzfeedA világ Barbijai” blog (amelyet most töröltek) egyértelműen megmutatja ezeket a kulturális elfogultságokat és pontatlanságokat. Ezek a „barbik” felhasználásával készültek középút – egy vezető mesterséges intelligencia képgenerátor, hogy megtudja, hogyan néznek ki a barbik a világ minden részén. Erről a későbbiekben többet fogunk beszélni.

De nem ez az első alkalom, hogy a mesterséges intelligencia „rasszista” vagy pontatlan eredményeket produkál. Például 2022-ben az Apple volt beperelte azon állítások miatt, hogy az Apple Watch véroxigén-érzékelője elfogult a színes bőrű emberekkel szemben. Egy másik bejelentett esetben a Twitter-felhasználók ezt tapasztalták A Twitter automatikus képvágó mesterséges intelligencia a fehér emberek arcát részesítette előnyben a feketékkel szemben, a nőket pedig a férfiakkal szemben. Ezek kritikus kihívások, és ezek kezelése jelentős kihívást jelent.

Ebben a cikkben megvizsgáljuk, hogy mi az AI torzítás, hogyan befolyásolja társadalmunkat, és röviden megvitatjuk, hogyan tehetik meg a szakemberek enyhít olyan kihívások kezelésére, mint a kulturális sztereotípiák.

Mi az AI Bias?

A mesterséges intelligencia torzítása akkor fordul elő, ha az AI-modellek diszkriminatív eredményeket produkálnak bizonyos demográfiai adatokkal szemben. Számos típusú torzítás léphet be az AI-rendszerekbe, és hibás eredményeket produkálhat. Néhány ilyen AI torzítás:

• Sztereotip torzítás: A sztereotip torzítás arra a jelenségre utal, amikor egy AI-modell eredményei sztereotípiákból vagy egy bizonyos demográfiai helyzettel kapcsolatos vélt elképzelésekből állnak.
• Faji elfogultság: A mesterséges intelligencia faji elfogultsága akkor fordul elő, ha egy mesterséges intelligencia-modell eredménye diszkriminatív és igazságtalan egy egyénnel vagy csoporttal szemben etnikai vagy faji hovatartozása alapján.
• Kulturális elfogultság: A kulturális elfogultság akkor lép életbe, ha egy mesterséges intelligencia modell eredményei előnyben részesítenek egy bizonyos kultúrát egy másikkal szemben.

A torzításokon kívül más problémák is hátráltathatják az AI-rendszer eredményeit, például:

• Pontatlanságok: Pontatlanságok akkor fordulnak elő, ha egy mesterséges intelligencia modell által előállított eredmények hibásak a következetlen tanítási adatok miatt.
• Hallucinációk: Hallucinációk akkor fordulnak elő, amikor az AI-modellek kitalált és hamis eredményeket produkálnak, amelyek nem tényszerű adatokon alapulnak.

Az AI torzítás hatása a társadalomra

A mesterséges intelligencia elfogultságának a társadalomra gyakorolt ​​hatása káros lehet. Az elfogult mesterséges intelligencia rendszerek pontatlan eredményeket hozhatnak, amelyek felerősítik a társadalomban már meglévő előítéleteket. Ezek az eredmények növelhetik a diszkriminációt és a jogsértéseket, befolyásolhatják a felvételi folyamatokat, és csökkenthetik az AI-technológiába vetett bizalmat.

Ezenkívül az elfogult mesterséges intelligencia eredmények gyakran pontatlan előrejelzésekhez vezetnek, amelyek súlyos következményekkel járhatnak az ártatlan egyének számára. Például 2020 augusztusában Robert McDaniel bűncselekmény célpontja lett, mivel a Chicagói Rendőrkapitányság prediktív rendészeti algoritmusa „érdekes személyként” jelölte meg.

Hasonlóképpen, az elfogult egészségügyi AI-rendszerek akut kimenetelű betegeket okozhatnak. 2019-ben Tudomány felfedezte, hogy egy széles körben használt Amerikai orvosi algoritmus fajilag elfogult volt a színes bőrűekkel szemben, ami ahhoz vezetett, hogy a fekete betegek kevésbé részesültek magas kockázatú ellátásban.

A világ Barbijai

Júliusban az 2023, A Buzzfeed blogot tett közzé 194 mesterséges intelligencia által generált barbit tartalmaz a világ minden tájáról. A bejegyzés a Twitteren terjedt el. Bár a Buzzfeed írt egy nyilatkozatot, ez nem akadályozta meg a netezőket abban, hogy rámutassanak a faji és kulturális pontatlanságokra. Például a mesterséges intelligencia által generált német Barbie-kép egyenruhát viselt a SS náci általában.

Hasonlóképpen, a mesterséges intelligencia által generált kép egy dél-szudáni Barbie-ról volt látható, amint fegyvert tart az oldalán, tükrözve az AI-algoritmusok mélyen gyökerező elfogultságát.

Ezen kívül számos más kép kulturális pontatlanságot mutatott, például a katari Barbie-n Ghutra, arab férfiak által viselt hagyományos fejdísz.

Ez a blogbejegyzés hatalmas visszhangot kapott a kulturális sztereotípiák és az elfogultság miatt. A Londoni Interdiszciplináris Iskola (LIS) ezt hívta reprezentációs kár ezt minőségi szabványok előírásával és mesterséges intelligencia felügyeleti testületek létrehozásával kordában kell tartani.

Az AI modellek korlátai

Az AI-ban megvan a lehetőség forradalmasítja számos iparágat. De ha a fent említettekhez hasonló forgatókönyvek elszaporodnak, az az AI általános elterjedésének csökkenéséhez vezethet, ami elszalasztott lehetőségeket eredményezhet. Az ilyen esetek általában az AI-rendszerek jelentős korlátai miatt fordulnak elő, mint például:

• A kreativitás hiánya: Mivel az AI csak az adott képzési adatok alapján tud döntést hozni, hiányzik belőle a kreativitás a dobozon kívüli gondolkodáshoz, ami hátráltatja a kreatív problémamegoldást.

• A kontextuális megértés hiánya: Az AI-rendszerek nehézségekkel szembesülnek egy régió kontextuális árnyalatainak vagy nyelvi kifejezéseinek megértésével, ami gyakran hibákhoz vezet az eredményekben.

• Edzési elfogultság: A mesterséges intelligencia olyan történeti adatokra támaszkodik, amelyek mindenféle megkülönböztető mintát tartalmazhatnak. A képzés során a modell könnyen megtanulhat diszkriminatív mintákat, hogy tisztességtelen és elfogult eredményeket produkáljon.

Hogyan lehet csökkenteni a torzítást az AI-modellekben

Szakértők becslés hogy 2026-ra az online tartalmak 90%-a szintetikusan előállítható. Ezért létfontosságú, hogy gyorsan minimalizáljuk a generatív AI-technológiákban jelen lévő problémákat.

Számos kulcsfontosságú stratégia alkalmazható az AI-modellek torzításának csökkentésére. Ezek közül néhány a következő:

• Biztosítsa az adatminőséget: A teljes, pontos és tiszta adatok AI-modellbe való bevitele csökkentheti a torzítást és pontosabb eredményeket hozhat létre.
• Változatos adatkészletek: Különféle adatkészletek bevezetése egy mesterséges intelligencia rendszerbe segíthet csökkenteni a torzítást, mivel az AI-rendszer idővel egyre befogadóbbá válik.

• Visszacsatolási hurkok: Egy állandóval visszacsatolás és tanulási hurok, az AI-modellek fokozatosan javíthatják eredményeiket

• Fokozott szabályozás: A globális mesterséges intelligencia szabályozások kulcsfontosságúak az AI-rendszerek határokon átnyúló minőségének megőrzéséhez. Ezért a nemzetközi szervezeteknek együtt kell működniük a mesterséges intelligencia szabványosításának biztosítása érdekében.

• A felelős mesterséges intelligencia fokozottabb alkalmazása: A felelős AI-stratégiák pozitívan járulnak hozzá az AI-elfogultság mérsékléséhez, a méltányosság és pontosság ápolásához az AI-rendszerekben, valamint biztosítják, hogy változatos felhasználói bázist szolgáljanak ki, miközben a folyamatos fejlesztésre törekednek.

Különféle adatkészletek, etikai felelősségvállalás és nyílt kommunikációs médiumok beépítésével biztosíthatjuk, hogy a mesterséges intelligencia világszerte pozitív változások forrása legyen.

Ha többet szeretne megtudni az elfogultságról és a mesterséges intelligencia társadalmunkban betöltött szerepéről, olvassa el a következő blogokat.

• Hogyan vezetnek be a városok az elfogulatlan AI-algoritmusokat kihasználó vezető technológiákat
• A mesterséges intelligencia felveheti a harcot a hírekben megjelenő téves információk és elfogultságok ellen
• Az AI-alapú rendszerek elfogultsága és méltányossága a pénzügyi bűnözésen belül
• Egy mesterséges intelligencia által vezérelt torzításellenőrző a hírcikkek számára, elérhető Pythonban