Etika
A mesterséges intelligencia felveheti a harcot a hírekben megjelenő téves információk és elfogultságok ellen
A félretájékoztatás és a hírekben megjelenő elfogultság a társadalom egyik legnagyobb kihívásává vált az elmúlt években. Az olyan dolgok, mint az információs műveletek, a mélyhamisítás, a pénzügyi befolyás és a társadalmi feszültségek kihasználása új eszközök, amelyeket az egyének és az állami szereplők is használnak szerte a világon.
A félretájékoztatás a hamis információ általános kifejezése, és nagy szerepet játszik a közvélemény manipulálásában. Ugyanakkor a politikai vezetők elleni támadásként használják, és rontja a csoportok közötti elkülönülést a különböző országokban. A félretájékoztatás minden eddiginél jobban üti a szavazófülkét, és ez hihetetlenül hatásossá vált.
A dezinformáció, amely némileg különbözik a félretájékoztatástól, szándékosan félrevezető vagy elfogult információ. Tartalmazhat manipulált narratívákat és tényeket. Más szóval, ez propaganda.
Az Oxfordi Egyetem kutatóinak 2019-es jelentése 70 különböző országban, köztük Oroszországban, Kínában, Vietnamban és Guatemalában szervezett dezinformációs kampányokat részletezett.
A digitális gazdaság a téves információk és a hírek elfogultságának növekedéséhez vezetett, és az AI-technológiák és a közösségi média platformok a tömegekhez való eljuttatásának eszközeivé váltak.
Sok példát láttunk erre. Például az előző két amerikai elnökválasztás tele volt félretájékoztatással és elfogultsággal, és ez biztosan folytatódni fog a jövőben is. A pénzügyi piacok is ki vannak téve rövid távú manipulációnak félretájékoztatás és elfogultság révén, a külügy pedig egyre feszültebbé válik használatuk következtében. Társadalmi feszültségeket okoznak a konkrét ügyek támogatói és ellenzői elleni hamis információk, és szinte minden nemzetben elterjednek az álhírek.
A közösségi médiára és az algoritmusokra való támaszkodásunk hihetetlenül sebezhetővé tett bennünket a félretájékoztatással és az elfogultsággal szemben, és könnyűvé vált emberek nagy csoportjainak manipulálása.
című esszé szerintAz elfogultságok sebezhetővé teszik az embereket a közösségi média által terjesztett félretájékoztatással szemben” – tette közzé a The Conversation, a non-profit médiumok hálózata, háromféle elfogultság létezik, amelyek sebezhetővé teszik a közösségi média ökoszisztémáját a szándékos és véletlen félretájékoztatással szemben. Fontos felismernünk, hogy híreink többsége a közösségi médiából érkezik.
Az elfogultság három típusa a következő:
- Elfogultság az agyban: "A kognitív torzítások abból fakadnak, ahogyan az agy feldolgozza azokat az információkat, amelyekkel minden ember naponta találkozik."
- Elfogultság a társadalomban: „Amikor az emberek közvetlenül kapcsolatba lépnek társaikkal, a barátok kiválasztását irányító társadalmi elfogultságok befolyásolják a látott információkat.
- Elfogultság a gépben: „A torzítások harmadik csoportja közvetlenül azokból az algoritmusokból ered, amelyeket annak meghatározására használnak, hogy az emberek mit látnak az interneten. Mind a közösségi média platformok, mind a keresőmotorok alkalmazzák őket.”
Az elfogultságoknak ez a kombinációja tökéletes környezetet teremtett a rossz szereplők számára, hogy jelenlegi hírplatformjainkat félretájékoztatás terjesztésére használják. De fontos felismerni, hogy az elfogultság ezen a területen kívül is jelen van. A rendszeres híradások és cikkek elfogultak lehetnek a szerző vagy a kiadvány sajátos hajlama miatt. Ez nem újdonság.
AI megoldások félretájékoztatásra és elfogultságra
A mesterséges intelligencia térnyerése számos új és innovatív eszközt adott számunkra, amelyek segítségével leküzdhetjük a hírekben megjelenő téves információkat és elfogultságokat.
Megfelelő tervezés esetén például a mesterséges intelligencia hatékonyan képes észlelni és eltávolítani bizonyos téves információkat és egyéb problémás tartalmakat az interneten. Már használják a hamis robotok azonosítására olyan cégek, mint a Google, a Twitter és a Facebook. A hamis robotokat pedig gyakran téves információk és elfogult hírek terjesztésére használják.
Új mesterséges intelligencia-keretrendszereket kell feltárni a probléma leküzdése érdekében, és a meglévőket javítani kell, mivel sok problémásnak bizonyult. Ezek a problémák kezdenek még veszélyesebbé válni, amikor konfliktusok merülnek fel. Például a katonai konfliktusok, mint például a jelenlegi orosz-ukrán konfliktus, hihetetlenül gyors téves információk terjesztéséhez vezetnek.
Különféle mesterséges intelligencia által hajtott eszközök jönnek a csővezetékbe. Például, NT CONNECT, egy nemzetközi technológiai fejlesztő nemrégiben bejelentette hírösszesítő alkalmazásának elindítását, NOOZ.AI. A mesterséges intelligencia által hajtott nyelvelemző motor célja, hogy átláthatóbbá tegye a mai sajtóban fellelhető polarizáló torzítást. Ezt úgy próbálja elérni, hogy egy cikk elolvasása előtt tudatában tartja az olvasóknak a hírmédia hatását.
„A szerzők vagy újságírók hajlamosak egy bizonyos elfogultságra hajlani – gyakran az olvasó tudta nélkül” – áll a cég sajtóközleményében. „A szerző és a hírforrások történeti elfogultságának ismeretében a fogyasztók objektívebb elmével vizsgálhatják a cikket, és ellenállhatnak annak, hogy manipulálják, hogy egy adott témáról bizonyos módon gondolkodjanak.”
A NOOZ.AI eszköz négy kulcspillérre épül:
- Véleményelemzés: Segíti az olvasókat abban, hogy meghatározzák személyes érzések, nézetek, hiedelmek vagy ítéletek jelenlétét egy újságíró írásában.
- Hangulatelemzés: Az eszköz hangulatelemzést használ, hogy segítsen az olvasóknak felmérni az író támogatását vagy ellenállását az általános hírtartalommal vagy konkrét témával szemben.
- Propaganda elemzés: Akár 18 lehetséges meggyőzési technika alkalmazásának azonosításával képes észlelni a lehetséges dezinformációkat.
- Felülvizsgálati elemzés: Az olvasók nyomon követhetik egy hír evolúcióját, valamint a vélemény- és érzelemmanipulációját az idő múlásával.
Az alkalmazás minden cikkhez pontszámot ad, 0-tól 100-ig terjedő véleménypontszámokkal, -100-tól 100-ig terjedő hangulati pontszámokkal. Ezenkívül nyomon követi az egyes változatok szövegszerkesztését, és lehetővé teszi az olvasók számára a különböző verziók összehasonlítását.
Garry Paxinos, az NT CONNECT műszaki igazgatója szerint:
„Az elfogult jelentéstétel komoly aggodalomra ad okot a mai társadalomban. A félretájékoztatás a leggyakrabban (tévesen) használt hívószó. De a valóság az, hogy magát a nyelvet is lehet használni a hétköznapi olvasó manipulálására és meggyőzésére. Által tárgyilagosan a nyelvet elemezve kerüljük a szubjektív elfogultság más megközelítésekben is megtalálható. A félretájékoztatás szubjektív címkézésével szemben a mi megközelítésünk az, hogy megvilágítsuk, hogyan lehet manipulálni az embert eltúlzott címsorokkal, felülvizsgálati előzményekkel és cikkek szövegével.”