Etické úvahy při vývoji umělé inteligence pro rozpoznávání emocí

Umělá inteligence pro regulaci emocí je jednou z posledních technologických pokroků v oblasti strojového učení. Ačkoli má velký potenciál, etické otázky mohou ovlivnit její přijetí a dlouhodobou udržitelnost. Mohou vývojáři umělé inteligence tyto problémy překonat?

Co je rozpoznávání emocí pomocí umělé inteligence?

Rozpoznávání emocí pomocí umělé inteligence je typem modelu strojového učení. Často se spoléhá na technologii počítačového vidění, která zachycuje a analyzuje mimické výrazy, aby rozluštila nálady na obrázcích a videích. Může však také fungovat na základě audio ukázek, aby určila tón hlasu nebo psaného textu, aby zhodnotila sentiment jazyka.

Tento typ algoritmu představuje fascinující pokrok v oblasti umělé inteligence, protože dosud modely nebyly schopny pochopit lidské pocity. Zatímco velké jazykové modely, jako je ChatGPT, mohou simulovat nálady a osobnosti přesvědčivě, mohou pouze logicky spojovat slova – nemohou cítit nic a nevykazují emocionální inteligenci.Zatímco model rozpoznávání emocí není schopen mít pocity, může stále detekovat a katalogizovat je. Tento vývoj je významný, protože naznačuje, že umělá inteligence brzy bude schopna skutečně rozumět a projevovat radost, smutek nebo hněv. Technologické skoky, jako je tento, ukazují urychlený pokrok.

Případy použití rozpoznávání emocí pomocí umělé inteligence

Společnosti, vzdělávací instituce, konzultanti a odborníci v oblasti duševního zdraví jsou některé ze skupin, které mohou využívat umělou inteligenci pro rozpoznávání emocí.

Hodnocení rizik na pracovišti

Lidské zdroje mohou použít algoritmy pro sentimentální analýzu e-mailové korespondence nebo chatů mezi členy týmu. Alternativně mohou integrovat svůj algoritmus do svého dohledového nebo počítačového vidění. Uživatelé mohou sledovat náladu, aby vypočítali metriky, jako je riziko fluktuace, míra vyhoření a spokojenost zaměstnanců.

Pomoc zákaznickým službám

Maloobchodníci mohou využívat interní umělou inteligenci pro zákaznickou podporu pro koncové uživatele nebo virtuální asistenty pro řešení vysokostresových situací. Protože jejich model může rozpoznat náladu, může navrhnout techniky deeskalace nebo změnit tón, když si uvědomí, že spotřebitel se zlobí. Protižádná opatření, jako jsou tato, mohou zlepšit spokojenost a udržení zákazníků.

Pomoc studentům ve třídě

Vzdělávací instituce mohou využívat tuto umělou inteligenci, aby zabránily tomu, že vzdálení studenti zůstanou pozadu. Jedna společnost již využila svůj nástroj pro měření svalových bodů na tvářích studentů, zatímco katalogizovala jejich rychlost a známky. Tato metoda určuje jejich náladu, motivaci, silné a slabé stránky. Zakladatel společnosti tvrdí, že studenti dosahují o 10 % lepších výsledků na testech, když používají software.

Provádění interního marketingového výzkumu

Společnosti mohou provádět interní marketingový výzkum pomocí modelu rozpoznávání emocí. Může jim pomoci pochopit, jak přesně jejich cílová skupina reaguje na jejich produkt, službu nebo marketingový materiál, a poskytnout jim cenné datově řízené poznatky. V důsledku toho mohou urychlit dobu uvedení na trh a zvýšit své příjmy.

Problém s používáním umělé inteligence pro detekci emocí

Výzkum naznačuje, že přesnost je silně závislá na trénovacích datech. Jedna výzkumná skupina – která se pokusila rozluštit pocity z obrázků – prokázala tento koncept, když jejich model dosáhl přesnosti 92,05 % na japonském datasetu ženských mimických výrazů a přesnosti 98,13 % na rozšířeném datasetu Cohn-Kanade.

Zatímco rozdíl mezi 92 % a 98 % může zdát zanedbatelný, je důležitý – tento malý rozdílný údaj by mohl mít podstatné důsledky. Pro srovnání, míra otrávení dat tak nízká, jako 0,001 %, se ukázala jako účinná při vytváření zadních dveří modelu nebo úmyslném způsobení nesprávných klasifikací. I zlomek procenta je významný.

Navíc, ačkoli studie vypadají slibně – přesnostní sazby nad 90 % ukazují potenciál – výzkumníci provádějí je v kontrolovaných prostředích. Ve skutečném světě jsou rozmazané obrázky, předstírané mimické výrazy, špatné úhly a jemné pocity mnohem častější. Jinými slovy, umělá inteligence nemusí být schopna konzistentně fungovat.

Aktuální stav rozpoznávání emocí pomocí umělé inteligence

Algoritmická sentimentální analýza je proces, který používá algoritmus pro určení, zda je tón textu pozitivní, neutrální nebo negativní. Tato technologie je pravděpodobně základem moderních modelů detekce emocí, protože připravila cestu pro algoritmické hodnocení nálady.

Dnešní algoritmy mohou primárně detekovat pouze jednoduché nálady, jako je radost, smutek, hněv, strach a překvapení, s různou mírou přesnosti. Tyto mimické výrazy jsou vrozené a univerzální – což znamená, že jsou přirozené a globálně pochopitelné – takže trénování umělé inteligence na jejich identifikaci je relativně snadné.

Navíc jsou základní mimické výrazy často přehnané. Lidé皺ují čelo, když jsou zlobí, mrskají, když jsou smutní, usmívají se, když jsou rádi, a rozšířují oči, když jsou šokováni. Tyto jednoduché, dramatické výrazy jsou snadno rozlišitelné. Složitější emoce jsou obtížnější určit, protože jsou buď jemné nebo kombinují základní výrazy.

Pоскольку tato podmnožina umělé inteligence zůstává převážně ve výzkumu a vývoji, dosud nepokročila do pokrytí složitých pocitů, jako je touha, stud, žárlivost, úleva nebo zmatení. Ačkoli je pravděpodobné, že bude pokrývat více později, není žádná záruka, že bude schopna interpretovat je všechny.

Ve skutečnosti algoritmy nemusí být schopny konkurovat lidem. Pro srovnání, zatímco dataset OpenAI GPT-4 je přibližně 1 petabyte, jeden krychlový milimetr lidského mozku obsahuje asi 1,4 petabytu dat. Neurovědci nemohou plně pochopit, jak mozek vnímá emoce, přestože výzkum trvá desetiletí, takže stavba vysoce přesné umělé inteligence může být nemožná.

Zatímco použití této technologie pro rozpoznávání emocí má precedens, toto pole je stále technicky v plenkách. Existuje spousta výzkumu o tomto konceptu, ale málo skutečných příkladů velkého nasazení. Některé známky naznačují, že zpomalené přijetí může být výsledkem obav o nekonzistentní přesnost a etické problémy.

Etické úvahy pro vývojáře umělé inteligence

Podle jedné studie 67 % respondentů souhlasí, že umělá inteligence by měla být více regulována. Aby uklidnili lidi, vývojáři by měli minimalizovat předpojatost, zajistit, aby jejich modely fungovaly podle očekávání, a zlepšit výsledky. Tyto řešení jsou možná, pokud budou priorizovat etické úvahy během vývoje.

1. Souhlasné shromažďování a využívání dat

Souhlas je všechno ve věku, kdy regulace umělé inteligence roste. Co se stane, když zaměstnanci zjistí, že jejich mimické výrazy jsou katalogizovány bez jejich vědomí? Musí rodiče podepsat souhlas s analýzou sentimentu ve vzdělávání nebo mohou studenti rozhodnout sami za sebe?

Vývojáři by měli explicitně prokázat, jaké informace bude model shromažďovat, kdy bude v provozu, k čemu bude analýza použita a kdo bude mít přístup k těmto podrobnostem. Kromě toho by měli zahrnout funkce pro odhlášení, aby jednotlivci mohli přizpůsobit oprávnění.

2. Anonymizovaná sentimentální analýza výstupu

Anonymizace dat je takovým problémem ochrany osobních údajů, jako je bezpečnostní problém. Vývojáři by měli anonymizovat emoční informace, které shromažďují, aby chránili jednotlivce, kteří jsou zapojeni. Nejméně by měli vážně zvažovat využití šifrování při uložení.

3. Rozhodování s lidskou účastí

Jediný důvod pro použití umělé inteligence pro určení emocionálního stavu je informovat rozhodnutí. Ať je použita v psychiatrické nebo maloobchodní kapacitě, bude mít dopad na lidi. Vývojáři by měli využívat opatření pro rozhodování s lidskou účastí, aby minimalizovali neočekávané chování.

4. Lidsky zaměřená zpětná vazba pro výstup umělé inteligence

I když algoritmus má téměř 100% přesnost, bude stále produkovat falešné pozitivy. Vzhledem k tomu, že je neobvyklé, aby modely dosáhly 50 % nebo 70 % – a to bez dotyku předpojatosti nebo halucinací – vývojáři by měli zvažovat implementaci systému zpětné vazby.

Lidé by měli být schopni přezkoumat, co umělá inteligence říká o jejich emocionálním stavu, a odvolat se, pokud se domnívají, že je falešné. Ačkoli by takový systém vyžadoval zábrany a opatření pro odpovědnost, minimalizoval by negativní dopady vyplývající z nesprávného výstupu.

Důsledky ignorování etiky

Etické úvahy by měly být prioritou pro inženýry umělé inteligence, vývojáře strojového učení a majitele podniků, protože se jich to týká. Vzhledem k tomu, že se veřejný názor stává stále nejistějším a zpřísňují se regulace, mohou být důsledky ignorování etiky významné.