Ústav AI Now varuje před zneužíváním softwaru pro detekci emocí a dalších etických otázek

Ústav AI Now vydal zprávu, ve které vyzývá zákonodárce a další regulační orgány, aby stanovily tvrdé limity pro používání technologie detekce emocí, a zakázali ji v případech, kdy by mohla být použita k přijímání důležitých rozhodnutí, jako je přijímání zaměstnanců nebo přijetí studentů. Kromě toho zpráva obsahuje řadu dalších návrhů týkajících se různých témat v oblasti AI.

Ústav AI Now je výzkumný ústav sídlící na NYU, jehož cílem je studovat dopad AI na společnost. AI Now vydává každý rok zprávu, ve které prezentuje své nálezy týkající se stavu výzkumu AI a etických dopadů současného používání AI. Jak uvádí BBC, letošní zpráva se zabývala tématy, jako je diskriminace algoritmů, nedostatek rozmanitosti ve výzkumu AI a otázky pracovního práva.

Rozpoznávání emocí, odborný termín pro algoritmy detekce emocí, je rychle se rozvíjející oblastí výzkumu AI. Ti, kteří tuto technologii používají k přijímání rozhodnutí, často tvrdí, že systémy mohou poskytnout spolehlivé informace o emocionálním stavu lidí analýzou mikroexpresí, tónu hlasu a dalších signálů. Ústav AI Now upozorňuje, že tato technologie je používána v širokém spektru aplikací, jako je určení, koho přijmout, stanovení cen pojištění a monitorování, zda studenti ve třídě pozorně naslouchají.

Prof. Kate Crawford, spoluzakladatelka AI Now, vysvětlila, že se často předpokládá, že lidské emoce lze přesně předpovědět pomocí relativně jednoduchých modelů. Crawford uvedla, že některé firmy vyvíjejí software na základě práce Paula Ekmana, psychologa, který předpokládal, že existují pouze šest základních typů emocí, které se projeví na obličeji. Crawford nicméně upozorňuje, že od Ekmanova teorie byly provedeny studie, které ukázaly, že existuje mnohem větší variabilita v mimických projevech a že tyto projevy se mohou snadno měnit v závislosti na situaci a kultuře.

“V době, kdy se tyto technologie zavádějí, velké množství studií ukazuje, že neexistuje žádný podstatný důkaz o tom, že lidé mají konzistentní vztah mezi emocemi, které prožívají, a tím, jak vypadá jejich obličej,” řekla Crawford BBC.

Z tohoto důvodu argumentuje ústav AI Now, že většina rozpoznávání emocí je založena na nespolehlivých teoriích a sporné vědě. Proto by systémy detekce emocí neměly být nasazeny, dokud nebude proveden další výzkum, a že “vlády by měly speciálně zakázat používání rozpoznávání emocí v procesech přijímání důležitých rozhodnutí”. AI Now argumentuje, že bychom měli zejména přestat používat tuto technologii v “citlivých sociálních a politických kontextech”, jako je zaměstnání, vzdělávání a policejní činnost.

Alespoň jedna firma specializující se na vývoj AI pro rozpoznávání emocí, Emteq, souhlasí s tím, že by měla existovat regulace, která zabrání zneužívání této technologie. Zakladatel Emteq, Charles Nduka, vysvětlil BBC, že zatímco systémy AI mohou přesně rozpoznat různé mimické projevy, neexistuje žádný jednoduchý vztah mezi projevem a emocí. Nduka nicméně vyjádřil obavy z toho, že regulace by mohla být příliš přísná a brzdit výzkum, a uvedl, že pokud “bude něco zakázáno, je velmi důležité, aby lidé nevyhazovali dítě s vaničkou”.

Jak uvádí NextWeb, AI Now také doporučila řadu dalších politik a norem, které by měly vést odvětví AI vpřed.

AI Now zdůraznila potřebu větší rozmanitosti na pracovištích a uvedla, že pracovníci by měli mít zaručeno právo vyjádřit své obavy týkající se invazivních a exploatačních AI. Pracovníci v odvětví technologií by také měli mít právo vědět, zda jejich úsilí je použito k vytváření škodlivých nebo neetických prací.

AI Now také navrhla, aby zákonodárci přijali opatření k zajištění informovaného souhlasu pro používání dat získaných z AI souvisejících se zdravím. Kromě toho bylo doporučeno, aby byla data soukromí brána vážněji a aby státy pracovaly na vytvoření zákonů o ochraně soukromí pro biometrická data, která by pokrývala jak soukromé, tak veřejné subjekty.

Nakonec ústav AI Now doporučil, aby odvětví AI začalo uvažovat a jednat více globálně, snažící se řešit větší politické, společenské a environmentální důsledky AI. Bylo doporučeno, aby byla provedena podstatná snaha o vyřešení dopadu AI na geografickou přemístění a klima, a aby vlády zveřejnily dopad AI na klima.