Etyczne rozważania przy tworzeniu sztucznej inteligencji do rozpoznawania emocji

Sztuczna inteligencja do regulacji emocji jest jednym z najnowszych osiągnięć technologicznych w dziedzinie uczenia maszynowego. Chociaż wykazuje duży potencjał, problemy etyczne mogą wpłynąć na jej przyjęcie i długoterminową skuteczność. Czy deweloperzy sztucznej inteligencji mogą pokonać te problemy?

Czym jest sztuczna inteligencja do rozpoznawania emocji?

Sztuczna inteligencja do rozpoznawania emocji jest rodzajem modelu uczenia maszynowego. Często opiera się na technologii wizji komputerowej, która przechwytuje i analizuje wyrażenia twarzy, aby odczytać nastroje na zdjęciach i filmach. Może również działać na fragmentach audio, aby określić ton głosu lub na tekście, aby ocenić sentiment języka.

Ten rodzaj algorytmu reprezentuje fascynujący postęp w dziedzinie sztucznej inteligencji, ponieważ dotychczas modele nie były w stanie zrozumieć ludzkich uczuć. Chociaż duże modele językowe, takie jak ChatGPT, mogą symulować nastroje i osobowości w przekonywujący sposób, mogą jedynie łączyć słowa w logiczny sposób – nie mogą czuć niczego i nie wykazują inteligencji emocjonalnej.Chociaż model rozpoznawania emocji nie jest w stanie doświadczać uczuć, może je wykrywać i katalogować. Ten rozwój jest znaczący, ponieważ wskazuje, że sztuczna inteligencja może wkrótce być w stanie prawdziwie zrozumieć i wykazać radość, smutek czy złość. Skoki technologiczne, takie jak te, wskazują na przyspieszony postęp.

Zastosowania sztucznej inteligencji do rozpoznawania emocji

Przedsiębiorstwa, edukatorzy, konsultanci i specjaliści opieki zdrowotnej są jednymi z grup, które mogą wykorzystywać sztuczną inteligencję do rozpoznawania emocji.

Ocena ryzyka w biurze

Zespoły HR mogą wykorzystywać algorytmy do analizy sentimentu korespondencji e-mail lub czatu w aplikacjach między członkami zespołu. Mogą również zintegrować swój algorytm z systemem nadzoru lub wizji komputerowej. Użytkownicy mogą śledzić nastrój, aby obliczyć wskaźniki, takie jak ryzyko odejścia, wskaźnik wypalenia czy zadowolenie pracowników.

Pomoc w obsłudze klienta

Detaliści mogą wykorzystywać wewnętrznych agentów sztucznej inteligencji do obsługi klienta dla użytkowników końcowych lub wirtualnych asystentów do rozwiązywania sytuacji o wysokim stresie. Ponieważ ich model może rozpoznać nastrój, może sugerować techniki deeskalacji lub zmienić ton, gdy zorientuje się, że konsument zaczyna się złościć. Przeciwdziałania, takie jak te, mogą poprawić zadowolenie klienta i retencję.

Pomoc uczniom w klasie

Edukatorzy mogą wykorzystywać tę sztuczną inteligencję, aby zapobiec opóźnieniom uczniów w nauce na odległość. Jeden startup już wykorzystał swoje narzędzie do pomiaru punktów mięśni na twarzach uczniów, jednocześnie katalogując ich prędkość i oceny. Ta metoda określa ich nastrój, motywację, mocne i słabe strony. Założyciel startupu twierdzi, że uczniowie zdobywają 10% więcej punktów na testach, gdy używają oprogramowania.

Przeprowadzanie badań rynkowych wewnętrznych

Przedsiębiorstwa mogą przeprowadzać badania rynkowe wewnętrzne, wykorzystując model rozpoznawania emocji. Może to pomóc im zrozumieć, jak ich docelowa publiczność reaguje na ich produkt, usługę lub materiały marketingowe, dostarczając im cennych danych i wglądów. W efekcie mogą przyspieszyć czas wprowadzenia na rynek i zwiększyć przychody.

Problem z wykorzystaniem sztucznej inteligencji do wykrywania emocji

Badania wskazują, że dokładność jest silnie uzależniona od informacji szkoleniowych. Jedna grupa badawcza – próbująca odczytać uczucia z obrazów – dowiodła tego pojęcia, gdy ich model osiągnął 92,05% dokładności w japońskim zestawie danych wyrażeń twarzy kobiet i 98,13% dokładności w rozszerzonym zestawie danych Cohn-Kanade.

Chociaż różnica między 92% a 98% może wydawać się nieznacząca, jest istotna – ta niewielka różnica mogłaby mieć znaczące konsekwencje. Dla porównania, wskaźnik zatrucia danych na poziomie aż 0,001% okazał się skuteczny w ustanowieniu tzw. backdoorów modelu lub celowym spowodowaniu błędnych klasyfikacji. Nawet ułamkowy procent jest znaczący.

Ponadto, chociaż badania wydają się obiecujące – wskaźniki dokładności powyżej 90% wskazują na potencjał – są one przeprowadzane w kontrolowanych środowiskach. W świecie rzeczywistym nieostrych obrazów, sfabrykowanych wyrażeń twarzy, złych kątów i subtelnych uczuć jest znacznie więcej. Innymi słowy, sztuczna inteligencja może nie być w stanie działać w sposób ciągły.

Obecny stan sztucznej inteligencji do rozpoznawania emocji

Analityczna analiza sentymentu to proces, w którym wykorzystuje się algorytm do określenia, czy ton tekstu jest pozytywny, neutralny czy negatywny. Ta technologia jest najprawdopodobniej podstawą nowoczesnych modeli wykrywania emocji, ponieważ przyprowadziła do algorytmicznych ocen nastroju.

Współczesne algorytmy mogą głównie wykrywać tylko proste emocje, takie jak radość, smutek, złość, strach i zaskoczenie, z różnym stopniem dokładności. Te wyrażenia twarzy są wrodzone i uniwersalne – co oznacza, że są naturalne i rozumiane na całym świecie – więc szkolenie sztucznej inteligencji w celu ich identyfikacji jest względnie proste.

Ponadto, podstawowe wyrażenia twarzy są często przesadzone. Ludzie marszczą brwi, gdy są złośliwi, marszczą twarz, gdy są smutni, uśmiechają się, gdy są szczęśliwi, i rozszerzają oczy, gdy są zaskoczeni. Te proste, dramatyczne spojrzenia są łatwe do odróżnienia. Bardziej złożone emocje są trudniejsze do wskazania, ponieważ są albo subtelne, albo łączą podstawowe wyrażenia twarzy.

Ponieważ ten podzbiór sztucznej inteligencji w dużej mierze pozostaje w fazie badań i rozwoju, nie rozwinął się jeszcze do objęcia złożonych uczuć, takich jak tęsknota, wstyd, żal, zazdrość, ulga czy zakłopotanie. Chociaż prawdopodobnie w przyszłości będzie obejmował więcej emocji, nie ma gwarancji, że będzie w stanie zinterpretować je wszystkie.

W rzeczywistości algorytmy mogą nigdy nie być w stanie konkurować z ludźmi. Dla porównania, podczas gdy zbiór danych GPT-4 OpenAI wynosi około 1 petabajt, jeden sześcienny milimetr ludzkiego mózgu zawiera około 1,4 petabajtów danych. Neuro naukowcy nie są w stanie w pełni zrozumieć, jak mózg postrzega emocje, pomimo dziesięcioleci badań, więc zbudowanie bardzo precyzyjnej sztucznej inteligencji może być niemożliwe.

Chociaż wykorzystanie tej technologii do rozpoznawania emocji ma precedens, ta dziedzina jest nadal technicznie w powijakach. Istnieje wiele badań na temat tego pojęcia, ale niewiele przykładów wdrożenia w świecie rzeczywistym. Niektóre oznaki wskazują, że opóźniona akceptacja może wynikać z obaw dotyczących nieciągłej dokładności i problemów etycznych.

Etyczne rozważania dla deweloperów sztucznej inteligencji

Według jednego z badań, 67% respondentów uważa, że sztuczna inteligencja powinna być bardziej regulowana. Aby uspokoić ludzi, deweloperzy powinni minimalizować uprzedzenia, zapewnić, że ich modele zachowują się tak, jak oczekiwano, i poprawiać wyniki. Te rozwiązania są możliwe, jeśli priorytetem podczas rozwoju będą rozważania etyczne.

1. Zgoda na zbieranie i wykorzystanie danych

Zgoda jest wszystkim w erze, w której rośnie regulacja sztucznej inteligencji. Co się stanie, jeśli pracownicy odkryją, że ich wyrażenia twarzy są katalogowane bez ich wiedzy? Czy rodzice muszą wyrazić zgodę na analizę sentimentu w edukacji, czy uczniowie mogą sami zdecydować?

Deweloperzy powinni wyraźnie ujawnić, jakie informacje model zbierze, kiedy będzie działał, do czego analiza będzie wykorzystywana i kto będzie miał dostęp do tych szczegółów. Dodatkowo powinni zawierać funkcje opt-out, aby osoby mogły dostosowywać uprawnienia.

2. Anonimizacja danych sentymentu

Anonimizacja danych jest tak samo problemem prywatności, jak i bezpieczeństwa. Deweloperzy powinni anonimizować informacje o emocjach, które zbierają, aby chronić zaangażowane osoby. Co najmniej powinni poważnie rozważyć wykorzystanie szyfrowania w spoczynku.

3. Decyzje podejmowane z udziałem człowieka

Jedynym powodem wykorzystania sztucznej inteligencji do określenia stanu emocjonalnego kogoś jest poinformowanie decyzji. Niezależnie od tego, czy jest wykorzystywana w zakresie zdrowia psychicznego, czy w handlu detalicznym, wpłynie na ludzi. Deweloperzy powinni wykorzystywać zabezpieczenia z udziałem człowieka, aby zminimalizować nieoczekiwane zachowania.

4. Opinie ukierunkowane na człowieka dla danych wyjściowych sztucznej inteligencji

Nawet jeśli algorytm ma dokładność prawie 100%, nadal będzie generował fałszywe pozytywy. Biorąc pod uwagę, że nie jest rzadkością, gdy modele osiągają 50% lub 70% dokładności – a to bez uwzględniania problemów z uprzedzeniami lub halucynacjami – deweloperzy powinni rozważyć wdrożenie systemu opinii.

Ludzie powinni móc przeglądać, co sztuczna inteligencja mówi o ich stanie emocjonalnym i odwołać się, jeśli uważają, że jest to błędne. Chociaż taki system wymagałby barier i środków odpowiedzialności, zminimalizowałby negatywne skutki wynikające z niedokładnych danych wyjściowych.

Konsekwencje ignorowania etyki

Rozważania etyczne powinny być priorytetem dla inżynierów sztucznej inteligencji, deweloperów uczenia maszynowego i właścicieli firm, ponieważ wpływają one na nich. Biorąc pod uwagę coraz bardziej niepewną opinię publiczną i zaostrzające się regulacje, konsekwencje ignorowania etyki mogą być znaczące.