Naukowcy opracowują nowe narzędzie do walki z uprzedzeniami w komputerowym widzeniu

Jednym z ostatnich problemów, które pojawiły się w dziedzinie sztucznej inteligencji (AI), jest kwestia uprzedzeń w komputerowym widzeniu. Wielu ekspertów odkrywa obecnie uprzedzenia w systemach AI, co prowadzi do zniekształconych wyników w różnych aplikacjach, takich jak programy wyrokowania w sądach.

Trwa duża próba rozwiązania niektórych z tych problemów, a najnowszy rozwój pochodzi z Uniwersytetu Princeton. Naukowcy z tej instytucji stworzyli nowe narzędzie, które może flagować potencjalne uprzedzenia w obrazach wykorzystywanych do szkolenia systemów AI.

Praca została przedstawiona 24 sierpnia na wirtualnej Konferencji Europejskiej w dziedzinie komputerowego widzenia.

Uprzedzenia w systemach AI

Jedną z głównych przyczyn uprzedzeń obecnych w systemach AI jest to, że często są one szkolone na dużych zbiorach obrazów pochodzących z internetu. Obrazy te mogą być stereotypowe, a gdy są wykorzystywane do rozwoju komputerowego widzenia, wynik może być niezamierzenie wpływany. Komputerowe widzenie umożliwia komputerom identyfikację ludzi, obiektów i działań.

Narzędzie opracowane przez naukowców jest otwartoźródłowe i może automatycznie ujawniać potencjalne uprzedzenia w zbiorach danych wizualnych. Działa poprzez działanie przed użyciem zestawów obrazów do szkolenia modeli komputerowego widzenia, a problemy związane z niedoreprezentacją i stereotypami mogą być rozwiązane przed ich wystąpieniem.

REVISE

Nowe narzędzie nazywa się REVISE i opiera się na metodach statystycznych w celu identyfikacji potencjalnych uprzedzeń w zbiorze danych. Koncentruje się na trzech obszarach: opartym na obiektach, opartym na płci i opartym na geografii.

REVISE jest w pełni automatyczne i zostało zbudowane na podstawie poprzednich metod, które obejmowały filtrowanie i balansowanie obrazów w zestawie danych, aby użytkownik mógł mieć większą kontrolę.

Nowe narzędzie opiera się na istniejących adnotacjach i pomiarach obrazów, aby analizować zawartość w zbiorze danych. Niektóre z tych adnotacji obejmują liczbę obiektów i kraje pochodzenia obrazów.

W jednym z przykładów działania narzędzia REVISE pokazało, jak obrazy ludzi i kwiatów różnią się w zależności od płci. Mężczyźni byli bardziej prawdopodobni, aby pojawiać się z kwiatami w ceremoniach lub spotkaniach, a kobiety były bardziej prawdopodobne, aby pojawiać się z kwiatami w obrazach lub inscenizowanych sytuacjach.

Olga Russaskovsky jest adiunktem na wydziale informatyki i kierownikiem Laboratorium Sztucznej Inteligencji Wizualnej. Artykuł został współautorski z doktorantką Angeliną Wang i associate profesorem informatyki, Arvindem Narayanem.

Po tym, jak narzędzie identyfikuje niezgodności, „wtedy pojawia się pytanie, czy jest to całkowicie niewinny fakt, czy coś głębszego się dzieje, i to jest bardzo trudne do zautomatyzowania”, powiedziała Russaskovsky.

Niedoreprezentowane lub źle reprezentowane regiony

Różne regiony na świecie są niedoreprezentowane w zbiorach danych komputerowego widzenia, co może prowadzić do uprzedzeń w systemach AI. Jednym z odkryć było to, że dramatycznie większa ilość obrazów pochodzi ze Stanów Zjednoczonych i krajów europejskich. REVISE ujawniło również, że obrazy z innych części świata często nie mają podpisów w języku lokalnym, co oznacza, że wiele z nich może pochodzić z perspektywy turysty.

„…ta analiza geograficzna pokazuje, że rozpoznawanie obiektów może być nadal dość uprzedzone i wykluczające, i może wpływać na różne regiony i ludzi nierówno”, kontynuowała Russaskovsky.

“Praktyki zbierania danych w informatyce nie były zbyt dokładnie zbadane do niedawna”, powiedziała Wang. “Gdy chodzi o zbieranie obrazów, są one pobierane z internetu, a ludzie nie zawsze zdają sobie sprawę, że ich obrazy są wykorzystywane [w zbiorach danych]. Powinniśmy zbierać obrazy z bardziej różnorodnych grup ludzi, ale gdy to robimy, powinniśmy być ostrożni, aby robić to w sposób szanujący.”

Vicente Ordonez-Roman jest adiunktem na wydziale informatyki na Uniwersytecie Wirginii.

“Narzędzia i punkty odniesienia są ważnym krokiem … pozwalają one nam przechwytywać te uprzedzenia wcześniej w procesie i przemyśleć nasze założenia oraz praktyki zbierania danych”, powiedział Ordonez-Roman. “W komputerowym widzeniu istnieją pewne specyficzne wyzwania związane z reprezentacją i propagacją stereotypów. Prace takie jak te autorstwa Laboratorium Sztucznej Inteligencji Wizualnej na Uniwersytecie Princeton pomagają wyjaśnić i zwrócić uwagę społeczności komputerowego widzenia na niektóre z tych problemów i oferują strategie ich łagodzenia.”

Nowe narzędzie opracowane przez naukowców jest ważnym krokiem w celu rozwiązania problemu uprzedzeń w systemach AI. Teraz jest czas, aby rozwiązać te problemy, ponieważ w przyszłości będzie to znacznie trudniejsze, gdy systemy staną się bardziej złożone.