Badacze AI proponują wprowadzenie nagród za wykrywanie biasu w AI, aby uczynić AI bardziej etycznym

Zespół badaczy AI z firm i laboratoriów rozwoju AI, takich jak Intel, Google Brain i OpenAI, zalecił użycie nagród, aby zapewnić etyczne wykorzystanie AI. Zespół badaczy niedawno opublikował szereg propozycji dotyczących etycznego wykorzystania AI i zawarł w nich sugestię, że nagradzanie osób za wykrywanie biasu w AI może być skutecznym sposobem na uczynienie AI bardziej sprawiedliwym.

Jak donosi VentureBeat, badacze z różnych firm w Stanach Zjednoczonych i Europie połączyli się, aby stworzyć zestaw wytycznych etycznych dla rozwoju AI, a także sugestie, jak je spełnić. Jedną z sugestii, które złożyli badacze, było oferowanie nagród developerom, którzy znajdą bias w programach AI. Sugestia ta została zawarta w artykule zatytułowanym „Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims”.

Jako przykłady biasu, który zespół badaczy chce rozwiązać, można wymienić tendencyjne dane i algorytmy, które zostały znalezione w aplikacjach medycznych, systemach rozpoznawania twarzy używanych przez organy ścigania. Jednym z takich przypadków jest narzędzie do oceny ryzyka PATTERN, które zostało niedawno użyte przez Departament Sprawiedliwości Stanów Zjednoczonych do triażu więźniów i decyzji, których można wysłać do domu w ramach redukcji populacji więziennej w odpowiedzi na pandemię koronawirusa.

Praktyka nagradzania developerów za znajdowanie niepożądanych zachowań w programach komputerowych jest stara, ale to może być pierwszy raz, kiedy rada etyki AI poważnie rozważa tę ideę jako opcję walki z biasem AI. Chociaż jest mało prawdopodobne, że jest wystarczająco dużo developerów AI, aby znaleźć wystarczająco dużo biasu, aby AI było etyczne, to i tak pomoże firmom zmniejszyć ogólny bias i uzyskać lepsze rozeznanie, jakie rodzaje biasu przenikają do ich systemów AI.

Autorzy artykułu wyjaśnili, że koncepcja bug-bounty może być rozszerzona na AI z użyciem nagród za bias i bezpieczeństwo, a właściwe użycie tej techniki może prowadzić do lepiej udokumentowanych zestawów danych i modeli. Dokumentacja będzie lepiej odzwierciedlać ograniczenia modelu i danych. Badacze zauważają również, że ta sama idea może być zastosowana do innych właściwości AI, takich jak interpretowalność, bezpieczeństwo i ochrona prywatności.

Im więcej dyskusji toczy się wokół zasad etycznych AI, tym więcej osób zauważa, że same zasady nie są wystarczające i że należy podjąć działania, aby AI było etyczne. Autorzy artykułu zauważają, że „istniejące regulacje i normy w przemyśle i akademii są niewystarczające, aby zapewnić odpowiedzialny rozwój AI”. Współzałożyciel Google Brain i lider branży AI Andrew Ng również stwierdził, że same zasady przewodnie nie mają możliwości zapewnienia, że AI jest używane w sposób odpowiedzialny i sprawiedliwy, mówiąc, że wiele z nich musi być bardziej jawne i mieć pomysły, które można wprowadzić w życie.

Rekomendacja zespołu badawczego dotycząca polowania na bias jest próbą przeniesienia się poza zasady etyczne w obszar działania etycznego. Zespół badawczy złożył również szereg innych rekomendacji, które mogą pobudzić działanie etyczne w dziedzinie AI.

Zespół badawczy złożył szereg innych rekomendacji, które firmy mogą stosować, aby uczynić swoje wykorzystanie AI bardziej etycznym. Sugerują, że powinna zostać utworzona scentralizowana baza danych incydentów AI i udostępniona szerszej społeczności AI. Podobnie, badacze proponują, że powinna zostać utworzona ścieżka audytu i że te ścieżki powinny zachować informacje dotyczące tworzenia i wdrażania aplikacji krytycznych dla bezpieczeństwa w platformach AI.

Aby zachować prywatność osób, zespół badawczy sugeruje, że powinny być stosowane techniki zorientowane na prywatność, takie jak szyfrowane komunikacje, federacyjne uczenie i różnicowa prywatność. Poza tym, zespół badawczy sugeruje, że powinny być dostępne alternatywy open source i że komercyjne modele AI powinny być poddane ścisłej kontroli. Wreszcie, zespół badawczy sugeruje, że powinno zostać zwiększone finansowanie rządowe, aby badacze akademicy mogli zweryfikować oświadczenia o wydajności sprzętu.