Badacze sztucznej inteligencji proponują wprowadzenie nagród za wykrywanie biasów w AI, aby uczynić ją bardziej etyczną

Zespół badaczy sztucznej inteligencji z firm i laboratoriów rozwojowych, takich jak Intel (INTC ), Google (GOOGL ) Brain i OpenAI, zaleca wykorzystanie nagród, aby zapewnić etyczne wykorzystanie sztucznej inteligencji. Zespół badaczy niedawno opublikował szereg propozycji dotyczących etycznego wykorzystania sztucznej inteligencji i zaproponował, że nagradzanie osób za wykrywanie biasów w sztucznej inteligencji może być skutecznym sposobem na uczynienie jej bardziej sprawiedliwą.

Jak donosi VentureBeat, badacze z różnych firm w Stanach Zjednoczonych i Europie połączyli się, aby stworzyć zestaw wytycznych etycznych dla rozwoju sztucznej inteligencji, a także sugestie, jak je wdrożyć. Jedną z sugestii, które złożyli badacze, było oferowanie nagród deweloperom, którzy znajdą biały w programach sztucznej inteligencji. Sugestia ta została zawarta w artykule zatytułowanym „Ku godnej zaufania rozwojowi sztucznej inteligencji: mechanizmy wspierające weryfikowalne twierdzenia”.

Przykładami biasów, które zespół badaczy chce rozwiązać, są zniekształcone dane i algorytmy, które zostały znalezione w wszystkim, od aplikacji medycznych po systemy rozpoznawania twarzy używane przez organy ścigania. Jednym z takich przypadków biasu jest narzędzie oceny ryzyka PATTERN, które zostało niedawno użyte przez Departament Sprawiedliwości Stanów Zjednoczonych do triażu więźniów i decyzji, których z nich można wysłać do domu w ramach redukcji populacji więziennej w odpowiedzi na pandemię koronawirusa.

Praktyka nagradzania deweloperów za znajdowanie niepożądanych zachowań w programach komputerowych jest stara, ale to może być pierwszy raz, kiedy rada etyki sztucznej inteligencji poważnie zaawansowała tę ideę jako opcję walki z biasami sztucznej inteligencji. Chociaż nie jest prawdopodobne, że istnieje wystarczająco wielu deweloperów sztucznej inteligencji, aby znaleźć wystarczająco wielu biasów, aby zagwarantować, że sztuczna inteligencja jest etyczna, to i tak pomoże firmom zmniejszyć ogólny bias i uzyskać lepsze zrozumienie, jakie rodzaje biasów przenikają do ich systemów sztucznej inteligencji.

Autorzy artykułu wyjaśnili, że koncepcja bug-bounty może być rozszerzona na sztuczną inteligencję za pomocą nagród za bias i bezpieczeństwo, a że odpowiednie wykorzystanie tej techniki może prowadzić do lepiej udokumentowanych zbiorów danych i modeli. Dokumentacja lepiej odzwierciedlałaby ograniczenia modelu i danych. Badacze zauważają nawet, że ta sama idea może być zastosowana do innych właściwości sztucznej inteligencji, takich jak interpretowalność, bezpieczeństwo i ochrona prywatności.

Im więcej dyskusji toczy się wokół zasad etyki sztucznej inteligencji, tym więcej osób zauważa, że same zasady nie są wystarczające i że należy podjąć działania, aby sztuczna inteligencja była etyczna. Autorzy artykułu zauważają, że „istniejące przepisy i normy w przemyśle i akademii są niewystarczające, aby zapewnić odpowiedzialny rozwój sztucznej inteligencji”. Współzałożyciel Google Brain i lider branży sztucznej inteligencji Andrew Ng również stwierdził, że same zasady przewodnie nie mają możliwości zapewnienia, że sztuczna inteligencja jest wykorzystywana w sposób odpowiedzialny i sprawiedliwy, mówiąc, że wiele z nich musi być bardziej jawne i mieć pomysły na działanie.

Rekomendacja zespołu badawczego dotycząca polowania na biały jest próbą przeniesienia się poza zasady etyki do obszaru etycznego działania. Zespół badawczy złożył również szereg innych rekomendacji, które mogą spowodować etyczne działanie w dziedzinie sztucznej inteligencji.

Zespół badawczy złożył szereg innych rekomendacji, które firmy mogą wykorzystać, aby uczynić swoje wykorzystanie sztucznej inteligencji bardziej etycznym. Sugerują, że powinna zostać utworzona scentralizowana baza danych incydentów sztucznej inteligencji i że powinna być ona udostępniona szerszej społeczności sztucznej inteligencji. Podobnie, badacze proponują, że powinna zostać utworzona ścieżka audytu i że powinna ona przechowywać informacje dotyczące tworzenia i wdrożenia aplikacji krytycznych dla bezpieczeństwa w platformach sztucznej inteligencji.

Aby zachować prywatność ludzi, zespół badawczy sugerował, że powinny być wykorzystywane techniki zorientowane na prywatność, takie jak szyfrowane komunikaty, federacyjne uczenie i różnicowa prywatność. Poza tym zespół badawczy sugerował, że alternatywy open source powinny być powszechnie dostępne i że komercyjne modele sztucznej inteligencji powinny być poddane ścisłej kontroli. Wreszcie, zespół badawczy sugeruje, że finansowanie rządowe powinno zostać zwiększone, aby umożliwić badaczom akademickim weryfikację oświadczeń o wydajności sprzętu.