Naukowcy opracowują algorytmy, których celem jest zapobieganie niepożądanemu zachowaniu się sztucznej inteligencji

Wraz ze wszystkimi postępami i zaletami, które sztuczna inteligencja wykazała do tej pory, pojawiły się również doniesienia o niepożądanych skutkach ubocznych, takich jak rasizm i uprzedzenia płciowe w AI. Jak więc sciencealert.com stawia pytanie „jak naukowcy mogą zapewnić, że zaawansowane systemy myślowe mogą być sprawiedliwe, a nawet bezpieczne?”

Odpowiedź może leżeć w raporcie naukowców z Stanfordu i Uniwersytetu Massachusetts Amherst, zatytułowanym Preventing undesirable behavior of intelligent machines. Jak eurekaalert.org zauważa w swojej historii o tym raporcie, AI zaczyna teraz obsługiwać wrażliwe zadania, więc „policymakers są coraz bardziej naciskani, aby komputerowi naukowcy zapewnili, że systemy automatyczne zostały zaprojektowane w taki sposób, aby zminimalizować, jeśli nie całkowicie uniknąć, niepożądane wyniki, takie jak nadmierna ryzyko lub rasizm i uprzedzenia płciowe.”

Celem tego zespołu naukowców było „opracowanie nowej techniki, która przekłada nieostre cele, takie jak unikanie uprzedzeń płciowych, na precyzyjne kryteria matematyczne, które pozwolą algorytmom machine learning nauczyć się unikać takiego zachowania.”

Cel był taki, jak Emma Brunskill, asystentka profesora informatyki na Stanfordzie i główna autorka artykułu, zauważa „chcemy rozwijać AI, które szanują wartości swoich użytkowników ludzkich i uzasadniają zaufanie, które pokładamy w systemach autonomicznych.”

Pomysł polegał na zdefiniowaniu “niebezpiecznych” lub “niesprawiedliwych” wyników lub zachowań w terminach matematycznych. To, według naukowców, umożliwiłoby „stworzenie algorytmów, które mogą nauczyć się z danych, jak unikać tych niepożądanych wyników z wysokim poziomem ufności.”

Drugim celem było „opracowanie zestawu technik, które umożliwią użytkownikom określenie, jakie niepożądane zachowania chcą ograniczyć, oraz umożliwią projektantom machine learning przewidywać z ufnością, że systemy szkolone przy użyciu danych z przeszłości mogą być godne zaufania, gdy są stosowane w realnych sytuacjach.”

ScienceAlert mówi, że zespół nazwał ten nowy system  ‘Seldonian’ algorytmy, od głównego bohatera słynnej serii powieści sci-fi Foundation Isaaca Asimova. Philip Thomas, asystent profesora informatyki na Uniwersytecie Massachusetts Amherst i pierwszy autor artykułu, zauważa, “Jeśli użyję algorytmu Seldonian do leczenia cukrzycy, mogę określić, że niepożądane zachowanie oznacza niebezpiecznie niski poziom cukru we krwi lub hipoglikemię.”

“Mogę powiedzieć maszynie, ‘Podczas gdy próbujesz poprawić kontroler w pompie insulinowej, nie rób zmian, które zwiększyłyby częstotliwość hipoglikemii.’ Większość algorytmów nie daje ci możliwości nałożenia tego rodzaju ograniczeń na zachowanie; nie było to uwzględnione w wczesnych projektach.”

Thomas dodaje, że „ten framework Seldonian ułatwi projektantom machine learning włączanie instrukcji unikania zachowań do wszystkich rodzajów algorytmów, w sposób, który umożliwi im ocenić prawdopodobieństwo, że wyszkolone systemy będą funkcjonować poprawnie w świecie rzeczywistym.”

Z kolei Emma Brunskill zauważa, że „myślenie o tym, jak możemy stworzyć algorytmy, które najlepiej szanują wartości takie jak bezpieczeństwo i sprawiedliwość, jest niezwykle ważne, ponieważ społeczeństwo coraz bardziej polega na AI.”