Naukowcy twierdzą, że ludzie nie będą w stanie kontrolować nadinteligentnego systemu AI

Każdy, kto jest świadomy istnienia sztucznej inteligencji (AI), prawdopodobnie słyszał jakąś wersję o tym, że AI w końcu uwolni się spod kontroli ludzkiej. Nie jest to tylko temat filmów science fiction, ale raczej bardzo realna możliwość, która martwi wielu ekspertów w branży. Wielu z tych ekspertów, w tym naukowców, uważa, że powinniśmy zacząć się przygotowywać do tej możliwości i unikać jej w wszelkich możliwych sposóbach.

Teraz międzynarodowy zespół naukowców potwierdził tę ideę obliczeniami teoretycznymi. Zespół, w skład którego wchodzili naukowcy z Centrum dla Ludzi i Maszyn w Instytucie Rozwoju Ludzkiego im. Maxa Plancka, użył tych obliczeń, aby pokazać, że nie byłoby możliwe kontrolowanie nadinteligentnego systemu AI.

Badanie zostało opublikowane w Journal of Artificial Intelligence Research.

Nadinteligentny system AI

Obawa przed nadinteligentnym systemem AI wynika z faktu, że taki system byłby znacznie lepszy niż ludzie. Mógłby nie tylko uczyć się samodzielnie, ale także miałby dostęp do wszystkich istniejących danych i mógłby je przetwarzać ekstremalnie szybko.

Taka sytuacja mogłaby doprowadzić do przejęcia przez nadinteligentny AI wszystkich istniejących maszyn online, a chociaż mógłby i robiłby rzeczy takie jak leczenie chorób i rozwiązywanie innych dużych problemów ludzkości, ryzyko utraty kontroli jest również wysokie.

Manuel Cebrian jest współautorem badania i kierownikiem Grupy Mobilizacji Cyfrowej w Centrum dla Ludzi i Maszyn, Instytucie Rozwoju Ludzkiego im. Maxa Plancka.

“Nadinteligentna maszyna, która kontroluje świat, brzmi jak science fiction. Ale już teraz istnieją maszyny, które wykonują pewne ważne zadania samodzielnie, bez tego, że programiści w pełni rozumieją, jak je nauczyły. Powstaje więc pytanie, czy kiedyś mogłoby to stać się niekontrolowane i niebezpieczne dla ludzkości”, mówi Cebrian.

Kontrola systemu

Istnieją dwie główne szkoły myślenia, gdy chodzi o kontrolę takiego systemu. Po pierwsze, ludzie mogliby ograniczyć możliwości nadinteligentnego AI, ograniczając jego dostęp do niektórych źródeł danych, takich jak cały Internet. System mógłby również funkcjonować bez kontaktu z zewnętrznym światem. Jednak problem polega na tym, że to znacznie ograniczyłoby potencjał AI.

System byłby kontrolowany, pozwalając mu na realizację tylko takich celów, które przyniosłyby korzyści ludzkości, co mogłoby być osiągnięte poprzez wprowadzenie zasad etycznych.

Badanie obejmowało rozwinięcie teoretycznego algorytmu zawierania, który uniemożliwia nadinteligentnemu AI wyrządzenie szkody ludziom w jakichkolwiek okolicznościach. Można to osiągnąć, tworząc symulację zachowania AI i wykrywając jakiekolwiek zachowanie, które mogłoby być szkodliwe. Pomimo tej obiecującej teorii, obecna analiza pokazuje, że taki algorytm nie może być opracowany.

Iyad Rahwan jest dyrektorem Centrum dla Ludzi i Maszyn.

“Jeśli rozłożymy problem na podstawowe reguły z teorii komputerów, okazuje się, że algorytm, który nakazuje AI nie niszczyć świata, może nieumyślnie zatrzymać własne operacje. Jeśli tak się stanie, nie będziemy wiedzieć, czy algorytm zawierania nadal analizuje zagrożenie, czy też zatrzymał się, aby zawrzeć szkodliwe AI. W efekcie to sprawia, że algorytm zawierania staje się nieprzydatny”, mówi Rahwan.

Innym problemem jest to, że eksperci mogą nawet nie zauważyć, kiedy nadinteligentna maszyna osiągnie ten stan, głównie ze względu na fakt, że byłaby bardziej inteligentna niż ludzie.