Liderzy technologiczni podkreślają ryzyka związane z AI i pilną potrzebę surowych regulacji AI

Wzrost i postępy w dziedzinie sztucznej inteligencji były wykładnicze w ciągu ostatnich kilku lat. Statista raportuje, że do 2024 roku globalny rynek AI wygeneruje przychód w wysokości około 3000 miliardów dolarów, w porównaniu z 126 miliardami dolarów w 2015 roku. Jednak liderzy technologiczni ostrzegają nas teraz przed różnymi ryzykami związanymi z AI.

Szczególnie, ostatnia fala modeli generatywnych AI takich jak ChatGPT wprowadziła nowe możliwości w różnych sektorach wrażliwych na dane, takich jak opieka zdrowotna, edukacja, finanse itp. Te rozwiązania oparte na AI są podatne na różne słabości AI, które mogą być wykorzystane przez złe podmioty.

Omówmy, co eksperci AI mówią o ostatnich rozwojach i podkreślmy potencjalne ryzyka związane z AI. Poruszymy również krótko, jak te ryzyka mogą być zarządzane.

Liderzy technologiczni i ich obawy związane z ryzykami AI

Geoffrey Hinton

Geoffrey Hinton – słynny lider technologiczny w dziedzinie AI (i ojciec tego pola), który niedawno opuścił Google (GOOGL ), wyraził swoje obawy dotyczące szybkiego rozwoju AI i jego potencjalnych niebezpieczeństw. Hinton uważa, że czatboty AI mogą stać się „bardzo przerażające”, jeśli przewyższą inteligencję ludzką.

Hinton mówi:

„Teraz widzimy, że rzeczy takie jak GPT-4 przewyższają osobę pod względem ilości ogólnej wiedzy, którą posiadają, i przewyższają ją znacznie. Pod względem rozumowania nie są tak dobre, ale już teraz wykonują proste rozumowanie. A biorąc pod uwagę tempo postępu, spodziewamy się, że rzeczy staną się lepsze bardzo szybko. Dlatego musimy się tym martwić.”

Ponadto uważa, że „źli aktorzy” mogą wykorzystać AI do „złych rzeczy”, takich jak umożliwienie robotom posiadania własnych celów. Pomimo swoich obaw, Hinton uważa, że AI może przynieść krótkoterminowe korzyści, ale powinniśmy również dużo inwestować w bezpieczeństwo i kontrolę AI.

Elon Musk

Zaangażowanie Elona Muska w AI rozpoczęło się od jego wczesnej inwestycji w DeepMind w 2010 roku, a następnie współzałożenia OpenAI i wdrożenia AI w autonomicznych pojazdach Tesli.

Chociaż jest entuzjastą AI, często podnosi on obawy dotyczące ryzyk związanych z AI. Musk twierdzi, że potężne systemy AI mogą być bardziej niebezpieczne dla cywilizacji niż broń nuklearna. W wywiadzie dla Fox News w kwietniu 2023 roku powiedział:

„AI jest bardziej niebezpieczne niż, powiedzmy, źle zarządzana konstrukcja samolotu lub produkcja lub utrzymanie samochodu. W tym sensie, że ma potencjał — choć jeden może uznać tę prawdopodobieństwo za małe — ale nie jest on trywialny i ma potencjał zniszczenia cywilizacji.”

Ponadto Musk popiera rządowe regulacje AI, aby zapewnić bezpieczeństwo przed potencjalnymi ryzykami, choć „nie jest to tak przyjemne”.

Zatrzymaj gigantyczne eksperymenty AI: List otwarty popierany przez tysiące ekspertów AI

Future of Life Institute opublikował list otwarty 22 marca 2023 roku. List wzywa do tymczasowego sześciomiesięcznego wstrzymania rozwoju systemów AI bardziej zaawansowanych niż GPT-4. Autorzy wyrażają swoje obawy dotyczące tempa, w jakim systemy AI są rozwijane, co stwarza poważne wyzwania społeczno-ekonomiczne.

Ponadto list stwierdza, że deweloperzy AI powinni współpracować z decydentami, aby udokumentować systemy zarządzania AI. Do czerwca 2023 roku list został podpisany przez ponad 31 000 deweloperów AI, ekspertów i liderów technologicznych. Wśród znaczących sygnatariuszy znajdują się Elon Musk, Steve Wozniak (współzałożyciel Apple (AAPL )), Emad Mostaque (dyrektor generalny Stability AI), Yoshua Bengio (laureat Nagrody Turinga) i wielu innych.

Argumenty przeciwko wstrzymaniu rozwoju AI

Dwaj prominentni liderzy AI, Andrew Ng i Yann LeCun, sprzeciwili się sześciomiesięcznemu zakazowi rozwijania zaawansowanych systemów AI i uznali wstrzymanie za zły pomysł.

Ng twierdzi, że chociaż AI ma pewne ryzyka, takie jak uprzedzenia, wartość stworzona przez AI w dziedzinach takich jak edukacja, opieka zdrowotna i coaching jest ogromna.

Yann LeCun twierdzi, że badania i rozwój nie powinny być wstrzymane, choć produkty AI, które docierają do użytkownika końcowego, mogą być regulowane.

Jakie są potencjalne niebezpieczeństwa i natychmiastowe ryzyka związane z AI?

1. Wypieranie miejsc pracy

Eksperci AI uważają, że inteligentne systemy AI mogą zastąpić zadania kognitywne i twórcze. Bank inwestycyjny Goldman Sachs szacuje, że około 300 milionów miejsc pracy zostanie zautomatyzowanych przez generatywną AI.

Stąd powinny istnieć regulacje dotyczące rozwoju AI, aby nie spowodował on poważnego kryzysu gospodarczego. Powinny być również programy edukacyjne dla pracowników, aby pomóc im w rozwoju nowych umiejętności i radzeniu sobie z tym wyzwaniem.

2. Uprzedzenia w systemach AI

Uprzedzenia występujące u ludzi dotyczące płci, rasy lub koloru skóry mogą nieumyślnie przeniknąć do danych wykorzystywanych do szkolenia systemów AI, co może spowodować, że systemy AI również będą uprzedzone.

Na przykład, w kontekście rekrutacji, uprzedzony system AI może odrzucić CV osób z określonych środowisk etnicznych, tworząc dyskryminację na rynku pracy. W przypadku egzekwowania prawa, uprzedzona predykcyjna policja mogłaby niewspółmiernie atakować określone dzielnice lub grupy demograficzne.

Stąd konieczne jest posiadanie kompleksowej strategii danych, która zajmuje się ryzykami AI, szczególnie uprzedzeniami. Systemy AI muszą być często oceniane i audytowane, aby zachować ich uczciwość.

3. Bezpieczeństwo-krytyczne aplikacje AI

Pojazdy autonomiczne, diagnoza i leczenie medyczne, systemy lotnicze, kontrola elektrowni jądrowych itp. są wszystkie przykładami aplikacji AI, które muszą być rozwijane z ostrożnością, ponieważ nawet drobne błędy mogą mieć poważne konsekwencje dla ludzkiego życia lub środowiska.

Na przykład, awaria oprogramowania AI zwanego Maneuvering Characteristics Augmentation System (MCAS) przypisuje się częściowo do katastrofy dwóch samolotów Boeing 737 MAX, pierwszego w październiku 2018 roku, a następnie w marcu 2019 roku. Niestety, obie katastrofy pochłonęły 346 ofiar.

Jak możemy pokonać ryzyka związane z systemami AI? – Odpowiedzialny rozwój AI i zgodność z regulacjami

Odpowiedzialny AI (RAI) oznacza rozwijanie i wdrażanie sprawiedliwych, odpowiedzialnych, przejrzystych i bezpiecznych systemów AI, które zapewniają prywatność i przestrzegają przepisów prawnych i norm społecznych. Wdrożenie RAI może być skomplikowane, biorąc pod uwagę szybki rozwój systemów AI.

Jednak duże firmy technologiczne opracowały ramy RAI, takie jak:

1. Odpowiedzialny AI Microsoftu
2. Zasady AI Google
3. Zaufany AI IBM

Laboratoria AI na całym świecie mogą czerpać inspirację z tych zasad lub opracować własne ramy odpowiedzialnego AI, aby tworzyć godne zaufania systemy AI.

Zgodność z regulacjami AI

Ponieważ dane są integralną częścią systemów AI, organizacje i laboratoria AI muszą przestrzegać następujących regulacji, aby zapewnić bezpieczeństwo danych, prywatność i bezpieczeństwo.

1. RODO (Ogólne Rozporządzenie o Ochronie Danych) – ramy ochrony danych Unii Europejskiej.
2. CCPA (Ustawa o prawach konsumentów do prywatności Kalifornii) – ustawa stanowa o prawach konsumentów i ochronie prywatności.
3. HIPAA (Ustawa o przenośności i odpowiedzialności za ubezpieczenie zdrowotne) – amerykańska ustawa, która chroni dane medyczne pacjentów.
4. Ustawa AI Unii Europejskiej, oraz wytyczne etyczne dla godnych zaufania AI – unijna regulacja AI.

Istnieją różne regionalne i lokalne prawa uchwalone przez różne kraje, aby chronić swoich obywateli. Organizacje, które nie zapewniają zgodności z regulacjami dotyczącymi danych, mogą ponieść surowe kary. Na przykład, RODO ustanowił grzywnę w wysokości 20 milionów euro lub 4% rocznego zysku za poważne naruszenia, takie jak nielegalne przetwarzanie danych, brak zgody na dane, naruszenie praw podmiotów danych lub niezabezpieczone transfery danych do podmiotu międzynarodowego.

Rozwój AI i regulacje – teraźniejszość i przyszłość

Z każdym mijającym miesiącem postępy w dziedzinie AI osiągają niespotykane wysokości. Jednak towarzyszące im regulacje i ramy zarządzania są opóźnione. Muszą one być bardziej szczegółowe i surowe.

Liderzy technologiczni i deweloperzy AI biją na alarm w sprawie ryzyk związanych z AI, jeśli nie będą one odpowiednio uregulowane. Badania i rozwój w dziedzinie AI mogą przynieść korzyści w wielu sektorach, ale jest już jasne, że potrzebna jest staranna regulacja.

Więcej treści związanych z AI można znaleźć na stronie unite.ai.