Obawy dotyczące potencjalnych ryzyk ChatGPT zyskują na sile, ale czy wstrzymanie rozwoju AI jest dobrym posunięciem?

Pomimo że Elon Musk i inni światowi liderzy technologiczni wezwali do wstrzymania rozwoju AI po wydaniu ChatGPT, niektórzy krytycy uważają, że wstrzymanie rozwoju nie jest rozwiązaniem. Andrew Pery, ewangelista AI z firmy ABBYY, uważa, że wstrzymanie rozwoju jest jak próba wsadzenia pasty do tuby z powrotem. Oto wyjaśnia, dlaczego…

Aplikacje AI są wszechobecne, wpływając na niemal każdy aspekt naszego życia. Chwalne jest to, że hamowanie rozwoju teraz może być niewykonalne.

Istnieją pewne uzasadnione obawy, które wymagają zwiększonej kontroli regulacyjnej, aby powstrzymać potencjalnie szkodliwe skutki.

Włoska Agencja Ochrony Danych tymczasowo zablokowała użycie ChatGPT na terenie całego kraju ze względu na obawy związane z prywatnością, związane z metodą gromadzenia i przetwarzania danych osobowych wykorzystywanych do szkolenia modelu, a także brakiem zabezpieczeń, narażając dzieci na odpowiedzi „absolutnie nieodpowiednie dla ich wieku i świadomości”.

Europejska Organizacja Konsumentów (BEUC) nakłania UE do zbadania potencjalnych szkodliwych skutków dużych modeli językowych, biorąc pod uwagę „rosnące obawy dotyczące tego, jak ChatGPT i podobne czaty mogą oszukiwać i manipulować ludźmi. Te systemy AI wymagają większej kontroli publicznej, a władze publiczne muszą odzyskać kontrolę nad nimi”.

W Stanach Zjednoczonych Centrum Polityki AI i Cyfrowej złożyło skargę do Federalnej Komisji Handlu, twierdząc, że ChatGPT narusza sekcję 5 ustawy Federalnej Komisji Handlu (FTC Act) (15 USC 45). Podstawą skargi jest to, że ChatGPT rzekomo nie spełnia wytycznych określonych przez FTC w zakresie przejrzystości i wyjaśnialności systemów AI. Wskazano na to, że ChatGPT potwierdził kilka znanych ryzyk, w tym naruszenie praw do prywatności, generowanie szkodliwych treści i rozpowszechnianie dezinformacji.

Użyteczność dużych modeli językowych, takich jak ChatGPT, nie jest jednak pozbawiona ciemnej strony. Udowodniono, że produkuje błędne odpowiedzi, ponieważ podstawowy model ChatGPT oparty jest na algorytmach głębokiego uczenia, które wykorzystują duże zestawy danych szkoleniowych z Internetu. W przeciwieństwie do innych czatbotów, ChatGPT wykorzystuje modele językowe oparte na technice głębokiego uczenia, generujące tekst podobny do ludzkich rozmów, a platforma „dochodzi do odpowiedzi, podejmując serię zgadywań, co jest częścią powodu, dla którego może bronić błędnych odpowiedzi, jak gdyby były one całkowicie prawdziwe”.

Ponadto ChatGPT potwierdza i nasila uprzedzenia, powodując „odpowiedzi, które dyskryminują płeć, rasę i grupy mniejszościowe, co jest czymś, co firma próbuje złagodzić”. ChatGPT może również być źródłem dochodu dla nieuczciwych aktorów, którzy mogą wykorzystywać niewinnych użytkowników, narażając ich na ataki oszustw i naruszając ich prywatność.

Te obawy skłoniły Parlament Europejski do opublikowania komentarza, który podkreśla potrzebę dalszego wzmocnienia obecnych przepisów projektu ustawy UE o sztucznej inteligencji (AIA), która wciąż czeka na ratyfikację. Komentarz wskazuje, że obecny projekt rozporządzenia koncentruje się na tzw. wąskich aplikacjach AI, składających się z określonych kategorii systemów AI o wysokim ryzyku, takich jak rekrutacja, wiarygodność kredytowa, zatrudnienie, egzekwowanie prawa i kwalifikowalność do usług społecznych. Projekt rozporządzenia UE AIA nie obejmuje jednak ogólnego celu AI, takiego jak duże modele językowe, które zapewniają bardziej zaawansowane możliwości poznawcze i mogą „wykonywać szeroki zakres zadań inteligentnych”. Istnieją wezwania do rozszerzenia zakresu projektu rozporządzenia, aby objąć odrębną kategorię systemów AI o wysokim ryzyku, wymagającą od deweloperów przeprowadzenia rygorystycznego testowania zgodności przed wprowadzeniem takich systemów na rynek i ciągłego monitorowania ich działania w celu wykrycia potencjalnie szkodliwych skutków.

Szczególnie przydatne badania zwracają uwagę na tę lukę, że rozporządzenie UE AIA „jest głównie skierowane do konwencjonalnych modeli AI, a nie do nowej generacji, której urodzenie jesteśmy świadkami dzisiaj”.

Zaleca cztery strategie, które regulatorzy powinni rozważyć.

1. Wymagać od deweloperów regularnych raportów na temat skuteczności procesów zarządzania ryzykiem w celu złagodzenia szkodliwych skutków.
2. Firmy korzystające z dużych modeli językowych powinny być zobowiązane do poinformowania swoich klientów, że treści zostały wygenerowane przez AI.
3. Deweloperzy powinni przestrzegać formalnego procesu etapowego wydawania, w ramach ram zarządzania ryzykiem, zaprojektowanego w celu zabezpieczenia przed potencjalnie nieprzewidzianymi szkodliwymi skutkami.
4. Nałożyć na deweloperów obowiązek „złagodzenia ryzyka u jego źródła” poprzez aktywne audytowanie zestawu danych szkoleniowych w celu wykrycia nieprawidłowości.

Czynnikiem, który utrwala ryzyko związane z innowacyjnymi technologiami, jest pęd do osiągnięcia przewagi konkurencyjnej poprzez przyjęcie modelu biznesowego „wypuść najpierw, a potem popraw”. Chociaż OpenAI jest w pewnym stopniu przejrzysty co do potencjalnych ryzyk ChatGPT, wydał go do użytku komercyjnego z „ostrożnością” na użytkowniku, aby ten samodzielnie ocenił i przyjął ryzyko. Może to być niewykonalne w przypadku tak wszechobecnego wpływu systemów AI konwersacyjnych. Proaktywna regulacja w połączeniu z rygorystycznymi środkami egzekwowania musi być najważniejsza przy radzeniu sobie z takimi innowacyjnymi technologiami.

Sztuczna inteligencja już przenika niemal każdy aspekt naszego życia, co oznacza, że wstrzymanie rozwoju AI mogłoby spowodować wiele nieprzewidzianych przeszkód i konsekwencji. Zamiast gwałtownie hamować, gracze przemysłowi i legislacyjni powinni współpracować w dobrej wierze, aby wprowadzić w życie skuteczną regulację opartą na wartościach zorientowanych na człowieka, takich jak przejrzystość, odpowiedzialność i uczciwość. Odwołując się do istniejących przepisów, takich jak AIA, liderzy sektorów prywatnych i publicznych mogą opracować kompleksowe, ustandaryzowane na całym świecie polityki, które zapobiegną niepożądanym zastosowaniom i złagodzą negatywne skutki, utrzymując sztuczną inteligencję w granicach poprawy doświadczeń ludzkich.