Jak Ludzie Mogą Nawigować W Wyścigu Zbrojeń Sztucznej Inteligencji

Narzędzia sztucznej inteligencji są postrzegane przez wielu jako błogosławieństwo dla badań, od projektów pracy do szkoły i nauki. Na przykład, zamiast spędzać godziny na starannym badaniu stron internetowych, można po prostu zadać pytanie ChatGPT, a on zwróci wydawać się logiczną odpowiedź. Pytanie brzmi jednak – czy można ufać tym wynikom? Doświadczenie pokazuje, że odpowiedź jest często “nie”. Sztuczna inteligencja działa dobrze tylko wtedy, gdy ludzie są bardziej zaangażowani, kierując i nadzorując ją, a następnie weryfikują wyniki, które produkuje, w odniesieniu do świata rzeczywistego. Ale z szybkim wzrostem sektora generatywnej sztucznej inteligencji i nowymi narzędziami, które są ciągle wydawane, może być trudno dla konsumentów zrozumieć i zaakceptować rolę, którą muszą odegrać przy pracy z narzędziami sztucznej inteligencji.

Sektor sztucznej inteligencji jest ogromny i stale rośnie, z ekspertami twierdzącymi, że będzie wart ponad bilion dolarów do 2030 roku. Nie powinno to być zaskoczeniem, że prawie każda duża firma technologiczna – od Apple (AAPL ) do Amazon (AMZN ), IBM i Microsoft, oraz wiele innych – wydaje swoją własną wersję technologii sztucznej inteligencji, a zwłaszcza zaawansowane produkty generatywnej sztucznej inteligencji.

Biorąc pod uwagę takie stawki, nie powinno to być zaskoczeniem, że firmy pracują tak szybko, jak to możliwe, aby wydać nowe funkcje, które dadzą im przewagę nad konkurencją. To jest, w istocie, wyścig zbrojeń, z firmami, które starają się zablokować jak najwięcej użytkowników w swoim ekosystemie. Firmy mają nadzieję, że funkcje, które pozwalają użytkownikom wykorzystywać systemy sztucznej inteligencji w najłatwiejszy możliwy sposób – takie jak uzyskanie wszystkich informacji potrzebnych do projektu badawczego, po prostu zadając pytanie generatywnej sztucznej inteligencji – wygrają im więcej klientów, którzy pozostaną z produktem lub marką, gdy nowe funkcje są dodawane na bieżąco.

Ale czasami, w swoim wyścigu, by być pierwszym, firmy wydają funkcje, które mogą nie zostać odpowiednio sprawdzone, lub których ograniczenia nie są dobrze zrozumiane lub zdefiniowane. Podczas gdy firmy konkurowały w przeszłości o udział w rynku na wielu technologiach i aplikacjach, wydaje się, że obecny wyścig zbrojeń prowadzi więcej firm do wydania więcej “niedopracowanych” produktów niż kiedykolwiek – z wynikającymi z tego “niedopracowanymi” wynikami. Ufanie takim wynikom do celów badawczych – niezależnie od tego, czy są to cele biznesowe, osobiste, medyczne, akademickie czy inne – może prowadzić do niepożądanych wyników, w tym uszkodzenia reputacji, strat biznesowych lub nawet ryzyka dla życia.

Pomyłki sztucznej inteligencji spowodowały znaczne straty dla wielu firm. Firma iTutor została ukarana grzywną w wysokości 365 000 dolarów w 2023 roku, po tym, jak jej algorytm sztucznej inteligencji odrzucił dziesiątki kandydatów do pracy z powodu ich wieku. Rynek nieruchomości Zillow stracił setki milionów dolarów w 2021 roku z powodu błędnych prognoz cenowych przez swój system sztucznej inteligencji. Użytkownicy, którzy polegali na sztucznej inteligencji w celu uzyskania porady medycznej, również byli narażeni na ryzyko. Chat GPT na przykład dostarczył nieprawidłowe informacje użytkownikom na temat interakcji między lekiem obniżającym ciśnienie krwi verapamilem a tabletką antywirusową Paxlovid firmy Pfizer (PFE ) – oraz czy pacjent może przyjmować te leki jednocześnie. Ci, którzy polegali na nieprawidłowych radach systemu, że nie ma interakcji między tymi dwiema substancjami, mogli znaleźć się w niebezpieczeństwie.

Chociaż te incydenty trafiły do nagłówków, wiele innych pomyłek sztucznej inteligencji nie – ale mogą być równie śmiercionośne dla karier i reputacji. Na przykład, zmęczony menedżer marketingu szukający skrótu do przygotowania raportów może być skłonny do użycia narzędzia sztucznej inteligencji do wygenerowania go – a jeśli to narzędzie przedstawia informacje, które nie są prawidłowe, może znaleźć się w sytuacji, w której szuka nowej pracy. Student, który używa ChatGPT do napisania raportu – a którego profesor jest wystarczająco bystry, aby zrozumieć źródło tego raportu – może mieć do czynienia z oceną F, możliwie za cały semestr. I adwokat, którego asystent używa narzędzi sztucznej inteligencji do pracy prawniczej, może znaleźć się ukarany lub nawet pozbawiony prawa do wykonywania zawodu, jeśli sprawa, którą przedstawia, jest skażona z powodu złych danych.

Prawie wszystkie te sytuacje mogą być zapobiegane – jeśli ludzie kierują sztuczną inteligencją i mają więcej przejrzystości w pętli badawczej. Sztuczna inteligencja musi być postrzegana jako partnerstwo między człowiekiem a maszyną. To prawdziwa współpraca – i to jest jej wyjątkowa wartość.

Chociaż bardziej potężne funkcje wyszukiwania, formatowania i analizy są mile widziane, twórcy produktów sztucznej inteligencji również muszą uwzględnić mechanizmy, które umożliwiają taką współpracę. Systemy muszą zawierać narzędzia do weryfikacji faktów, które umożliwią użytkownikom sprawdzenie wyników raportów z narzędzi takich jak ChatGPT, oraz pozwolą użytkownikom zobaczyć oryginalne źródła konkretnych punktów danych lub informacji. To zarówno wyprodukuje lepsze badania, jak i przywróci zaufanie do nas samych; możemy przedstawić raport lub polecić politykę z ufnością, opierając się na faktach, których ufamy i rozumiemy.

Użytkownicy również muszą rozpoznać i ocenić, co jest na szali, gdy polegają na sztucznej inteligencji do produkcji badań. Powinni ocenić poziom nużącej pracy z ważnością wyniku. Na przykład, ludzie mogą prawdopodobnie być mniej zaangażowani, gdy używają sztucznej inteligencji do porównania lokalnych restauracji. Ale gdy prowadzą badania, które będą informować ważne decyzje biznesowe lub projektowanie samolotów lub sprzętu medycznego, na przykład, użytkownicy muszą być bardziej zaangażowani na każdym etapie procesu badawczego sztucznej inteligencji. Im ważniejsza decyzja, tym bardziej istotne jest, aby ludzie byli częścią niej. Badania dla względnie małych decyzji mogą prawdopodobnie być całkowicie powierzone sztucznej inteligencji.

Sztuczna inteligencja staje się coraz lepsza – nawet bez pomocy ludzkiej. Jest możliwe, jeśli nie prawdopodobne, że pojawią się narzędzia sztucznej inteligencji, które są w stanie zweryfikować same siebie, sprawdzając swoje wyniki w odniesieniu do świata rzeczywistego w taki sam sposób, jak czyni to człowiek – albo czyniąc świat znacznie lepszym miejscem, albo niszcząc go. Ale narzędzia sztucznej inteligencji mogą nie osiągnąć tego poziomu tak szybko, jak wielu uważa, jeśli w ogóle. To oznacza, że czynnik ludzki nadal będzie niezwykle istotny w każdym projekcie badawczym. Jak dobrze są narzędzia sztucznej inteligencji w odkrywaniu danych i organizowaniu informacji, nie mogą być ufałe, aby ocenić kontekst i wykorzystać tę informację w sposób, w jaki potrzebujemy, aby była wykorzystywana. Na przewidziany czas jest ważne, aby badacze widzieli narzędzia sztucznej inteligencji za to, czym są; za pomocą, aby wykonać pracę, a nie coś, co zastępuje ludzi i ludzkie mózgi w pracy. hey nie mogą być ufałe, aby ocenić kontekst i wykorzystać tę informację w sposób, w jaki potrzebujemy, aby była wykorzystywana. For the foreseeable future, it is important that researchers see AI tools for what they are; tools to help get the job done, rather than something that replaces humans and human brains on the job.