Sztuczna inteligencja i łuk zaufania

Na początku zeszłego roku, gdy nasz zespół robił przewidywania dotyczące tego, co nas czeka, większość była zgodna, że okrywy są zdjęte z sztucznej inteligencji (AI). Wreszcie zobaczymy, co może zrobić, i miejmy nadzieję, uzyskamy klarowność co do jej wpływu na biznes i społeczeństwo oraz jak postępować. Nie była to nowa przewidywania, ale jej rdzeń był dokładny, chociaż nadal mamy trudności z rozumieniem implikacji AI i jak (lub czy) powinna być w jakiś sposób kontrolowana.

Widzieliśmy, jak Apple, Microsoft i Google budują AI w urządzeniach i przynoszą jej moc szerszemu i większemu audytorium. Następnie jeden czatbot w narzędziu wyszukiwania zasilanym przez AI zagroził użytkownikom i twierdził, że szpieguje pracowników, podczas gdy inny sugerował używanie kleju Elmer’s w pizzy domowej, aby ser nie ślizgał się z niej. Jednak przypadki użycia AI w biznesie rosły dramatycznie, a tak samo rozwijał się rynek. Według danych z Crunchbase, prawie trzecia część wszystkich globalnych inwestycji venture w zeszłym roku poszła do firm związanych z AI.

Ale nawet gdy OpenAI dostarczyła naprawdę imponujące rozszerzone rozumowanie, słynny badacz AI, Yoshua Bengio, nakłaniał do przyjęcia środków bezpieczeństwa dla „modeli granicznych” z potencjałem spowodowania katastrofalnej szkody. I chociaż technologia otrzymała dwie Nagrody Nobla za zastosowania w nauce, jeden z laureatów wyraził obawy o posiadaniu systemów „bardziej inteligentnych niż my, które ostatecznie przejmują kontrolę”.

W tak szybko rozwijającym się obszarze trudno jest nawet ekspertom technologicznym nadążyć, nie mówiąc już o tych z głównego nurtu.

I te sztuczne inteligencje – i obawy dotyczące prywatności i niekontrolowanego użycia – tylko zwiększyły publiczne nieufność.

Po prostu ufaj mi

Znajdujemy się w połowie łuku zaufania, który wymaga rozwijania publicznego zaufania do AI, jednocześnie zapewniając, że społeczność biznesowa i technologiczna działa odpowiedzialnie. Pierwsza część to miejsce, w którym gra jest rozgrywana właśnie teraz, na poziomie korporacyjnym, zyskując na sile z każdym bezpiecznym i stabilnym wdrożeniem. Budujemy na naszych punktach dowodowych, które ostatecznie doprowadzą do zwiększonego zaufania publicznego. Druga część jest jednak znacznie trudniejsza.

Kto definiuje i egzekwuje odpowiedzialne używanie AI? Czy przemysł może stworzyć wytyczne, gdy to oni potrzebują regulacji? Jeśli technolodzy mają trudności z followowaniem AI, czy decydenci będą poinformowani i wyłączą swoje polityczne agendy z dyskusji? I kiedy AI-miliarder nagle chce porozmawiać o kontroli, czy miał olśnienie, czy po prostu próbuje zahamować, aby dogonić?

„Po prostu ufaj mi” nie wystarczy w przypadku AI, niezależnie od tego, kim jesteś.

Zaufaj, ale sprawdź

Ludzie patrzą na generatywną AI, taką jak ChatGPT, i zastanawiają się, czy będzie to ich następny Google? Otóż najlepszy wynik wyszukiwania Google jest teraz tworzony przez jego model AI, Gemini. Problem polega na tym, że nie możesz polegać na nim w biznesie na dużą skalę, gdy proste pytanie, takie jak „Czy surowe mięso jest bezpieczne do spożycia?”, zwraca odpowiedź: „Tak, mrożone”. Musisz sprawdzić dane.

Łuk publicznego zaufania będzie odbiciem tego, co się działo z konwencjonalnym wyszukiwaniem, zdobywanym z czasem i dzięki dowodom niezawodności. Ironicznie, w naszych próbach uproszczenia i poprawy wyszukiwania, zrobiliśmy krok wstecz. Teraz, po otrzymaniu tej odpowiedzi wygenerowanej przez AI, musisz przewinąć długą listę linków sponsorowanych, kliknąć na następne pięć i nadal kwalifikować informacje.

To jest dużo pracy, gdy szukasz szybkiej odpowiedzi – i nie możesz mieć całej firmy, która robi to samo. Jednak wzbogacając dane, które masz, o dziesiątki tysięcy własnych biletów serwisowych, przynosisz prawdziwą wiedzę o Twoim środowisku. Algorytmicznie możesz następnie skonfigurować halucynacje w dół, ale nadal jest to sytuacja „zaufaj, ale sprawdź”.

Wyłącz politykę

Gdy chodzi o regulację AI, niektórzy twierdzą, że koń już uciekł z stajni i prawdopodobnie nie zostanie dogoniony. Na przykład brakuje naprawdę skutecznych narzędzi do sprawdzania, czy uczeń napisał pracę, czy użył GenAI. Technologia jest po prostu zbyt daleko zaawansowana.

Regulacja tego byłaby bardzo skomplikowana, a jeśli będziemy szczery, znajdujemy się na cienkim lodzie. Wiemy, że firmy technologiczne są dziesiątki lat przed proponowanymi zewnętrznymi regulatorami. Ale jesteśmy dobrzy w wyznaczaniu ścieżki, a nie w byciu powstrzymywanymi. Jednak na końcu dnia może to być zadaniem innowatorów, aby spróbować zastosować zarządzanie. Kto inny mógłby to zrobić – odpowiedzialnie?

Wiele polityków chciałoby spróbować. Ryzyko, poza brakiem zrozumienia, polega na tym, że mogą mieć osobistą i polityczną agendę do realizacji. Ich focus, potencjalnie, byłby mniej ukierunkowany na rozwijanie AI i bardziej na robienie tego, co jest w ich najlepszym politycznym interesie. Mogliby pracować nad publicznymi obawami, używając ciężkiej ręki, aby zahamować jej postęp.

Ustawa CHIPS i Science była dobrym przykładem zdrowej działalności rządowej, produkując dramatyczny 15-krotny wzrost budowy zakładów produkcyjnych dla urządzeń komputerowych i elektronicznych. Ale to było możliwe dzięki bipartynacji – coraz rzadszemu zjawisku w erze przeszłej.

Czy jesteśmy godni?

W AI płynie wiele pieniędzy i w ciągu najbliższych dwóch dekad wiele będzie zrobione przez firmy technologiczne. Ile, jak szybko i jak bezpiecznie pozostaje do zobaczenia. W każdy dzień głęboka fałszywka mogłaby być rozpowszechniona, pokazująca kogoś w światłach jugglingującego jajka z zagrożonego ptaka. Publiczność zareagowałaby z przerażeniem, a nawet gdyby to zostało ujawnione jako wygenerowane przez AI, to jajko nie wróci do skorupy – szkoda została już wyrządzona.

Potrzebujemy takich rzeczy, aby były regulowane przez poinformowanych technologów. Jaka forma to przyjmie – rada, organ standaryzacji, międzynarodowa ramowa – pozostaje do zobaczenia. Co jest wiadome, to że AI jest na łuku zaufania, a jako przemysł, musimy udowodnić, że jesteśmy tego godni.