AI-Najpierw oznacza Bezpieczeństwo-Najpierw

Kupienie dziecku nowego roweru i rower będzie miał wszystkie uwagi – nie lśniący kask, który go towarzyszy. Ale rodzice doceniają kask.

Boję się, że wielu z nas dzisiaj jest jak dzieci, gdy chodzi o sztuczną inteligencję. Jesteśmy skupieni na tym, jak jest fajna i jak szybko możemy z nią jechać. Nie tak bardzo na to, co możemy zrobić, aby być bezpiecznym, używając jej. To szkoda, bo nie możemy mieć korzyści z jednego bez drugiego.

Prosto mówiąc, stosowanie sztucznej inteligencji bez starannego zaplanowania bezpieczeństwa najpierw nie jest tylko ryzykowne. To prosty sposób, aby zejść z klifu.

Co to jest Bezpieczeństwo Sztucznej Inteligencji?

Bezpieczeństwo sztucznej inteligencji obejmuje szereg kroków. Ale być może najważniejszym elementem jest kiedy je podjąć. Aby być skutecznym, bezpieczeństwo sztucznej inteligencji musi być projektowane.

To oznacza, że rozważamy, jak zapobiec szkodzie, zanim ją przetestujemy. Ustalamy, jak upewnić się, że sztuczna inteligencja działa i generuje wyniki zgodnie z naszymi wartościami i społecznymi oczekiwaniami, najpierw – a nie po tym, jak otrzymamy straszne wyniki.

Projektowanie bezpieczeństwa sztucznej inteligencji obejmuje również myślenie o tym, jak uczynić ją wytrzymałą, czyli zdolną do działania w sposób przewidywalny, nawet w niekorzystnych sytuacjach. Oznacza to uczynienie sztucznej inteligencji przejrzystą, aby decyzje, które podejmuje, były zrozumiałe, audytowalne i niezwiązane z uprzedzeniami.

Ale obejmuje to również spojrzenie na świat, w którym sztuczna inteligencja będzie działać. Jakie instytucjonalne i prawne zabezpieczenia potrzebujemy, zwłaszcza w celu zgodności z obowiązującymi przepisami rządowymi? I nie mogę przecenić składnika ludzkiego: jaki wpływ będzie miało używanie sztucznej inteligencji na ludzi, którzy z nią wchodzą w interakcję?

Bezpieczeństwo przez projektowanie oznacza wbudowanie bezpieczeństwa sztucznej inteligencji we wszystkie nasze procesy, przepływy pracy i operacje, zanim wpiszemy pierwsze polecenie.

Ryzyko Przewyższa Obawy

Nie wszyscy są zgodni. Gdy słyszą “bezpieczeństwo-najpierw”, niektórzy słyszą “postępuj tak ostrożnie i powoli, aby zostać pozostawionym w tyle”. Oczywiście, to nie jest to, co bezpieczeństwo-najpierw oznacza. Nie musi to hamować innowacji ani spowalniać czasu wprowadzania na rynek. I nie oznacza to niekończącego się strumienia pilotów, którzy nigdy nie skalują. Wręcz przeciwnie.

To oznacza zrozumienie ryzyka nie projektowania bezpieczeństwa w sztucznej inteligencji. Rozważ tylko kilka.

• Centrum Usług Finansowych Deloitte przewiduje, że GenAI może być odpowiedzialny za straty związane z oszustwami sięgające 40 miliardów dolarów w samych Stanach Zjednoczonych do 2027 roku, z 12,3 miliardów dolarów w 2023 roku, co oznacza wzrost o 32% w skali roku.
• Uprzedzone decyzje. Przypadki dokumentują uprzedzoną opiekę medyczną ze względu na sztuczną inteligencję, która była szkolona na uprzednionych danych.
• Złe decyzje, które inspirują więcej złych decyzji. Gorsze niż początkowa zła decyzja spowodowana wadliwą sztuczną inteligencją, badania wskazują że te wadliwe decyzje mogą stać się częścią tego, jak myślimy i podejmujemy przyszłe decyzje.
• Rzeczywiste konsekwencje. Sztuczna inteligencja, która daje złe porady medyczne, była odpowiedzialna za śmiertelne wyniki pacjentów. Problemy prawne wynikające z cytowania halucynacji sztucznej inteligencji jako precedensu prawnego. I błędy oprogramowania wynikające z sztucznej inteligencji, która daje nieprawidłowe informacje, zanieczyściły produkty firmy i ich reputację i doprowadziły do powszechnego niezadowolenia użytkowników.

I rzeczy mają się jeszcze bardziej interesująco.

Wprowadzenie i szybkie przyjęcie agentywnych sztucznych inteligencji, sztucznych inteligencji, które mogą działać autonomicznie, podejmując decyzje, które podjęły, zwiększy znaczenie projektowania bezpieczeństwa sztucznej inteligencji.

Agent sztucznej inteligencji, który może działać w Twoim imieniu, może być niezwykle przydatny. Zamiast mówić Ci o najlepszych lotach na podróż, może je znaleźć i zarezerwować dla Ciebie. Jeśli chcesz zwrócić produkt, agent sztucznej inteligencji firmy może nie tylko powiedzieć Ci o polityce zwrotów i jak ją złożyć, ale także obsłużyć całą transakcję dla Ciebie.

Świetnie – pod warunkiem, że agent nie ulega halucynacjom lotu ani nieobsługuje Twoich informacji finansowych. Albo niepoprawnie interpretuje politykę zwrotów firmy i odmawia ważnych zwrotów.

Nie jest trudno zobaczyć, jak obecne ryzyko bezpieczeństwa sztucznej inteligencji mogłoby łatwo eskalować z szeregiem agentów sztucznej inteligencji, podejmujących decyzje i działających, zwłaszcza, że nie będą działać samotnie. Większość prawdziwej wartości agentywnych sztucznych inteligencji pochodzi z zespołów agentów, gdzie poszczególni agenci obsługują części zadań i współpracują – agent z agentem – aby wykonać pracę.

Więc jak można przyjąć bezpieczeństwo sztucznej inteligencji przez projektowanie, nie hamując innowacji i nie niszcząc jej potencjalnej wartości?

Bezpieczeństwo przez Projektowanie w Działaniu

Ad hoc kontroli bezpieczeństwa nie jest odpowiedzią. Ale integracja praktyk bezpieczeństwa w każdej fazie wdrożenia sztucznej inteligencji jest.

Zacznij od danych. Upewnij się, że dane są oznaczone, zaopatrzone w adnotacje, wolne od uprzedzeń i wysokiej jakości. Jest to szczególnie prawdziwe w przypadku danych szkoleniowych.

Ucz swoje modele z ludzką informacją zwrotną, ponieważ ludzka ocena jest niezbędna do kształtowania zachowania modelu. Techniki takie jak Nauka wzmocnienia z ludzką informacją zwrotną (RLHF) i inne podobne techniki pozwalają anotatorom oceniać i kierować odpowiedziami, pomagając modelom językowym generować dane wyjściowe, które są bezpieczne i zgodne z ludzkimi wartościami.

Następnie, zanim wydasz model, przetestuj go. Zespoły czerwone, które próbują sprowokować niebezpieczne zachowanie, używając przeciwnych poleceń, przypadków brzegowych i prób ucieczki, mogą ujawnić słabości. Naprawienie ich przed tym, jak dotrą do publiczności, utrzymuje bezpieczeństwo przed wystąpieniem problemu.

Podczas gdy to testowanie zapewnia, że Twoje modele sztucznej inteligencji są wytrzymałe, monitoruj je wraz z oczami na nowe zagrożenia i dostosowania, które mogą być potrzebne do modeli.

W podobny sposób regularnie monitoruj źródła treści i interakcje cyfrowe w poszukiwaniu oznak oszustwa. Krytycznie, używaj hybrydowego podejścia sztucznej inteligencji i ludzi, pozwalając na automatyzację ogromnej ilości danych do monitorowania, a wykwalifikowani ludzie zajmują się przeglądami w celu egzekwowania prawa i zapewnienia dokładności.

Stosowanie agentywnej sztucznej inteligencji wymaga jeszcze większej staranności. Podstawowe wymaganie: naucz agenta, aby znał swoje ograniczenia. Gdy spotka niepewność, dylematy etyczne, nowe sytuacje lub szczególnie ważne decyzje, upewnij się, że wie, jak poprosić o pomoc.

Ponadto projektuj ślady w Twoich agentach. Jest to szczególnie ważne, aby ich interakcje występowały tylko z zweryfikowanymi użytkownikami, aby uniknąć wpływu oszustów na działania agenta.

Jeśli wydają się działać skutecznie, może być kuszące, aby je wypuścić i pozwolić im działać. Nasze doświadczenie mówi, aby nadal monitorować ich i zadania, które wykonują, aby obserwować błędy lub nieoczekiwane zachowanie. Używaj zarówno automatycznych kontroli, jak i przeglądu ludzkiego.

W rzeczywistości istotnym elementem bezpieczeństwa sztucznej inteligencji jest regularne zaangażowanie ludzi. Ludzie powinni być świadomie zaangażowani tam, gdzie krytyczna ocena, empatia lub nuance i dwuznaczność są zaangażowane w decyzję lub działanie.

Znowu, aby być jasnym, są to wszystkie praktyki, które budujesz w wdrożeniu sztucznej inteligencji z wyprzedzeniem, przez projektowanie. Nie są one wynikiem czegoś, co poszło nie tak, a potem spieszymy się, aby dowiedzieć się, jak zminimalizować szkody.

Czy to działa?

Stosowaliśmy filozofię “Bezpieczeństwo Sztucznej Inteligencji Najpierw” i ramy “przez projektowanie” u naszych klientów w trakcie pojawienia się GenAI i teraz na szybkiej ścieżce do agentywnej sztucznej inteligencji. Odkrywamy, że, wbrew obawom o to, że spowolni to postęp, tak naprawdę pomaga przyspieszyć go.

Agentywna sztuczna inteligencja ma potencjał, aby obniżyć koszty obsługi klienta o 25-50%, na przykład, podczas gdy zwiększa satysfakcję klienta. Ale to wszystko zależy od zaufania.

Ludzie, którzy używają sztucznej inteligencji, muszą jej ufać, a klienci, którzy wchodzą w interakcję z agentami ludzkimi wspomaganymi przez sztuczną inteligencję lub z samymi agentami sztucznej inteligencji, nie mogą doświadczyć jednej interakcji, która podważyłaby ich zaufanie. Jeden zły przeżycie może zniszczyć zaufanie do marki.

Nie ufamy temu, co nie jest bezpieczne. Więc, gdy budujemy bezpieczeństwo w każdej warstwie sztucznej inteligencji, którą mamy zamiar wprowadzić, możemy to zrobić z zaufaniem. I gdy jesteśmy gotowi ją skalować, możemy to zrobić szybko – z zaufaniem.

Pomimo że wprowadzenie bezpieczeństwa sztucznej inteligencji w praktykę może wydawać się przytłaczające, nie jesteś sam. Są liczni eksperci, którzy mogą pomóc, i partnerzy, którzy mogą podzielić się tym, czego nauczyli się i uczą, abyś mógł skorzystać z wartości sztucznej inteligencji bezpiecznie, bez spowalniania.

Sztuczna inteligencja była ekscytującą jazdą do tej pory, a gdy jazda przyspiesza, znajduję ją ekscytującą. Ale jestem również rad, że noszę kask.