Mosty nad przepaścią zaufania do sztucznej inteligencji

Adopcja sztucznej inteligencji osiąga punkt krytyczny. Przedsiębiorstwa z entuzjazmem przyjmują sztuczną inteligencję, zmotywowane obietnicą uzyskania poprawy wydajności operacyjnych o rzędy wielkości.

Nedawne badanie Slack wykazało, że adopcja sztucznej inteligencji nadal przyspiesza, a używanie sztucznej inteligencji w miejscach pracy doświadczyło niedawnego 24% wzrostu, a 96% ankietowanych dyrektorów wykonawczych uważa, że „pilne jest zintegrowanie sztucznej inteligencji z całymi operacjami biznesowymi”.

Jednak istnieje pogrubiająca się przepaść między użytecznością sztucznej inteligencji a rosnącymi obawami o potencjalne negatywne skutki. Tylko 7% pracowników biurowych uważa, że wyniki sztucznej inteligencji są wystarczająco godne zaufania, aby mogli im pomóc w zadaniach związanych z pracą.

Ta przepaść jest widoczna w wyraźnym kontraście między entuzjazmem dyrektorów wykonawczych wobec integracji sztucznej inteligencji a sceptycyzmem pracowników wobec czynników takich jak:

• Uprzedzenia i sprawiedliwość: systemy sztucznej inteligencji mogą utrzymywać lub nawet nasilić istniejące uprzedzenia, prowadząc do niesprawiedliwych wyników.
• Prywatność i bezpieczeństwo: pracownicy martwią się o to, jak ich dane osobowe są zbierane, przechowywane i wykorzystywane przez systemy sztucznej inteligencji.
• Nieprzezroczyste podejmowanie decyzji: systemy sztucznej inteligencji często działają jako „czarne skrzynki”, podejmując decyzje, które są trudne do zrozumienia lub wyjaśnienia przez ludzi.
• Lęk przed automatyzacją: istnieje powszechny strach, że sztuczna inteligencja zastąpi pracę ludzi, prowadząc do bezrobocia i niestabilności gospodarczej.

Rola legislacji w budowaniu zaufania

Aby rozwiązać te wielowymiarowe problemy zaufania, środki legislacyjne są coraz częściej postrzegane jako konieczny krok. Legislacja może odegrać kluczową rolę w regulowaniu rozwoju i wdrożenia sztucznej inteligencji, co zwiększy zaufanie. Kluczowe podejścia legislacyjne obejmują:

• Prawa ochrony danych i prywatności: wdrożenie surowych praw ochrony danych zapewnia, że systemy sztucznej inteligencji odpowiedzialnie zarządzają danymi osobowymi. Prawa takie jak Ogólne Rozporządzenie o Ochronie Danych (RODO) w Unii Europejskiej ustanawiają precedens, nakazując przejrzystość, minimalizację danych i zgodę użytkownika. W szczególności artykuł 22 RODO chroni podmioty danych przed potencjalnymi negatywnymi skutkami podejmowania decyzji w sposób zautomatyzowany. Niedawne decyzje Trybunału Sprawiedliwości Unii Europejskiej potwierdzają prawa osób do niepodlegania decyzjom podejmowanym w sposób zautomatyzowany. W sprawie Schufa Holding AG, gdzie mieszkaniec Niemiec został odrzucony przez system decyzyjny kredytowy, sąd orzekł, że artykuł 22 wymaga od organizacji wdrożenia środków w celu ochrony praw do prywatności związanych z wykorzystaniem technologii sztucznej inteligencji.
• Regulacje sztucznej inteligencji: Unia Europejska uchwaliła rozporządzenie EU AI (EU AIA), które ma na celu regulowanie wykorzystania systemów sztucznej inteligencji na podstawie ich poziomu ryzyka. Rozporządzenie obejmuje wymagania obowiązkowe dla systemów sztucznej inteligencji o wysokim ryzyku, obejmujące obszary takie jak jakość danych, dokumentacja, przejrzystość i nadzór ludzki. Jednym z głównych korzyści regulacji sztucznej inteligencji jest promowanie przejrzystości i wyjaśnialności systemów sztucznej inteligencji. Ponadto rozporządzenie EU AIA ustanawia wyraźne ramy odpowiedzialności, zapewniając, że deweloperzy, operatorzy i nawet użytkownicy systemów sztucznej inteligencji są odpowiedzialni za swoje działania i wyniki wdrożenia sztucznej inteligencji. Obejmuje to mechanizmy rekompensaty w przypadku szkód spowodowanych przez system sztucznej inteligencji. Kiedy osoby i organizacje są odpowiedzialne, buduje to zaufanie, że systemy sztucznej inteligencji są zarządzane w sposób odpowiedzialny.

Inicjatywy normalizacyjne na rzecz kultury godnej zaufania sztucznej inteligencji

Przedsiębiorstwa nie muszą czekać na nowe prawa, aby określić, czy ich procesy są zgodne z wytycznymi etycznymi i godnymi zaufania. Regulacje sztucznej inteligencji współpracują z nowymi inicjatywami normalizacyjnymi, które umożliwiają organizacjom wdrożenie odpowiedzialnego zarządzania sztuczną inteligencją i najlepszych praktyk w całym cyklu życia systemów sztucznej inteligencji, od projektowania po wycofanie.

Narodowy Instytut Standardów i Technologii (NIST) w Stanach Zjednoczonych opracował ramowy plan zarządzania ryzykiem sztucznej inteligencji, aby pomóc organizacjom w zarządzaniu ryzykiem związanym z sztuczną inteligencją. Ramowy plan składa się z czterech podstawowych funkcji:

• Zrozumienie systemu sztucznej inteligencji i kontekstu, w którym działa. Obejmuje to określenie celu, interesariuszy i potencjalnych skutków systemu sztucznej inteligencji.
• Określenie ryzyka związanego z systemem sztucznej inteligencji, w tym aspektów technicznych i nietechnicznych. Obejmuje to ocenę wydajności systemu, niezawodności i potencjalnych uprzedzeń.

• Wdrożenie strategii w celu złagodzenia zidentyfikowanych ryzyk. Obejmuje to opracowanie polityk, procedur i kontroli, aby zapewnić, że system sztucznej inteligencji działa w ramach akceptowalnego poziomu ryzyka.
• Ustanowienie struktur zarządzania i mechanizmów odpowiedzialności, aby nadzorować system sztucznej inteligencji i procesy zarządzania ryzykiem. Obejmuje to regularne przeglądy i aktualizacje strategii zarządzania ryzykiem.

W odpowiedzi na postęp w technologiach generatywnej sztucznej inteligencji NIST opublikowało profil sztucznej inteligencji generatywnej, który zapewnia wskazówki dotyczące łagodzenia konkretnych ryzyk związanych z modelami podstawowymi. Takie środki obejmują ochronę przed niecnych zastosowaniach (np. dezinformacją, degradacją treści, mową nienawiści) oraz etyczne zastosowania sztucznej inteligencji, które koncentrują się na wartościach ludzkich, takich jak sprawiedliwość, prywatność, bezpieczeństwo informacji, własność intelektualna i zrównoważony rozwój.

Ponadto Międzynarodowa Organizacja Normalizacyjna (ISO) i Międzynarodowa Komisja Elektrotechniczna (IEC) wspólnie opracowały normę ISO/IEC 23894, która jest kompleksową normą zarządzania ryzykiem sztucznej inteligencji. Norma ta zapewnia systematyczne podejście do identyfikacji i zarządzania ryzykiem w całym cyklu życia sztucznej inteligencji, w tym identyfikację ryzyka, ocenę ciężkości ryzyka, leczenie w celu złagodzenia lub uniknięcia go oraz ciągłe monitorowanie i przegląd.

Przyszłość sztucznej inteligencji i zaufania publicznego

Patrząc w przyszłość, przyszłość sztucznej inteligencji i zaufania publicznego będzie prawdopodobnie zależała od kilku kluczowych czynników, które są niezbędne dla wszystkich organizacji:

• Przeprowadzenie kompleksowej oceny ryzyka w celu identyfikacji potencjalnych problemów z zgodnością. Ocena implikacji etycznych i potencjalnych uprzedzeń w systemach sztucznej inteligencji.
• Ustanowienie zespołu międzyfunkcyjnego, w tym prawników, specjalistów ds. zgodności, IT i naukowców danych. Zespół ten powinien być odpowiedzialny za monitorowanie zmian regulacyjnych i zapewnienie, że systemy sztucznej inteligencji są zgodne z nowymi regulacjami.
• Wdrożenie struktury zarządzania, w tym polityk, procedur i ról zarządzania inicjatywami sztucznej inteligencji. Zapewnienie przejrzystości w operacjach sztucznej inteligencji i procesach podejmowania decyzji.
• Przeprowadzenie regularnych wewnętrznych audytów w celu zapewnienia zgodności z regulacjami sztucznej inteligencji. Użycie narzędzi monitorowania do śledzenia wydajności systemów sztucznej inteligencji i zgodności z normami regulacyjnymi.
• Edycja pracowników na temat etyki sztucznej inteligencji, wymagań regulacyjnych i najlepszych praktyk. Przeprowadzenie sesji szkoleniowych, aby utrzymać personel w ciągłej gotowości do zmian w regulacjach sztucznej inteligencji i strategiach zgodności.
• Utrzymywanie szczegółowych rejestrów procesów rozwoju sztucznej inteligencji, wykorzystania danych i kryteriów podejmowania decyzji. Przygotowanie raportów, które mogą być przedstawione regulatorom, jeśli jest to wymagane.
• Budowanie relacji z organami regulacyjnymi i uczestniczenie w publicznych konsultacjach. Przedstawienie opinii na temat proponowanych regulacji i poszukiwanie wyjaśnień, gdy jest to konieczne.

Kontekstualizacja sztucznej inteligencji w celu osiągnięcia godnej zaufania sztucznej inteligencji

Ostatecznie, godna zaufania sztuczna inteligencja zależy od integralności danych. Zależność generatywnej sztucznej inteligencji od dużych zbiorów danych nie oznacza dokładności i niezawodności wyników; wręcz przeciwnie, jest to sprzeczne z oboma standardami. Generacja wspomagana przez odzyskiwanie (RAG) to innowacyjna technika, która „łączy statyczne modele językowe z kontekstowo-specyficznymi danymi. I można ją uznać za bardzo wykształconego asystenta. Jednego, który dopasowuje kontekst zapytania do specyficznych danych z kompleksowej bazy wiedzy.” RAG umożliwia organizacjom tworzenie kontekstowo-specyficznych aplikacji, które spełniają oczekiwania dotyczące prywatności, bezpieczeństwa, dokładności i niezawodności. RAG poprawia dokładność generowanych odpowiedzi, odzyskując istotne informacje z bazy wiedzy lub repozytorium dokumentów. Pozwala to modelowi opierać swoją generację na dokładnych i aktualnych informacjach.

RAG umożliwia organizacjom tworzenie aplikacji sztucznej inteligencji o wysokiej dokładności, kontekstowo-świadomych i dostosowanych do poprawy podejmowania decyzji, doskonalenia doświadczeń klientów, usprawniania operacji i osiągania znaczących przewag konkurencyjnych.

Mosty nad przepaścią zaufania do sztucznej inteligencji wymagają zapewnienia przejrzystości, odpowiedzialności i etycznego wykorzystania sztucznej inteligencji. Chociaż nie ma jednej odpowiedzi na utrzymanie tych standardów, przedsiębiorstwa mają do dyspozycji strategie i narzędzia. Wdrożenie solidnych środków ochrony danych i przestrzeganie standardów regulacyjnych buduje zaufanie użytkowników. Regularne audyty systemów sztucznej inteligencji pod kątem uprzedzeń i nieścisłości zapewniają sprawiedliwość. Wzbogacenie modeli językowych o sztuczną inteligencję o celowo opracowane bazy wiedzy i źródła danych dostarcza zaufania, angażując interesariuszy w sprawie możliwości i ograniczeń sztucznej inteligencji, co również buduje zaufanie i akceptację.

Godna zaufania sztuczna inteligencja nie jest łatwa do osiągnięcia, ale jest to istotne zobowiązanie do naszej przyszłości.