Liderzy opinii

Ochrona prywatności już na etapie projektowania: fundament zrównoważonej AI dla bardziej zielonej przyszłości

Jeff Willert Kevin Price
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyProjektowanie z uwzględnieniem prywatności musi być wbudowane w każdą warstwę systemów…
Zobacz więcej
  • Projektowanie z uwzględnieniem prywatności musi być wbudowane w każdą warstwę systemów AI, aby osiągnąć wiarygodny postęp w zakresie ESG.
  • Akt o sztucznej inteligencji UE to punkt wyjścia, a nie ostateczny standard odpowiedzialnego zarządzania AI.
  • Zaufanie do AI wymaga celowego projektowania z możliwością audytu i przejrzystymi praktykami dotyczącymi danych.

Sztuczna inteligencja szybko zmienia globalne wysiłki na rzecz zrównoważonego rozwoju, optymalizując zużycie energii i umożliwiając bardziej efektywne i dokładne śledzenie emisji. Ale gdy organizacje coraz bardziej polegają na AI, aby osiągnąć swoje cele w zakresie dekarbonizacji, rośnie wyzwanie związane z równowagą między ogromnymi potrzebami danych a pilną potrzebą ochrony prywatności. Postępy w dziedzinie zrównoważonego rozwoju, napędzane przez AI, mogą budzić uzasadnione obawy dotyczące prywatności, ale dzięki przemyślanemu wdrożeniu organizacje mogą równolegle realizować oba cele.

Prywatność i zrównoważony rozwój nie są odrębnymi priorytetami; są fundamentalnie splecione. Wiarygodność inicjatyw dotyczących środowiska, społeczeństwa i ładu korporacyjnego (ESG) zależy od integralności i bezpieczeństwa podstawowych danych. Czy AI napędza pozytywne zmiany, czy wprowadza nowe ryzyka, zależy od tego, jak organizacje podejdą do tego punktu przecięcia. Aby przyspieszyć dekarbonizację bez naruszania zasad etycznych, ochrona prywatności już na etapie projektowania musi być wbudowana w każdą warstwę ich systemów AI.

Dlaczego ochrona prywatności już na etapie projektowania ma znaczenie

Gdy AI staje się coraz bardziej wbudowane w inicjatywy ESG, wzrasta wrażliwość przetwarzanych danych, ponieważ raportowanie i optymalizacja ESG mogą czerpać z systemów HR, zakupów, operacyjnych i finansowych. Niewłaściwe zarządzanie wrażliwymi danymi ESG może często mieć znaczące finansowe i reputacyjne konsekwencje. W 2024 roku średni globalny koszt naruszenia danych wyniósł 4,88 mln dolarów w 2024 roku, nie wliczając trudniej mierzalnych wpływów na zaufanie interesariuszy i wiarygodność zaangażowania ESG.

Krajobraz regulacyjny wokół AI i zrównoważonego rozwoju ewoluuje szybko, a ramy takie jak GDPR, CCPA i EU AI Act nakładają coraz bardziej surowe wymagania dotyczące prywatności danych, przejrzystości i ładu korporacyjnego. Wbudowanie prywatności i zgodności od samego początku umożliwia organizacjom nawigację w ograniczeniach, budowanie wiarygodności i spełnianie ewoluujących globalnych oczekiwań.

 Jak ochrona prywatności już na etapie projektowania działa w praktyce

Ochrona prywatności już na etapie projektowania to proaktywne podejście, które integruje ochronę danych na każdym etapie rozwoju AI. W swojej istocie odnosi się do podstawowego wyzwania: wiele procesów napędzanych przez AI opiera się na szczegółowych danych osobowych i behawioralnych, podczas gdy najlepsze praktyki dotyczące prywatności wymagają zbierania tylko tego, co niezbędne, i ograniczania przechowywania. To napięcie staje się jeszcze bardziej złożone w kontekstach ESG, gdzie organizacje łączą dane od pracowników, klientów, dostawców i usługodawców i muszą zapewnić, że są one używane tylko do ich przeznaczonego celu i zgodnie z warunkami, na jakich zostały zebrane. Organizacje korzystają z głębszej wiedzy, ale osoby fizyczne ponoszą ryzyko prywatności z niewielką widocznością lub kontrolą nad tym, jak ich dane są używane.

To podejście nie eliminuje napięcia, ale zapewnia uporządkowany sposób zarządzania nim. Solidne mechanizmy kontroli dostępu, szyfrowanie i weryfikacja tożsamości cyfrowej pomagają zabezpieczyć wrażliwe informacje. Na przykład firma monitorująca emisje w łańcuchu dostaw może używać szyfrowanych kanałów danych i weryfikacji tożsamości cyfrowej, aby upewnić się, że tylko zatwierdzeni menedżerowie zrównoważonego rozwoju mogą uzyskać dostęp do informacji o dostawcach, utrzymując wrażliwe szczegóły z dala od innych systemów wspierających działalność operacyjną.

Skuteczne strategie prywatności obejmują również oddzielenie wrażliwych danych ESG od innych informacji operacyjnych i minimalizowanie uzależnienia od danych osobowych. Chociaż techniki zachowujące prywatność, takie jak anonimizacja, mogą czasem zmniejszać wierność danych, mogą one pomóc zachować równowagę między wiedzą a prywatnością.

Przestrzeganie międzynarodowych ram, takich jak ISO 42001 dla zarządzania AI i ISO 27001 dla bezpieczeństwa informacji, zapewnia, że prywatność jest wbudowana w całym cyklu życia AI, z ryzykami udokumentowanymi i regularnie audytowanymi środkami ochrony. Nowe metody, takie jak federacyjne uczenie i różnicowa prywatność, umożliwiają organizacjom szkolenie modeli bez centralizacji wrażliwych informacji. Chociaż żadna pojedyncza technika nie rozwiązuje wszystkich wyzwań, te postępy reprezentują znaczący postęp.

Zarządzanie zgodnością i ryzykiem

Podejście oparte na ryzyku w akcie AI UE stanowi znaczący krok naprzód w regulacji AI, ale powinno być postrzegane jako podstawa, a nie ostateczny standard. Aplikacje o wysokim ryzyku, te, które wpływają na zatrudnienie, alokację zasobów lub zgodność środowiskową, muszą spełniać surowe standardy audytowalności i przejrzystości. Systemy uznane za niedopuszczalne są zabronione od samego początku. Jednak organizacje zaangażowane w odpowiedzialne AI nie powinny postrzegać niższych klasyfikacji ryzyka jako powodu do łagodzenia swoich standardów. Nawet narzędzia, takie jak pulpity nawigacyjne monitorowania śladu węglowego lub optymalizacji energii, które mogą nie być oznaczone jako wysokiego ryzyka, często obsługują wrażliwe dane i wymagania, ale nie odzwierciedlają pełnego zakresu rzeczywistego ryzyka.

W praktyce ochrona prywatności już na etapie projektowania oznacza wbudowanie ciągłego nadzoru w systemy AI. Obejmuje to regularne testy, walidację i oceny bezpieczeństwa, które ewoluują wraz z nowymi zagrożeniami. Modele AI powinny działać w ramach wyraźnych granic i być w stanie odrzucić niejednoznaczne lub nieprawidłowo sformułowane żądania. Ramy, takie jak NIST AI Risk Management Framework, wspierają stałą rozliczalność, ze szczegółowym modelowaniem danych, gruntownymi logami, historią pochodzenia i przetwarzania danych i śladami audytu, umożliwiając szybką reakcję.

Prywatność i ład korporacyjny są ciągłymi zobowiązaniami, a nie jednorazowymi celami.

Budowanie zaufania i uzasadnienia biznesowego dla AI z pierwszeństwem prywatności

Zaufanie nie jest produktem ubocznym dobrego AI; musi być celowo wbudowane w każdy system. W dzisiejszym świecie interesariusze, czy to klienci, regulatorzy, czy opinia publiczna, coraz częściej analizują nie tylko deklaracje dotyczące zrównoważonego rozwoju, ale także dane i procesy, które im towarzyszą. Systemy zaprojektowane z myślą o audytowalności umożliwiają śledzenie decyzji do ich pochodzenia, odpowiedzi na pytania dotyczące dostępu do danych i ich wykorzystania oraz demonstrację zgodności z ewoluującymi standardami.

W czasach częstych oskarżeń o greenwashing, gdy wiarygodność ESG zdobywa się z trudem, solidne i przejrzyste praktyki dotyczące danych są integralną częścią Państwa narracji o zrównoważonym rozwoju. Odpowiedzialny postęp wymaga rzetelnej kontroli i uczciwości.

Podsumowanie

Zrównoważone AI wykracza poza innowacje technologiczne; chodzi o budowanie systemów, które zdobywają zaufanie, gdy rozwiązują globalne wyzwania. Ochrona prywatności już na etapie projektowania jest fundamentem, który legitymizuje te wysiłki. Priorytetowanie prywatności, ładu korporacyjnego i rozliczalności od samego początku redukuje ryzyko i demonstruje zaangażowanie w odpowiedzialny postęp. Gdy regulacje zaostrzają się, a oczekiwania interesariuszy rosną, te zasady architektury będą tylko bardziej istotne. Prawdziwa decyzja polega na tym, czy inwestować proaktywnie, czy ryzykować pozostanie w tyle.

Jeff Willert jest Dyrektorem ds. Nauki o Danych w SE Advisory Services, części nowej globalnej gałęzi konsultingowej Schneider Electric. Prowadzi zespół dostarczający rozwiązania z zakresu nauki o danych i sztucznej inteligencji w zarządzaniu energią i zrównoważonym rozwoju, pomagając organizacjom zrozumieć swój ślad węglowy, optymalizować wykorzystywanie energii i innych surowców, oraz podejmować kluczowe decyzje na drodze do dekarbonizacji.

Kevin Price jest Dyrektorem Architektury Oprogramowania w Schneider Electric Energy & Sustainability Services, skupiając się na tworzeniu platform oprogramowania na dużą skalę, które pomagają organizacjom zarządzać energią, zrównoważonym rozwojem i dekarbonizacją. Kieruje strategią architektury i transformacją inżynieryjną dla rozwiązań zaprojektowanych od podstaw dla chmury i opartych na danych, wspierających zarządzanie emisjami, raportowanie ESG, optymalizację energii i zrównoważony rozwój operacyjny na skalę globalną. Jest pasjonatem projektowania bezpiecznych, skalowalnych platform, które łączą nowoczesną architekturę chmury, analitykę, sztuczną inteligencję i automatyzację w celu przyspieszenia przejścia w kierunku bardziej zrównoważonej przyszłości.