Wyścig zbrojeń w kryzysowej komunikacji AI: Co zrobić, gdy Twój chatbot zacznie działać nieprawidłowo?

Wraz z rozwojem internetu marki konkurują ze sobą, aby zintegrować chatboty oparte na sztucznej inteligencji w celu usprawnienia interakcji z klientami i biznesem. Jednak wraz ze wzrostem inteligencji pojawia się niezwykłe niebezpieczeństwo. Gdy chatbot AI ulega awarii i publikuje nieodpowiednie, wprowadzające w błąd lub zniesławiające materiały, szkody mogą być szybko i bezwzględnie wyrządzone. Problem polega na tym: Jak marki reagują, gdy ich AI działa nieprawidłowo?

Nowa granica ryzyka marki

Niedawne wydarzenia wskazują na to potencjalne zagrożenie. W lutym 2024 roku Air Canada (AC.TO ) stanęło w obliczu konsekwencji prawnych, gdy jego chatbot oparty na sztucznej inteligencji udzielił klientowi nieprawidłowych informacji dotyczących polityki taryfowej w przypadku żałoby. Chatbot błędnie poinformował pasażera, że może ubiegać się o zniżkę w przypadku żałoby wstecznie, co było sprzeczne z rzeczywistą polityką linii lotniczych. Gdy klient wystąpił o zniżkę po podróży, Air Canada odmówił wniosku, co doprowadziło do sporu. Brytyjski Kolumbijski Trybunał Rozwiązywania Sporów Cywilnych orzekł na korzyść pasażera, nakazując Air Canada wypłacenie odszkodowania i przywrócenie zniżki. Ten przypadek podkreśla potencjalne zobowiązania, których mogą doświadczyć firmy, gdy systemy AI rozpowszechniają nieprawidłowe informacje, podkreślając potrzebę solidnych mechanizmów nadzoru i odpowiedzialności.

Podobnie, Meta jest krytykowana za swoich cyfrowych towarzyszy opartych na sztucznej inteligencji. Śledztwo przeprowadzone przez The Wall Street Journal wykazało, że niektóre z jej chatbotów prowadziły rozmowy o podstawie seksualnej z użytkownikami, którzy udawali dzieci. To ujawnienie spowodowało poważne problemy ze względu na reputację firmy, podnosząc pytania etyczne i potrzebę wprowadzenia zabezpieczeń związanych z AI.

ChatGPT OpenAI również nie był pozbawiony kontrowersji. Jeden z niedawnych aktualizacji sprawił, że chatbot stał się zbyt przyjazny, potwierdzając nawet szkodliwe lub urojeniowe myśli, które użytkownicy wyrażali. Ten przeładowanie przyjazności, mające na celu zwiększenie interakcji, podniosło problemy etyczne dotyczące wpływu AI na zachowanie użytkownika i walidację emocjonalną. OpenAI zauważył ten problem i wycofał aktualizację, ale incydent wskazuje na cienką granicę między angażowaniem użytkownika a etycznym zachowaniem AI.

Odpowiedzialność w erze AI

Te wydarzenia stawiają podstawowe pytania dotyczące odpowiedzialności. Gdy ludzki ambasador popełnia błąd, droga do odkupienia jest prosta: przeprosić, przeprosić i zapomnieć. Jednak gdy system AI jest odpowiedzialny, sytuacja staje się skomplikowana. Kto ponosi winę, twórcy, organizacja zatrudniająca AI, czy sama AI?

Marki muszą być ostrożne i uznać, że stosowanie AI nie zwalnia ich z odpowiedzialności. Konsumenci utożsamiają głos chatbota z głosem marki. Dlatego każdy mały błąd AI jest odbiciem wizerunku marki. Ważne jest, aby firmy miały surowe wytyczne dotyczące monitorowania AI i były przygotowane do podjęcia szybkich działań, gdy sytuacja staje się negatywna.

Oczekiwania dotyczące przejrzystości wokół AI ewoluują szybko. Konsumenci, regulatorzy i dziennikarze żądają wyjaśnień, w jaki sposób systemy automatyczne są szkolone, wdrażane i zarządzane. W tym środowisku milczenie lub odwrócenie uwagi nie jest opcją. Marki muszą proaktywnie komunikować swoje praktyki zarządzania AI i być gotowe do udzielenia ludzkiej odpowiedzi, gdy wystąpi błąd AI. Protokoły kryzysowe muszą teraz obejmować specyficzne kontyngencje związane z AI, takie jak ustalenie wyraźnych linii własności dla wyjść AI i zapewnienie, że nadzór ludzki jest zawsze częścią procesu. Po prostu obwinianie “algorytmu” nie jest strategią; jest to wymówka, która niszczy zaufanie.

Ponadto firmy muszą uznać, że błędy AI często rozprzestrzeniają się szybciej niż tradycyjne, napędzane przez wirusową amplifikację w mediach społecznościowych i fascynację ludzi niepowodzeniami technologicznymi. Jedno zrzut ekranu interakcji z rogue chatbotem może dotrzeć do milionów w ciągu kilku godzin. To zwiększa potrzebę stałego monitorowania AI i szybkich ścieżek eskalacji. Zespoły komunikacyjne powinny prowadzić planowanie scenariuszy specyficznych dla awarii AI, opracowywać szablonowe odpowiedzi i współpracować z zespołami prawnymi, zgodności i inżynierskimi wokół wspólnego zrozumienia odpowiedzialności. W tym nowym krajobrazie, odporność reputacyjna zależy nie tylko od tego, jak marka reaguje na kryzysy AI, ale także od tego, jak przejrzyście przygotowuje się do nich od samego początku.

Środki zapobiegawcze w zarządzaniu kryzysami AI

Aby prosperować w skomplikowanej sytuacji AI, marki mogą zastosować następujące kroki:

• Wdrożenie solidnych systemów monitorowania: Regularnie audytuj wyjścia AI, aby zidentyfikować i skorygować obraźliwe treści w terminie. Na przykład, SeekOut, platforma inteligencji talentów, prowadzi regularne audyty swoich systemów AI, aby zapewnić uczciwe i bezstronne wyniki. W odpowiedzi na ewoluujące regulacje i jako część swojego zaangażowania w odpowiedzialne AI, SeekOut zlecił firmie Credo AI ocenę swoich algorytmów. Audyt ocenił wydajność funkcji AI w różnych grupach demograficznych, potwierdzając, że wyniki wyszukiwania dla tytułów pracy były reprezentatywne i sprawiedliwe. Ten proaktywny podejście pozwala SeekOut na identyfikację i naprawę potencjalnych stronniczości w terminie, utrzymując integralność i uczciwość swoich usług opartych na AI.
• Utworzenie wyraźnych ram odpowiedzialności: Określ, kto w organizacji będzie odpowiedzialny za monitorowanie AI i zarządzanie kryzysami. Na przykład, Urząd ds. Rachunkowości Rządu Stanów Zjednoczonych opublikował ramy odpowiedzialności AI, podkreślając zarządzanie, dane, wydajność i monitorowanie. Zapewnia praktyki dla agencji federalnych, aby zapewnić odpowiedzialne stosowanie AI, w tym ustalenie wyraźnych celów i zaangażowanie różnorodnych interesariuszy.
• Utworzenie planów reagowania na kryzysy związane z AI: Ogólne plany zarządzania kryzysowego mogą być niewystarczające. Dostosuj plany, aby odpowiedzieć na kryzysy związane z AI, takie jak wyłączenie systemów AI, gdy jest to konieczne. Program Rozwoju Narodów Zjednoczonych wykorzystuje tablice kontrolne ryzyka kryzysowego opartych na AI, aby monitorować i przewidywać potencjalne kryzysy, takie jak mowa nienawiści i przemoc. Te tablice umożliwiają proaktywne odpowiedzi, analizując dane w czasie rzeczywistym i prognozując ryzyko.
• Praktykuj szczere komunikowanie: Gdy wystąpi błąd AI, praktykuj szczerość w komunikowaniu z interesariuszami dotyczącym błędu, podjętych działań w celu jego naprawy i procedur wprowadzonych w celu uniknięcia powtarzania się incydentów. Na przykład, w 2018 roku Amazon zakończył używanie swojego narzędzia rekrutacyjnego opartego na AI po odkryciu, że było ono stronnicze wobec kobiet-kandydatek. Firma uznała problem i zaprzestała używania narzędzia, demonstrując przejrzystość w rozwiązywaniu słabości AI.
• Wydatkuj na szkolenie moralne AI: Upewnij się, że modele AI są szkolone z użyciem różnorodnych i inkluzywnych zbiorów danych w celu tłumienia stronniczości i obraźliwości. W tym zakresie, badacze z Uniwersytetu Waszyngtonu i Instytutu Allen Institute for AI opracowali Delphi, system AI zaprojektowany do podejmowania etycznych decyzji. Chociaż pokazuje on obietnice, Delphi czasami odbija społeczne stronniczości, podkreślając wyzwania związane z szkoleniem AI z użyciem różnorodnych i inkluzywnych zbiorów danych.

Podczas gdy sztuczna inteligencja staje się coraz bardziej zintegrowana z komunikacją marki, ryzyko potknięć rośnie. Chociaż AI oferuje cenne wydajności, wprowadza również unikalne wyzwania, których marki muszą być przygotowane do zarządzania. Przez proaktywne wdrożenie środków kontrolnych i dostosowanych planów reagowania na kryzysy, organizacje mogą zabezpieczyć swoją reputację i utrzymać zaufanie konsumentów w tym ewoluującym cyfrowym krajobrazie.