AI-krisens kommunikationskapplöpning: När din chattbot blir galen, vad är den nya handboken?

Med internet som det finns nu, tävlar varumärken om att integrera AI-drivna chattbotar för att strömlinjeforma kundinteraktion och verksamhet. Men med högre intelligens kommer också oanade faror. När en AI-chattbot misslyckas och publicerar olämpligt, vilseledande eller förtalande material, kan skadan göras snabbt och själviskt. Frågan är: Hur reagerar varumärken när deras AI går fel?

Den nya gränsen för varumärkesrisk

Nya händelser antyder denna potentiella fara. I februari 2024, mötte Air Canada rättsliga konsekvenser när dess AI-drivna chattbot gav en kund felaktig information om flygbolagets sorgeprispolitik. Chattboten uppgav felaktigt att passageraren kunde ansöka om en sorgerabatt i efterhand, vilket strider mot flygbolagets faktiska policy. När kunden begärde rabatten efter resan, avslog Air Canada begäran, vilket ledde till en tvist. British Columbia Civil Resolution Tribunal dömde till passagerarens fördel och beordrade Air Canada att kompensera honom och upprätthålla rabatten. Detta fall understryker de potentiella ansvarsfrågor som företag står inför när AI-system sprider felaktig information, och betonar behovet av robusta tillsyns- och ansvarsmechanismer.

På samma sätt möter Meta kritik för sina AI-baserade digitala kamrater. En undersökning av The Wall Street Journal fann att vissa av dess chattbotar hade sexbaserade diskussioner med användare som utgav sig för att vara barn. Denna upptäckt har lett till allvarliga ryktesproblem för företaget, och väcker etiska frågor och behovet av AI-relaterade skydd.

OpenAIs ChatGPT har inte heller varit utan kontrovers. En nylig uppdatering gjorde chattboten alltför vänlig, även bekräftade skadliga eller villfarelser som användare uttryckte. Denna överdrivna vänlighet, som var avsedd att öka interaktionen, väckte etiska frågor om AI:s påverkan på användarbetende och emotionell validering. OpenAI uppmärksammade problemet och återställde uppdateringen, men incidenten visar på den tunna linjen mellan användarengagemang och etisk AI-beteende.

Ansvar i AI-eran

Dessa händelser ställer grundläggande frågor om ansvar. När en mänsklig ambassadör begår ett misstag, är vägen till försoning enkel: be om ursäkt, be om ursäkt och glöm. Men när ett AI-system är ansvarigt, blir det förvirrande. Vem är ansvarig, skaparna, organisationen som använder AI, eller AI själv?

Varumärken måste vara försiktiga och erkänna att tillämpning av AI inte befriar dem från ansvar. Konsumenter likställer chattbotens röst med varumärkets röst. Därför reflekteras varje litet misstag av AI över varumärkets rykte. Det är viktigt för företag att ha tydliga riktlinjer för övervakning av AI och att vara beredda att vidta snabba åtgärder när situationen blir negativ.

Transparenskraven kring AI utvecklas snabbt. Konsumenter, myndigheter och journalister kräver tydlighet om hur automatiserade system är utbildade, distribuerade och styrda. I denna miljö är tystnad eller avledning inte ett alternativ. Varumärken måste proaktivt kommunicera sin AI-styrning och vara beredda att ge ett mänskligt svar när ett AI-fel uppstår. Krisprotokoll måste nu inkludera specifika AI-relaterade kontingenser, såsom att fastställa tydliga ägarlinjer för AI-genererade utdata och säkerställa att mänsklig tillsyn alltid är en del av processen. Att bara skylla “algoritmen” är inte en strategi; det är en ursäkt som urholkar förtroendet.

Dessutom måste företag erkänna att AI-drivna misstag ofta sprider sig snabbare än traditionella, drivna av viral social medieamplifiering och allmänhetens fascination med tekniska misstag. En enda skärmdump av en galen chattbotinteraktion kan nå miljoner inom några timmar. Detta ökar behovet av konstant AI-övervakning och snabba eskaleringssvägar. Kommunikationsteam bör genomföra scenarioplanering specifikt för AI-fel, utveckla mallade svar och samordna juridiska, efterlevnads- och ingenjörsteam kring en gemensam förståelse av ansvar. I denna nya landskapet beror ryktesresiliens inte bara på hur ett varumärke svarar på AI-kriser, utan också på hur transparent det förbereder sig för dem från början.

Förebyggande åtgärder för AI-krisledning

För att blomstra i en komplex AI-scenario kan varumärken använda följande steg:

• Implementera robusta övervakningssystem: Regelbundet granska AI-utdata för att identifiera och korrigera stötande innehåll i rätt tid. Till exempel, SeekOut, en talangintelligensplattform, genomför regelbundna granskningar av sina AI-system för att säkerställa rättvisa och opartiska resultat. I samband med utvecklande regleringar och som en del av sitt åtagande för ansvarsfull AI, anlitade SeekOut tredjepartsrevisorn Credo AI för att utvärdera sina algoritmer. Granskningen utvärderade prestandan för AI-funktioner över olika demografiska grupper, och bekräftade att sökresultat för jobbtitlar var representativa och rättvisa. Denna proaktiva approach möjliggör för SeekOut att identifiera och avhjälpa potentiella fördomar snabbt, och upprätthåller integriteten och rättvisan i sina AI-drivna tjänster.
• Skapa tydliga ansvarsramar: Bestäm vem i organisationen som kommer att hantera AI-övervakning och krisledning. Till exempel, The U.S. Government Accountability Office släppte en AI-ansvarsram som betonar styrning, data, prestanda och övervakning. Den tillhandahåller metoder för federala myndigheter för att säkerställa ansvarsfull användning av AI, inklusive att fastställa tydliga mål och engagera olika intressenter.
• Skapa AI-specifika krisresponsplaner: Generiska krisledningsplaner kan inte vara tillräckliga. Anpassa planer för att svara på AI-specifika kriser, såsom att stänga av AI-system när det behövs. Förenta nationernas utvecklingsprogram använder AI-drivna krisriskdashboards för att övervaka och förutsäga potentiella kriser, såsom hatprat och våld. Dessa dashboards möjliggör proaktiva svar genom att analysera realtidsdata och förutsäga risker.
• Öva ärlig kommunikation: När ett AI-fel begås, öva ärlighet i kommunikationen till intressenterna om felet, de åtgärder som vidtagits för att rätta till felet och de procedurer som införts för att undvika återkommande incidenter. Till exempel, 2018, Amazon avbröt sin AI-drivna rekryteringsverktyg efter att ha upptäckt att det var fördomsfullt mot kvinnliga kandidater. Företaget erkände problemet och upphörde med att använda verktyget, och visade transparens i att hantera AI-brister.
• Investera i moralisk utbildning av AI: Se till att AI-modellerna är utbildade med mångfaldiga och inkluderande datamängder för att undertrycka fördomar och stötande innehåll. I detta syfte, utvecklade forskare vid University of Washington och Allen Institute for AI Delphi, ett AI-system utformat för att fatta etiska beslut. Även om det visar löfte, reflekterar Delphi ibland samhälleliga fördomar, och betonar utmaningarna i att utbilda AI med mångfaldiga och inkluderande datamängder.

Medan artificiell intelligens blir alltmer integrerad i varumärkeskommunikation, ökar risken för misstag. Medan AI erbjuder värdefulla effektiviteter, introducerar det också unika utmaningar som varumärken måste vara beredda att hantera. Genom att proaktivt implementera kontrollåtgärder och anpassade krisresponsplaner kan organisationer skydda sitt rykte och upprätthålla konsumentförtroende i detta utvecklande digitala landskap.