Den nye front i brandrisiko: Når din chatbot går amok, hvad er den nye playbook?

Med internettet, som det eksisterer i dag, konkurrerer mærker om at integrere AI-drevne chatbots for at strømline kundeinteraktion og forretning. Men med højere intelligens kommer usædvanlige farer. Når en AI-chatbot fejler, og offentliggør ukorrekte, bedrageriske eller injurierende materiale, kan skaden være gjort hurtigt og selvoptaget. Problemet er: Hvordan reagerer mærker, når deres AI går galt?

Den nye front i brandrisiko

Nylige begivenheder antyder denne potentielle trussel. I februar 2024, fik Air Canada retslige konsekvenser, da dens AI-drevne chatbot gav en kunde forkert information om flyselskabets sørgefrihedspolitik. Chatbot’en oplyste fejlagtigt, at passageren kunne ansøge om en sørgefrihedsrabat retroaktivt, hvilket modsagde flyselskabets faktiske politik. Da kunden søgte rabatten efter rejsen, afviste Air Canada anmodningen, hvilket førte til en disput. Den britiske Columbias civile resolutions tribunal afgjorde sagen til fordel for passageren og beordrede Air Canada til at kompensere ham og opretholde rabatten. Dette tilfælde understreger de potentielle ansvar, som selskaber står over for, når AI-systemer formidler forkert information, og fremhæver behovet for robust overvågning og ansvarlighedsmekanismer.

Ligeledes står Meta over for kritik af sine AI-baserede digitale ledsagere. En undersøgelse af The Wall Street Journal fandt, at nogle af dens chatbots havde sexbaserede diskussioner med brugere, der udgav sig for at være børn. Denne afsløring har resulteret i alvorlige reputationsproblemer for virksomheden, og har rejst etiske spørgsmål og behov for AI-relaterede sikkerhedsforanstaltninger.

OpenAIs ChatGPT har heller ikke været uden kontrovers. En seneste opdatering gjorde chatbot’en for venlig, og bekræftede skadelige eller vanvittige tanker, som brugere udtrykte. Denne overbelastning af samarbejdsvilje, der var tiltænkt at øge interaktion, rejste etiske spørgsmål om AI’s indvirkning på brugeradfærd og emotionel validering. OpenAI tog notits af problemet og rullet opdateringen tilbage, men episoden peger på den tynde linje mellem brugerengagement og etisk AI-adfærd.

Ansvar i AI-alderen

Disse begivenheder stiller grundlæggende spørgsmål om ansvar. Når en menneskelig ambassadør begår en fejl, er vejen til forsoning enkel: undskyld, undskyld, og glem. Men når et AI-system er ansvarligt, bliver tingene forvirrede. Hvem er skyldig, skaberen, organisationen, der anvender AI, eller AI selv?

Mærker må være omhyggelige og anerkende, at anvendelsen af AI ikke fritager dem for ansvar. Forbrugere associerer chatbot-stemmen med mærkets stemme. Derfor reflekteres enhver lille fejl af AI over på mærkets rygte. Det er vigtigt for virksomheder at have strenge retningslinjer for overvågning af AI og at være parat til at tage hurtig handling, når situationen bliver negativ.

Transparensforventningerne omkring AI udvikler sig hurtigt. Forbrugere, regulatorer og journalister kræver klarhed om, hvordan automatiserede systemer trænes, implementeres og styres. I denne omgang er tavshed eller afledning ikke en mulighed. Mærker må proaktivt kommunikere deres AI-styringspraksis og være parat til at give en menneskelig respons, når en AI-fejl opstår. Kriseprotokoller må nu omfatte specifikke AI-relaterede kontingenser, såsom fastlæggelse af klare ejerskabslinjer for AI-genererede outputs og sikring af, at menneskelig overvågning altid er en del af processen. At blot skyde skylden på “algoritmen” er ikke en strategi; det er en undskyldning, der undergraver tillid.

Derudover må virksomheder erkende, at AI-drevne fejl ofte spreder sig hurtigere end traditionelle fejl, drivende af virale sociale medie-forstærkninger og offentlighedens fascination af teknologiske fejltrin. Et enkelt screenshot af en rogue chatbot-interaktion kan nå millioner inden for timer. Dette højner behovet for konstant AI-overvågning og hurtige eskalationsveje. Kommunikationsteams skal udføre scenarieplanlægning specifikt for AI-fejl, udvikle skabeloner for svar, og samordne juridiske, compliance- og ingeniørteams omkring en fælles forståelse af ansvar. I denne nye landskab afhænger reputationsresilien ikke kun af, hvordan et mærke reagerer på AI-kriser, men også af, hvor åbent det forbereder sig på dem fra starten.

Forebyggende skridt for AI-krisestyring

For at trives i et komplekst AI-scenarie kan mærker anvende følgende skridt:

• Implementer robuste overvågningsystemer: Gennemfør regelmæssige audits af AI-outputs for at identificere og korrigere forkert indhold i tide. For eksempel, SeekOut, en talentintelligensplatform, gennemfører regelmæssige audits af sine AI-systemer for at sikre retfærdige og upartiske resultater. I respons til udviklende regler og som en del af sit engagement i ansvarlig AI, hyrede SeekOut tredjeparts-auditoren Credo AI til at evaluere sine algoritmer. Auditoren vurderede AI-funktionernes præstation over forskellige demografiske grupper og verificerede, at søgeresultater for jobtitler var repræsentative og retfærdige. Denne proaktive tilgang giver SeekOut mulighed for at identificere og rette potentielle fordomme hurtigt, og opretholde integriteten og retfærdigheden af sine AI-drevne tjenester.
• Opret klare ansvarlighedsrammer: Fastlæg, hvem i organisationen skal håndtere AI-overvågning og krisestyring. For eksempel, The U.S. Government Accountability Office udgav en AI-ansvarlighedsramme, der fremhæver styring, data, præstation og overvågning. Den giver praksis for føderale myndigheder til at sikre ansvarlig AI-anvendelse, herunder fastlæggelse af klare mål og involvering af diverse interessenter.
• Opret AI-specifikke kriseresponseplaner: Generiske krisestyringsplaner kan være utilstrækkelige. Tilpas planer til at reagere på AI-specifikke kriser, såsom lukning af AI-systemer, når det er nødvendigt. The United Nations Development Programme anvender AI-drevne Kriserisikodashboard til at overvåge og forudsige potentielle kriser, såsom hadefuldt sprog og vold. Disse dashboard giver mulighed for proaktive reaktioner ved at analysere realtidsdata og forudsige risici.
• Praktiser ærlig kommunikation: Når en AI-fejl begås, praktiser ærlighed i kommunikation til interessenterne om fejlen, de tagne skridt til at korrigere fejlen, og procedurerne, der er sat i værk for at undgå gentagelse af fejlen. For eksempel, i 2018, Amazon stoppede sin AI-drevne rekrutteringstool, efter at have opdaget, at den var fordomsfuld mod kvindelige kandidater. Virksomheden anerkendte problemet og stoppede brugen af værktøjet, og demonstrerede åbenhed i at tackle AI-mangler.
• Brug ressourcer på moralsk træning af AI: Sørg for, at AI-modellerne trænes med diverse og inklusive datasæt for at undertrykke fordomme og stødende indhold. I denne forbindelse udviklede forskere ved University of Washington og Allen Institute for AI Delphi, et AI-system designet til at træffe etiske beslutninger. Selv om det viser lovende resultater, reflekterer Delphi undertiden samfundsforbud, og fremhæver udfordringerne ved at træne AI med diverse og inklusive datasæt.

Da kunstig intelligens bliver mere integreret i mærke-kommunikation, vokser risikoen for fejltagelser. Mens AI tilbyder værdifulde effektivitetsforbedringer, introducerer det også unikke udfordringer, som mærker må være parat til at håndtere. Ved proaktivt at implementere kontrolforanstaltninger og tilpasse kriseresponseplaner kan organisationer beskytte deres rygte og opretholde forbruger-tillid i dette udviklende digitale landskab.