Den nye fronten for merkevare-risiko: Når din chatbot går galt, hva er den nye spillboken?

Med internettet som det eksisterer nå, konkurrerer merker om å integrere AI-drevne chatboter for å strømlinje kundeinteraksjon og forretning. Men med høyere intelligens kommer uforutsett farer. Når en AI-chatbot feiler, og publiserer upassende, bedrageriske eller injurierende materiale, kan skaden være gjort raskt og selvskadende. Problemet er: Hvordan reagerer merker når deres AI går galt?

Den nye fronten for merkevare-risiko

Nylige hendelser antyder denne potensielle trusselen. I februar 2024, møtte Air Canada (AC.TO ) rettslige konsekvenser da dens AI-drevne chatbot ga en kunde feil informasjon om flyselskapets sørgepolitikk. Chatboten informerte feilaktig passasjeren om at han kunne søke om en sørge-rabatt retrospektivt, noe som motsa flyselskapets faktiske politikk. Da kunden søkte om rabatten etter reisen, nektet Air Canada å godkjenne den, noe som ledet til en tvist. British Columbia Civil Resolution Tribunal dømte i favør av passasjeren og beordret Air Canada å kompensere ham og opprettholde rabatten. Dette tilfelle understreker de potensielle ansvarsforpliktelsene selskaper står overfor når AI-systemer formidler feilaktig informasjon, og understreker behovet for robuste tilsyns- og ansvarsmekanismer.

Likewise, møter Meta kritikk over sine AI-baserte digitale følgesvenner. En undersøkelse av The Wall Street Journal fant at noen av dens chatboter hadde seksuelt baserte diskusjoner med brukere som utga seg for å være barn. Denne avsløringen har ført til alvorlige omdømmeproblemer for selskapet, og har reist etiske spørsmål og behov for AI-relaterte sikkerhetstiltak.

OpenAIs ChatGPT har heller ikke vært uten kontrovers. En nylig oppdatering gjorde chatboten overveldigende vennlig, og bekreftet skadelige eller villfarne tanker som brukerne uttrykte. Denne overveldende vennlighet, som var ment å øke interaksjon, reiste etiske spørsmål om AI-påvirkning av brukeratferd og emosjonell validering. OpenAI tok notis om problemet og trakk tilbake oppdateringen, men hendelsen understreker den tynne linjen mellom brukerengasjement og etisk AI-atferd.

Ansvar i AI-alderen

Disse hendelsene stiller grunnleggende spørsmål om ansvar. Når en menneskelig ambassadør gjør en feil, er veien til forsoning enkel: beklage, beklage og glemme. Men når et AI-system er ansvarlig, blir ting kompliserte. Hvem er skyldig, skaperne, organisasjonen som anvender AI, eller AI selv?

Merker må være forsiktige og anerkjenne at å anvende AI ikke fritar dem fra ansvar. Forbrukere likstiller stemmen til chatboten med stemmen til merket. Derfor reflekteres enhver liten feil av AI over på merkevarens omdømme. Det er viktig for selskaper å ha strenge retningslinjer for overvåking av AI og å være forberedt på å iverksette rask handling når scenariet blir negativt.

Forventningene til åpenhet omkring AI utvikler seg raskt. Forbrukere, regulatorene og journalistene krever åpenhet om hvordan automatiserte systemer er trent, deployert og styrt. I denne omgangen er stillhet eller avledning ikke et alternativ. Merker må proaktivt kommunisere sine AI-styringspraksis og være forberedt på å gi en menneskelig respons når en AI-feil skjer. Kriseprotokoller må nå inkludere spesifikke AI-relaterte kontingenser, som å etablere klare eierlinjer for AI-genererte utdata og sikre at menneskelig tilsyn alltid er en del av prosessen. Å bare skyld på “algoritmen” er ikke en strategi; det er en unnskyldning som undergraver tillit.

I tillegg må selskaper anerkjenne at AI-drevne feil ofte sprenger raskere enn tradisjonelle feil, drevet av virale sosiale medier-forsterkninger og offentlighetens fascinasjon med teknologiske feil. Et enkelt skjermbilde av en feilaktig chatbot-interaksjon kan nå millioner innen timer. Dette øker behovet for konstant AI-overvåking og raske eskalasjonsveier. Kommunikasjonsteamene bør utføre scenarieplanlegging spesifikt for AI-feil, utvikle mal-respons og samordne juridiske, compliance- og ingeniørteam rundt en felles forståelse av ansvar. I dette nye landskapet avhenger omdømmes robusthet ikke bare av hvordan et merke reagerer på AI-kriser, men også på hvordan det forbereder seg på dem fra starten av.

Forebyggende skritt for AI-krisestyring

For å trives i et komplekst AI-scenarie, kan merker anvende følgende skritt:

• Implementer robuste overvåkingssystemer: Routinesvis auditer AI-utdata for å identifisere og korrigere upassende innhold i tide. For eksempel, SeekOut, en talentintelligensplattform, gjennomfører regelmessige auditer av sine AI-systemer for å sikre rettferdige og upartiske resultater. I respons til utvikling av reguleringer og som en del av sitt engasjement for ansvarlig AI, engasjerte SeekOut en tredjepartsauditor Credo AI for å evaluere sine algoritmer. Auditen vurderte ytelsen av AI-funksjoner over ulike demografiske grupper og verifiserte at søkeresultater for jobbtitler var representative og rettferdige. Denne proaktive tilnærmingen muliggjør SeekOut å identifisere og rette opp potensielle fordommer raskt, og opprettholde integriteten og rettferdigheten av sine AI-drevne tjenester.
• Opprett klare ansvarsrammer: Bestemm hvem i organisasjonen som skal håndtere AI-overvåking og krisestyring. For eksempel, The U.S. Government Accountability Office ga ut en AI-ansvarsramme som understreker styring, data, ytelse og overvåking. Den gir praksis for føderale byråer for å sikre ansvarlig AI-bruk, inkludert å sette klare mål og engasjere diverse interessenter.
• Opprett AI-spesifikke kriseresponsplaner: Generiske krisestyringsplaner kan ikke være tilstrekkelige. Tilpass planer for å respondere på AI-spesifikke kriser, som å stenge ned AI-systemer når det er nødvendig. The United Nations Development Programme anvender AI-drevne Kriserisikodashboard for å overvåke og forutsi potensielle kriser, som hatytringer og vold. Disse dashboardene muliggjør proaktive responser ved å analysere sanntidsdata og forutsi risiko.
• Praktiser ærlig kommunikasjon: Når en AI-feil skjer, praktiser ærlighet i kommunikasjon til interessentene om feilen, tiltakene som er tatt for å rette opp feilen og prosedyrene som er satt i verk for å unngå gjentakelse. For eksempel, i 2018, Amazon avsluttet sin AI-drevne rekrutteringstool etter å ha oppdaget at den var fordomsfull mot kvinnelige kandidater. Selskapet anerkjente problemet og stoppet å bruke verktøyet, og viste åpenhet i å håndtere AI-svakheter.
• Brug penger på moralsk trening av AI: Sørg for at AI-modellene er trent med diverse og inkluderende datasett for å undertrykke fordommer og upassende innhold. I denne sammenhengen utviklet forskere ved University of Washington og Allen Institute for AI Delphi, en AI som er designet for å gjøre etiske avgjørelser. Selv om den viser løfte, reflekterer Delphi noen ganger samfunnets fordommer, og understreker utfordringene i å trene AI med diverse og inkluderende datasett.

Ettersom kunstig intelligens blir mer dypt integrert i merkevarekommunikasjon, øker risikoen for feil. Mens AI tilbyr verdifulle effektivitetsgevinster, introduserer den også unike utfordringer som merker må være forberedt på å håndtere. Ved proaktivt å implementere kontrolltiltak og tilpassede kriseresponsplaner, kan organisasjoner beskytte sitt omdømme og opprettholde forbrukertillit i dette utviklende digitale landskapet.