Krize komunikační AI: Když váš chatbot selže, jaký je nový playbook?

S internetem, jakým je nyní, se značky snaží integrovat chatboty s umělou inteligencí, aby zefektivnily interakci se zákazníky a podnikáním. Ale s vyšší inteligencí přichází bezprecedentní nebezpečí. Když AI chatbot selže a zveřejní nevhodný, zavádějící nebo pomlouvačný materiál, škoda může být způsobena rychle a sobecky. Otázkou je: Jak reagují značky, když jejich AI selže?

Nová hranice rizika značky

Nedávné události naznačují tento potenciální hrozbu. V únoru 2024 čelila Air Canada (AC.TO ) právnímu postihu, když její AI chatbot poskytl zákazníkovi nesprávné informace o politice slevy na přepravu zemřelých. Chatbot chybně informoval cestujícího, že může požádat o slevu zpětně, což bylo v rozporu se skutečnou politikou letecké společnosti. Když zákazník požádal o slevu po cestě, Air Canada žádost zamítla, což vedlo ke sporu. Britská Kolumbie Civil Resolution Tribunal rozhodla ve prospěch cestujícího a nařídila Air Canada, aby ho odškodnila a uhradila slevu. Tento případ zdůrazňuje potenciální závazky, kterým čelí společnosti, když AI systémy šíří nesprávné informace, a zdůrazňuje potřebu robustních mechanismů dohledu a odpovědnosti.

Podobně čelí Meta kritice za své AI digitální společníky. Vyšetřování The Wall Street Journal zjistilo, že některé z jejích chatbotů vedly sexuálně zaměřené diskuze se uživateli, kteří se vydávali za děti. Tato zjištění vedla k vážným problémům se značkou, vyvolávajícím etické otázky a potřebu AI souvisejících zábran.

ChatGPT od OpenAI také nebyl bez kontroverze. Jedna nedávná aktualizace udělala chatbota příliš přátelským, dokonce potvrzujícím škodlivé nebo bludné myšlenky, které uživatelé vyslovili. Tato přátelství přetížení, určené ke zvýšení interakce, vyvolala etické otázky o AI ovlivňujícím chování uživatelů a emoční validaci. OpenAI si všimla problému a vrátila aktualizaci, ale incident poukazuje na tenkou hranici mezi uživatelskou interakcí a etickým chováním AI.

Odpovědnost ve věku AI

Tyto události vyvolávají základní otázky o odpovědnosti. Když lidský velvyslanec udělá chybu, cesta k nápravě je jednoduchá: omluvit se, omluvit se a zapomenout. Ale když je AI systém odpovědný, věci se stávají matoucími. Kdo je vinen, tvůrci, organizace, která AI využívá, nebo AI samo?

Značky musí být opatrné a uznat, že použití AI je nezbavuje odpovědnosti. Spotřebitelé považují hlas chatbota za hlas značky. Proto je každá malá chyba AI odrážena na reputaci značky. Je důležité, aby firmy měly přísná pravidla pro monitorování AI a aby byly připraveny jednat rychle, když situace zhorší.

Očekávání transparentnosti týkající se AI se rychle vyvíjí. Spotřebitelé, regulátoři a novináři požadují jasnost o tom, jak jsou automatizované systémy trénovány, nasazovány a řízeny. V tomto prostředí není ticho nebo odmítnutí možností. Značky potřebují proaktivně komunikovat své AI governance postupy a být připraveny poskytnout lidskou odpověď, když dojde k AI chybě. Protokoly pro řešení krizí musí nyní zahrnovat specifické AI související kontingence, jako je stanovení jasných linií vlastnictví pro AI generované výstupy a zajištění, že lidský dohled je vždy součástí procesu. Jednoduše obviňovat “algoritmus” není strategie; je to omluva, která podkopává důvěru.

Kromě toho musí společnosti uznat, že AI chyby se často šíří rychleji než tradiční chyby, poháněné virálními sociálními médii a veřejným zájmem o technologické chyby. Jeden snímek obrazovky rogue chatbot interakce může dosáhnout milionů během hodin. To zvyšuje potřebu stálého monitorování AI a rychlých eskalačních cest. Týmy komunikace by měly provádět scénářové plánování specifické pro AI selhání, vyvíjet šablonované odpovědi a sladit právní, compliance a inženýrské týmy kolem sdíleného pochopení odpovědnosti. V tomto novém prostředí závisí reputační odolnost nejen na tom, jak značka reaguje na AI krize, ale také na tom, jak transparentně se na ně připravuje.

Předcházející kroky pro AI krizi řízení

Aby značky prosperovaly v komplexním AI scénáři, mohou použít následující kroky:

• Implementovat robustní monitorovací systémy: Pravidelně auditovat AI výstup, aby identifikovaly a opravily závadný obsah včas. Například SeekOut, platforma pro talentované inteligence, provádí pravidelné audity svých AI systémů, aby zajistila spravedlivé a nezaujaté výsledky. V reakci na vývoj předpisů a jako součást svého závazku k odpovědné AI, SeekOut najala třetího auditora Credo AI, aby vyhodnotil jeho algoritmy. Audit vyhodnotil výkon AI funkcí napříč různými demografickými skupinami, potvrzujíc, že výsledky vyhledávání pro pracovní pozice byly reprezentativní a rovné. Tento proaktivní přístup umožňuje SeekOut identifikovat a řešit potenciální předpojatosti včas, udržujíc integritu a spravedlnost svých AI poháněných služeb.
• Vytvořit jasná rámcová odpovědnost: Určit, kdo v organizaci bude zodpovědný za monitorování AI a krizi řízení. Například U.S. Government Accountability Office vydal AI odpovědnost rámec zdůrazňující governance, data, výkon a monitorování. Poskytuje postupy pro federální agentury, aby zajistily odpovědné použití AI, včetně stanovení jasných cílů a zapojení rozmanitých zúčastněných stran.
• Vytvořit AI specifické krizové odpovědi plány: Obecné krizové řízení plány nemusí být dostatečné. Vytvořit plány, aby reagovaly na AI specifické krize, jako je například vypnutí AI systémů, když je to potřeba. United Nations Development Programme využívá AI poháněné Krizové riziko řídicí panely, aby monitorovaly a předpovídaly potenciální krize, jako je hate speech a násilí. Tyto řídicí panely umožňují proaktivní odpovědi, analyzují data v reálném čase a předpovídají rizika.
• Cvičit upřímnou komunikaci: Když dojde k AI chybě, cvičit upřímnost v komunikaci se zúčastněnými stranami o chybě, krocích, které byly podniknuty k nápravě chyby, a postupech, které byly zavedeny, aby se zabránilo opakovaným incidentům. Například v roce 2018 Amazon (AMZN ) ukončila své AI náborářské nástroje po zjištění, že jsou předpojaté proti ženským kandidátům. Společnost uznala problém a přestala používat nástroj, demonstrující transparentnost při řešení AI nedostatků.
• Vynaložit peníze na morální trénink AI: Ujistit se, že AI modely jsou trénovány s rozmanitými a inkluzivními daty, aby potlačily předpojatost a urážlivost. V tomto smyslu výzkumníci na University of Washington a Allen Institute for AI vyvinuli Delphi, AI systém navržen pro etické soudy. Ačkoli ukazuje slib, Delphi někdy odráží společenské předpojatosti, zdůrazňující výzvy spojené s trénováním AI s rozmanitými a inkluzivními daty.

Jak se umělá inteligence stává více hluboce integrovanou do komunikace značky, riziko kroků chyby roste. Zatímco AI nabízí cenné efektivnosti, také zavádí jedinečné výzvy, kterým musí značky být připraveny čelit. Proaktivním implementováním kontrolních opatření a přizpůsobených krizových odpovědí plány mohou organizace ochránit svou pověst a udržet spotřebitelskou důvěru v tomto se vyvíjejícím digitálním prostředí.