Modely AI mají potíže s předpovědí nepravidelného chování lidí během pandemie Covid-19

Retailové a servisní společnosti po celém světě využívají algoritmy AI k předpovědi chování zákazníků, inventarizace zásob, odhadu dopadů marketingu a detekci možných případů podvodu. Modely strojového učení používané k těmto předpovědím jsou trénovány na vzorcích odvozených z normální, každodenní činnosti lidí. Bohužel, naše každodenní činnost se změnila během koronavirové pandemie, a jak uvádí MIT Technology Review, současné modely strojového učení jsou kvůli tomu vyřazeny. Těžkost problému se liší od společnosti k společnosti, ale mnoho modelů bylo negativně ovlivněno náhlou změnou chování lidí v průběhu posledních několika týdnů.

Když nastala pandemie koronaviru, nákupní zvyky lidí se dramaticky změnily. Před začátkem pandemie byly nejčastěji nakupovanými předměty věci jako pouzdra na telefony, nabíječky, sluchátka, kuchyňské potřeby. Po začátku pandemie se mezi top 10 vyhledávaných termínů na Amazonu objevily věci jako Cloroxové utěrky, Lysolový sprej, papírové utěrky, dezinfekční gel, roušky a toaletní papír. V průběhu posledního týdne února se všechny top vyhledávané termíny na Amazonu staly souvisejícími s produkty, které lidé potřebovali k ochraně před Covid-19. Korelace mezi vyhledáváním produktů souvisejících s Covid-19 a šířením nemoci je tak spolehlivá, že ji lze použít k sledování šíření pandemie v různých geografických oblastech. Přesto modely strojového učení selhávají, když jsou vstupy modelu příliš odlišné od dat, která byla použita k jeho trénování.

Volatilita situace způsobila obtíže při automatizaci dodavatelských řetězců a inventarizace. Rael Cline, generální ředitel londýnské poradenské společnosti Nozzle, vysvětlil, že společnosti se snaží optimalizovat poptávku po toaletním papíru z minulého týdne, zatímco “tento týden všichni chtějí koupit puzzle nebo sportovní vybavení”.

Jiné společnosti mají své vlastní problémy. Jedna společnost poskytuje investiční doporučení na základě sentimentu různých novinových článků, ale protože sentiment novinových článků v současné době je často pesimističtější než obvykle, investiční doporučení by mohla být silně zkreslena směrem k negativu. Mezitím společnost streamující videa využívala algoritmy doporučení, aby navrhla obsah divákům, ale když se mnoho lidí náhle zapsalo do služby, jejich doporučení začala selhávat. Další společnost, která zásobovala maloobchodníky v Indii kořením a omáčkami, zjistila, že hromadné objednávky rozbité jejich předpovědní modely.

Různé společnosti řeší problémy způsobené pandemickými vzorci chování různými způsoby. Některé společnosti jednoduše revidují své odhady směrem dolů. Lidé stále pokračují v odběru Netflixu a nakupují produkty na Amazonu, ale snížili výdaje na luxusní zboží a odložili nákup velkých položek. V jistém smyslu lze chování lidí při nakupování považovat za kontrakci jejich obvyklého chování.

Jiné společnosti musely být více ručně zapojeny do svých modelů a nechaly inženýry provést důležité úpravy modelu a jeho trénovacích dat. Například Phrasee je společnost AI, která využívá modely přirozeného jazykového zpracování a generování k vytváření kopií a reklam pro různé klienty. Phrasee vždy nechává inženýry zkontrolovat text, který model generuje, a společnost začala manuálně filtrovat určité fráze ve svých kopiích. Phrasee se rozhodla zakázat generování frází, které by mohly povzbudit nebezpečné činnosti během doby sociální distancování, fráze jako “party wear”. Rozhodli se také omezit termíny, které by mohly vést k úzkosti, jako “připravte se”, “připoutejte se” nebo “zásobte se”.

Krizi Covid-19 prokázala, že neobvyklé události mohou vyřadit i vysoce trénované modely, které jsou obvykle spolehlivé, protože věci mohou být mnohem horší než nejhorší scénáře, které jsou obvykle zahrnuty do trénovacích dat. Rajeev Sharma, generální ředitel poradenské společnosti AI Pactera Edge, vysvětlil MIT Technology Review, že modely strojového učení by mohly být učiněny více spolehlivými tím, že by byly trénovány na neobvyklé události, jako je pandemie Covid-19 a Velká hospodářská krize, kromě obvyklých vzestupů a poklesů.