Modely AI mají problémy s předpovědí nepravidelného chování lidí během pandemie Covid-19

Maloobchodní a servisní společnosti po celém světě využívají algoritmy AI k předpovědi chování zákazníků, zásoby zásob, odhadu dopadu marketingu a detekci možných případů podvodu. Modely strojového učení používané k těmto předpovědím jsou školeny na vzorcích odvozených z normální, každodenní činnosti lidí. Bohužel, naše každodenní aktivita se změnila během koronavirové pandemie a jak MIT Technology Review uvedl, současné modely strojového učení jsou kvůli tomu vyřazeny. Závažnost problému se liší od společnosti k společnosti, ale mnoho modelů bylo negativně ovlivněno náhlou změnou chování lidí v průběhu posledních několika týdnů.

Když nastala koronavirová pandemie, nákupní zvyky lidí se dramaticky změnily. Před vypuknutím pandemie byly nejčastěji nakupovanými předměty věci jako pouzdra na telefony, nabíječky, sluchátka, kuchyňské potřeby. Po začátku pandemie se mezi top 10 vyhledávaných termínů na Amazonu objevily věci jako Clorox wipes, Lysol spray, papírové ručníky, dezinfekční prostředky, roušky a toaletní papír. Během posledního týdne února se všechny top vyhledávané termíny na Amazonu staly souvisejícími s produkty, které lidé potřebovali k ochraně před Covid-19. Korelace vyhledávání/příjmů produktů souvisejících s Covid-19 a šíření nemoci je tak spolehlivá, že ji lze použít k sledování šíření pandemie v různých geografických oblastech. Přesto se modely strojového učení rozpadají, když vstupní data modelu jsou příliš odlišná od dat použitých k jeho školení.

Nestabilita situace způsobila obtíže při automatizaci dodavatelských řetězců a zásob. Rael Cline, generální ředitel londýnské konzultační společnosti Nozzle, vysvětlil, že společnosti se snaží optimalizovat poptávku po toaletním papíru z minulého týdne, zatímco “tento týden všichni chtějí koupit puzzle nebo fitness vybavení”.

Jiné společnosti mají své vlastní problémy. Jedna společnost poskytuje investiční doporučení na základě sentimentu různých novinových článků, ale protože sentiment novinových článků v současné době je často pesimističtější než obvykle, investiční doporučení by mohla být silně zkreslena směrem k negativu. Mezitím společnost, která poskytuje streamovací videoobsah, využívala algoritmy doporučení k navržení obsahu divákům, ale když se mnoho lidí náhle přihlásilo k této službě, jejich doporučení začala být méně přesná. Jiná společnost, která zásobuje maloobchodníky v Indii kořením a omáčkami, zjistila, že velké objednávky rozbité jejich předpovědní modely.

Různé společnosti řeší problémy způsobené pandemickými vzorci chování různými způsoby. Některé společnosti prostě revidují své odhady dolů. Lidé stále pokračují v odběru Netflixu a nakupují produkty na Amazonu, ale snížili své výdaje na luxusní zboží a odložili nákup velkých položek. V jistém smyslu lze chování lidí při utrácení peněz považovat za kontrakci jejich obvyklého chování.

Jiné společnosti musely být více ručně zapojeny do svých modelů a nechat inženýry provést důležité úpravy modelu a jeho školicích dat. Například Phrasee je společnost AI, která využívá modely zpracování a generování přirozeného jazyka k vytváření kopií a reklam pro různé klienty. Phrasee vždy nechává inženýry zkontrolovat text vygenerovaný modelem a společnost začala ručně filtrovat určité fráze ve své kopií. Phrasee se rozhodla zakázat generování frází, které by mohly povzbudit nebezpečné činnosti během doby sociální distancování, fráze jako “party wear”. Rozhodli se také omezit termíny, které by mohly vést k úzkosti, jako “připravte se”, “připoutejte se” nebo “zásobte se”.

Krizi Covid-19 prokázala, že neobvyklé události mohou vyřadit i vysoce školené modely, které jsou obvykle spolehlivé, protože věci mohou být mnohem horší než nejhorší scénáře, které jsou obvykle zahrnuty do školicích dat. Rajeev Sharma, generální ředitel poradenské společnosti AI Pactera Edge, vysvětlil MIT Technology Review, že modely strojového učení by mohly být učiněny spolehlivějšími tím, že by byly školeny na neobvyklých událostech, jako je pandemie Covid-19 a Velká hospodářská krize, kromě obvyklých vzestupů a poklesů.