Rostoucí počet technologických společností, které jsou zrušeny pro AI washing

V roce 2024 bylo 15 společností zabývajících se umělou inteligencí (AI) postiženo regulátory za přehánění schopností svých produktů, a toto číslo se od roku 2023 více než zdvojnásobilo. Případy související s AI jsou na vzestupu a technologické společnosti by se mohly stát terčem, pokud nerozumí vznikajícím předpisům a nevědí, jak jim předcházet.

Co je špatně s marketingem AI dnes?

Zatímco mnoho lidí je obeznámeno s termínem “greenwashing”, teprve v posledním roce se z hype kolem umělé inteligence vyvinula nová forma, nazývaná “AI washing”. Podle BBC lze jev AI washing definovat jako tvrzení, že se používá AI, zatímco ve skutečnosti se používá méně sofistikovaná metoda výpočtu. Vysvětlují, že AI washing může také nastat, když společnosti přehánějí, jak je jejich AI funkční, nebo když společnost kombinuje produkty nebo schopnosti. Například když “společnosti jednoduše přidávají AI chatbota ke svému stávajícímu ne-AI operačnímu softwaru”.

Přeháněná tvrzení o AI jsou nebezpečná pro uživatele a další zúčastněné strany. Tři zřejmé obavy týkající se AI washing se týkají:

• Uživatel platí za něco, co nezíská
• Uživatelé očekávají výsledek, který není dosažitelný
• Akcionáři společnosti nevědí, zda investují do podniku, který skutečně inovuje s AI

AI washing je rostoucí problém, protože technologické společnosti soutěží o větší podíl na trhu. Až 40 % společností, které se v roce 2019 označily za AI startup, nemělo žádnou umělou inteligenci. Tlak na nabídku pokročilé technologie je ještě větší než před pěti lety.

Co pohání AI washing?

Odborníci mají několik teorií o tom, co stojí za touto rostoucí jevem. Douglas Dick, vedoucí oddělení rizik vyvíjející se technologie v KPMG ve Spojeném království, řekl BBC, že to je absence definice AI a neurčitost, která umožňuje AI washing.

Odborníci z Berkely věří, že diskurz organizační kultury je zodpovědný za AI washing, a hlavní důvody pro tento jev zahrnují:

• Chybějící technické znalosti AI ve vedení
• Tlak na nepřetržitou inovaci
• Krátkodobost a hype
• Strach z toho, že něco zmeškáme (FOMO)

AI washing může být také poháněn financováním. Investoři chtějí vidět konzistentní inovace a předhánění konkurentů. I když společnosti belum plně vyvinuly schopnost AI, mohou přilákat pozornost investorů s polovičatými automatizačními nástroji, aby získali další kapitál.

S globálním trhem AI, který by měl dosáhnout přibližně 250 miliard dolarů do konce roku 2025, je snadné pochopit, proč je trend v plném proudu a proč startupy touží po financování. Bohužel, regulátoři si toho všimli.

Společnosti zabývající se AI, které byly obviněny z AI washing

Společnosti, které tvrdí, že používají umělou inteligenci, často používají pouze pokročilé výpočetní a automatizační techniky. Pokud není skutečná infrastruktura datové vědy AI s algoritmy strojového učení, neuronovými sítěmi, zpracováním přirozeného jazyka, rozpoznáváním obrazů nebo nějakou formou obecné AI, může společnost pouze vytvářet kouř a zrcadla se svými tvrzeními o AI.

Jedna společnost zabývající se AI a HR technologií, Joonko, byla uzavřena SEC za podvodné praktiky.

Učení z Joonko

Joonko tvrdilo, že může pomoci zaměstnavatelům identifikovat near-hires, aby mohli zaměstnavatelé získat přístup k těmto fondům. Nápad spočíval v tom, že by to vytvořilo více diverzifikovaných kandidátů, kteří by mohli být představeni náborářům a mít větší šanci být přijati. Joonko bylo tak úspěšné v marketingu své AI, že Eubanks napsal o Joonko ve své první knize, a společnost získala 27 milionů dolarů ve financování VC mezi lety 2021 a 2022.

Když SEC obvinila bývalého CEO Joonko z AI washing a podvodu s cennými papíry, bylo to proto, že nepravdivě představil počet a jména svých zákazníků. Tvrdil, že Joonka prodávala globálním úvěrovým kartám, cestovním a luxusním značek, a padělal bankovní výpisy a objednávky pro investory. CEO obdržel trestní žaloby kromě obvinění SEC proti společnosti.

Učení z Codeway

V roce 2023 byla aplikace Codeway obviněna z klamavé reklamy na Instagramu, která tvrdila, že jejich AI může opravit rozmazané fotografie. Reklama zněla “Vylepšete svou image s AI” a když byla napadena stížností, společnost nedokázala prokázat, jak její aplikace může opravit rozmazanou fotografii sama bez pomoci dalších digitálních procesů pro vylepšení fotografií. Autorita pro standardy reklamy (ASA) potvrdila stížnost a zakázala společnosti spouštět tuto reklamu nebo jakoukoli jinou podobnou.

Další příklady

Ve Spojených státech nedávno provedly FTC a SEC následující opatření:

• Několik obchodních schémat bylo zastaveno poté, co lidé tvrdili, že mohou použít AI k získání peněz s online obchody
• Byla provedena žaloba za více než 190 000 dolarů za neúčinné služby robotického právníka
• Společnost Rytr LLC falešně tvrdila, že může vytvořit AI-generovaný obsah
• Byla uzavřena dohoda o nesprávných tvrzeních o AI tvářích IntelliVision Technologies
• Delphia Inc. a Global Predictions Inc. byly obviněny z falešných tvrzení o AI na svých webových stránkách a sociálních médiích

Vznikající předpisy

Růst technologie AI a AI washing upoutal pozornost regulátorů po celém světě. Ve Spojeném království ASA již vytváří precedens tím, že vede soudní řízení proti neopodstatněným reklamám souvisejícím s AI.

V Kanadě se regulátoři zaměřují na neopodstatněná tvrzení o AI a také na marketingový materiál, který je klamavý nebo přehnaně propaguje technologii AI. Kanadští správci cenných papírů vydali interní sdělení ze dne 7. listopadu 2024, které poskytlo einige příklady toho, co považují za AI washing:

• Společnost AI, která tvrdí, že její emitent narušuje svou průmysl s nejmodernější a nejpokročilejší technologií AI
• Společnost AI, která tvrdí, že je globálním lídrem ve své kategorii AI
• Společnost AI, která přehánějí své použití nebo důležitost pro průmysl

Ve Spojených státech existují státní předpisy, jako je povinný audit AI bias v New York City, který musí mít každá společnost zabývající se AI, která tam operuje. Nicméně neexistují komplexní federální předpisy, které by omezily vývoj nebo použití AI. V prosinci 2024 Kongres Spojených států zvažoval více než 120 různých zákonů o AI. Tyto předpisy by pokryly vše od přístupu AI k jaderným zbraním po autorská práva, ale spoléhaly by se na dobrovolná opatření spíše než na přísné protokoly, které by mohly zpomalit technologický pokrok. Zatímco se tyto zákony projednávají, existuje patchwork federálních zákonů ve Spojených státech v rámci konkrétních departmentů, jako je Federální letecká správa, která říká, že AI v letectví musí být přezkoumána.

Nebuďte AI podvodník

Jak regulátoři pokračují v prosazování různých opatření proti pachatelům AI-washing, technologické společnosti by měly vzít na vědomí. Každá společnost, která tvrdí, že vyrábí skutečnou technologii AI, by měla být schopna své tvrzení podložit. Jejich marketingové týmy by se měly vyvarovat přehánění schopností svých produktů AI, stejně jako výsledků, zákazníků a příjmů. Každá společnost, která je nejistá ve své vlastní technologii nebo marketingu, by měla přezkoumat vznikající legislativu místně a na trzích, na které se zaměřuje. Spotřebitelé nebo společnosti, které zvažují nákup technologie AI, by měli velmi pečlivě prozkoumat produkt, než jej koupí. S případy AI washing v roce 2024 stále v rané fázi soudního řízení, příběh se stále vyvíjí, ale jedna věc je jistá, nechcete, aby vaše společnost byla jeho součástí.