Rosnąca liczba firm technologicznych oskarżanych o AI washing

W 2024 roku 15 firm technologicznych zajmujących się sztuczną inteligencją zostało ukaranych przez regulatorów za przesadne twierdzenia dotyczące możliwości ich produktów, a liczba ta ponad dwukrotnie przewyższa liczbę z 2023 roku. Pozwy związane ze sztuczną inteligencją są w crescendo, a firmy technologiczne mogą znaleźć się pod ostrzałem, jeśli nie zrozumieją nowych regulacji i nie będą w stanie ich uniknąć.

Czy coś jest nie tak z marketingiem AI dzisiaj?

Podczas gdy wiele osób jest zaznajomionych z terminem „greenwashing”, to dopiero w ciągu ostatniego roku pojawiła się nowa forma, która wyłoniła się z hossy wokół sztucznej inteligencji, a nazywa się „AI washing”. Zgodnie z BBC, zjawisko AI washing można zdefiniować jako twierdzenie, że się używa sztucznej inteligencji, podczas gdy w rzeczywistości używa się mniej zaawansowanej metody obliczeń. Wyjaśniają, że AI washing może również wystąpić, gdy firmy przesadnie twierdzą, jak operacyjna jest ich sztuczna inteligencja lub gdy firma łączy produkty lub możliwości. Na przykład, gdy „firmy po prostu montują czatbota AI na swoje istniejące oprogramowanie nie-AI”.

Przesadne twierdzenia dotyczące AI są niebezpieczne dla użytkowników i innych interesariuszy. Trzy oczywiste obawy dotyczące AI washing przychodzą na myśl:

• Użytkownik płaci za coś, czego nie otrzymuje
• Użytkownicy oczekują rezultatu, którego nie można osiągnąć
• Stakeholderzy firmy nie wiedzą, czy inwestują w firmę, która naprawdę innowuje z AI

AI washing jest coraz większym problemem, ponieważ firmy technologiczne konkurują o większy udział w rynku. Jak wiele, jak 40% firm, które określały się jako startup AI w 2019 roku, nie miało w ogóle technologii sztucznej inteligencji. Presja na oferowanie zaawansowanej technologii jest jeszcze większa teraz niż pięć lat temu.

Czy co powoduje AI washing?

Eksperci mają kilka teorii na temat tego, co stoi za tym rosnącym zjawiskiem. Douglas Dick, szef ryzyka technologii wschodzących w KPMG w Wielkiej Brytanii, powiedział BBC, że jest to brak definicji AI i niejasność, która sprawia, że AI washing jest możliwy.

Eksperci z Berkely uważają, że dyskurs kultury organizacyjnej jest odpowiedzialny za AI washing, a podstawowe powody tego zjawiska obejmują:

• Brak wiedzy technicznej na temat AI w kierownictwie
• Ciśnienie na ciągłą innowację
• Krótkowzroczność i hossa
• Strach przed pozostaniem w tyle (FOMO)

AI washing może być również powodowany przez finansowanie. Inwestorzy chcą widzieć ciągłą innowację i przewyższanie konkurencji. Nawet jeśli marki nie mają w pełni rozwiniętej zdolności AI, mogą przyciągnąć uwagę inwestorów półgotowymi narzędziami automatyzacji, aby uzyskać dodatkowy kapitał.

Z globalnym rynkiem AI, który ma osiągnąć około 250 miliardów dolarów do końca 2025 roku, łatwo zrozumieć, dlaczego lawina jest w pełnym toku, a startupy chętne do finansowania są szybkie w przyklejaniu etykiety AI do wszystkiego. Niestety, regulatorzy zwrócili na to uwagę.

Firmy technologiczne oskarżone o AI washing

Firmy, które twierdzą, że używają sztucznej inteligencji, często używają tylko zaawansowanych technik obliczeniowych i automatyzacji. Chyba że prawdziwa infrastruktura nauki danych AI z algorytmami uczenia maszynowego, sieciami neuronowymi, przetwarzaniem języka naturalnego, rozpoznawaniem obrazu lub jakąś formą Gen AI jest w grze, firma może po prostu stawiać smoke and mirrors ze swoimi twierdzeniami AI.

Jedna firma technologiczna HR o nazwie Joonko została zamknięta przez SEC za praktyki oszustw.

Nauka z Joonko

Joonko twierdziło, że może pomóc pracodawcom zidentyfikować potencjalnych kandydatów, aby mogli oni dotrzeć do tych pul. Pomysł był taki, że to stworzyłoby więcej różnorodnych kandydatów, których można by przedstawić rekruterom i którzy mieliby większe szanse na zatrudnienie. Joonko było tak skuteczne w marketingu swojego AI, że Eubanks napisał o Joonko w swojej pierwszej książce, a firma pozyskała 27 milionów dolarów w finansowaniu VC między 2021 a 2022 rokiem.

Gdy SEC oskarżył byłego CEO Joonko o AI washing i oszustwo związane z papierami wartościowymi, było to dlatego, że fałszywie przedstawił liczbę i nazwy swoich klientów. Twierdził, że Joonka sprzedawała kartom kredytowym, firmom turystycznym i luksusowym, i sfałszował oświadczenia bankowe i zamówienia dla inwestorów. CEO otrzymał zarzuty karne w dodatku do zarzutów SEC przeciwko firmie.

Nauka z Codeway

W 2023 roku aplikacja Codeway została oskarżona o wprowadzający w błąd reklamę na Instagramie, w której twierdziła, że jej AI może naprawić rozmyte zdjęcia. Reklama brzmiała „Popraw swój obraz za pomocą AI” i gdy ją zakwestionowano, firma nie była w stanie udowodnić, że jej aplikacja może naprawić rozmyte zdjęcie bez pomocy innych procesów cyfrowego udoskonalania zdjęć. Advertising Standards Authority (ASA) utrzymała skargę i zabroniła firmie wyświetlać tę reklamę lub jakąkolwiek inną podobną.

Inne przykłady

W Stanach Zjednoczonych FTC i SEC niedawno przeprowadziły następujące działania egzekucyjne :

• Wielokrotne schematy biznesowe zostały zatrzymane po twierdzeniach, że ludzie mogą używać AI do zarabiania pieniędzy za pomocą sklepów internetowych
• Zażalenie na kwotę ponad 190 000 dolarów zostało podjęte za nieskuteczne usługi prawnicze robotów
• Firma o nazwie Rytr LLC fałszywie twierdziła, że może tworzyć treści generowane przez AI
• Umowa ugodowa przeciwko IntelliVision Technologies za mylne twierdzenia dotyczące ich rozpoznawania twarzy AI
• Delphia Inc. i Global Predictions Inc. zostały oskarżone o składanie fałszywych twierdzeń o AI na swojej stronie internetowej i kontach w mediach społecznościowych

Nowe regulacje

Rozwój technologii AI i AI washing zwrócił uwagę regulatorów na całym świecie. W Wielkiej Brytanii ASA już ustanawia precedens, ścigając nieuzasadnione reklamy związane z AI.

W Kanadzie regulatorzy celują w nieuzasadnione twierdzenia dotyczące AI, a także materiały marketingowe, które są mylne lub nadmiernie promują technologię AI. Kanadyjski Urząd Nadzoru Papierów Wartościowych i Rynków wydał zawiadomienie personelu z dnia 7 listopada 2024 roku, w którym podano przykłady tego, co uważa się za AI washing:

• Firma AI twierdzi, że jej emitent jest firmą, która burzy branżę dzięki najnowocześniejszej i najbardziej zaawansowanej technologii AI
• Firma AI twierdzi, że jest światowym liderem w swojej kategorii AI
• Firma AI przesadnie twierdzi o swoim użyciu lub znaczeniu w branży

W Stanach Zjednoczonych istnieją regulacje stanowe, takie jak obowiązkowe audyty AI w Nowym Jorku, które każda firma technologiczna AI musi mieć. Jednak nie ma kompleksowych federalnych regulacji, które ograniczają rozwój lub użycie AI. W grudniu 2024 roku Kongres Stanów Zjednoczonych rozważał ponad 120 różnych projektów ustaw dotyczących AI. Te regulacje obejmowałyby wszystko, od dostępu AI do broni jądrowych po prawa autorskie, ale opierałyby się na dobrowolnych środkach, a nie surowych protokołach, które mogłyby spowolnić postęp technologiczny. Podczas gdy te projekty ustaw są debatowane, istnieje patchwork praw federalnych w ramach poszczególnych departamentów, takich jak Federal Aviation Administration, które mówi, że AI w lotnictwie musi być przeglądany.

Nie bądź oszustem AI

Podczas gdy regulatorzy kontynuują egzekwowanie różnych rodzajów działań przeciwko sprawcom AI washing, firmy technologiczne powinny zwrócić na to uwagę. Każda firma, która twierdzi, że rozwija prawdziwą technologię AI, powinna być w stanie udowodnić swoje twierdzenia. Ich zespoły marketingowe powinny unikać przesadnych twierdzeń dotyczących możliwości produktów AI, a także wyników, klientów i przychodów. Każda firma, która nie jest pewna swojej technologii lub marketingu, powinna przejrzeć nowe ustawodawstwo lokalne i w rynkach, w których sprzedaje. Konsumenci lub firmy, które rozważają zakup technologii AI, powinny bardzo dokładnie przyjrzeć się produktowi przed jego zakupem. Z przypadkami AI washing w 2024 roku nadal w wczesnych stadiach procesu sądowego, historia jest jeszcze nieznana, ale jedna rzecz jest pewna, nie chcesz, aby twoja firma była częścią tego.