Det voksende antal tech-virksomheder, der bliver anklaget for AI-vask

I 2024 blev 15 AI-teknologivirksomheder ramt af reguleringsmyndighederne for at have overvurderet deres produkters evner, og dette tal er mere end fordoblet siden 2023. AI-relaterede anmeldelser er på vej op, og tech-virksomheder kan blive fanget i krydsild, hvis de ikke forstår de nye reguleringskrav og hvordan de kan undgå dem.

Hvad er galt med AI-markedsføring i dag?

Mange er bekendt med udtrykket “grøn vask”, men det er først i det sidste år, at en ny form er dukket op fra hypen omkring kunstig intelligens, og det kaldes “AI-vask”. Ifølge BBC kan AI-vask defineres som påstande om at bruge AI, når virkeligheden er, at en mindre avanceret beregningsmetode bruges. De forklarer, at AI-vask også kan forekomme, når virksomheder overdriver, hvor operationelle deres AI er, eller når en virksomhed kombinerer produkter eller funktioner sammen. For eksempel, når “virksomheder blot monterer en AI-chatbot på deres eksisterende ikke-AI-operativsoftware”.

Overvurderede AI-påstande er farlige for brugere og andre interessenter. Tre åbenlyse bekymringer om AI-vask kommer i mente:

• Brugeren betaler for noget, de ikke får
• Brugere forventer en udfald, der ikke er opnåeligt
• Virksomhedens interessenter ved ikke, om de investerer i en virksomhed, der virkelig innovrer med AI

AI-vask er et voksende problem, da tech-virksomheder konkurrerer om en større markedsandel. Så mange som 40% af virksomheder, der beskrev sig selv som AI-startups i 2019, havde ingen kunstig intelligens-teknologi. Presset for at tilbyde avanceret teknologi er endnu større nu end for fem år siden.

Hvad driver AI-vask?

Eksperter har nogle teorier om, hvad der ligger bag denne voksende fænomen. Douglas Dick, chef for fremvoksende teknologi-risiko i KPMG i Storbritannien, fortalte BBC, at det er mangel på AI-definition og tvetydighed, der gør AI-vask mulig.

Eksperter på Berkely mener, at diskursen omkring organisationskultur er ansvarlig for AI-vask, og de centrale årsager til dette fænomen inkluderer:

• Mangel på teknisk AI-kundskab i ledelsen
• Pres for kontinuerlig innovation
• Kortsigtede mål og hype
• Frygt for at miste muligheder (FOMO)

AI-vask kan også drives af finansiering. Investorer vil se kontinuerlig innovation og overgåelse af konkurrenter. Selv om mærker ikke har fuldt udviklet en AI-kapacitet, kan de tiltrække investorer med halvfærdige automatiseringsværktøjer for at tjene ekstra kapital.

Med den globale AI-marked, der er på vej til at nå ca. 250 mia. USD ved udgangen af 2025, er det let at forstå, hvorfor bandvognen er i fuld gang, og startups, der er ivrige efter finansiering, er hurtige til at sætte AI-mærket på alt. Desværre har reguleringsmyndighederne taget notits.

AI-teknologivirksomheder anklaget for AI-vask

Virksomheder, der påstår at bruge kunstig intelligens, bruger ofte kun avanceret beregning og automatiseringsteknik. Medmindre virksomheden har en rigtig AI-datavidenskabsinfrastruktur på plads med maskinel læring, neurale netværk, naturlig sprogbehandling, billedgenkendelse eller en form for Gen AI, kan virksomheden blot være ved at sætte røgslør op med deres AI-påstande.

En AI-HR-teknologivirksomhed ved navn Joonko blev lukket af SEC for svindel.

Læring fra Joonko

Joonko påstod, at de kunne hjælpe arbejdsgivere med at identificere nære ansættelser, så arbejdsgiverne kunne tilgå disse puljer. Ideen var, at dette ville skabe flere diverse kandidater til at blive præsenteret for rekrutteringsfolk og have en større chance for at blive ansat. Joonko var så succesfuld med at markedsføre deres AI, at Eubanks skrev om Joonko i sin første bog, og virksomheden fik 27 mio. USD i venturekapital mellem 2021 og 2022.

Da SEC anklaged Joonkos tidligere CEO for AI-vask-sikkerhedsbedrageri, var det, fordi han havde falsk fremstillet antallet og navnene på deres kunder. Han påstod, at Joonka solgte til globale kreditkort, rejse- og luksusmærker, og fabrikerede bankkontoudtog og købsordrer for investorer. CEO’en fik kriminelle anklager ud over SEC-an klagerne mod virksomheden.

Læring fra Codeway

I 2023 blev Codeway-appen anklaget for en misvisende annonce på Instagram, der påstod, at deres AI kunne fikse uklare billeder. Annonsen lød “Forbedre dit billede med AI” og da en klager udfordrede virksomheden, kunne de ikke demonstrere, hvordan deres app kunne fikse et uklart billede på egen hånd uden hjælp fra andre digitale fotoforbedringsprocesser. Reklamestandardiseringsmyndigheden (ASA) opretholdt klagen og forbød virksomheden fra at køre den annonce eller andre lignende.

Andre eksempler

I USA har FTC og SEC nylig gennemført følgende retsforfølgende handlinger:

• Flere forretningsordninger blev standset efter at have påstået, at folk kunne bruge AI til at tjene penge med online-butikker
• En påstand på over 190.000 USD blev iværksat for ineffektive robot-advokattjenester
• En virksomhed ved navn Rytr LLC påstod falsk, at de kunne oprette AI-genereret indhold
• En aftale mod IntelliVision Technologies for misvisende påstande om deres AI-ansigtsgenkendelse
• Delphia Inc. og Global Predictions Inc. blev anklaget for at have lavet falske påstande om AI på deres website og sociale medie-konti

Nye reguleringskrav

Væksten af AI-teknologi og AI-vask har fanget reguleringsmyndighedernes opmærksomhed verden over. I Storbritannien sætter ASA allerede et præcedens ved at retsforfølge ubegrundede AI-relaterede annoncer.

I Canada retter reguleringsmyndighederne sig mod ubegrundede påstande om AI samt markedsføringsmateriale, der er misvisende eller overdriver AI-teknologi. Den canadiske sikkerhedsadministrations myndighed udsendte en medarbejdermeddelelse den 7. november 2024, der delte nogle eksempler på, hvad de betragter som AI-vask:

• En AI-virksomhed, der påstår, at deres udsteder er med til at afbryde deres industri med den mest avancerede og moderne AI-teknologi
• En AI-virksomhed, der påstår, at de er den globale leder i deres AI-kategori
• En AI-virksomhed, der overdriver deres brug eller betydning for industrien

I USA er der stats-specifikke reguleringskrav, som New York Citys obligatoriske AI-forbias-undersøgelser, som hver AI-teknologivirksomhed, der opererer der, er påkrævet at have. Men der er ingen omfattende føderale reguleringskrav, der begrænser udviklingen eller brugen af AI. I december 2024 overvejede den amerikanske kongres mere end 120 forskellige AI-love. Disse reguleringskrav ville dække alt fra AI’s adgang til atomvåben til ophavsret, men de ville afhænge af frivillige foranstaltninger i stedet for strenge protokoller, der kunne sænke den teknologiske fremgang. Mens disse love diskuteres, er der en patchwork af føderale love inden for bestemte afdelinger, som Federal Aviation Administration, der siger, at AI i luftfarten skal gennemgå en gennemgang.

Vær ikke en AI-poser

Da reguleringsmyndighederne fortsætter med at iværksætte forskellige former for handlinger mod AI-vask-forbrydere, bør tech-virksomheder tage notits. Enhver virksomhed, der påstår at lave rigtig AI-teknologi, skal kunne bakke deres påstande op. Deres markedsføringshold skal undgå at overdrive deres virksomheds AI-produkters evner samt udfald, kunder og omsætning. Enhver virksomhed, der er usikker på sin egen teknologi eller markedsføring, skal gennemgå de nye lovgivninger lokalt og inden for de markeder, de handler i. Forbrugere eller virksomheder, der overvejer at købe AI-teknologi, skal kigge meget nøje på produktet, før de køber det. Med de 2024-sager om AI-vask stadig i de tidlige stadier af retsforfølgelse, er historien stadig under udvikling, men en ting er sikker, du vil ikke have, at din virksomhed er en del af det.