Etisk brug af AI er ikke kun det rigtige at gøre – det er også god forretning

Da AI-adoptionen stiger og organisationer i alle brancher omfavner AI-baserede værktøjer og applikationer, burde det ikke være en overraskelse, at cyberkriminelle allerede finder måder at angribe og udnytte disse værktøjer til deres egen fordel. Men selvom det er vigtigt at beskytte AI mod potentielle cyberangreb, strækker AI-risikoen sig langt ud over sikkerheden. Verdens regeringer begynder at regulere, hvordan AI udvikles og bruges – og virksomheder kan påføre sig betydelig reputationskade, hvis de bruger AI på uacceptable måder. I dag opdager virksomheder, at brugen af AI på en etisk og ansvarlig måde ikke kun er det rigtige at gøre – det er også afgørende for at opbygge tillid, overholde regler og forbedre kvaliteten af deres produkter.

Den regulerende virkelighed omkring AI

Den hurtigt udviklende regulerende landskab burde være en alvorlig bekymring for leverandører, der tilbyder AI-baserede løsninger. For eksempel har EU’s AI-lov, der blev vedtaget i 2024, en risikobaseret tilgang til AI-regulering og betragter systemer, der engagerer sig i praksisser som social scoring, manipulerende adfærd og andre potentielt uetiske aktiviteter, som “uacceptabelt”. Disse systemer er forbudt, mens andre “højrisiko”-AI-systemer er underlagt strengere forpligtelser omkring risikovurdering, datakvalitet og gennemsigtighed. Straffen for ikke-overholdelse er strenge: virksomheder, der bruger AI på uacceptable måder, kan få en bøde på op til 35 millioner euro eller 7% af deres årlige omsætning.

EU’s AI-lov er kun ét stykke lovgivning, men det illustrerer tydeligt den høje pris for ikke at opfylde visse etiske grænser. Stater som Californien, New York, Colorado og andre har alle vedtaget deres egne AI-retningslinjer, som mest fokuserer på faktorer som gennemsigtighed, databeskyttelse og biasforebyggelse. Og selvom De Forenede Nationer mangler de gennemføringmekanismer, som regeringer har, er det værd at bemærke, at alle 193 FN-medlemmer enstemmigt fastslog, at “menneskerettigheder og grundlæggende frihedsrettigheder skal respekteres, beskyttes og fremmes i hele livscyklussen for kunstig intelligenssystemer” i en resolution i 2024. Over hele verden er menneskerettigheder og etiske overvejelser i stigende grad øverst på dagsordenen, når det kommer til AI.

Reputationspåvirkningen af dårlig AI-etik

Selvom overholdelsesproblemer er meget reelle, slutter historien ikke der. Faktum er, at prioritering af etisk adfærd kan fundamentalt forbedre kvaliteten af AI-løsninger. Hvis et AI-system har indbygget bias, er det dårligt af etiske årsager – men det betyder også, at produktet ikke fungerer så godt, som det burde. For eksempel er visse ansigtsgenkendelsesteknologier blevet kritiseret for at ikke kunne identificere mørkhudede ansigter så godt som lyshudede ansigter. Hvis en ansigtsgenkendelsesløsning ikke kan identificere en betydelig del af subjekterne, er det et alvorligt etisk problem – men det betyder også, at teknologien ikke leverer den forventede fordel, og kunderne bliver ikke glade. At løse bias-problemer både afhjælper etiske bekymringer og forbedrer produktets kvalitet.
Bekymringer over bias, diskrimination og retfærdighed kan bringe leverandører i vanskeligheder med regulerende myndigheder, men de kan også undergrave kundetillid. Det er en god idé at have visse “røde linjer”, når det kommer til, hvordan AI bruges og hvilke leverandører man samarbejder med. AI-leverandører, der er forbundet med desinformation, massovervågning, social scoring, undertrykkende regeringer eller bare en generel mangel på ansvarlighed, kan gøre kunderne ubekvemme, og leverandører, der tilbyder AI-baserede løsninger, burde tage det i betragtning, når de overvejer, hvem de skal samarbejde med. Gennemsigtighed er næsten altid bedre – de, der nægter at afsløre, hvordan AI bruges eller hvem deres partnere er, ligner de, der skjuler noget, hvilket normalt ikke fremmer positivt sentiment på markedet.

Identificering og afhjælpning af etiske advarselsflag

Kunder lærer mere og mere at se efter tegn på uetisk AI-adfærd. Leverandører, der lover for meget, men forklarer dårligt deres AI-kapaciteter, er sandsynligvis mindre end sandfærdige om, hvad deres løsninger kan gøre. Dårlige datapraksisser, såsom excessiv data-scraping eller manglen på mulighed for at fravælge AI-modeltræning, kan også rejse advarselsflag. I dag burde leverandører, der bruger AI i deres produkter og tjenester, have en klar, offentligt tilgængelig styrestruktur med mekanismer for ansvarlighed. De, der kræver tvungen arbitration – eller endnu værre, tilbyder ingen mulighed for at klage – vil sandsynligvis ikke være gode partnere. Det samme gælder for leverandører, der ikke er villige eller i stand til at give metrics for, hvordan de vurderer og afhjælper bias i deres AI-modeller. I dag ønsker kunderne ikke sorte boks-løsninger – de vil vide, når og hvordan AI anvendes i de løsninger, de afhænger af.
For leverandører, der bruger AI i deres produkter, er det vigtigt at overbevise kunderne om, at etiske overvejelser er øverst på dagsordenen. De, der træner deres egne AI-modeller, har brug for stærke biasforebyggelsesprocesser, og de, der afhænger af eksterne AI-leverandører, må prioritere partnere med en ry for fair adfærd. Det er også vigtigt at give kunderne en valgmulighed: mange er stadig ubekvemme med at stole deres data til AI-løsninger og give en “fravalgs”-mulighed for AI-funktioner, så de kan eksperimentere i deres eget tempo. Det er også afgørende at være åben om, hvor træningsdata kommer fra. Det er etisk, men det er også god forretning – hvis en kunde opdager, at løsningen de afhænger af, blev trænet på ophavsretligt beskyttede data, åbner det dem op for regulerings- eller retslige konsekvenser. Ved at lægge alt åbent kan leverandører opbygge tillid med deres kunder og hjælpe dem med at undgå negative konsekvenser.

Prioritering af etik er den smarte forretningsbeslutning

Tillid har altid været en vigtig del af enhver forretningsrelation. AI har ikke ændret det – men det har introduceret nye overvejelser, som leverandører må adressere. Etiske bekymringer er ikke altid øverst på dagsordenen for forretningsledere, men når det kommer til AI, kan uetisk adfærd have alvorlige konsekvenser – herunder reputationskade og potentielle regulerings- og overholdelseskrænkelser. Endnu værre er, at manglen på opmærksomhed på etiske overvejelser som bias-mitigation kan aktivt skade kvaliteten af en leverandørs produkter og tjenester. Da AI-adoptionen fortsætter med at accelerere, erkender leverandører i stigende grad, at prioritering af etisk adfærd ikke kun er det rigtige at gøre – det er også god forretning.