Etisk AI-användning är inte bara rätt sak att göra – det är också god affär

I takt med att AI-användningen ökar kraftigt och organisationer i alla branscher anammar AI-baserade verktyg och applikationer, borde det inte komma som någon överraskning att cyberbrottslingar redan hittar sätt att rikta in sig på och utnyttja dessa verktyg för egen vinning. Men även om det är viktigt att skydda AI mot potentiella cyberattacker, sträcker sig frågan om AI-risker långt bortom säkerhet. Över hela världen börjar regeringar reglera hur AI utvecklas och används – och företag kan ådra sig betydande ryktesskador om de upptäcks använda AI på olämpliga sätt. Dagens företag upptäcker att det inte bara är rätt att använda AI på ett etiskt och ansvarsfullt sätt – det är avgörande att bygga förtroende, upprätthålla efterlevnad och till och med förbättra kvaliteten på sina produkter.

Den regulatoriska verkligheten kring AI

Det snabbt föränderliga regelverket bör vara en allvarlig oro för leverantörer som erbjuder AI-baserade lösningar. Till exempel EU:s AI-lag, som antogs 2024, antar en riskbaserad strategi för AI-reglering och anser att system som använder sig av metoder som social poängsättning, manipulativt beteende och andra potentiellt oetiska aktiviteter är "oacceptabla". Dessa system är helt förbjudna, medan andra "högrisk"-AI-system är föremål för strängare skyldigheter gällande riskbedömning, datakvalitet och transparens. Straffen för bristande efterlevnad är allvarliga: företag som använder AI på oacceptabla sätt kan bötfällas med upp till 35 miljoner euro eller 7 % av sin årsomsättning.

EU:s AI-lag är bara en enda lagstiftning, men den illustrerar tydligt den höga kostnaden för att inte uppfylla vissa etiska tröskelvärden. Stater som Kalifornien, New York, Colorado och andra har alla antagit sina egna AI-riktlinjer, varav de flesta fokuserar på faktorer som transparens, dataskydd och förebyggande av partiskhet. Och även om FN saknar de verkställighetsmekanismer som regeringar åtnjuter, är det värt att notera att alla 193 FN-medlemmar enhälligt bekräftat att ”mänskliga rättigheter och grundläggande friheter måste respekteras, skyddas och främjas under hela livscykeln för artificiell intelligens” i en resolution från 2024. Över hela världen är mänskliga rättigheter och etiska överväganden alltmer i fokus när det gäller AI.

Den ryktesmässiga effekten av dålig AI-etik

Även om problem med efterlevnad är mycket verkliga, slutar inte historien där. Faktum är att prioritering av etiskt beteende i grunden kan förbättra kvaliteten på AI-lösningar. Om ett AI-system har inneboende partiskhet är det dåligt av etiska skäl – men det betyder också att produkten inte fungerar så bra som den borde. Till exempel har viss ansiktsigenkänningsteknik kritiserats för misslyckas med att identifiera mörkhyade ansikten såväl som ljushyade ansikten. Om en ansiktsigenkänningslösning misslyckas med att identifiera en betydande del av försökspersonerna, utgör det ett allvarligt etiskt problem – men det betyder också att tekniken i sig inte ger den förväntade nyttan, och kunderna kommer inte att vara nöjda. Att ta itu med partiskhet mildrar både etiska problem och förbättrar kvaliteten på själva produkten.

Oro över partiskhet, diskriminering och rättvisa kan försätta leverantörer i konflikt med tillsynsmyndigheter, men det urholkar också kundernas förtroende. Det är en bra idé att ha vissa "röda linjer" när det gäller hur AI används och vilka leverantörer man ska samarbeta med. AI-leverantörer som förknippas med desinformation, massövervakning, social scoring, förtryckande regeringar eller till och med bara en allmän brist på ansvarsskyldighet kan göra kunderna oroliga, och leverantörer som tillhandahåller AI-baserade lösningar bör ha det i åtanke när de överväger vem de ska samarbeta med. Transparens är nästan alltid bättre – de som vägrar att avslöja hur AI används eller vilka deras partners är ser ut som om de döljer något, vilket vanligtvis inte främjar en positiv stämning på marknaden.

Identifiera och mildra etiska varningssignaler

Kunder lär sig i allt högre grad att leta efter tecken på oetiskt AI-beteende. Leverantörer som lovar för mycket men underförklarar sina AI-funktioner är förmodligen mindre än sanningsenliga om vad deras lösningar faktiskt kan göra. Dåliga datahanteringsmetoder, såsom överdriven dataskrapning eller oförmågan att välja bort AI-modellutbildning, kan också väcka varningssignaler. Idag bör leverantörer som använder AI i sina produkter och tjänster ha ett tydligt, offentligt tillgängligt styrningsramverk med mekanismer för ansvarsskyldighet. De som föreskriver tvångsskiljeförfarande – eller ännu värre, inte erbjuder någon möjlighet alls – kommer sannolikt inte att vara bra partners. Detsamma gäller leverantörer som är ovilliga eller oförmögna att tillhandahålla de mätvärden med hjälp av vilka de bedömer och hanterar partiskhet i sina AI-modeller. Dagens kunder litar inte på svarta lådans lösningar – de vill veta när och hur AI används i de lösningar de förlitar sig på.

För leverantörer som använder AI i sina produkter är det viktigt att förmedla till kunderna att etiska överväganden är högsta prioritet. De som tränar sina egna AI-modeller behöver starka processer för att förebygga partiskhet, och de som förlitar sig på externa AI-leverantörer måste prioritera partners med ett rykte om sig att uppföra sig rättvist. Det är också viktigt att erbjuda kunderna ett val: många känner sig fortfarande obekväma med att anförtro sina data till AI-lösningar, och att erbjuda möjligheten att "välja bort" AI-funktioner gör att de kan experimentera i sin egen takt. Det är också avgörande att vara transparent om var träningsdata kommer ifrån. Återigen, detta är etiskt, men det är också en god affär – om en kund upptäcker att lösningen de förlitar sig på har tränats på upphovsrättsskyddad data, öppnar det upp dem för reglerings- eller rättsliga åtgärder. Genom att offentliggöra allt kan leverantörer bygga förtroende hos sina kunder och hjälpa dem att undvika negativa resultat.

Att prioritera etik är det smarta affärsbeslutet

Förtroende har alltid varit en viktig del av varje affärsrelation. AI har inte förändrat det – men det har infört nya överväganden som leverantörer måste ta itu med. Etiska frågor är inte alltid högst upp i åtanke för företagsledare, men när det gäller AI kan oetiskt beteende få allvarliga konsekvenser – inklusive skador på anseende och potentiella regel- och efterlevnadsöverträdelser. Ännu värre är att bristande uppmärksamhet på etiska överväganden som att minska partiskhet aktivt kan skada kvaliteten på en leverantörs produkter och tjänster. I takt med att AI-användningen fortsätter att accelerera inser leverantörer i allt högre grad att det inte bara är rätt sak att göra att prioritera etiskt beteende – det är också en god affär.