Varför Blind Tillit till AI Kan Vara Ditt Värsta Beslut Hittills

1979 publicerade IBM en manual som innehöll en enkel men slående varning: “En dator kan aldrig hållas ansvarig; därför bör en dator aldrig fatta ett ledningsbeslut.” Och mer än 45 år senare känns denna varning som en försummad profetia.

2025 är en annan tid. AI assisterar inte längre bara, utan fattar autonoma beslut och leder i många fall. Faktum är att runt 74% av chefer har större förtroende för AI när det gäller affärsråd jämfört med kollegor eller vänner, 38% litar på AI för att fatta affärsbeslut och 44% följer teknologins resonemang snarare än sina egna insikter. Skiftet är tydligt; AI är den nya magkänslan.

Men det finns ett problem. Förtroende för AI är endast möjligt om algoritmen är värdig att lita på. Och när förtroendet placeras blint, särskilt i svarta lådor som vi inte kan förstå eller granska, är det en risk som maskeras som framsteg. Precis som med mänskligt ledarskap är förtroende utan ansvar farligt, och när AI gör fel, vem tar på sig ansvaret?

När Verktyget Blir Chefen

Det som började som ett verktyg för att effektivisera bakkontorsoperationer används nu i kärnverksamhetsprocesser. Men företagen använder inte bara AI för att stödja mänskliga beslut; de litar nu på AI, särskilt generativ AI (GenAI), för att fatta affärsbeslut, från affärsstrategi till kundservice, finansiell modellering och mer.

Detta skifte är förståeligt. AI blir inte distraherad, glömmer inte instruktioner eller låter känslor molna dess omdöme. För många företag erbjuder detta en tilltalande motgift mot riskerna med mänskliga fel. Men en viktig fråga kvarstår: kan vi lita på AI för att fatta beslut på egen hand?

Det är inte ett enkelt svar, men ett sätt att se på det är hur vi bedömer människors tillförlitlighet: genom deras kompetens, tillförlitlighet och tydliga avsikt. Samma principer gäller för AI.

För att AI ska vara tillförlitligt måste systemet leverera resultat som är precisa, punktliga och lämpliga. Men nivån på förtroende och marginalen för fel varierar beroende på sammanhang. Till exempel när man diagnostiserar cancer från medicinska bilder är ribban för fel extremt låg. Å andra sidan, när man genererar idéer för en marknadsföringskampanj, finns det mer utrymme för experiment.

Vi har sett AI användas för att fatta autonoma beslut inom områden som kreditgodkännanden, där banker använder algoritmer för att bestämma låneberättigande på några sekunder. Återförsäljare använder AI för att hantera lager och prissättning utan mänsklig inblandning. Men vi har också sett misslyckanden – som självkörande bilar som missbedömer vägförhållanden.

En varnande berättelse visar riskerna med att placera för mycket förtroende till AI utan tillräcklig tillsyn. Derek Mobley – en svart man över 40 – ansökte till över 100 positioner genom Workday AI-drivet rekryteringssystem sedan 2017 och blev refuserad varje gång. Han påstod diskriminering baserat på ålder och ras. I maj 2025 beviljade domstolen en nationell kollektiv talan. Klassen inkluderar alla sökande som är 40+ som ansökt genom Workday sedan september 2020 och som nekades baserat på AI-rekommendationer.

Detta exempel gör en viktig poäng: AI saknar emotionell intelligens, moraliskt resonemang eller en naturlig känsla av rättvisa. Och eftersom AI flyttar från mänsklig assistent till oberoende beslutsfattare, finns det nu ett ansvarsvakuum. När algoritmer tillåts köra utan mänsklig kontroll och balans, kan de och gör de dåliga beslut och förstärker befintliga fördomar.

Frågan Omkring Svarta Lådor

Svarta lådor – när ett AI-system och logik inte är fullständigt synliga – är alltmer vanliga. Även om de kan ha synliga lager, kan utvecklare och användare fortfarande inte se vad som händer i varje lager, vilket gör dem ogenomskinliga.

Till exempel är ChatGPT en svart låda, eftersom till och med dess skapare är osäkra på hur det fungerar, eftersom det är tränat på så stora datamängder. Men på grund av bristen på transparens, är det någonsin okej att “lita” på en AI-modell utan att fullständigt förstå hur den fungerar?

Kort sagt, nej: AI-hallucinationer blir värre. Detta innebär att i högriskscenarier, som finansiella beslut, juridisk rådgivning och medicinska insikter, kräver AI rigorös validering, korsreferens och mänsklig tillsyn.

Den Disney och Universal-stämningsansökan som lämnades in i juni 2025 förstärker denna punkt. Studiorna påstår att GenAI-verktyg tränades på upphovsrättsskyddat material för att skapa nytt innehåll utan samtycke. Detta fall belyser en ny verklighet: när företag distribuerar AI-modeller som de inte fullständigt förstår, kan de hållas ansvariga för beslut som fattas. Och okunskap är ingen ursäkt; det är en skuld.

Men vi litar ofta på komplexa system som vi inte förstår. Till exempel kan de flesta flygresenärer inte förklara fysiken bakom flyg, men människor går ombord på plan med förtroende eftersom vi byggt förtroende genom upprepad exponering, kollektiv erfarenhet och en stark säkerhetsrekord.

Samma logik kan återigen tillämpas på AI. Det är orealistiskt att förvänta sig att alla ska förstå hur LLM fungerar. Men förtroende byggs inte på förståelse; det kräver bekantskap, transparens om begränsningar och ett bevisat mönster av tillförlitlig prestanda. Aerospace-ingenjörer vet vilka tester som ska utföras och vilka fel som ser ut, och vi måste kräva samma sak av GenAI-leverantörer. Den grundläggande principen för AI bör vara förtroende, men verifiera.

Dessutom tror affärsledare ofta att AI kommer att vara den silverkula som löser alla deras affärsproblem. Men denna myt plågar många företag när de integrerar AI. Ledare kan föredra komplexa och sofistikerade modeller, men en enklare lösning kan vara bättre lämpad om de genomför en kostnads-nyttoanalys. AI är ett kraftfullt instrument, men det är inte lämpligt för varje uppgift. Företag måste känna till problemet innan de väljer ett verktyg.

Återuppbygga Förtroende för AI

Medan det är tydligt att blint förtroende för AI är ett problem, kan AI-system och algoritmer vara det bästa verktyget ett företag någonsin ägt – när de används säkert.

För företag som vill utnyttja AI-verktyg bör den första forskningen vara leverantörernas due diligence. När ett företag har identifierat ett område som kan dra nytta av AI-effektivitet, bör affärsledare utvärdera leverantörer inte bara på prestandaanspråk utan på styrningskontroller. Detta inkluderar granskning av hur modeller utvecklas, om förklarlingsverktyg finns på plats, hur fördomar övervakas och om revisionsledningar är tillgängliga. Att välja en leverantör med transparenta processer är avgörande för att mildra risken från början.

Kanske den viktigaste punkten när man bygger förtroende för AI-system är att säkerställa datastyrning med rena, representativa och väl dokumenterade datamängder. Som uttrycket lyder: “skräp in, skräp ut”. Därför, om data är ofullständig, fördomsfull eller felaktig, kommer även den mest avancerade modellen att producera opålitliga resultat.

För att säkerställa att data är AI-klar bör företag:

• Granska befintliga datamängder för luckor och dubblett, och kontrollera källor till fördomar

• Standardisera dataformat

• Implementera datastyrningspolicyer som definierar ägande och åtkomstkontroller

Ett annat viktigt steg för affärsledare att genomföra är stress-testning under olika förhållanden. Även om en modell kan fungera bra i kontrollerade tester, är det avgörande att förstå modellens begränsningar när den möter nya data eller inmatningar som den inte förväntade sig. Därför är det viktigt att testa AI i en mängd olika situationer, med olika typer av användare, olika användningsfall och data från olika tidsperioder.

AI-validering är också en pågående uppgift. När data förändras över tiden, kan även tillförlitliga AI-modeller förlora noggrannhet. Därför är regelbunden övervakning viktig. Företag måste övervaka hur modellen fungerar från dag till dag: är den fortfarande exakt? Eller ökar de falska positiva? Och precis som vilket system som helst som behöver underhåll, bör modeller omtränas regelbundet med färsk data för att förbli relevanta.

AI är inte pålitligt eller opålitligt; det formas av de data det lär sig från, de människor som skapar det och de regler som styr det. När AI utvecklas från ett användbart verktyg till en affärsrådgivare, har ledare möjligheten att inte bara använda det, utan att göra det på ett genomtänkt och etiskt sätt. Om vi gör det rätt, kommer AI inte bara att vara kraftfullt i framtiden, utan också ansvarsfullt, med ansvar som tydligt vilar på dess utvecklare och chefer.