Tankeledare

Om en bot får flörta med barn, vad får den mer göra med dina data?

Victor Cho
Lägg till Unite.AI bland dina föredragna källor på Google
A professional boardroom at night featuring a large monitor displaying a glowing
Viktiga punkterDe flesta anställda klistrar in företagsdata i konsument-AI-verktyg utan företagsskydd.
Visa mer
  • De flesta anställda klistrar in företagsdata i konsument-AI-verktyg utan företagsskydd.
  • AI komprimerar kontext och fråntar nyanser i känsliga affärskommunikationer.
  • Varje AI-system speglar skaparnas bedömningar, inte bara dess kod.

När läckta interna riktlinjer avslöjade att Meta tillät sina AI-chattbotar att flörta med barn, behandlade de flesta det som en skandal och gick vidare. Men det är värt att ta en närmare titt på vad utredningen berättar om det nuvarande tillståndet för AI-etik: Om ett företag som Meta godkänner sådana riktlinjer i den skala företaget verkar i, vad annat tillåter dessa plattformar tyst? Och hur mycket av det involverar dina data?

Företagsledare tenderar att utvärdera AI-verktyg utifrån vad de kan göra, hur snabbt och till vilken kostnad. Men det finns svårare frågor som är värda att ställa, särskilt när AI-verktyg snabbt blir en självklarhet: Vilka villkor samtycker du till när dina team börjar använda AI-verktyg? Vad gör modellleverantörerna och agentbyggarna med dina data? Och när något går fel, vem tar ansvar?

De flesta organisationer är så upptagna med att försöka få ut så mycket pengar som möjligt av den här nya tekniken, att de inte har hunnit fundera på den viktigaste frågan:

Vad händer egentligen med dina data?

De flesta människor överskattar antingen kraftigt risken för att dela något med en chattbot eller avfärdar frågan helt. Faktum är att stora språkmodeller är, i en viss mening, frusna när de är tränade och släppta till allmänheten. Det betyder att dina samtal lagras separat, inte direkt kopplade till systemets minne; vad du sa till ChatGPT i morse påverkar inte omedelbart vad modellen skulle säga till någon annan på eftermiddagen.

Det betyder inte att dina data inte används. De används. Vägen är bara mer komplicerad.

Samtalsloggar lagras separat, och många AI-laboratorier förbehåller sig uttryckligen rätten att använda dem för att träna nästa version av sin modell. Det står rätt där i villkoren. Vad som kommer in som en kundsupportförfrågan eller en strategi-brainstorm idag kan, över tid, påverka en modell som miljontals kommer att använda imorgon.

Risken för konfidentiella data går utöver policyn. År 2025 exponerade Scale AI oavsiktligt tusentals sidor med konfidentiellt projektmaterial från kunder, inklusive Meta, Google och xAI. Separat inträffade ett dataintrång hos en OpenAI-leverantör i november, vilket ledde till att hackare stal kunddata, inklusive namn, e-postadresser och systeminformation.

För att vara tydlig, detta är inte en nödsituation av högsta allvarlighetsgrad, men det är inte helt riskfritt heller. Företagsklassade system kommer med kontraktsskydd runt dataåteranvändning. Konsumentverktyg har det inte i stor utsträckning. Om dina data är så känsliga att du vill ha ett sekretessavtal för att skydda dem, bör du inte ge dem till en konsumentchattbot och anta att de inte kommer att användas på annat sätt.

Siffrorna tyder på att de flesta organisationer inte har tagit till sig detta ännu. Nästan åtta av tio anställda har klistrat in företagsinformation i AI-verktyg, och av dessa gjorde mer än fyra av fem det med hjälp av sina personliga konton, enligt en undersökning bland anställda från 2025. En av fem organisationer har redan rapporterat ett dataintrång kopplat till skugg-AI-användning, och endast 37 procent har policys på plats för att upptäcka eller hantera det, enligt IBM:s rapport om kostnaderna för dataintrång 2025.

När man väl förstår detta, är det inte svårt att komma runt den här typen av datarisk. Skilj mellan konsument- och företagsverktyg och se till att du vet vad du skriver under på. Då har du täckt in det mesta.

Där AI-medierad kommunikation misslyckas för företag

Vad som händer med dina data är en del av bilden. Den andra, och för många företag den viktigaste, är vad dessa system gör med kvaliteten och ansvarstagandet i er viktigaste kommunikation.

Tänk på de samtal som driver företag: möten för att behålla långsiktiga kunder; en försäljningsförhandling där ton och förtroende är nästan viktigare än avtalets språk; eller en kvartalsvis presentation för styrelsen om era framsteg mot årets milstolpar. Det visar sig att AI kan hantera de transaktionsbaserade elementen i dessa interaktioner ganska bra, som att ta mötesanteckningar, tilldela prioriteringar och markera åtgärdspunkter. Det kämpar med allt annat.

De konkreta sätten som systemen brister på är värda att nämna. AI komprimerar sammanhang; det sammanfattar, slätar ut och standardiserar på sätt som kan ta bort nyanser. Dessutom är innehållet som stora språkmodeller genererar svårt att verifiera. De som tar emot AI-genererad e-post eller sammanfattade mötesanteckningar från dig kan inte kontrollera att innehållet motsvarar din avsikt eller att AI inte har filtrerat eller omformat budskapet.

Det betyder inte att AI inte har någon plats i företagskommunikation. Det har det tydligtvis. Men det finns en kategori av samtal där effektivitetsvinster inte motiverar exponeringen, och de flesta organisationer har inte tänkt tillräckligt på att differentiera dessa användningsfall.

När det är dags att göra det själv

Så frågan blir: Bör AI överhuvudtaget vara inblandad i er mest känsliga kommunikation?

Mitt ärliga svar är nej, åtminstone inte utan en person som kan hållas ansvarig för vad som sades, hur det sades och om meddelandet levererades. Att verifiera mänsklig kommunikation är inte en preferens för det gamla sättet att göra saker; det är bara ett erkännande av att vissa samtal kräver att en person står bakom dem.

Ledare bör göra sin research. Vad säger leverantörens datapolicy om återanvändning? Vad händer med era teams samtalsloggar när kontraktet slutar? Dessa är inte frågor för er IT-avdelning att lösa i bakgrunden. De är inköpsfrågor, och de hör tidigare i processen än vad som för närvarande är fallet.

Boten som tilläts flörta med barn fattade inte det beslutet på egen hand. Någon godkände det. Varje AI-system speglar bedömningen av de människor som byggde och distribuerade det, och dessa beslut är inte alltid uppenbara från utsidan.

Tills verktygen för granskning av AI-verktyg och system har hunnit ikapp deras användning, är den mest försvarbara position som företagsledare kan inta att dra en gräns mellan vilka samtal de är bekväma med att dirigera genom AI och vilka de inte är.

Effektivitetsargumentet för AI är övertygande. Så är också argumentet för att ta ansvar för det som skickas ut i ditt namn.

Victor Cho är VD för Emovid, där han undersöker hur AI kan stödja mer autentisk, emotionellt intelligent kommunikation. Med en bakgrund inom produktinnovation och digital ledning fokuserar han på att bygga verktyg som hjälper människor att koppla samman mer effektivt - utan att förlora den mänskliga beröringen.