Hvis en bot får flørte med barn, hva annet får den gjøre med dataene dine?

Når lekkede interne retningslinjer avslørte at Meta tillot sine AI-chatbots å flirte med barn, behandlet de fleste det som en skandale og gikk videre. Men det er verdt å ta en nærmere titt på hva undersøkelsen forteller oss om den nåværende tilstanden for AI-etikken: Hvis et selskap som Meta godkjenner slike retningslinjer i den skalaen selskapet opererer i, hva ellers tillater disse plattformene stille og rolig? Og hvor mye av det involverer dine data?

Bedriftsledere tenderer til å vurdere AI-verktøy basert på hva de kan gjøre, hvor raskt, og til hvilken pris. Men det er vanskeligere spørsmål verdt å stille, særlig nå som AI-verktøy raskt blir en selvfølge: Hva er betingelsene du godtar når ditt team begynner å bruke AI-verktøy? Hva gjør modellleverandørene og agentbyggerne med dine data? Og hvis noe går galt, hvem tar ansvaret?

De fleste organisasjoner er så opptatt av å finne ut hvordan de kan tjene mest mulig penger på denne nye teknologien, at de ikke har kommet så langt som å vurdere det viktigste spørsmålet:

Hva skjer egentlig med dine data?

De fleste menneskene overvurderer enten risikoen kraftig for å dele noe med en chatbot eller avfeier saken helt. Faktum er at store språkmodeller er, i en viss forstand, frosset når de er trent og utgitt til offentligheten. Det betyr at dine samtaler lagres separat, ikke umiddelbart koblet tilbake til systemets minne; hva du sa til ChatGPT i morges påvirker ikke umiddelbart hva modellen ville si til noen andre om ettermiddagen.

Dette betyr ikke at dine data ikke brukes. De brukes. Veien er bare mer komplisert.

Samtalelogger lagres separat, og mange AI-laboratorier forbeholder seg uttrykkelig retten til å bruke dem til å trene den neste versjonen av deres modell. Det står rett der i betingelsene. Hva som kommer inn som en kundesupportforespørsel eller idémyldring om strategi i dag kan, over tid, påvirke en modell som millioner vil bruke i morgen.

Risikoen for virksomhetens egne data handler om mer enn retningslinjer. I 2025 eksponerte Scale AI utilsiktet tusenvis av sider med konfidensielt prosjektmateriale fra kunder, inkludert Meta, Google og xAI. Et separat datainnbrudd i november hos en OpenAI-leverandør førte til at hackere fikk tak i kundedata, inkludert navn, e-poster og systemdetaljer.

For å være tydelig, dette er ikke en krisesituasjon av høyeste alvorlighetsgrad, men det er heller ikke uten risiko. Bedriftstilpassede systemer kommer med kontraktmessige beskyttelsesforanstaltninger rundt gjenbruk av data. Forbrukerverktøy har stort sett ikke det. Hvis dine data er så følsomme at du ville ønske en taushetserklæring for å beskytte dem, bør du ikke gi dem til en forbrukerchatbot og anta at de ikke vil bli brukt andre steder.

Tallene tyder på at de fleste organisasjoner ikke har tatt dette inn over seg ennå. Nesten åtte av ti ansatte har limt inn selskapsinformasjon i AI-verktøy, og av disse gjorde mer enn fire av fem det ved hjelp av sine personlige kontoer, ifølge en undersøkelse blant arbeidstakere fra 2025. En av fem organisasjoner har allerede rapportert om et brudd knyttet til skygge-AI-bruk, og bare 37 prosent har retningslinjer for å oppdage eller håndtere det, ifølge IBMs 2025-rapport om kostnadene ved datainnbrudd.

Når man først forstår dette, er det ikke vanskelig å håndtere denne typen datarisiko. Skill mellom forbruker- og bedriftsverktøy, og vit hva du signerer. Da har du ivaretatt det meste.

Når AI-formidlet kommunikasjon svikter bedrifter

Hva som skjer med dine data er én del av bildet. Det andre, og for mange bedrifter det viktigste, er hva disse systemene gjør med kvaliteten og ansvarligheten til din viktigste kommunikasjon.

Tenk på samtalene som driver virksomheten fremover: møter for å beholde langvarige kunder; en salgsforhandling hvor tone og tillit er nesten viktigere enn ordlyden i avtalen; eller en kvartalsvis presentasjon for styret om din fremgang mot årets milepæler. Det viser seg at AI kan håndtere de transaksjonelle elementene av disse interaksjonene ganske godt, som å ta møtenotater, sette prioriteringer og fremheve oppfølgingspunkter. AI sliter med alt som ligger under dette.

De konkrete måtene dette svikter på, bør navngis. AI komprimerer kontekst; den oppsummerer, glatter over og standardiserer på måter som kan strippe ut nyanser. I tillegg er innholdet som store språkmodeller genererer, vanskelig å verifisere. De som mottar en AI-generert e-post eller oppsummerte møtenotater fra deg, kan ikke bekrefte at innholdet gjenspeiler det du mente, eller at AI ikke har filtrert eller omformet budskapet.

Dette betyr ikke at AI ikke har noen plass i bedriftskommunikasjon. Det har den helt klart. Men det er en kategori samtaler hvor effektivitetsgevinstene ikke berettiger eksponeringen, og de fleste organisasjoner har ikke tenkt nok om å skille disse bruksområdene.

Vit når du skal gjøre det selv

Så spørsmålet blir: For dine mest sensitive kommunikasjoner, bør AI overhodet være involvert?

Mitt ærlige svar er nei, i hvert fall ikke uten en person som kan holdes ansvarlig for hva som ble sagt, hvordan det ble sagt og om meldingen ble levert. Å verifisere menneskelig kommunikasjon er ikke en preferanse for den gamle måten å gjøre ting på; det er bare en anerkjennelse av at noen samtaler krever en person som står bak dem.

Lederne bør gjøre sine lekser. Hva sier leverandørens datapolicy om gjenbruk? Hva skjer med ditt teams samtalelogger når kontrakten utløper? Disse er ikke spørsmål for ditt IT-team å ordne i bakgrunnen. De er innkjøpsspørsmål, og de hører tidligere i prosessen enn det er tilfelle nå.

Boten som fikk lov til å flirte med barn, tok ikke den beslutningen på egen hånd. Noen godkjente det. Hvert AI-system gjenspeiler vurderingene til menneskene som bygde det og satte det i drift, og disse beslutningene er ikke alltid åpenbare fra utsiden.

Frem til verktøyene for å auditere AI-verktøy og systemer holder tritt med utbredelsen av dem, er den mest forsvarbare posisjonen bedriftslederne kan ta, å trekke en linje mellom hvilke samtaler de er komfortable med å sende gjennom AI, og hvilke de ikke er.

Effektivitetsargumentet for AI er overbevisende. Det samme er argumentet for å ta ansvar for det som sendes ut i ditt navn.