Myslitelé
Když bot smí flirtovat s dětmi, co dalšího smí dělat s vašimi daty?

Klíčové bodyVětšina zaměstnanců vkládá firemní data do spotřebitelských AI nástrojů bez podnikových…
Zobrazit více
- Většina zaměstnanců vkládá firemní data do spotřebitelských AI nástrojů bez podnikových bezpečnostních opatření.
- AI komprimuje kontext a odstraňuje nuance z citlivých obchodních komunikací.
- Každý AI systém odráží úsudek svých tvůrců, nejen svůj kód.
Když uniklé interní směrnice odhalily, že Meta dovolila svým chatbotům flirtovat s dětmi, většina lidí to označila za skandál a přešla k dalšímu. Ale stojí za to se blíže podívat na to, co tato zpráva říká o současném stavu etiky AI: Pokud společnost jako Meta schvaluje takové zásady v rozsahu svého působení, co dalšího tyto platformy potichu dovolují? A kolik z toho se týká vašich dat?
Vedoucí představitelé firem obvykle hodnotí AI nástroje podle toho, co mohou udělat, jak rychle a za jakou cenu. Ale existují složitější otázky, které stojí za to položit, zejména když se AI nástroje stávají samozřejmostí: S jakými podmínkami souhlasíte, když vaše týmy začnou používat AI nástroje? Co dělají poskytovatelé modelů a tvůrci agentů s vašimi daty? A kdo přebírá odpovědnost, když se něco pokazí?
Většina organizací je tak zaneprázdněna tím, jak získat maximum peněz z této nové technologie, že ještě neměla čas uvážit nejdůležitější otázku:
Co se vlastně děje s vašimi daty?
Většina lidí buď výrazně přeceňuje riziko sdílení něčeho s chatbotem nebo celou věc přehlíží. Skutečnost je taková, že velké jazykové modely jsou, v jistém smyslu, zmrazeny, jakmile jsou vyškoleny a uvolněny pro veřejnost. To znamená, že vaše konverzace jsou uloženy odděleně, ne okamžitě propojeny se systémem; co jste řekl ChatGPT ráno, nebude okamžitě ovlivňovat, co by model řekl někomu jinému odpoledne.
To ale neznamená, že vaše data nejsou používána. Používají se. Cesta je prostě složitější.
Protokoly konverzací jsou uloženy odděleně a mnohé AI laboratoře si výslovně vyhrazují právo použít je k výcviku další verze svého modelu. Je to přímo v podmínkách služby. Co vstoupí jako dotaz na zákaznickou podporu nebo strategický brainstorming dnes, může s časem ovlivnit model, který budou používat miliony lidí zítra.
Riziko pro proprietární data jde za hranice politiky. V roce 2025 Scale AI náhodou odhalilo tisíce stránek důvěrných projektových materiálů od klientů, včetně Meta, Google a xAI. Zvlášť v listopadu došlo k porušení zabezpečení u dodavatele OpenAI, v důsledku čehož hackeři získali přístup k datům zákazníků, včetně jmen, e-mailů a systémových podrobností.
Pro upřesnění: nejde o stav nejvyšší pohotovosti, ale situace není ani bez rizika. Systémy pro podniky přicházejí se smluvními zábranami kolem opětovného použití dat. Spotřebitelské nástroje většinou ne. Pokud jsou vaše data tak citlivá, že byste je chtěli chránit pomocí dohody o mlčenlivosti, neměli byste je předávat spotřebitelskému chatbotovi a předpokládat, že nebudou použita jinde.
Čísla naznačují, že většina organizací to ještě nepochopila. Téměř osm z deseti zaměstnanců vložilo firemní informace do AI nástrojů a z nich více než čtyři z pěti to udělali pomocí svých osobních účtů, podle průzkumu pracovní síly z roku 2025. Jedna z pěti organizací již ohlásila porušení zabezpečení spojené se stínovým používáním AI a pouze 37 procent má zavedeny politiky pro odhalování nebo řízení takového využívání, podle zprávy IBM o nákladech na porušení dat z roku 2025.
Jakmile je toto riziko pochopeno, není těžké ho obejít. Rozlišujte mezi spotřebitelskými a podnikovými nástroji, ujistěte se, že víte, co podepisujete, a budete mít většinu svých záležitostí pokrytou.
Kdy komunikace zprostředkovaná AI selhává v podnikání
Co se děje s vašimi daty, je jedna část obrazu. Druhá, a pro mnoho podniků důležitější, je to, co tyto systémy dělají s kvalitou a odpovědností vaší nejdůležitější komunikace.
Přemýšlejte o konverzacích, které pohání podnikání: schůzky pro udržení dlouholetých klientů; prodejní jednání, kde tón a důvěra jsou téměř důležitější než jazyk dohody; nebo čtvrtletní prezentace pro představenstvo o vašem pokroku směrem k ročním milníkům. Ukázalo se, že AI může zvládnout transakční prvky těchto interakcí poměrně dobře, jako poznámky ze schůzek, přiřazování priorit a zvýrazňování akčních bodů. S tím, co je pod nimi, má potíže.
Konkrétní režimy selhání stojí za to uvést. AI komprimuje kontext; shrnuje, vyhlazuje a standardizuje způsoby, které mohou odstranit nuance. Kromě toho je obsah, který generují velké jazykové modely, těžké ověřit. Lidé, kterým jste odeslali e-mail vygenerovaný AI nebo souhrn poznámek ze schůzky, nemají způsob, jak potvrdit, že to, co obdrželi, odráží to, co jste mysleli, nebo že zpráva nebyla filtrována nebo přeformulována AI.
To neznamená, že AI nemá místo v podnikové komunikaci. Zjevně ano. Ale existuje kategorie konverzace, kde zisky z efektivnosti neodůvodňují expozici, a většina organizací dosud dostatečně nezvážila rozlišení těchto případů použití.
Vědět, kdy to udělat sami
Takže otázka zní: Měli byste pro své nejcitlivější komunikace vůbec používat AI?
Moje upřímná odpověď je ne, alespoň ne bez osoby, která může být zodpovědná za to, co bylo řečeno, jak to bylo řečeno a zda zpráva byla doručena. Ověřování lidské komunikace není preferencí starého způsobu dělání věcí; je to prostě uznání, že některé konverzace vyžadují osobu, která stojí za nimi.
Vedoucí pracovníci by si měli udělat potřebný průzkum. Co říkají zásady poskytovatele o opětovném použití dat? Co se stane s konverzačními protokoly vašeho týmu, když skončí smlouva? Tyto otázky nejsou pro váš IT tým, aby je vyřešil na pozadí. Jsou to otázky pro nákup a měly by být řešeny dříve v procesu, než je tomu nyní.
Bot, kterému bylo dovoleno flirtovat s dětmi, neučinil toto rozhodnutí sám. Někdo to schválil. Každý AI systém odráží úsudek lidí, kteří jej vytvořili a nasadili, a tyto volby nejsou vždy zjevné zvenčí.
Dokud nástroje pro audit AI nástrojů a systémů nedoženou tempo jejich zavádění, nejvíce obhajitelnou pozicí, kterou mohou lídři podniků zaujmout, je stanovit hranici mezi konverzacemi, které jsou ochotni směrovat přes AI, a těmi, které ne.
Argument efektivnosti pro AI je přesvědčivý. Stejně tak je přesvědčivý argument pro převzetí odpovědnosti za to, co odchází vaším jménem.












