Pokud může bot flirtovat s dětmi, co dalšího je dovoleno dělat s vašimi daty?

Když unikly interní směrnice odhalily, že Meta dovolila svým chatbotům flirtovat s dětmi, většina lidí to označila za skandál a přešla k dalšímu. Ale stojí za to se blíže podívat na to, co tato zpráva říká o současném stavu etiky AI: Pokud společnost jako Meta schvaluje takové politiky ve své velikosti, co dalšího tito poskytovatelé platformů potichu dovolují? A kolik z toho se týká vašich dat?

Lídrů podniků se obvykle hodnotí AI nástroje podle toho, co mohou udělat, jak rychle a za jakou cenu. Ale existují složitější otázky, které stojí za to položit, zejména když se AI nástroje stávají samozřejmostí: Jaké podmínky souhlasíte, když vaše týmy začnou používat AI nástroje? Co dělají poskytovatelé modelů a agenti s vašimi daty? A kdo přebírá odpovědnost, když něco goes wrong?

Většina organizací je tak zaneprázdněna tím, jak získat maximum peněz z této nové technologie, že ještě neměli čas uvážit nejdůležitější otázku:

Co se vlastně děje s vašimi daty?

Většina lidí buď silně přecenila riziko sdílení něčeho s chatbotem nebo celou věc odmítla. Skutečnost je taková, že velké jazykové modely jsou, v jistém smyslu, zmrazeny, jakmile jsou vyškoleny a uvolněny pro veřejnost. To znamená, že vaše konverzace jsou uloženy odděleně, ne okamžitě propojeny se systémem; co jste řekl ChatGPT ráno, nebude okamžitě ovlivňovat, co by model řekl někomu jinému odpoledne.

To ale neznamená, že vaše data nejsou používána. Používají se. Cesta je prostě složitější.

Protokoly konverzací jsou uloženy odděleně a mnohé AI laboratoře výslovně si vyhrazují právo použít je k výcviku další verze svého modelu. Je to přímo v podmínkách služby. Co vstoupí jako dotaz na zákaznickou podporu nebo strategické brainstorming dnes, může s časem ovlivnit model, který budou používat miliony lidí zítra.

Riziko pro proprietární data jde za hranice politiky. V roce 2025 Scale AI náhodou odhalilo tisíce stránek důvěrných projektových materiálů od klientů, včetně Meta, Google a xAI. Zvlášť v listopadu došlo k porušení zabezpečení u dodavatele OpenAI, v důsledku čehož hackeři získali přístup k datům zákazníků, včetně jmen, e-mailů a systémových podrobností.

Abychom byli jasně, není to pětihvězdičkový poplach, ale není to ani bez rizika. Systémy pro podniky přicházejí se smluvními zábranami kolem opětovného použití dat. Spotřebitelské nástroje většinou ne. Pokud jsou vaše data tak citlivá, že byste chtěli chránit je pomocí dohody o mlčenlivosti, neměli byste je předávat spotřebitelskému chatbotovi a předpokládat, že nebudou použita jinde.

Čísla naznačují, že většina organizací to ještě neabsorbovala. Téměř osm z deseti zaměstnanců vložilo firemní informace do AI nástrojů a z nich více než čtyři z pěti to udělali pomocí svých osobních účtů, podle průzkumu pracovní síly z roku 2025. Jedna z pěti organizací již ohlásila porušení zabezpečení spojené se stínovým používáním AI a pouze 37 procent má zavedeny politiky pro detekci nebo správu, podle zprávy IBM o nákladech na porušení dat z roku 2025.

Jakmile je toto riziko pochopeno, není těžké ho obejít. Rozlišujte mezi spotřebitelskými a podnikovými nástroji, znáte, co podepisujete, a budete mít většinu svých záležitostí pokrytou.

Kde komunikace zprostředkovaná AI selhává podnikům

Co se děje s vašimi daty, je jedna část obrazu. Druhá, a pro mnoho podniků důležitější, je to, co tyto systémy dělají s kvalitou a odpovědností vaší nejdůležitější komunikace.

Přemýšlejte o konverzacích, které pohání podnikání: schůzky pro udržení dlouholetých klientů; prodejní jednání, kde tón a důvěra jsou téměř důležitější než jazyk dohody; nebo čtvrtletní prezentace představenstva o vašem pokroku směrem k ročním milníkům. Ukázalo se, že AI může zvládnout transakční prvky těchto interakcí poměrně dobře, jako poznámky ze schůzek, přiřazování priorit a zvýrazňování akčních bodů. S tím, co je pod nimi, má potíže.

Konkrétní režimy selhání stojí za to uvést. AI komprimuje kontext; shrnuje, vyhlazuje a standardizuje způsoby, které mohou odstranit nuance. Kromě toho je obsah, který generují velké jazykové modely, těžké ověřit. Lidé, kterým jste odeslali e-mail vygenerovaný AI nebo souhrn poznámek ze schůzky, nemají způsob, jak potvrdit, že to, co obdrželi, odráží to, co jste mysleli, nebo že zpráva nebyla filtrována nebo přefiltrovaná AI.

To neznamená, že AI nemá místo v podnikové komunikaci. Zjevně ano. Ale existuje kategorie konverzace, kde zisky z efektivnosti neodůvodňují expozici, a většina organizací o tom dosud neuvažovala dostatečně.

Víte, kdy to udělat sami

Takže otázka zní: Měli byste pro své nejcitlivější komunikace vůbec používat AI?

Moje upřímná odpověď je ne, alespoň ne bez osoby, která může být zodpovědná za to, co bylo řečeno, jak to bylo řečeno a zda zpráva byla doručena. Ověřování lidské komunikace není preferencí starého způsobu dělání věcí; je to prostě uznání, že některé konverzace vyžadují osobu, která stojí za nimi.

Lídrů by měli udělat svou práci. Co říká zásady poskytovatele o opětovném použití dat? Co se stane s konverzačními protokoly vašeho týmu, když skončí smlouva? Tyto otázky nejsou pro váš IT tým, aby je vyřešil na pozadí. Jsou to otázky pro nákup a měly by být řešeny dříve v procesu, než je tomu nyní.

Bot, který byl povolen flirtovat s dětmi, neučinil toto rozhodnutí sám. Někdo to schválil. Každý AI systém odráží úsudek lidí, kteří jej vytvořili a nasadili, a tyto volby nejsou vždy zjevné zvenčí.

Dokud nástroje pro audit AI nástrojů a systémů nedojdou svého přijetí, nejvíce obhajitelnou pozicí, kterou mohou lídři podniků zaujmout, je stanovit hranici mezi konverzacemi, které jsou ochotni směrovat přes AI, a těmi, které ne.

Argument efektivnosti pro AI je přesvědčivý. Stejně tak je přesvědčivý argument pro vlastnictví toho, co jde ve vašem jménu.