Nebezpečí říkání ne umělé inteligenci

Před týdnem jsem se připojil k hovoru potenciálního klienta. Všichni bezpečnostní a síťoví specialisté byli přítomni, stejně jako vedení. Rozdílní prezentátoři pokrývali aktuální témata. Pak někdo začal vysvětlovat, jak jeho technické týmy využívají umělou inteligenci ve své denní práci.

Prezentátor byl nadšený. Našel způsob, jak zkomprimovat tři dny manuální kopírovací a vkládací práce na pár minut pomocí nástrojů AI. Super, že? Chápu, co dělal, a proč to dělal. To je slib umělé inteligence!

Ale jako bezpečnostní specialista v místnosti jsem si myslel: “Bože můj.” “Jaký je ten nástroj? Kdo vlastní ten nástroj?” Protože vkládá zákaznickou informaci do těchto platforem – cenová data. Možná finanční informace? Cokoliv to může být. Všechno, aby urychlil svůj pracovní postup.

Tak jsem položil očividnou otázku: “Máte politiku AI?” Šli jsme hledat. Našli jsme krátký text ukrytý v přijatelném použití. Něco vágního o nástrojích AI. Čte někdo to opravdu? Pravděpodobně ne. Podpíšete to během náboru a jste hotovi.

Vaši lidé již používají umělou inteligenci

Tady je to, co jsem se naučil, když jsem mluvil s firmami napříč všemi odvětvími: Umělá inteligence je již všude, ať už to uznáváte nebo ne. Nedávný výzkum potvrzuje tuto realitu – 75 % pracovníků nyní používá AI v práci, téměř zdvojnásobeno za pouhých šest měsíců.

Mинув týden v Houstonu jsem potkal chlapíka, jehož společnost vrtá za ropu. Mají platformu AI, která analyzuje složení půdy a povětrnostní podmínky, aby optimalizovala místa vrtání. Vysvětlil, jak zohledňují údaje o srážkách – “Věděli jsme, že pršelo o 18 dní více, než tomu bylo v této oblasti, takže kapacita ropy je pravděpodobně vyšší, což umožňuje vrtům dostat se hlouběji.”

Zatímco já jsem používal AI k vytvoření itineráře pro Německo. Mluvil jsem s firmami ve zdravotnictví, které ji používají pro telehealth platformy. Finanční týmy běžící rizika. I potkal jsem někoho, kdo provozuje limonádový obchod a využívá AI nějakým způsobem.

Bod je ten, že umělá inteligence je v každém odvětví, každém pracovním postupu. Nepřichází – je již tady. A většina těchto organizací je ve stejné lodi, ve které jsme byli. Vědí, že jejich lidé ji používají. Oni jen nevědí, jak ji spravovat.

Stínová IT se stává nebezpečnou rychle

Víte, co se stane, když řeknete lidem, že nemohou používat AI? Je to přesně jako říci svému teenagerovi, aby nikdy nepil. GRATULUJI, teď budou pít v nejnebezpečnějších způsobech, protože jste vytvořili prohibici.

Čísla prokazují tuto realitu: 72 % generativní AI použití v podnikových firmách je stínová IT, se zaměstnanci, kteří používají osobní účty k přístupu k aplikacím AI.

Lidé si kupují druhý laptop. Používají své osobní telefon, který není chráněn firemní bezpečností. Pak používají AI stejně. Najednou ztrácíte přehled a vytváříte přesně ty mezery, které jste se snažili zabránit.

Viděl jsem tento vzorec dříve. Bezpečnostní týmy, které říkají “ne” všemu, nakonec hnají lidi podzemí a ztrácí veškerý dohled nad tím, co se skutečně děje.

Bezpečnost se stává nepřítelem

Existuje toto vnímání, že bezpečnostní týmy jsou “zlí chlapíci v suterénu.” Lidé si myslí: “Och, bezpečnost pravděpodobně řekne ne, takže je to jedno. Udělám to stejně.”

Vytvořili jsme toto nedorozumění. A s AI lidé jsou předpojati, aby předpokládali, že je uzavřeme, takže se ani nebudou ptát. To zabíjí komunikaci, kterou skutečně chcete.

Měl jsem vývojáře, který přišel za mnou po konferenční prezentaci. Používá API každý den a snažil se upoutat pozornost svého bezpečnostního týmu k testování a validaci. Ale rozhodl se nezeptat, protože předpokládal, že jim řeknou ne.

Důvěrný deficit vás stojí všechno

Tady je ta konverzace, kterou chcete: někdo z marketingu přijde za vámi a říká: “Hej, chci použít tento nástroj AI. Jaký je náš postoj k němu? Jak ho mohu použít bezpečně?” To je správný způsob, jak spolupracovat s bezpečností.

Budeme to prověřovat. Chápeme, že AI bude součástí podnikání. Nebudeme říkat ne – chceme, aby lidé používali AI bezpečně. Ale potřebujeme tu konverzaci nejdříve.

Když lidé předpokládají, že bezpečnost zablokuje všechno, přestanou se ptát. Přihlásí se pomocí osobních e-mailů, začnou krmit firemní data do neověřených platforem a ztrácíte veškerý přehled a kontrolu. Výsledek je předvídatelný: 38 % zaměstnanců sdílí citlivé pracovní informace s nástroji AI bez povolení zaměstnavatele.

Organizace budou používat AI bez ohledu na to, co. Otázka je: jak zajistíme, aby naši zaměstnanci mohli AI využívat bezpečně, aniž by ohrozili firemní data, soukromí nebo bezpečnost?

Začněte s chytrými ano, ne s absolutním ne

Tady je to, co skutečně funguje: proaktivní komunikace. Posílejte zpravodaje nebo pořádайте 30minutové webové semináře, které říkají: “Povolujeme AI v rámci organizace. Tady je, jak to udělat bezpečně.” Zaznamenejte relace pro ty, kteří je zmeškáli.

Ukažte příklady zaměstnanců, kteří spolupracovali s bezpečností úspěšně. Udělejte tyto partnerství viditelnými místo stínové entity, o které se lidé domnívají, že je uzavřou.

Potřebujete budovat důvěru mezi bezpečností a zaměstnanci. Na konci dne všichni používáme AI velkými i malými způsoby. Použil jsem ji k naplánování mé cesty do Německa – řekl jsem jí, aby vytvořila třídní itinerář, a dostal jsem skvělé cestování z toho.

Z firemního hlediska potřebujeme uznat, kde AI sedí v podnikání. Zvýší to tržby? Pravděpodobně. Obchodní případ je jasný: AI se přesunula z “experimentu” na “nezbytnost”, se firemním výdajem na AI skokem o 130 %. Co tedy děláme? Jak poskytujeme ochranu, zatímco umožňujeme produktivitu?

Cílem není dokonalá kontrola, to je nemožné. Cílem je informované přijetí AI s funkčními zábranami. Nové riziko pro bezpečnost se stává izolací od používání AI – používání, které se děje s nebo bez vás.

Pro organizace, které se snaží to udělat správně, odborníci doporučují vyvinout jasné politiky AI, které vyvažují firemní potřeby s bezpečnostními požadavky předtím, než stínové používání AI úplně ztratí kontrolu.