De flesta företags AI är inte säker. Här är vad företag kan göra

Företag tävlar om att anta generativ artificiell intelligens (AI) för att hålla jämna steg med sina marknader. Men säkerhetsteamen står inför en betydande utmaning eftersom de förlitar sig på föråldrade ramverk som utvecklats för en annan teknisk era. Verktygen som har skyddat organisationer under årtionden lämnar nu kritiska sårbarheter utsatta när anställda interagerar med webbaserade AI-plattformar. För att säkert anta den senaste tekniken måste företagen helt omvärdera hur de kontrollerar åtkomst till information och upptäcker nya hot.

Den växande hotbilden av skugg-AI i företaget

Skugg-AI uppstår när anställda kringgår officiella IT-kanaler och använder obehöriga konsumentinriktade AI-verktyg för arbetsuppgifter. Dessa plattformar erbjuder hastighet och bekvämlighet som interna godkännandeprocesser inte kan matcha, vilket gör dem oemotståndliga för produktivitetsinriktade arbetare.

Nylig forskning visar att 73,8% av anställdas interaktion med ChatGPT sker på icke-företagskonton, vilket innebär att känslig information flödar direkt in i offentliga modeller. Likaså når användningen av Gemini och Bard på personliga konton 94,4% respektive 95,9%.

Att outsourca uppgifter till outvärderade externa plattformar medför betydande konsekvenser. Analys visar att 55% av alla AI-fel härrör från dessa tredjeparts-lösningar, vilket skapar risker som omfattar rykteskador och ekonomiska förluster. Konsumentmisstro, efterlevnadsböter och rättegångar följer ofta. För företag som använder tredjeparts-AI-verktyg utan att utföra riskanalys innan distributionen är detta alarmerande.

Utan genomförbara riktlinjer delar anställda känslig företagsinformation, vilket skapar enorma integritetsansvar, medan många tredjepartsplattformar saknar de rigorösa säkerhetsåtgärder som behövs för att skydda konfidentiella affärsdokument. Lagringsprinciper och -praxis över dessa lösningar kan oavsiktligt exponera kundinformation och finansiella register för potentiella dataintrång.

Varför traditionell dataförlustskydd misslyckas

Äldre dataförlustskydd (DLP) verktyg utvecklades för att stoppa filer från att laddas ner eller skickas via e-postbilagor. Dessa lösningar fungerar utmärkt för sitt ursprungliga syfte men möter en grundläggande begränsning i webbaserad AI-ålder. Till exempel kan de inte enkelt övervaka eller blockera text som en anställd manuellt skriver eller klistrar in direkt i ett AI-promptfönster, vilket skapar en blind fläck i säkerhetsbevakningen som växer mer problematisk med varje kvartal.

Gapet blir tydligt när man undersöker vad dessa verktyg kan och inte kan skydda:

• DLP fångar: Filnedladdningar, e-postbilagor, USB-överföringar och dokumentuppladdningar
• DLP missar: Kopiera-klistra-åtgärder i webbläsarfönster, manuellt skrivna prompter, skärmdumpar omvandlade till text och direkt textinmatning i webbapplikationer

Allteftersom AI-antagandet accelererar över organisationer, växer detta täckningsgap och genererar en väg för informationsläckage som traditionell säkerhetsinfrastruktur aldrig var avsedd att hantera. Säkerhetsteam hamnar i en reaktiv position, upptäcker dataintrång först efter att känslig information redan har lämnat organisationens kontroll.

Vad är den bästa strategin för säker företags-AI?

Att hålla fast vid äldre DLP-lösningar medan man ignorerar verkligheten av AI-antagande utgör inte en livskraftig långsiktig affärsstrategi. Företag måste uppgradera till AI-drivna hotdetektering som anpassar sig till nya attacker och upprättar strikta gränser för AI-användning som skyddar känslig information. Att centralisera styrningspraxis för att förhindra oavsiktlig exponering kompletterar denna säkerhetsgrund.

Övergå till en multilagerad AI-kontext

Traditionella hotdetekteringsverktyg förlitar sig på reaktiva regler som söker efter historiska signaturer av kända attacker. Detta tillvägagångssätt genererar antingen för många falska positiva signaler genom att flagga normalt anställdabeteende som misstänkt eller missar helt nya attacker som inte matchar något tidigare mönster i dess databas.

Till exempel erkände Artesia General Hospital dessa begränsningar i skyddet av sina patientvårdsoperationer och digitala ekosystem, vilket ledde organisationen att distribuera Darktrace-teknologi. Utan någon fördefinierad lista över hot lär sig plattformen varje enhet, användare och interaktion inom sjukhusets nätverk för att utveckla en förståelse för vad normalt beteende ser ut från grunden.

Cyber AI Analyst-komponenten undersöker larm med metoder liknande mänskliga analytiker samtidigt som den trådar samman subtila avvikelser som kan indikera äkta hot mot patientjournaler och sjukhusverksamhet. Systemet undersöker Artesias nätverkshot för att bestämma vilka larm som representerar verkliga säkerhetsincidenter.

Denna multilagerade AI-tillvägagångssätt minskar betydligt de falska positiva signalerna som belastar säkerhetsteam. När man går från 100 harmlösa larm per dag till bara två eller tre kritiska incidenter som verkligen kräver mänsklig uppmärksamhet, smalnar fokus. Analytiker får exakt den information de behöver utan att spendera timmar på manuell utredning.

Upprätthåll strikta interna AI-användningspraxis

Att upprätta fasta gränser och distribuera tekniska skyddsräcken som kontrollerar vilken information som kan komma in i offentliga AI-modeller adresserar de sårbarheter som äldre DLP-lösningar inte kan stänga på egen hand.

Samsung ger ett varnande exempel på vad som händer när anställda får tillgång till AI-verktyg utan tillräckliga tekniska skydd. Inom bara 20 dagar efter att ha tillåtit ChatGPT-åtkomst i april 2023, upplevde företaget tre separata läckor som komprometterade högt konfidentiell information över flera avdelningar.

Ingenjörer klistrade in proprietär halvledardatabas-källkod i ChatGPT för att kontrollera kodfel, vilket avslöjade kritiska detaljer om Samsungs tillverkningsprocesser. I en annan incident laddade en anställd upp specialiserad kod utformad för att identifiera utrustningsdefekter medan de sökte optimeringsförslag. Personal omvandlade också inspelade interna möten till text innan de matade in transkriptionerna till ChatGPT för automatisk minutgenerering.

När information väl kommer in i en offentlig AI-modells träningsdataset, finns det inget “ta bort”-knapp för att hämta eller rensa det från kunskapsbasen. Samsung förbjöd till slut ChatGPT helt eftersom läckt proprietär innehåll inte kan återvinnas.

Upprätthåll centraliserad datastyrning

En företags-AI-lösning är bara så säker som den information den kan komma åt inom organisationen, och standardisering av behörigheter över alla system utgör grunden för säker AI-distribution. När ett företags internt nätverk lider av oförenliga åtkomstkontroller och fragmenterade hanteringspraxis, kan även godkända AI-verktyg oavsiktligt exponera konfidentiella HR-filer eller finansiella register för obehöriga anställda.

Till exempel mötte AXIS Capital denna utmaning direkt när de hanterade fristående, isolerade policy- och anspråksplattformar spridda över olika geografiska områden. Varje affärsenhet hade skapat sina egna rapporteringsreferensstandarder, och inkonsekvenserna ledde till fel i citat, underwriting och anspråksjusteringar som gjorde företagsrapportering extremt svår.

Försäkringsbolaget utvecklade en organisationsomfattande strategi som använde webbaserade förvaltningsblanketter och strikta säkerhetsregler för att standardisera kärnreferenshierarkier. Börjande med North American Industry Classification System och Standard Industrial Classification-koder, utvidgade AXIS sedan till rating- och underwriting-koder som tidigare varierat efter plats.

Genom att implementera centraliserad datahantering och -kontroll skapade företaget en enda säker källa till sanning som var tillgänglig över alla operationer. Detta eliminerade inkonsekvenser som hade plågat deras plattformar medan AXIS kunde accelerera kärnförsäkringsprocesser som att introducera nya produkt erbjudanden, minska operativ risk och uppnå tillförlitlig analys på företagsnivå.

Säkra framtiden för företagsinnovation

AI-antagande i företag är oundvikligt eftersom organisationer tävlar om marknadsfördelar. Att förlita sig på äldre säkerhetsramverk och tolerera ostrukturerade styrningspraxis kommer bara att accelerera läckor och efterlevnadsbrott. Frågan är inte om företag kommer att anta AI, utan om de kommer att göra det på ett säkert sätt. Genom att implementera multilagerad AI-hotdetektering och upprätthålla rigorös tillsyn av informationsåtkomst kan företag omfamna AI-innovation samtidigt som de skyddar sin mest känsliga innehåll.