Manifest-rapporten avslører gap i beredskap for AI-sikkerhet hos bedrifter

En ny rapport fra Manifest, “Beyond the Black Box (BBOX.BO ): How AI Is Forcing a Rethink of the Software Supply Chain,” avslører en økende misforståelse mellom ledelsens tillit og operasjonell virkelighet når det gjelder AI-sikkerhetsberedskap. Basert på en undersøkelse av over 300 sikkerhetsledere og -praktikere i USA og EMEA, finner studien at mens de fleste ledere tror at deres organisasjoner er forberedt på AI-drevne supply chain-risiko, rapporterer sikkerhetsteamene på bakken om betydelige styringsgap, skygge-AI-bruk og begrenset oversikt over komponentene som driver moderne programvaresystemer.

Funnene fremhever en sentral spenning som oppstår i bedriftsteknologi: AI-tilpasning akselererer raskt over produkter og arbeidsflyter, men mekanismene som kreves for å spore, styre og sikre disse systemene holder ikke pace.

AI gjenskaper supply chain-sikkerhetsproblemer i nye former

I over ett tiår har organisasjoner arbeidet for å forbedre programvare-sikkerheten i supply chain ved å spore avhengigheter, overvåke sårbarheter og etablere styringsrammer. Imidlertid argumenterer Manifest-rapporten for at AI i praksis gjeninnfører mange av de samme risikoene – nå spredt over modeller, datasamlinger, agenter og tredjeparts AI-tjenester.

AI-komponenter opererer ofte som uklare systemer. Bedrifter kan ofte ikke fullt ut forklare hvordan modellene ble trent, hvilke datasamlinger som ble brukt, eller hvilke eksterne tjenester som er innbygget i deres applikasjoner. Som resultat står organisasjonene overfor en ny klasse av supply chain-risiko: programvaresystemer de ikke kan pålitelig inspisere, verifisere eller overvåke over tid.

Rapporten understreker at oversikten allerede glipper. 63% av organisasjonene rapporterer om tilstedeværelsen av “skygge-AI”, som refererer til AI-verktøy eller -integreringer som er adoptert uten tilsyn fra sikkerhets-, innkjøps- eller risikostyringsteam.

Daniel Bardenstein, CEO og medgrunnlegger av Manifest, sa at dataene avslører en økende gap mellom ledelsens tillit og operasjonell virkelighet: “Ledelsens tillit til AI-beredskap matcher ikke hva AppSec-teamene håndterer dag til dag. Ledere tror at styring er på plass, men praktikerne ser ustyrt AI-bruk, uklar eierskap og blinde flekker i hva som faktisk kjører over produkter og leverandører.”

Ledere sier de er klare, sikkerhetsteamene er uenige

En av de mest slående funnene i rapporten er divergensen mellom ledelsens tillit og frontlinje-sikkerhetsvurderinger.

Nærmere 80% av sikkerhetslederne sier at deres organisasjoner har modne AI-sikkerhetspraksiser, mens bare omkring 40% av applikasjonssikkerhetsteamene (AppSec) er enige med denne vurderingen.

AppSec-teamene er ofte de første som møter operasjonelle feil i styringsrammene fordi de interagerer direkte med programvare-sikkerhetskjeden. Disse praktikerne rapporterer om å møte høye volumer av varsler, uklar eierskap av sikkerhetsansvar og fragmentert verktøy over utviklings- og sikkerhetsmiljøer.

Ifølge rapporten 47% av respondentene identifiserte segmenterte team og uklar eierskap som det største hindret for å forbedre programvare-sikkerheten i supply chain.

Resultatet er en miljø hvor organisasjonene kan tro at de har sterke sikkerhetsprogrammer, mens kritiske gap fortsatt eksisterer i oversikt, ansvar og operasjonell koordinering.

SBOM-paradokset: Generert, men sjelden brukt

En annen viktig innsikt fra studien gjelder Software Bills of Materials (SBOM) – lister over programvarekomponenter designet for å hjelpe organisasjoner med å spore avhengigheter og sårbarheter.

SBOM-tilpasning har utvidet seg betydelig i løpet av de siste årene, særlig på grunn av regulatorisk press og supply chain-angrep. Likevel antyder Manifest-forskningen at mange organisasjoner behandler SBOM-generering som en compliance-avkryssingsboks i stedet for en operasjonell evne.

Rapporten fremhever flere nøkkelstatistikk:

• 60% av organisasjonene genererer SBOM
• Mer enn halvparten bruker dem ikke aktivt eller forbruker dem i praksis
• 79.6% bruker Software Composition Analysis (SCA)-verktøy
• SBOM-operasjonell bruk er langt lavere, på 41.8%

Uten sentral innlasting, normalisering, politikk-gjennomføring og kontinuerlig overvåking, blir SBOM statiske artefakter i stedet for aktive risikostyringsverktøy.

Sikkerhetsteamene uttrykker også skepsis mot tradisjonelle Software Composition Analysis-plattformer. 56.3% av respondentene sier at SCA-verktøyene skaper støy eller forsinker utviklingsteamene, mens 46.4% tviler på at disse verktøyene betyringsfullt reduserer virkelige programvaresikkerhetsrisiko.

Dette gapet illustrerer en bredere modenhetsutfordring: organisasjoner kan generere store volumer av sikkerhetsdata, men ofte mangler de operasjonelle infrastrukturen for å oversette disse signalene til håndterbare risikoreduksjoner.

Transparensdata forbedrer sikkerhet og deploy-hastighet

Til tross for disse utfordringene viser forskningen at organisasjoner som oppnår meningsfull transparens over sine programvare-sikkerhetskjeder, oppnår målbare fordeler.

Nærmere halvparten av respondentene (49.4%) rapporterer om å motta verifisert transparensdata – som SBOM, proveniensrekorder eller signerte binærer – fra leverandører under innkjøp.

Når denne informasjonen er pålitelig og operasjonell, er impakten betydelig:

• 64% rapporterer om raskere implementering av nye teknologier
• 61.6% rapporterer om raskere løsning av sikkerhetsproblemer
• 15.5% rapporterer om redusert nedtid

Organisasjoner som mangler slik transparens, betaler hva rapporten beskriver som en “transparensavgift” – den ekstra tiden, kostnaden og risikoen forbundet med å manuelt undersøke uklare programvarekomponenter.

Høyt regulerte industrier illustrerer denne utfordringen. Finans- og helseorganisasjoner rapporterer noen av de laveste ratene for å motta verifisert transparensdata fra leverandører – 14.3% og 19.5% henholdsvis – til tross for at de har den største behovet for det.

AI-tilpasning akselererer over bedrifter

Studien fremhever også hvor raskt AI har blitt integrert i bedriftens programvareøkosystemer.

Virtuelt ingen organisasjoner rapporterte om å unngå AI fullstendig. I stedet eksperimenterer selskapene over en rekke tilnærminger:

• 80.2% bruker godkjente kommersielle AI-modeller internt
• 79.9% bruker kommersielle verktøy som ChatGPT eller Cursor
• 56.7% trener åpne modeller på interne data
• 29.3% bygger tilpassede AI-modeller fra scratch

Finans- og teknologiselskaper er i fremste rekke for tilpasning. Nærmere 90% av finansselskapene rapporterer om godkjente interne AI-modeller, og 46.9% bygger tilpassede modeller fra scratch, langt over gjennomsnittet.

Disse sektorene har sterke incitamenter for å flytte raskt. I finansselskaper påvirker AI direkte svindelforebygging, risikostyring og inntektsgenerering. I teknologiselskaper sitter AI stadig mer i kjernen av produkttilbud og plattformkapasiteter.

Likevel, den raske tilpasningsraten overstiger ofte styringen.

Skygge-AI blir et utbredt problem

Forskningen bekrefter at skygge-AI – verktøy eller modeller som er deployet uten formell tilsyn – allerede er utbredt.

Bare 34.8% av respondentene rapporterer om å ikke ha skygge-AI i sine organisasjoner, mens resten erkjenner minst noe ustyrt AI-bruk.

Dette mønsteret speiler tidligere bølger av “skygge-IT”, hvor ansatte adopterte skytjenester eller SaaS-verktøy utenfor offisielle innkjøpsprosesser.

Regionale forskjeller oppstår også. Organisasjoner i EMEA rapporterer høyere rater for å operere uten skygge-AI (45.7%), sannsynligvis på grunn av sterkere regulatoriske rammer og strengere innkjøpsprosesser sammenlignet med andre regioner.

Likevel advarer rapporten om at tradisjonelle sikkerhetsverktøy aldri var designet for å spore AI-modeller, datasamlinger og -tjenester over distribuerte utviklingsmiljøer.

Lisens- og juridiske risikoer er et annet stort blindpunkt

Forbi teknisk styring, fremhever studien også juridiske og compliance-utfordringer forbundet med AI-tilpasning.

Å forstå lisensvilkårene, immaterielle rettigheter og bruksbegrensninger for AI-modeller og -datasamlinger, er vanskelig for mange organisasjoner. Undersøkelsen fant:

• 93% av respondentene sier at deres organisasjon har rom for å forbedre AI-lisens- og IP-forpliktelsene
• 54.6% er sterkt enige i at dette fortsatt er en stor utfordring

Disse risikoene blir særlig akutte når organisasjoner trener åpne modeller på interne data eller kombinerer proprietære datasamlinger med tredjeparts AI-komponenter.

Uten sterkere styringsrammer, kan selskaper utilsiktet innføre lisensbrudd eller compliance-eksponering i produksjonssystemer.

Operasjonell harmonisering kan være den virkelige utfordringen

Mens sikkerhetsverktøyene fortsetter å utvikle seg, antyder rapporten at den største barrieren for effektiv AI-sikkerhet i supply chain, kan være operasjonell harmonisering.

Mange organisasjoner sliter med fragmentert eierskap, frakoblet arbeidsflyt og mangelen på en felles system for programvare- og AI-komponenter.

De mest hyppig nevnte begrensningene inkluderer:

• 47.3% organisatoriske begrensninger
• 36.3% utilstrekkelige ferdigheter
• 35.7% budsjettbegrensninger
• 34.8% manglende ledelsesforståelse
• 32.6% bemanningsmangler

Disse operasjonelle gapene gjør det vanskelig for sikkerhetssignaler å oversettes til konsistent politikk-gjennomføring eller målbare risikoreduksjon.

Hvorfor AI-sikkerhet i supply chain blir en strategisk prioritet

Ettersom AI blir integrert i hver lag av bedriftens programvare, utvides konseptet om programvare-sikkerhetskjeden til å inkludere modeller, treningsdatasamlinger, inferensetjenester og tredjeparts AI-plattformer.

Manifest-rapporten konkluderer med at organisasjoner må gå utover punkt-til-punkt-oversiktverktøy og bygge kontinuerlig, operasjonell kontroll over sine AI-sikkerhetskjeder.

Dette inkluderer:

• Spore alle AI-modeller som brukes over utviklingsmiljøer
• Verifisere proveniens og lisensiering av treningsdata
• Gjennomføre styringspolitikker under utvikling og deploy
• Vedlikeholde kontinuerlige lister som SBOM for AI-komponenter

Uten disse mekanismene, vil gapet mellom AI-tilpasning og AI-styring fortsette å øke.

Og som studien gjør klart, eksisterer dette gapet allerede i mange bedrifter i dag.

data Enfører styringspolitikker under utvikling og deploy Vedlikeholde kontinuerlige lister som SBOM for AI-komponenter Uten disse mekanismene, vil gapet mellom AI-tilpasning og AI-styring fortsette å øke. Og som studien gjør klart, eksisterer dette gapet allerede i mange bedrifter i dag.