Tankeledere

Hvorfor telekomvekst avhenger av pålitelig AI

Mark Rohan
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterAI-drevet stemmekloning muliggjør nå skalerbar svindel som omgår tradisjonelle…
Vis mer
  • AI-drevet stemmekloning muliggjør nå skalerbar svindel som omgår tradisjonelle teleautentiseringssystemer.
  • Bedrifters telekjøpere prioriterer nå verifiserbar AI-sikkerhet og revisjon fremfor kun pris og dekning.
  • Kontinuerlig testing og overvåking av stemmeinfrastruktur har blitt en kommersiell differensieringsfaktor for vekst.

Forestill deg en kunde som mottar bekreftelse på at et passord er nullstilt etter et telefonopppring de aldri har gjort. Systemet har registrert en stemmematch, verifisert identitet og behandlet forespørselen – alt basert på en AI-generert kopi.

AI er nå integrert i sentrale telekomfunksjoner, fra å rute oppringinger og verifisere identiteter til å oppdage bedrageri og drive automatiserte talesystemer. Disse funksjonene tillater tjenesteleverandørene å operere mer effektivt og i større skala. Men de introduserer også nye risikoer, inkludert stemmekloning, automatisert etterligning og andre former for AI-drevet bedrageri som kan utnytte svakheter i eksisterende sikkerhetstiltak.

Telekomtjenesteleverandørene står overfor en ny kategori av bedrageri som direkte rammer deres kunder. Angripere kan klone en persons stemme fra et kort opptak og bruke den til å etterligne dem under autentiseringsoppringinger, få tilgang til finansielle kontoer, nullstille passord eller omdirigere transaksjoner. Automatiserte systemer kan foreta tusenvis av oppringinger samtidig, og teste svakheter i identitetskontroller eller kundeservice-arbeidsflyter. Det som tidligere krevde dyktig menneskelig innsats, kan nå utføres raskt og i stor skala, og øker risikoen for at kundenes kontoer, data og finansielle midler kan bli kompromittert.

Denne utviklingen endrer måten teletjenesteleverandørene konkurrerer på. Forbi pris og dekning, forventer kundene nå synlige sikkerhetstiltak: kontinuerlig stresstesting av autentiseringsflyter, tydelige audit-spor for automatiserte beslutninger og aktiv overvåking av uregelmessige mønster i verifisering og oppringingsruting. De er også villige til å bytte tjenesteleverandør hvis disse beskyttelsene ikke er synlige. Leverandører som kan demonstrere disse beskyttelsene, er bedre posisjonert til å vinne forretninger og beholde dem over tid. Pålitelig AI er ikke bare et teknisk mål, men har blitt en forutsetning for vekst.

Hvorfor tradisjonelle modeller feiler

Et av de mest betydelige problemene her er at de fleste talesikkerhetssystemer ble designet for en annen type trussel-miljø. De ble basert på antagelser om at angripere ville handle manuelt, i begrenset skala og med relativt enkle verktøy. AI har endret denne ligningen. Bedrageriforsøk kan nå automatiseres, skaleres over tusenvis av mål og drives av verktøy som kan klone en persons stemme fra korte lydclipp og bruke den til å etterligne kunder eller ansatte i sanntid.

Som en følge av dette, er sikkerhetstiltak som en gang fungerte som grunnleggende tillitsignal, ikke lenger pålitelige. Bedragere spoofer oppringers ID for å gjøre skadelige oppringinger synlige som legitime. De svarer på sikkerhets-spørsmål ved hjelp av personlige data hentet fra datalekkasjer, lekkede databaser eller sosial manipulering. De utnytter også IVR-autentiserings-systemer som avhenger av faste skript, og bruker automatisering til å teste for forutsigbare svar og omgå identitetskontroller. Metoder som en gang ga en rimelig sikkerhet, tilbyr nå langt mindre beskyttelse mot adaptive, AI-drevne angrep.

Utfordringen forverres av teletjenestens infrastrukturs struktur. Mye av det underliggende talenettverket ble designet for flere tiår siden, før AI-drevet bedrageri var mulig. Dette gjør det vanskelig å introdusere sterkere beskyttelse uten å forstyrre tjenestens pålitelighet. I stedet for å avhenge av statiske sikkerhetstiltak eller antakelser i retningslinjer, trenger tjenesteleverandørene nå kontinuerlig testing og overvåking for å verifisere at autentiserings-systemer, rute-logikk og tale-veier oppfører seg trygt under virkelige forhold.

Etterlevelse av krav under kjøpsbeslutninger

Bedriftskunder vurderer ikke lenger teletjenesteleverandører bare basert på pris og dekning. De vil også vite om AI-drevne systemer kan verifisere identiteter sikkert, oppdage bedrageri og gi pålitelige opplysninger når noe går galt. Når tale-infrastruktur brukes til å autentisere brukere eller håndtere følsomme transaksjoner, blir sikkerhet og ansvarlighet essensielle krav, ikke tekniske detaljer.

Dette skiftet er synlig under anskaffelse. Kjøpere spør stadig om autentiserings-systemer kan motstå etterligningsforsøk, om beslutninger kan auditeres etter en omstridt interaksjon, og om sikkerhetstiltak er aktivt overvåket. Bransje-prognoser understreker dette skiftet: bedrifts-utgifter til AI-styring og teknologier for etterlevelse av krav forventes å øke fra 2,2 milliarder dollar i 2025 til 9,5 milliarder dollar i 2035, og reflekterer økende etterspørsel etter systemer som kan overvåkes, forklares og verifiseres.

Leverandører som kan demonstrere dette nivået av pålitelighet og transparens, er bedre posisjonert til å vinne – og beholde – bedrifts-forretninger. Når kunder har tillit til at AI-systemer vil fungere trygt og forutsigbart, er de mer villige til å adoptere og utvide disse tjenestene. Tillit har blitt noe leverandører må aktivt bevise.

Innebygging av etterlevelse i designet

Mange av svakhetene i talesystemer stammer fra hvordan de ble designet opprinnelig. Autentiseringsmetoder, rute-logikk og verifiserings-arbeidsflyter ble bygget for en tid da angrep var langsommere og lettere å oppdage. Da AI-drevet etterligning og automatisert bedrageri har oppstått, holder disse antagelsene ikke lenger. Å legge til politikker eller eksterne sikkerhetstiltak etter deployering kan hjelpe, men det løser ikke fullstendig svakhetene i hvordan systemene faktisk opererer.

Dette er hvorfor sikkerhet og styring stadig mer bygges inn i tale-infrastruktur fra starten. Leverandører må verifisere at autentiserings-systemer fungerer som ment, at oppringinger rutes korrekt og at uventet atferd kan oppdages og undersøkes. Kontinuerlig testing tillater operatørene å identifisere hull før angripere kan utnytte dem, i stedet for å oppdage problemer etter at kunder har blitt berørt.

Kontinuerlig overvåking spiller en lignende rolle. Uvanlige autentiseringsfeil, unormale oppringsmønster eller uventede rute-resultater kan signalisere bedrageriforsøk eller system-svakheter. Å oppdage disse problemene tidlig tillater leverandører å reagere raskt og redusere eksponering. Over tid, fører denne tilnærmingen til mer pålitelige systemer, færre vellykkede angrep og større tillit blant kunder som avhenger av tale-kanaler for å utføre følsomme transaksjoner.

Etterlevelse som vekststrategi

Sikkerhet og tillit spiller nå en direkte rolle i hvordan teletjenesteleverandører vinner og beholder kunder. Når bedrifter avhenger av AI-drevne talesystemer for å autentisere brukere og håndtere følsomme interaksjoner, trenger de tillit til at disse systemene vil fungere trygt og motstå misbruk. Leverandører som ikke kan tilby denne forsikringen, risikerer å tape forretninger til konkurrenter som kan.

Samtidig blir AI-drevet bedrageri raskere og mer skalerbart. Statisk sikkerhet og periodiske revisjoner er ofte for langsomme til å oppdage eller forhindre angrep som utvikler seg i sanntid. Leverandører trenger kontinuerlig oversikt over hvordan deres systemer oppfører seg, for å kunne identifisere svakheter og reagere før kunder blir berørt.

Over tid blir evnen til å demonstrere pålitelighet en differensierer. Leverandører som kan tydelig vise at deres systemer er trygge, overvåket og motstandsdyktige, vil være bedre posisjonert til å vinne tillit og omgjøre den til langvarige kunde-forhold når AI blir integrert i kjernetelefontjenester.

Og fra et ledelsesperspektiv, gjenskaper dette compliance helt. Det blir en kommersiell evne som bestemmer om AI-drevne tjenester er pålitelige nok til å bli adoptert i stor skala.

Mark Rohan er medstifter og chief operating officer i Klearcom, hvor han leder operasjoner, strategi og vekst for en AI-drevet plattform som tester og overvåker nasjonale IVR-lyd-reiser fra sluttpunkt til sluttpunkt. Med over 20 års erfaring innen telekommunikasjon, bringer Mark dyp ekspertise innen IP-nettverk, bedriftsløsninger og salgsledelse, og hjelper globale kontaktsentere å forebygge kunde-påvirkende avbrudd, å avdekke problemer raskere og å forbedre stemme-kundeopplevelsen. Basert i Waterford, Irland, er han lidenskapelig opptatt av å bygge høyt presterende lag og levere praktisk, kunde-fokusert innovasjon i stor skala.