IA a la pesca: els atacants o els defensors es beneficien més?

A mesura que la ciberdelinqüència ha crescut, la indústria de la ciberseguretat ha hagut d'adoptar la tecnologia d'avantguarda per mantenir-se al dia. La intel·ligència artificial (IA) s'ha convertit ràpidament en una de les eines més útils per aturar els ciberatacs, però els atacants també la poden utilitzar. Les tendències recents de pesca són un exemple excel·lent d'ambdues parts del problema.

El phishing és el tipus de ciberdelicte més comú actualment de lluny. A mesura que més empreses han pres consciència d'aquesta amenaça creixent, més han implementat eines d'IA per aturar-la. Tanmateix, els ciberdelinqüents també estan augmentant el seu ús de la IA en el phishing. Aquí teniu una visió més detallada de com les dues parts utilitzen aquesta tecnologia i qui se'n beneficia més.

Com la IA ajuda a lluitar contra la pesca

Els atacs de pesca s'aprofiten de la tendència natural de les persones a la curiositat i la por. Com que aquesta enginyeria social és tan eficaç, una de les millors maneres de protegir-se contra ella és assegurar-se que no la veieu en primer lloc. Aquí és on entra la IA.

Les eines d'IA anti-phishing solen presentar-se en forma de filtres de correu electrònic avançats. Aquests programes escanegen els missatges entrants a la recerca de signes d'intents de pesca i envien automàticament correus electrònics sospitosos a la carpeta de brossa. Algunes solucions més noves ho poden fer detectar correus electrònics de pesca amb un 99.9% de precisió mitjançant la generació de diferents versions de missatges d'estafa basats en exemples reals per entrenar-se per detectar variacions.

A mesura que els investigadors de seguretat detecten més correus electrònics de pesca, poden proporcionar a aquests models més dades, fent-los encara més precisos. Les capacitats d'aprenentatge continu de l'IA també ajuden a perfeccionar els models per reduir els falsos positius.

La IA també pot ajudar a aturar els atacs de pesca quan feu clic a un enllaç maliciós. El programari de control automatitzat pot establir una línia de base del comportament normal per detectar anomalies que probablement es produiran quan algú altre utilitzi el vostre compte. A continuació, poden bloquejar el perfil i alertar els equips de seguretat abans que l'intrus faci massa dany.

Com els atacants utilitzen la intel·ligència artificial a la pesca

El potencial de l'IA per aturar els atacs de pesca és impressionant, però també és una eina potent per generar correus electrònics de pesca. A mesura que la IA generativa com ChatGPT s'ha tornat més accessible, fa que els atacs de pesca siguin més efectius.

Spearphishing, que utilitza dades personals per elaborar missatges específics de l'usuari, és un dels tipus de pesca més efectius. Un correu electrònic que conté tota la vostra informació personal correctament serà, naturalment, molt més convincent. Tanmateix, tradicionalment, aquests missatges han estat difícils i han consumit temps de crear, sobretot a gran escala. Això ja no és el cas de la IA generativa.

La IA pot generar quantitats massives de missatges de pesca personalitzats en una fracció del temps que necessitaria un humà. També és millor que la gent escriure falsificacions convincents. En un estudi del 2021, correus electrònics de pesca generats per IA van veure percentatges de clics significativament més elevats del que van escriure aquests humans, i això va ser abans del llançament de ChatGPT.

De la mateixa manera que els venedors utilitzen la intel·ligència artificial per personalitzar les seves campanyes de divulgació dels clients, els ciberdelinqüents poden utilitzar-la per crear missatges de pesca efectius i específics per a l'usuari. A mesura que millori la IA generativa, aquestes falsificacions només seran més convincents.

Els atacants segueixen al capdavant gràcies a les debilitats humanes

Amb atacants i defensors aprofitant la IA, quin bàndol ha vist els beneficis més destacats? Si observeu les tendències recents de ciberdelinqüència, veureu que els ciberdelinqüents han prosperat malgrat les proteccions més sofisticades.

Atacs de compromís de correu electrònic empresarial va augmentar un 81% en el segon semestre del 2022 i els empleats van obrir el 28% d'aquests missatges. Això forma part d'un augment a llarg termini del 175% durant els darrers dos anys, cosa que suggereix que el phishing està creixent més ràpidament que mai. Aquests atacs també són efectius, robant 17,700 dòlars per minut, per això probablement estan darrere del 91% dels ciberatacs.

Per què ha crescut tant el phishing malgrat que la IA millora les proteccions anti-phishing? Probablement es redueix a l'element humà. Els empleats han d'utilitzar aquestes eines perquè siguin efectius. Més enllà d'això, els treballadors podrien participar en altres activitats insegures que els facin propensos a intents de pesca, com ara iniciar sessió als seus comptes laborals en dispositius personals no sancionats i sense protecció.

L'enquesta esmentada anteriorment també va trobar que els treballadors denuncien només el 2.1% dels atacs. Aquesta manca de comunicació pot fer difícil veure on i com han de millorar les mesures de seguretat.

Com protegir-se de l'augment dels atacs de pesca

Donada aquesta tendència alarmant, les empreses i els usuaris individuals haurien de prendre mesures per mantenir-se segurs. La implementació d'eines anti-phishing d'IA és un bon començament, però no pot ser la vostra única mesura. Només 7% dels equips de seguretat no utilitzen ni planegen utilitzar IA, però el domini del phishing persisteix, de manera que les empreses també han d'abordar l'element humà.

Com que els humans són l'enllaç més feble contra els atacs de pesca, haurien de ser el focus dels passos de mitigació. Les organitzacions haurien de fer que les millors pràctiques de seguretat siguin una part més destacada de la incorporació i la formació contínua dels empleats. Aquests programes haurien d'incloure com detectar atacs de pesca, per què és un problema i simulacions per provar la retenció de coneixements després de la formació.

També és important utilitzar eines de gestió d'accés i identitats més sòlides, ja que ajuden a aturar les incompliments reeixits després d'entrar a un compte. Fins i tot els empleats experimentats poden cometre errors, de manera que hauríeu de poder detectar i aturar els comptes incompliments abans que causin danys importants.

La IA és una eina poderosa tant per al bé com pel dolent

La IA és una de les tecnologies més disruptives de la història recent. Que això sigui bo o dolent depèn del seu ús.

És vital reconèixer que la IA pot ajudar els ciberdelinqüents tant, si no més, que els professionals de la ciberseguretat. Quan les organitzacions reconeixen aquests riscos, poden prendre mesures més efectives per fer front als atacs de pesca creixent.