Pascal Geenens, Αντιπρόεδρος Κυβερνοαπειλών, Radware – Σειρά Συνεντεύξεων

Pascal Geenens, Αντιπρόεδρος Κυβερνοαπειλών, Radware, είναι ερευνητής κυβερνοασφάλειας και ηγέτης τεχνολογίας με περισσότερες από δύο δεκαετίες εμπειρίας σε πληροφορίες τεχνολογίας, δικτυακή ασφάλεια και πληροφορίες για απειλές. Στο Radware, βοηθά στην ηγεσία της εταιρείας στην έρευνα και την ηγεσία σκέψης για το εξελισσόμενο τοπίο κυβερνοαπειλών, με ιδιαίτερη έμφαση στις分布μένες επιθέσεις άρνησης υπηρεσίας, malware του Internet των πραγμάτων, αυτοματοποιημένες απειλές και την αυξανόμενη χρήση τεχνητής νοημοσύνης από cả τους επιτιθέμενους και τους υπερασπιστές. Ο Geenens αναπτύσσει και διατηρεί IoT honeypots ως μέρος της ομάδας ασφαλείας του Radware και έχει διεξάγει εκτεταμένη έρευνα σε απειλές όπως BrickerBot και Hajime. Πριν ενταχθεί στο Radware, εργάστηκε ως μηχανικός συμβούλου στην Juniper Networks , συμβουλεύοντας μεγάλους παρόχους cloud και επικοινωνιών στην Ευρώπη, τη Μέση Ανατολή και την Αφρική για στρατηγικές δικτύου, εικονικής δικτύωσης και αυτοματοποίησης κέντρου δεδομένων.

Radware είναι μια δημόσια εταιρεία κυβερνοασφάλειας και εφαρμογής που βοηθά τις επιχειρήσεις να προστατεύουν δίκτυα, ιστοσελίδες, εφαρμογές και API σε φυσικά, cloud, υβριδικά και λογισμικά περιβάλλοντα. Το χαρτοφυλάκιο της περιλαμβάνει προστασία από distributed denial-of-service με τη βοήθεια της τεχνητής νοημοσύνης, τείχη προστασίας εφαρμογών, διαχείριση bot, ασφάλεια API, ελεγκτές εφαρμογών και υπηρεσίες διαχείρισης έκτακτης ανάγκης. Συνδυάζοντας την ανάλυση συμπεριφοράς, την машинική μάθηση, την κλιμάκωση της πληροφόρησης για απειλές και την αυτοματοποιημένη μείωση, η τεχνολογία του Radware σχεδιάζεται για να αναγνωρίσει την κακόβουλη δραστηριότητα σε πραγματικό χρόνο ενώ διατηρεί την πρόσβαση για τους νόμιμους χρήστες και τη διαθεσιμότητα και την απόδοση των κρίσιμων ψηφιακών υπηρεσιών.

Έχετε περάσει σχεδόν τρεις δεκαετίες στην κυβερνοασφάλεια, από την υποστήριξη πυρήνα IBM AIX και τη μηχανική υποδομής μέχρι την ανακάλυψη botnet όπως BrickerBot, JenX και Demonbot, και τώρα ηγείτε την Πληροφόρηση για Απειλές στο Radware. Όταν κοιτάτε πίσω, ποίες είναι οι μεγαλύτερες αλλαγές που έχετε δει στις καινοτομίες των επιτιθέμενων, και πώς έχει αλλάξει η τεχνητή νοημοσύνη τις προσδοκίες σας για το τι θα μοιάζουν οι επόμενες γενιές κυβερνοαπειλών;

Το τοπίο των απειλών έχει υποστεί μια θεμελιώδη αλλαγή από τους μοναχικούς χάκερ που ήταν υψηλά τεχνικοί ενθουσιώδεις σε κυβερνοεγκλήματίες που είναι υψηλά οργανωμένοι, εξευγενισμένοι επιχειρηματίες. Στο παρελθόν, ένας χάκερ ήταν συνήθως мотивμένος από την τεχνική πρόκληση selbst. Σήμερα, η συνδυασμένη ψηφιακή επιτάχυνση και η γεννητική τεχνητή νοημοσύνη έχουν εμπορευματοποιήσει ολόκληρη την επιχείρηση, τροφοδοτώντας μια ώριμη οικονομία Crime-as-a-Service (CaaS). Οι κακόβουλοι ηθοποιοί έχουν ουσιαστικά αντανακλούν το μοντέλο Software-as-a-Service (SaaS) των εταιρειών, πουλώντας προηγμένα εργαλεία σε οποιονδήποτε. Αυτό επιτρέπει στους αρχάριους επιτιθέμενους να εκκινήσουν σύνθετες επιθέσεις σε κλίμακα. Όσο η ψηφιακή μας αποτύπωση επεκτείνεται κάθε χρόνο, η διαθέσιμη επιφάνεια επίθεσης και οι ευκαιρίες για οικονομική εκμετάλλευση αυξάνονται μαζί της.

Η τεχνητή νοημοσύνη οδηγεί στο επόμενο κεφάλαιο της εξέλιξης αυτής με δύο διακριτούς τρόπους.

Πρώτον, δημοκρατικοποιεί την κυβερνοαπείλη. Δίνει στους ερασιτέχνες επιτιθέμενους einen άμεσο capability boost ενώ βοηθά τους μεγάλους συνδικάτους να ροκανίσουν τις επιχειρήσεις τους, να λειαίνουν τις διεπαφές τους και να αγοράζουν τις κακόβουλες υπηρεσίες τους πολύ πιο αποτελεσματικά.

Δεύτερον, και πιο κρίσιμο, η άνοδος της agentic τεχνητής νοημοσύνης σε συνδυασμό με τα τελευταία μοντέλα είναι αυτοματοποίηση του κύκλου ζωής της ευπάθειας. Κινουμε προς μια λειτουργική πραγματικότητα όπου οι μηχανές μπορούν να σκανάρουν αυτόνομα δίκτυα, να ανακαλύψουν ευπάθειες και να οπλίσουν εκμεταλλεύσεις σχεδόν εξ ολοκλήρου από μόνοι τους, εργαζόμενοι 24/7 και εκτελώντας ενέργειες με πολλαπλάσιο ρυθμό από οποιοδήποτε ανθρώπινο υπερασπιστή.

Η τεχνητή νοημοσύνη μειώνει δραματικά το τεχνικό εμπόδιο για τους επιτιθέμενους. Ποια επιθετικά χαρακτηριστικά της τεχνητής νοημοσύνης σας ανησυχούν περισσότερο τα επόμενα τρία έως πέντε χρόνια, και ποια από αυτά λαμβάνουν περισσότερη προσοχή από ό,τι αξίζουν;

Η περιοχή που απαιτεί την πιο στενή προσοχή τώρα είναι η τεχνητή νοημοσύνη που βοηθά στην ανακάλυψη και εκμετάλλευση ευπαθειών. Η στιγμή που μια ευπάθεια αποκαλύπτεται, αρχίζει ένας αγώνας. Οι επιτιθέμενοι χρησιμοποιούν την τεχνητή νοημοσύνη για να αναλύσουν άμεσα την ευπάθεια, να χαρτογραφήσουν που ισχύει και να δημιουργήσουν και να δοκιμάσουν εκμεταλλεύσεις. Αυτό συμπιέζει εντελώς το χρονοδιάγραμμα εκμετάλλευσης που ήταν ήδη πολύ γρήγορο για τις περισσότερες διαδικασίες διαχείρισης ενημερώσεων λογισμικού.

Ταυτόχρονα, βλέπουμε μια σημαντική αλλαγή προς τοπικές, συνεχείς συστήματα τεχνητής νοημοσύνης. Συγκεκριμένα, η άνοδος των “τοπικών πρακτόρων με παλμό”. Ένα πρωτοποριακό παράδειγμα είναι το OpenClaw και η πρόσφατη ανακοίνωση της Microsoft (MSFT ) ότι θα ενσωματώσουν το OpenClaw στη γραμμή εργασιών κάθε υπαλλήλου. Σε αντίθεση με τα τυπικά cloud- आधαρα συστήματα, αυτοί οι τοπικοί πράκτορες τρέχουν συνεχώς στο παρασκήνιο, απευθείας στη μηχανή του υπαλλήλου. Λειτουργούν μέσω συνεχών βουคลίων και μιμούνται ανθρώπινες ενέργειες, όπως η πληκτρολόγηση και η αυτόματη πλοήγηση. Αυτό καθιστά σχεδόν αδύνατο για τα τυπικά συστήματα ασφαλείας端 να διακρίνουν μεταξύ του υπαλλήλου και του αυτοματοποιημένου πράκτορα.

Η υπερτιμημένη απειλή είναι η πιθανότητα για πλήρως αυτοματοποιημένα, zero-day εκμεταλλεύοντας swarms της τεχνητής νοημοσύνης που μπορούν να χτυπήσουν σύνθετα επιχειρήσεις σε κλίμακα από την αρχή. Αυτό μπορεί να εμφανιστεί τελικά, αλλά δεν είναι το πρόβλημα της ημέρας. Το πρόβλημα της ημέρας είναι οι ανθρώπινοι εμπειρογνώμονες επιτιθέμενοι με βελτιωμένα εργαλεία και αυτοματοποίηση και ένας αυξημένος αριθμός λιγότερο έμπειρων επιτιθέμενων που μπορούν να κάνουν περισσότερα από ό,τι μπορούσαν πριν.

Το παράθυρο μεταξύ της αποκάλυψης μιας ευπάθειας και της ενεργού εκμετάλλευσής της συνεχίζει να μειώνεται. Ποσοστό έχει αυξηθεί η τεχνητή νοημοσύνη αυτό το χρονοδιάγραμμα, και ποιες αλλαγές πρέπει οι ομάδες ασφαλείας των επιχειρήσεων να κάνουν για να παραμείνουν μπροστά;

Είναι ένας διπλός αγώνας: από τη μια πλευρά, έχετε τον αγώνα για την ανακάλυψη, διόρθωση και αποκάλυψη νέων ευπαθειών πριν οι κακόβουλοι το κάνουν. Από την άλλη πλευρά, έχετε τον αγώνα για την ενημέρωση του ευπαθούς λογισμικού πριν οι κακόβουλοι εκμεταλλευτούν μια εκμετάλλευση. Η τεχνητή νοημοσύνη είναι στο επίκεντρο και των δύο αγώνων.

Οι υπερασπιστές πρέπει να αντιμετωπίσουν έναν αυξανόμενο αριθμό ευπαθειών και έχουν όλο και λιγότερο χρόνο για αντίδραση. Μόλις μια ευπάθεια είναι δημόσια, οι επιτιθέμενοι κινούνται γρήγορα μέσω των βασικών. Τι επηρεάζει; Είναι προσβάσιμο από το διαδίκτυο; Μπορεί η εκμετάλλευση να αναπαραχθεί και να προσαρμοστεί για να λειτουργήσει σε περισσότερα περιβάλλοντα; Η τεχνητή νοημοσύνη βοηθά σε όλα αυτά τα βήματα, συνοψίζοντας την ευπάθεια, αναθεωρώντας τον κώδικα proof-of-concept, προτείνοντας βελτιώσεις και αυτοματοποιώντας την σάρωση, την εκμετάλλευση και την επεξεργασία των αποτελεσμάτων.

Η ενημέρωση δεν μπορεί να είναι το μόνο ρολόι που παρακολουθούν οι ομάδες ασφαλείας. Είναι απαραίτητο, αλλά είναι συνήθως πιο αργό από το χρονοδιάγραμμα του επιτιθέμενου, ιδιαίτερα για εφαρμογές και API που αντιμετωπίζουν το διαδίκτυο. Οι ομάδες πρέπει να γνωρίζουν τι είναι εκτεθειμένο, τι είναι εκμεταλλεύσιμο στην πράξη και ποιες επιχειρηματικές υπηρεσίες και πόροι θα επηρεαστούν όταν χτυπηθούν.

Για να κλείσουν αυτό το κρίσιμο παράθυρο έκθεσης, οι υπερασπιστές πρέπει να μεταφερθούν από μια αντιδραστική, ενημερωμένη νοοτροπία σε ένα αυτοματοποιημένο, προστατευμένο μοντέλο υλοποιώντας περιβαλλοντικές, πραγματικές αμυντικές άμυνες. Αντί να βασίζονται σε γενικές, ένα-μεγέθους-για-όλους υπογραφές ή να αναγκάζουν τις ομάδες λειτουργιών να βγάλουν ανεπεξέργαστες ενημερώσεις λογισμικού στην παραγωγή, οι οργανισμοί πρέπει να αρχίσουν να βασίζονται στην συνεχή, αυτοματοποιημένη ανακάλυψη των API endpoints και της επιχειρηματικής λογικής των διαδικτυακών εφαρμογών, μαζί με μια αυτοματοποιημένη λίστα υλικού λογισμικού (SBOM), σε συνδυασμό με πληροφορίες για απειλές σχετικά με τις τελευταίες απειλές και ευπάθειες για να δημιουργήσουν δυναμικά προσωποποιημένα εικονικά补丁. Η ανάπτυξη αυτών των προστασιών με γνώση του περιβάλλοντος σε διαδικτυακές εφαρμογές και API endpoints μπλοκάρει τις προσπάθειες εκμετάλλευσης στο επίπεδο εκτέλεσης πριν φτάσουν στην ευπαθή λογική εφαρμογής. Αυτό το είδος αυτοματοποιημένης παρέμβασης αγοράζει χρόνο στις ομάδες ασφαλείας, επιτρέποντάς τους να ελέγξουν και να αναπτύξουν ενημερώσεις λογισμικού με ασφάλεια χωρίς να εκθέτουν την επιχείρηση σε άμενο κίνδυνο ή χρόνο εκτός λειτουργίας.

Οι οργανισμοί αναπτύσσουν γρήγορα εφαρμογές και πράκτορες που βασίζονται στην τεχνητή νοημοσύνη και που βασίζονται πολύ σε API. Υπερεκτιμούν οι επιχειρήσεις τους κινδύνους ασφαλείας που δημιουργούνται από αυτό, και ποιες είναι οι μεγαλύτερες λάθη που βλέπετε σήμερα;

Ναι, πολλές επιχειρήσεις εξακολουθούν να υποτιμούν τους κινδύνους γιατί τις αντιμετωπίζουν ως εφαρμογές για ασφάλεια και την ασφάλεια της τεχνητής νοημοσύνης ως ζήτημα προστασίας δεδομένων παρά ως λειτουργική απειλή. Το ζήτημα που βλέπουμε περισσότερο τώρα είναι μια θεμελιώδης παρεξήγηση της agency του πράκτορα. Για έναν τοπικό πράκτορα να είναι πραγματικά αποτελεσματικός και να σώσει χρόνο σε έναν υπαλλήλο, ο χρήστης πρέπει να μεταβιβάσει όλες τις άδειες πρόσβασης σε αυτόν. Αυτό σημαίνει ότι ο πράκτορας κληρονομεί αποτελεσματικά την ταυτότητα και την πρόσβαση του υπαλλήλου σε εταιρικές εφαρμογές, συνεδρίες προγράμματος περιήγησης και τοπικά αρχεία. Ακόμη και αν ένας οργανισμός παρακολουθεί και περιορίζει τους συνδετήρες του πράκτορα, αυτοί οι τοπικοί πράκτορες μπορούν να αλληλεπιδράσουν με συστήματα μιμούμενοι ανθρώπινη συμπεριφορά, όπως η πληκτρολόγηση και η αυτόματη πλοήγηση. Τα συστήματα ασφαλείας της εταιρείας γίνονται完全 incapable να διακρίνουν μεταξύ του πραγματικού υπαλλήλου και του αυτοματοποιημένου πράκτορα.

Αυτή η ανάθεση εμπιστοσύνης γίνεται εξαιρετικά επικίνδυνη λόγω του τρόπου με τον οποίο οι LLMs επεξεργάζονται πληροφορίες: τα μοντέλα της τεχνητής νοημοσύνης δεν διακρίνουν μεταξύ δεδομένων και εντολών. Όταν ένας πράκτορας έχει ευρεία πρόσβαση στο σύστημα για να κάνει τη δουλειά του, γίνεται πολύ εύκολο για έναν επιτιθέμενο να κοροϊδέψει τον πράκτορα μέσω έμμεσης ένεσης προώθησης. Ένας επιτιθέμενος μπορεί απλώς να φυτέψει κακόβουλη εντολή μέσα σε ένα email, ένα PDF ή μια ιστοσελίδα που ο πράκτορας έχει ανατεθεί να διαβάσει. Το μοντέλο επεξεργάζεται τα μη αξιόπιστα δεδομένα ως εντολή, πλήρως παρακάμπτοντας την επίγνωση του χρήστη. Ξαφνικά, ένα απλό εργαλείο που προορίζεται για την περίληψη εγγράφων χειραγωγείται για να εξαγάγει αυτόματα ευαίσθητες πληροφορίες, να τροποποιήσει εταιρικά δεδομένα ή να εγκαταστήσει κακόβουλο λογισμικό, όλα ενώ κρύβεται πίσω από τα νόμιμα πιστοποιητικά του χρήστη.

Έχοντας περάσει χρόνια ερευνώντας malware του Internet των πραγμάτων και botnet, πώς βλέπετε την τεχνητή νοημοσύνη να μετασχηματίζει την επόμενη γενιά botnet; Μπορούμε τελικά να δούμε αυτόνομους botnet που μπορούν να προσαρμόζουν τις τακτικές τους χωρίς άμεση ανθρώπινη παρέμβαση;

Οι botnet herders δεν έχουν ποτέ καθίσει ήρεμα. Οι χειριστές περιστρέφουν payload, υλοποιούν νέες ευπάθειες, συνεχώς σκανάρουν για παλιές συσκευές και μετακινούν την υποδομή τους όταν οι υπερασπιστές τους πιάνουν. Οι πράκτορες της τεχνητής νοημοσύνης μπορούν να επιταχύνουν σοβαρά αυτούς τους κύκλους, είτε πρόκειται για τριχοτόμηση ευπαθειών, γεννήτρια εκμεταλλεύσεων ή διαχείριση υποδομής.

Αυτόνομες botnet δεν είναι μυθικά. Το Brickerbot ήταν ένα από τα πρώτα αυτόνομα bot. Θα καθόταν ήσυχο και θα περίμενε συσκευές που είχαν μολυνθεί από Mirai να προσπαθήσουν να αποκτήσουν πρόσβαση στη συσκευή του και θα ανταποκρινόταν με αντεπίθεση, χρησιμοποιώντας δακτυλιογραφία συσκευής και επιλέγοντας τις πιο κατάλληλες ευπάθειες για να αποκτήσει πρόσβαση στη συσκευή. Τελικά, το Brickerbot καταστρέφε την μολυσμένη συσκευή. Το bot ενεργούσε ως ένα σύστημα εμπειρογνωμόνων βασισμένων σε κανόνες, παρόμοιο με τα πρώτα συστήματα της τεχνητής νοημοσύνης. Ένα άλλο σχετικό botnet που έκανε εντύπωση στη κοινότητα ασφαλείας πριν από πάνω από μια δεκαετία ήταν το Hajime. Ήταν ένα από τα πρώτα botnet peer-to-peer. Χρησιμοποιώντας τις κατανομικές πίνακες κατακερματισμού του Torrent, το Hajime θα μπορούσε να ελεγχθεί και να ενημερωθεί σε αποκεντρωμένο επίπεδο, χωρίς να απαιτεί κεντρική υποδομή ελέγχου και κατά συνέπεια σχεδόν αδύνατο να καταστραφεί.

Υπάρχουν διάφορα συζητήσεις στην κοινότητα ασφαλείας σχετικά με την πιθανότητα για ένα Agentic Botnet που βασίζεται σε τοπικούς πλαισίες πράκτορα της τεχνητής νοημοσύνης όπως το OpenClaw. Αυτά δεν είναι τα παραδοσιακά botnet malware, αλλά botnet που οδηγούνται εξ ολοκλήρου από χειρισμό περιεχομένου. Όταν οι τοπικοί πράκτορες επεξεργάζονται εξωτερικά δεδομένα, οι επιτιθέμενοι δεν χρειάζεται να βρουν παραδοσιακή εκμετάλλευση λογισμικού για να χειραγωγήσουν αυτές τις μηχανές, απλώς χρειάζεται να κοροϊδέψουν την υποκείμενη LLM. Με αυτόν τον τρόπο, οι επιτιθέμενοι αποκτούν πρόσβαση σε ισχυρή εκτέλεση τερματικού, αυτοματοποίηση προγράμματος περιήγησης και πιθανώς μια σειρά από άλλα “ισχύς”.

Η κοινότητα συζητά συγκεκριμένα για μερικά κλειδιά στοιχεία που κάνουν ένα botnet OpenClaw ευρύτατο και εφικτό:

• Καθώς το OpenClaw συνεχίζει να καταναλώνει εξωτερικά δεδομένα (όπως παρακολούθηση θεμάτων GitHub, ανάγνωση εισερχόμενων μηνυμάτων Slack/Telegram ή περίληψη ιστοσελίδων), οι επιτιθέμενοι μπορούν να ενσωματώσουν κακόβουλη εντολή σε δημόσια δεδομένα. Αν ο τοπικός πράκτορας ενός χρήστη επεξεργαστεί αυτά τα δεδομένα, η εντολή που έγινε ένεση μπορεί να αντικαταστήσει τις οδηγίες του συστήματος και να διατάξει τον πράκτορα να συνδεθεί με einen ελεγχόμενο από τον επιτιθέμενο διακομιστή ελέγχου (C2).
• Ερευνητές ασφαλείας έχουν σημειώσει ότι οι πράκτορες του OpenClaw έχουν την ικανότητα να χρησιμοποιούν κανάλια επικοινωνίας peer-to-peer ή agent-to-agent (όπως community-χτιστες ικανότητες όπως το ClaudeConnect). Οι κυβερνοεγκλήματίες αντιλαμβάνονται ότι μπορούν να εκμεταλλευτούν αυτά τα κανάλια επικοινωνίας για να επιτρέψουν στους χειραγωγημένους πράκτορες να συντονίζονται μεταξύ τους σιωπηλά, πλήρως παρακάμπτοντας παραδοσιακές τείχη προστασίας δικτύου και παρακολούθηση τερματικών.
• Σκάνες ασφαλείας έχουν αποκαλύψει ότι δεκάδες χιλιάδες αφελείς χρήστες ξεκινούν παρουσίες του OpenClaw σε διακομιστές cloud και εκθέτουν άθελά τους τις διεπαφές διαχείρισης HTTP απευθείας στο διαδίκτυο. Αυτή η τεράστια πισίνα από εκτεθειμένες, υψηλής προτεραιότητας περιβάλλοντα δίνει στους επιτιθέμενους ένα τεράστιο, pre-υπάρχον ιχνηλάτη για στόχο.
• Καθώς το OpenClaw βασίζεται πολύ σε “ισχύς” που κατεβάζονται από δημόσιους αποθετήρια όπως το ClawHub, οι επιτιθέμενοι ανεβάζουν φαινομενικά αθώες ικανότητες (όπως “Τι θα έκανε ο Elon”) που περιέχουν κρυφές εντολές. Μόλις εγκατασταθεί, ο πράκτορας διατάζεται να εκτελέσει εντολές shell στο παρασκήνιο ή να εγκαταστήσει κακόβουλο λογισμικό, αποτελεσματικά भरτώντας τη μηχανή του χρήστη σε ένα botnet χωρίς να δει ο χρήστης ποτέ μια προειδοποίηση για ύποπτο αρχείο.

Τελικά, η συναίνεση στην κοινότητα είναι ότι το OpenClaw είναι ένας ιδανικός στόχος για το πρώτο πραγματικό Agentic Botnet. Αντί για ένα botnet που αποτελείται από συμβατικές ρουτέρ ή συσκευές Internet των πραγμάτων που εκτελούν σενάρια DDoS, ένα botnet OpenClaw θα αποτελείται από εξαιρετικά ικανές, πλήρως πιστοποιημένες μηχανές που οι επιτιθέμενοι μπορούν να διατάξουν να κλέψουν πιστοποιητικά, να τροποποιήσουν δεδομένα ή να διοργανώσουν μαζικές επιθέσεις αλυσίδας εφοδιασμού σε ταχύτητα μηχανής.

Για τους αυτοματοποιημένους bots που αλλάζουν και προσαρμόζουν τακτικές χωρίς άμεση ανθρώπινη παρέμβαση, αυτό δεν είναι φαντασία, αλλά δεν είναι κάτι που θα προτιμούσαν οι έμπειροι bot herders. Τα botnet είναι περιουσίες. Αυτοματοποίηση που συμπεριφέρεται άσχημα μπορεί να εκθέσει υποδομή, να τραβήξει προσοχή too νωρίς, να εκθέσει τον χειριστή, ή να καεί υπερβολικά tokens. Οι επιτιθέμενοι θα χρησιμοποιήσουν αυτοματοποίηση όπου τους βοηθά να κινούνται γρηγορότερα, αλλά είναι απίθανο να παραδώσουν τον έλεγχο σε αποφάσεις που θα μπορούσαν να καεί πρόσβαση, υποδομή ή κέρδη.

Δεν θα αγνοήσω完全 την απειλή, όμως. Όσο προχωράμε σε edge AI και νέα έξυπνα συσκευές γίνονται πιο συχνά εξοπλισμένες με τοπικά Small Language Models (SLMs), μπορώ να δω τους ευκαιριακούς επιτιθέμενους που πηγαίνουν για το low-hanging φρούτο και να ενσωματώνουν βοηθούμενη από προώθηση bot λειτουργικότητα στα botnet τους. Τουλάχιστον δεν θα πρέπει να πληρώσουν για την υπερβολική χρήση token όταν ένα τοπικό SLM αρχίζει να loop σε μια υπερβολικά περίπλοκη προώθηση ή ένα περιεχόμενο που μεγαλώνει υπερβολικά.

Εξαπατητικές εκστρατείες και μεγάλης κλίμακας επιθέσεις DDoS έχουν γίνει όλο και πιο συχνές. Γίνονται αυτές οι ομάδες πιο εξευγενισμένες, ή η τεχνητή νοημοσύνη και τα εύκολα διαθέσιμα εργαλεία επιθέσεων κάνουν τις προηγμένες επιθέσεις προσβάσιμες σε ένα πολύ ευρύτερο κοινό;

Και τα δύο. Ορισμένες εξαπατητικές ομάδες έχουν γίνει πραγματικά πιο οργανωμένες. Ορισμένες ομάδες, όπως το iconic NoName057(16), έχουν εκτελέσει επιθέσεις DDoS σε καθημερινή βάση από τον Φεβρουάριο του 2022. Έχουν χρόνο να βελτιώσουν τα εργαλεία τους, να χτίσουν μια πιστή ακολούθωση και να μάθουν πώς να επιλέγουν στόχους που τραβούν προσοχή, να χρονοθετούν τις επιθέσεις τους γύρω από πολιτικά γεγονότα και να χρησιμοποιούν δημόσιες αξιολογήσεις για να χτίσουν πίεση. Για τους εξαπατητές, το μήνυμα matters περισσότερο από την διαταραχή selbst.

Ταυτόχρονα, τα εργαλεία έγιναν πιο εύκολα να αποκτήσουν από ό,τι ήταν. Υπηρεσίες DDoS-for-hire, botnet, δίκτυα proxy, διαρρεύσεις κώδικα και οδηγίες επέτρεψαν σε οποιονδήποτε με περιορισμένες ικανότητες να ενταχθεί σε μια εκστρατεία και να αισθανθεί μέρος κάτι μεγαλύτερου. Η τεχνητή νοημοσύνη προστίθεται κωδικοποίηση, έρευνα στόχου, μετάφραση, μήνυμα εκστρατείας και βασική αυτοματοποίηση σε όλα αυτά.

Οι στόχοι αισθάνονται την επίδραση είτε με τον τρόπο, είτε με τον τρόπο. Μια κατεβασμένη ιστοσελίδα επηρεάζει τους πελάτες. Μια μη διαθέσιμη δημόσια υπηρεσία λαμβάνει προσοχή από τους πολίτες.够 noise, και οι εκτελεστές και οι ομάδες επικοινωνιών πρέπει να ανταποκριθούν ανεξάρτητα από ποιος είναι πίσω από το πληκτρολόγιο.

Όσο οι επιχειρήσεις αγωνίζονται να ενσωματώσουν τη γεννητική τεχνητή νοημοσύνη στις επιχειρήσεις τους, ποιες νέες επιφάνειες επιθέσεων εμφανίζονται που οι ηγέτες ασφαλείας μπορεί να μην έχουν ακόμη πλήρως εκτιμήσει;

Η απάντηση ορίζεται από τι μπορεί να φτάσει ο πράκτορας. Μόλις έχει πρόσβαση σε εσωτερικά έγγραφα, κώδικα, CI/CD pipelines, κλειδιά API ή εργαλεία devops, η επιφάνεια επιθέσεων επεκτείνεται γρήγορα. Για να είναι χρήσιμος, ένας πράκτορας χρειάζεται agency, αλλιώς είναι απλώς ένας glorified chatbot. Το ερώτημα τότε γίνεται τι μπορεί να κάνει ο πράκτορας. Ποια εμπιστευτικά δεδομένα μπορεί να διαβάσει; Μπορεί να αλλάξει ένα 티κετ ή το λογαριασμό τράπεζας ενός πελάτη στο CRM; Μπορεί να εκτελέσει κώδικα; Μπορεί να καλέσει μια εξωτερική υπηρεσία; Μπορεί να εκθέσει δεδομένα μέσω κλήσεων εργαλείων;

Η έμμεση ένεση προώθησης γίνεται πιο σοβαρή σε τέτοιο περιβάλλον. Αν ένας πράκτορας επεξεργαστεί μη αξιόπιστα περιεχόμενα και μετά ενεργήσει, η προώθηση μπορεί να γίνει ένας δρόμος προς την ροή εργασίας. Αυτό είναι διαφορετικό από ένα chatbot που απαντάει σε μια ερώτηση.

Η τεχνητή νοημοσύνη χρησιμοποιείται τώρα και από τους επιτιθέμενους και από τους υπερασπιστές. Πιστεύετε ότι η αμυντική τεχνητή νοημοσύνη θα παραμείνει μπροστά από την επιθετική τεχνητή νοημοσύνη, ή οι οργανισμοί θα αντιμετωπίσουν μια αυξανόμενη ασύμμετρη μάχη τα επόμενα χρόνια;

Η τεχνητή νοημοσύνη δημιουργεί μια ανισορροπία που ευνοεί τον επιτιθέμενο. Αυτό δεν οφείλεται στο ότι τα αμυντικά μοντέλα της τεχνητής νοημοσύνης είναι κατώτερα. Στην πραγματικότητα, η χρήση της τεχνητής νοημοσύνης στην άμυνα είναι εξαιρετικά αποτελεσματική στο φιλτράρισμα του ημερήσιου θορύβου και την επιτάχυνση της αντίδρασης σε περιστατικά. Το ζήτημα, ωστόσο, είναι ένα δομικό χάσμα στην ταχύτητα λειτουργίας και τις περιορισμούς.

Ιστορικά, όταν μια ευπάθεια ανακαλύπτονταν, οι ομάδες ασφαλείας είχαν ένα μικρό παράθυρο χρόνου για να αναπτύξουν ένα patch πριν οι επιτιθέμενοι το εκμεταλλευτούν. Σήμερα, η agentic τεχνητή νοημοσύνη έχει συμπιέσει αυτό το παράθυρο σε近-μηδέν. Αυτοματοποιημένα εργαλεία μπορούν να βρουν μια ευπάθεια και να δημιουργήσουν άμεσα μια στοχευμένη εκμετάλλευση. Μια παραδοσιακή, ανθρώπινη διαδικασία διαχείρισης ενημερώσεων λογισμικού απλώς δεν μπορεί να ανταγωνιστεί μια αυτοματοποιημένη διαδικασία που εκτελεί συνεχείς βρόχους επιθέσεων.

Επιπλέον, οι δύο πλευρές λειτουργούν υπό εντελώς διαφορετικά κανόνες. Οι επιτιθέμενοι αντιμετωπίζουν κανένα περιορισμό σχετικά με τη συμμόρφωση, την ηθική ή την λειτουργική διακοπή. Μπορούν να αναπτύξουν προσαρμοσμένους πράκτορες της τεχνητής νοημοσύνης για να εκκινήσουν απεριόριστες, μεγάλης κλίμακας εκστρατείες. Οι υπερασπιστές, από την άλλη πλευρά, πρέπει να λειτουργούν καθοριστικά. Ένας αμυντικός πράκτορας της τεχνητής νοημοσύνης δεν μπορεί να απομονώσει άνετα μια κεντρική βάση δεδομένων ή να ανακαλέσει τα πιστοποιητικά ενός εκτελεστή με βάση μια υψηλή πιθανότητα ανωμαλία. Οι υπερασπιστές χρειάζονται επαλήθευση για να προστατεύσουν τη συνέχεια της επιχείρησης, και η καθυστέρηση που εισάγεται από αυτές τις απαραίτητες φρουρές είναι ακριβώς αυτό που οι αυτοματοποιημένες επιθέσεις εκμεταλλεύονται.

Τελικά, η ηγεσία ασφαλείας δεν θα οριστεί από ποιος κατέχει την “πιο έξυπνη” τεχνητή νοημοσύνη, αλλά από ποιος λύνει αυτό το δομικό χάσμα ταχύτητας. Οι οργανισμοί που αντιμετωπίζουν την τεχνητή νοημοσύνη ως απλό τυπικό εργαλείο ασφαλείας θα καταβληθούν από την ταχύτητα των σύγχρονων απειλών. Η επιτυχία απαιτεί την ανασχεδιασμό της υποδομής για να επιτρέψει στην αμυντική τεχνητή νοημοσύνη να απομονώσει και να περιορίσει απειλές αυτόνομα.

Πολλές ομάδες ασφαλείας εξακολουθούν να βασίζονται σε παραδοσιακές μετρήσεις ασφαλείας και μεθόδους ανίχνευσης. Όσο οι επιθέσεις γίνονται πιο γρήγορες και αυτοματοποιημένες, ποια δείκτες ή συμπεριφορές πρέπει οι οργανισμοί να προτεραιοποιήσουν αντί για αυτά;

Οι περισσότερες μετρήσεις ασφαλείας εξακολουθούν να εστιάζουν πολύ στη δραστηριότητα: ενεργοποιημένα alerts, αποκλεισμένες επιθέσεις, ή ευπάθειες που βρέθηκαν. Αν και αυτά τα νούμερα είναι χρήσιμα για τη μέτρηση της αντίδρασης σε περιστατικά, δεν παρέχουν καμία εικόνα για την πραγματική έκθεση του οργανισμού. Λέει στους υπερασπιστές τι έπιασαν, αλλά δεν τους δείχνουν τα τυφλά σημεία που παραμένουν ανοιχτά μέχρι ένας επιτιθέμενος να τα εκμεταλλευτεί.

Σε μια εποχή αυτοματοποιημένων απειλών, η εξάρτηση από αντιδραστικές μετρήσεις δεν είναι πλέον βιώσιμη. Μόλις ένας οργανισμός στοχευτεί, η ταχύτητα της επιθέσεων απαιτεί προληπτική διαχείριση. Η διαχείριση της επιφάνειας επιθέσεων σε πραγματικό χρόνο είναι τώρα απαραίτητη. Οι υπερασπιστές χρειάζονται συνεχή ορατότητα σε συγκεκριμένα λειτουργικά рисκ: Ποια κρίσιμες εφαρμογές και API είναι εκτεθειμένα στο διαδίκτυο; Ποια ευπάθειες υπάρχουν μέσα σε αυτά;

Η αληθινή ανθεκτικότητα προέρχεται από τη σύνδεση αυτής της ορατότητας της επιφάνειας επιθέσεων με ανάλυση συμπεριφοράς και πληροφορίες για απειλές. Καθώς οι υπερασπιστές κατανοούν ακριβώς τι είναι εκτεθειμένο και πώς συμπεριφέρεται, μπορούν να προβλέψουν και να αποκλείσουν άγνωστες επιθέσεις.

Τελικά, η ταχύτητα λειτουργίας παραμένει ένας κρίσιμος δείκτης επιτυχίας, αλλά οι υπερασπιστές πρέπει να μετρούν το σωστό παράθυρο χρόνου: Πόσο γρήγορα αναγνωρίζουμε ότι μια νέα ευπάθεια επηρεάζει ένα εκτεθειμένο σύστημα, και πόσο γρήγορα μπορούμε να τοποθετήσουμε ένα ανταποδοτικό έλεγχο για να το προστατεύσουμε; Αυτή η συγκεκριμένη ταχύτητα είναι η πιο αληθινή μέτρηση του αν ένα πρόγραμμα ασφαλείας μπορεί να ανταποκριθεί σε επιθέσεις υψηλής ταχύτητας σε κλίμακα.

Κοιτάζοντας μπροστά πέντε χρόνια, ποια θα είναι η οριστική πρόκληση ασφαλείας της εποχής της τεχνητής νοημοσύνης, και τι πρέπει οι CISO και οι ομάδες ασφαλείας να αρχίσουν να κάνουν σήμερα για να προετοιμαστούν για αυτή;

Κοιτάζοντας μπροστά πέντε χρόνια, η οριστική πρόκληση ασφαλείας της εποχής της τεχνητής νοημοσύνης θα είναι η διακυβέρνηση και η ασφάλεια των αυτόνομων, μη ανθρώπινων σχέσεων. Όσο οι οργανισμοί μετακινούνται μακριά από αυτόνομους chatbot προς διασυνδεδεμένα, multi-πράκτορες συστήματα που έχουν την agency να εκτελέσουν οικονομικές συναλλαγές, να τροποποιήσουν κώδικα και να τροποποιήσουν υποδομή cloud, οι παραδοσιακές συνοριακές ασφαλείας θα καταρρεύσουν. Σε πέντε χρόνια, μια επιχείρηση δεν θα διαχειρίζεται μόνο ανθρώπινους υπαλλήλους και στατικά λογισμικά, αλλά θα επιβλέπει χιλιάδες αυτόνομους πράκτορες της τεχνητής νοημοσύνης που αλληλεπιδρούν μεταξύ τους, εταιρικά δεδομένα και εξωτερικούς τρίτους συστήματα.

Η ορατότητα σε συστήματα πράκτορα σε όλη την οργάνωση θα είναι απαραίτητη. Πριν οι πράκτορες πολλαπλασιαστούν, οι CISO πρέπει να καθιερώσουν einen κεντρικό κατάλογο που ορίζει σαφή ιδιοκτησία για κάθε αναπτυγμένο πράκτορα, τα μοντέλα δεδομένων και τα αποθετήρια που ο πράκτορας έχει εξουσιοδοτηθεί να διαβάσει και τα εργαλεία, API και εντολές συστήματος που επιτρέπεται να καλέσει. Οι CISO πρέπει επίσης να επιβάλλουν ότι κάθε ανάπτυξη τεχνολογίας πράκτορα χρησιμοποιεί τυποποιημένα, επαλήθευτα πρωτόκολλα συνδεσιμότητας για να διασφαλίσουν ότι όλες οι ολοκληρώσεις εργαλείων είναι αυστηρά καταγεγραμμένες.

Σε πέντε χρόνια, η άμυνα των API και των διαδικτυακών εφαρμογών δεν θα είναι πλέον για τη διαχείριση ρυθμίσεων, το μπλοκάρισμα γνωστών υπογραφών και την ενημέρωση ευπαθειών, αλλά θα είναι ένας αυτοματοποιημένος πόλεμος λογικής εναντίον λογικής. Όσο οι επιτιθέμενοι αναπτύσσουν πλήρως αυτοματοποιημένες, context-aware pipelines που μπορούν να αντεστρατεύσουν την επιχειρηματική λογική μιας εφαρμογής μέσα σε δευτερόλεπτα της ανακάλυψης, οι παραδοσιακές τείχη προστασίας εφαρμογών (WAFs) θα γίνουν απαρχαιωμένα. Η άμυνα αυτού του τοπίου θα απαιτήσει μια μετατόπιση σε αυτόνομες, context-οδηγούμενες αρχιτεκτονικές.

Οι επιτιθέμενοι θα χρησιμοποιήσουν μοντέλα frontier για να αυτοματοποιήσουν πλήρως τον κύκλο ανακάλυψης και εκμετάλλευσης των σφαλμάτων λογικής API (όπως Broken Object Level Authorization, ή BOLA). Αντί να ψάχνουν γνωστά σφάλματα λογισμικού, οι αυτοματοποιημένοι bots θα χαρτογραφήσουν το σύνολο του σχήματος API, θα κατανοήσουν πώς ρέει το δεδομένο και θα δημιουργήσουν δυναμικά, εξαιρετικά προσαρμοσμένες ακολουθίες payload για να χειραγωγήσουν την επιχειρηματική λογική. Επειδή αυτές οι επιθέσεις χρησιμοποιούν έγκυρη σύνταξη και νομικές κλήσεις API, η τυπική οριοθέτηση με βάση το όριο και η ανίχνευση υπογραφών θα είναι πλήρως τυφλή σε αυτές.

Για να ανταποκριθούν στην αυτοματοποιημένη ανακάλυψη, οι υπερασπιστές πρέπει να επιτύχουν πραγματική, συνεχή ορατότητα στην εκτεθειμένη αρχιτεκτονική τους. Οι ομάδες ασφαλείας δεν μπορούν να βασίζονται σε στατικές εγγράφες ή παλιές καταλόγους API. Η αμυντική τεχνητή νοημοσύνη πρέπει να σκανάρει και να χαρτογραφήσει κάθε ενεργό API endpoint, σχέση μικρο-υπηρεσίας και διαδικτυακή εφαρμογή σε υβριδικά cloud περιβάλλοντα. Αυτή η αυτοματοποιημένη ορατότητα πρέπει να συνδυαστεί με μια δυναμική Λίστα Υλικού Λογισμικού (SBOM) για να συνδέσει άμεσα μια νέα παγκόσμια ανακοίνωση ευπάθειας με τις συγκεκριμένες εσωτερικές γραμμές κώδικα που είναι εκτεθειμένες στο διαδίκτυο.

Επειδή οι αυτοματοποιημένες επιθέσεις θα μπλεχθούν με νόμιμο трафик χρήστη, η άμυνα πρέπει να μετατοπιστεί εξ ολοκλήρου στην ανάλυση συμπεριφοράς. Η αμυντική τεχνητή νοημοσύνη θα προφιλάρει την τυπική συμπεριφορά κάθε API client, token και ταυτοτήτων χρηστών. Θα παρακολουθήσει την πρόθεση και την ακολουθία των κλήσεων API αντί να κοιτάξει μόνο τις εισόδους. Αν η αυτοματοποιημένη γραπτή ενός επιτιθέμενου αρχίζει να συνθέτει έγκυρες κλήσεις API σε μια ανωμαλή ακολουθία για να σαρώσει δεδομένα ή να δοκιμάσει ένα σφάλμα λογικής, το σύστημα πρέπει να αναγνωρίσει την δομική απόκλιση της πρόθεσης και να παρέμβει άμεσα.

Η αληθινή μέτρηση της ανθεκτικότητας θα είναι πόσο γρήγορα μια οργάνωση μπορεί να συμπιέσει το παράθυρο μεταξύ της έκθεσης μιας ευπάθειας και της διόρθωσής της. Περίμεντας τις ομάδες ανάπτυξης να γράψουν, να ελέγξουν και να αναπτύξουν ενημερώσεις κώδικα σε παραγωγή θα είναι μια θανατηφόρα στρατηγική. Η αληθινή προστασία θα βασίζεται στην αυτοματοποιημένη, context-aware εικονική σφράγιση στο επίπεδο εκτέλεσης. Τροφοδοτώντας πραγματική, πραγματικού χρόνου πληροφόρηση για απειλές και δεδομένα ανακάλυψης API απευθείας σε αμυντικά κινητήρια της τεχνητής νοημοσύνης στο edge, η υποδομή θα δημιουργήσει αυτόματα και θα αναπτύξει προσαρμοσμένα εικονικά补丁 για να intercept και να αποκλείσει προσπάθειες εκμετάλλευσης πριν φτάσουν ποτέ στην ευπαθή λογική εφαρμογής.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Radware.