Η IA ως ο Απόκρημνος θηρευτής στον κόσμο της ανάπτυξης

Εξελικτική Πίεση: Ένα Γρήγορο Εισαγωγικό

Πριν μπουν στην ουσία του θέματος, υπάρχουν δύο έννοιες που πρέπει να καθοριστούν. Η πρώτη είναι η εξελικτική πίεση.

Η εξέλιξη δεν είναι μια επιλογή. Τα ζώα δεν επιλέγουν να εξελιχθούν με έναν bestimmμένο τρόπο — το περιβάλλον τους αναγκάζει να το κάνουν, ή το περιβάλλον τους εξαφανίζει. Όταν μιλάμε για τον τρόπο με τον οποίο ένα ζώο εξελίχθηκε, ή γιατί υπάρχει όπως είναι σήμερα, δεν μιλάμε για μια σειρά συνειδητών αποφάσεων. Μιλάμε για τυχαίες μεταλλάξεις και περιβαλλοντικές πιέσεις που ώθησαν ένα είδος σε μια κατεύθυνση ή σε μια άλλη.

Τώρα, οι εταιρείες λογισμικού εισέρχονται σε μια παρόμοια εξελικτική στιγμή. Τα συστήματα IA που μπορούν να ανακαλύψουν αυτόνομα ευπάθειες, να δημιουργήσουν εκμεταλλεύσεις και να επιταχύνουν κυβερνοεπιθέσεις, αλλάζουν την πίεση που δέχονται οι vývojτές και οι ομάδες ασφαλείας.

Η IA δημιουργεί αυτή τη種 πίεση για τις εταιρείες λογισμικού. Τα μοντέλα που μπορούν να ανακαλύψουν αυτόνομα ευπάθειες, να δημιουργήσουν εκμεταλλεύσεις και να αυτοματοποιήσουν μεγάλης κλίμακας επιθέσεις, αλλάζουν το τοπίο της ασφαλείας πολύ πιο γρήγορα από ό,τι οι περισσότερες οργανώσεις είναι προετοιμασμένες.

Η συγκεκριμένη εξελικτική πίεση που θέλω να συζητήσω είναι ο απόκρημνος θηρευτής στη Γη αυτή τη στιγμή: οι άνθρωποι. Και ο τρόπος με τον οποίο τρία πολύ διαφορετικά ζώα ανταποκρίθηκαν σε αυτή τη πίεση.

Ποιος το Έκανε Χειρότερα: Ο Γίγαντας Γουόμπατ ή το Κοτόπουλο;

Ο Γίγαντας Γουόμπατ

Ο γίγαντας Γουόμπατ — δεν θυμάμαι το ακριβές όνομα, αλλά ζούσε στην Αυστραλία — ζύγιζε περίπου 6.000 pounds. Πριν φτάσουν οι άνθρωποι, η Αυστραλία ήταν ένα λουλουδιασμένο, πράσινο, σχεδόν παραδεισένιο μέρος. Θα ήταν καλό αν δεν είχαμε πειράξει ποτέ αυτό το μέρος. Αυτοί οι τεράστιοι Γουόμπατ ζούσαν σχεδόν ανενόχλητοι. Κάποιοι θηρευτές τους σκότωναν περιστασιακά, αλλά με το τεράστιο μέγεθος, την αφθονία τροφής και την ικανότητα αναπαραγωγής, αντιστάθηκαν σε όλα όσα η ηπειρος είχε να τους ρίξει.

Στη συνέχεια, οι άνθρωποι εμφανίστηκαν.

Δύο πράγματα συνέβησαν αμέσως. Πρώτον, οι άνθρωποι είδαν αυτή τη τεράστια πηγή πρωτεΐνης που θα μπορούσε να θρέψει μια ομάδα για εβδομάδες — ακόμη περισσότερο, αν θα μπορούσαν να διατηρήσουν το κρέας. Δεύτερον, άρχισαν να καθαρίζουν τα δάση που ο Γουόμπατ εξαρτιόταν, είτε κόβοντας δέντρα για ξύλα είτε καίγοντας ολόκληρες εκτάσεις γης για να οδηγήσουν τα ζώα έξω στο ανοιχτό όπου θα μπορούσαν να σκοτωθούν. Οι άνθρωποι είναι εξαιρετικά καλοί σε αυτό το είδος συντονισμένης, αποτελεσματικής καταστροφής.

Σε πολύ σύντομο χρονικό διάστημα — γεωλογικά ομιλώντας, σχεδόν άμεσα — οι άνθρωποι καθάρισαν μεγάλες εκτάσεις της ηπείρου και κυνηγούσαν τον τελευταίο γίγαντα Γουόμπατ μέχρι την εξαφάνιση.

Αξίζει να σημειωθεί ότι δεν όλα τα αυστραλιανά ζώα εξαφανίστηκαν. Το καγκουρό, οι μικροί Γουόμπατ, τα κοάλα και άλλα επιβίωσαν — γιατί ήταν αρκετά μικρά, αρκετά γρήγορα ή αρκετά προσαρμοσμένα για να παραμείνουν εκτός εύθραστης απόστασης. Μέχρι την άφιξη των Ευρωπαίων, η ηπειρος είχε διαμορφωθεί σε κάτι σκληρό και αμείλικτο. Ένα μικρότερο ανθρώπινο πληθυσμό, ανθεκτικό και προσαρμοσμένο σε ακραίες συνθήκες. Ζώα που ήταν είτε πολύ μικρά, είτε πολύ θανατηφόρα, είτε και τα δύο. Όπως λέει η παροιμία: όλα στην Αυστραλία προσπαθούν να σας σκοτώσουν.

Αυτή είναι η εκδοχή ένα.

Το Κοτόπουλο

Τώρα, με τον δικό του τρόπο, το κοτόπουλο είναι πιθανότατα το πιο επιτυχημένο χερσαίο ζώο στη Γη. Περίπου το 70% της συνολικής βιομάζας των πουλιών στο πλανήτη είναι κατοικίδιο κοτόπουλο. Υπάρχουν ακόμη και θύλακες όπου τα κοτόπουλα έχουν γίνει αγρία — σε νησιά όπου δεν έχουν φυσικούς θηρευτές, όπως τα Νησιά Κάιμαν — και έχουν ευδοκιμήσει.

Τα κοτόπουλα εξελίχθηκαν σε κάτι που οι άνθρωποι βρίσκουν εξαιρετικά χρήσιμο: αναπαράγονται γρήγορα, μεγαλώνουν γρήγορα, παράγουν αυγά. Οι άνθρωποι τα τροφοδοτούν, τα προστατεύουν και ενθαρρύνουν ενεργά να πολλαπλασιαστούν. Με σχεδόν κάθε μετρική βιολογικής επιτυχίας — μέγεθος πληθυσμού, γεωγραφική εξάπλωση, πρόσβαση σε πόρους — το κοτόπουλο κερδίζει.

Εξαιρετικά, φυσικά, για το μέρος όπου τα τρώμε.

Έτσι, το κοτόπουλο επιτυχίας με το να γίνει το τέλειο φαγητό. Αυτό δεν είναι τίποτα. Αλλά υπάρχει ένα όριο σε αυτό το είδος επιτυχίας.

Η Γάτα: Η Σωστή Απάντηση

Υπάρχει ένα ζώο που, θα έλεγα, το έκανε σχεδόν ακριβώς σωστά.

Η γάτα.

Οι γάτες δεν είναι απόκρημνοι θηρευτές. Δεν κυριαρχούν στους ανθρώπους ή δεν θηρεύουν. Αντί να καταστραφούν από την ανθρώπινη επέκταση ή να υποταχθούν στις ανθρώπινες ορέξεις, έκαναν κάτι διαφορετικό: συν-εξελίχθηκαν μαζί μας. Έγιναν χρήσιμες κυνηγώντας ποντίκια και μικρά πουλιά που έλκονταν από τις ανθρώπινες εγκαταστάσεις και, κάπου κατά τη διαδρομή, έγιναν επιθύμητες. Έγιναν συντρόφοι.

Το αποτέλεσμα; Οι γάτες αναπαράγονται γρήγορα. Έχουν άφθονες πηγές τροφής, είτε ως κατοικίδια είτε ως ευκαιριακοί κυνηγοί γύρω από τις ανθρώπινες εγκαταστάσεις. Αντιμετωπίζουν λίγους σοβαρούς θηρευτές. Είναι παντού όπου υπάρχουν άνθρωποι.

Και πάλι, αυτό δεν ήταν μια επιλογή που έκαναν. Δεν ήταν μια στρατηγική. Ήταν απλά πώς η εξελικτική πίεση έπαιξε. Αλλά το αποτέλεσμα είναι εξαιρετικό: αντί να πολεμήσουν τον απόκρημνο θηρευτή, ή να ταΐσουν τον απόκρημνο θηρευτή, φίλησαν τον απόκρημνο θηρευτή.

Τι Έχει Αυτό να Κάνει με την IA

Γιατί έχει σημασία όλα αυτά;

Η άφιξη μοντέλων όπως το Anthropic’s Mythos και το Project Glass Wing είναι, θα έλεγα, ισοδύναμη με την ημέρα που οι άνθρωποι έφτασαν στην Αυστραλία. Εκτός από το ότι ο χρονοδιάγραμμα είναι συμπιεσμένος δραματικά. Αυτό που πήρε γενιές για να εξελιχθεί σε αυτή την ηπειρο θα συμβεί σε χρόνια — ίσως λιγότερο.

Υπάρχει πολλή γραφή αυτή τη στιγμή για το πώς οι ομάδες ασφαλείας πρέπει να ανταποκριθούν στην απειλή της IA-ενεργοποιημένης χάκινγκ. Νομίζω ότι αυτό το πλαίσιο είναι ένα λάθος. Αυτό δεν είναι κυρίως ένα πρόβλημα ασφαλείας. Είναι ένα πρόβλημα μηχανικής.

Αυτό που αλλάζει: πριν από αυτή τη νέα κυμαία IA, και οι αμυνόμενοι και οι επιτιθέμενοι λειτουργούσαν σε ένα κόσμο με σχετικά περιορισμένα στοιχήματα. Οι επιθέσεις συνέβησαν. Οι παραβιάσεις συνέβησαν. Αλλά το темпό και η σοφιστικέλεια ήταν περιορισμένα από την ανθρώπινη ικανότητα. Αυτό έχει改变θεί θεμελιωδώς. Τώρα υπάρχουν IA μοντέλα που σχεδιάστηκαν ειδικά για να ανακαλύψουν και να εκμεταλλευτούν αυτόνομα ευπάθειες, σε κλίμακα, χωρίς κόπωση.

Οι περισσότερες ομάδες ανάπτυξης είναι ο γίγαντας Γουόμπατ σε αυτή την ιστορία. Έχουν ζήσει σε ένα περιβάλλον όπου ναι, υπήρχαν απειλές, αλλά τίποτα δεν ήταν σαν αυτό. Έχτισαν συστήματα που ήταν λογικά ασφαλή ενάντια στις πιέσεις που αντιμετώπιζαν. Δεν είχαν συναντήσει τίποτα σαν αυτό που έρχεται.

Αυτό πρόκειται να αλλάξει.

Οι Τρεις Επιλογές — και Γιατί Μόνο Μια Λειτουργεί

Όταν αυτή η νέα απειλή φτάσει, οι οργανώσεις θα έχουν αποτελεσματικά τρεις επιλογές:

1. Να είναι ο Γουόμπατ. Να μην προσαρμοστούν. Να εξαφανιστούν. Αυτό θα συμβεί σε πολλές εταιρείες. Κάποιες δεν θα επιστρέψουν ποτέ.
2. Να είναι το Κοτόπουλο. Να γίνουν αντιδραστικά, βγάζοντας το δόρυ και θεραπεύοντας το τραύμα. Αυτή είναι η προσέγγιση “βγάλτε το δόρυ και θεραπεύστε το τραύμα”. Είναι καλύτερο από τίποτα, αλλά όταν υπάρχουν 45 δόρυ που έρχονται από toutes τις κατευθύνσεις, αυτή η μια ικανότητα δεν θα σας σώσει. Είστε ακόμη φαγητό, είστε απλά πιο αργοί να φτάσετε στο τραπέζι.
3. Να είναι η Γάτα. Να αλλάξουν θεμελιωδώς τη σχέση τους με την απειλή. Να χρησιμοποιήσουν την IA για να υπερασπιστούν την IA. Να ενσωματώσουν την ασφάλεια στη μηχανική από την αρχή. Να σχεδιάσουν συστήματα που υποθέτουν παραβίαση — όχι να ελπίζουν να την αποτρέψουν.

Ο στόχος δεν είναι να雇ουν περισσότερους αναλυτές ασφαλείας για να περιπολούν το περιβάλλον. Αυτό είναι προσπάθεια να προστατεύσουν τους ελέφαντες στη σαβάνα. Δεν κλιμακώνεται ενάντια σε αυτό το είδος απειλής. Ο στόχος είναι να ξανασχεδιάσουν τη σαβάνα.

Τι Σημαίνει “Να Γίνεις η Γάτα” στην Πράξη

Αυτό δεν είναι επιφανειακό έργο. Δεν είναι το να τρέχετε einen AI ασφαλειακό σκανερ στο κώδικα σας μια φορά το τρίμηνο. Απαιτεί μια επανεξέταση του τρόπου με τον οποίο γίνεται η ανάπτυξη.

Πρακτικά, αυτό σημαίνει πράγματα όπως:

• Πιο απλοί κώδικες που είναι εύκολο να κατανοηθούν και να ελεγχθούν
• Βγάζοντας από βιβλιοθήκες με γνωστές, ελεγμένες στάσεις ασφαλείας
• Κτίζοντας υποδομή με την υπόθεση ότι η παραβίαση είναι ένα όταν, όχι ένα αν — και κάνωντας τη λαtero κίνηση τόσο δύσκολη όσο είναι δυνατόν μια φορά που ένας κακός ηθοποιός είναι μέσα
• Να φίλεψε τον θηρευτή χρησιμοποιώντας τον ακριβώς όπως ο επιτιθέμενος. Τα IA μοντέλα μπορούν να ενισχύσουν τις ομάδες μηχανικής και ασφαλείας για να εξελίξουν τις αμυνές τους και να προηγηθούν της καμπύλης.

Οι εταιρείες που ιδρύθηκαν αύριο έχουν ένα καθαρό φύλλο. Μπορούν να χτίσουν με αυτόν τον τρόπο από την πρώτη ημέρα. Οι εταιρείες που ήδη υπάρχουν, με πελάτες, με ευαίσθητα δεδομένα, με ζωντανούς συστήματα, δεν έχουν αυτή τη λουξ. πρέπει να αρχίσουν να μεταβαίνουν τώρα.

Η Πρόσκληση σε Δράση

Η Anthropic έχει πει αυτό οι ίδιοι: θα υπάρξει μια εκδίκηση. Θα υπάρξει οικονομική και κοινωνική διαταραχή από τις IA-ενεργοποιημένες επιθέσεις. Κάποιες εταιρείες δεν θα επιβιώσουν. Θα υποστούν ζημίες από ανθρώπους που χρησιμοποιούν αυτά τα εργαλεία και δεν θα ανακάμψουν ποτέ πλήρως. Αυτό θα συμβεί.

Έτσι, το μήνυμα είναι: αρχίστε τώρα.

Η μηχανική και η ασφάλεια πρέπει να καθίσουν στο ίδιο δωμάτιο. Να περάσουν από το τοπίο της απειλής μαζί. Να χτίσουν einen κοινό δρόμο. Ένας όπου η основная εργασία γίνεται από τις ομάδες μηχανικής και σχεδιασμού, επικυρωμένες από την ασφάλεια, όχι το αντίστροφο. Η ασφάλεια δεν μπορεί να οδηγήσει αυτό. Η ασφάλεια μπορεί να ελέγξει το έργο. Αλλά η θεμελιώδης αλλαγή πρέπει να έρθει από τους ανθρώπους που χτίζουν τα συστήματα.

Οι εταιρείες που αρχίσουν αυτή τη διαδικασία σήμερα δεν θα επιβιώσουν όλες. Αλλά θα έχουν θέσει τις προϋποθέσεις για επιβίωση. Και στο περιβάλλον που έρχεται, αυτό είναι το καλύτερο που μπορούμε να κάνουμε.

Να γίνεις η γάτα.