Οι Κίνδυνοι των Chatbot AI – Και Πώς Να Αντιμετωπιστούν

Τα chatbot AI, που κάποτε θεωρούνταν απλά αυτοματοποιημένα προγράμματα ομιλίας, μπορούν τώρα να μάθουν και να συμμετέχουν σε συνομιλίες που είναι σχεδόν αδύνατο να διακριθούν από τις ανθρώπινες. Ωστόσο, οι κίνδυνοι των chatbot AI είναι εξίσου ποικίλοι.

Αυτοί οι κίνδυνοι μπορούν να κυμαίνονται από ανθρώπους που τους χρησιμοποιούν λανθασμένα μέχρι πραγματικούς κινδύνους κυβερνοασφαλείας. Καθώς οι άνθρωποι εξαρτώνται ολοένα και περισσότερο από την τεχνολογία AI, είναι απαραίτητο να γνωρίζουμε τις πιθανές επιπτώσεις της χρήσης αυτών των προγραμμάτων. Αλλά είναι τα chatbot επικίνδυνα;

1. Προκατάληψη και Διακρίσεις

Ένας από τους μεγαλύτερους κινδύνους των chatbot AI είναι η τάση τους προς βλαβερές προκαταλήψεις. Επειδή η τεχνολογία AI εντοπίζει συνδέσεις μεταξύ δεδομένων τις οποίες οι άνθρωποι συχνά παραβλέπουν, μπορεί να ενσωματώσει λεπτές, έμμεσες προκαταλήψεις από τα δεδομένα εκπαίδευσης και να μάθει να κάνει διακρίσεις. Ως αποτέλεσμα, τα chatbot μπορούν γρήγορα να μάθουν να παράγουν ρατσιστικό, σεξιστικό ή άλλο περιεχόμενο διακρίσεων, ακόμη και αν δεν υπήρχε τίποτε τόσο ακραίο στα δεδομένα εκπαίδευσής τους.

Ένα χαρακτηριστικό παράδειγμα είναι το chatbot προσλήψεων της Amazon (AMZN ). Το 2018, αποκαλύφθηκε ότι η Amazon εγκατέλειψε ένα πρόγραμμα AI που προοριζόταν να αξιολογήσει προκαταρκτικά τα βιογραφικά των υποψηφίων, επειδή τιμωρούσε τις αιτήσεις από γυναίκες. Επειδή τα περισσότερα βιογραφικά στα οποία εκπαιδεύτηκε το chatbot ανήκαν σε άνδρες, έμαθε ότι οι άνδρες υποψήφιοι ήταν προτιμότεροι, ακόμη και αν τα δεδομένα δεν το έλεγαν ρητά.

Τα chatbot που χρησιμοποιούν περιεχόμενο του διαδικτύου για να μάθουν να επικοινωνούν φυσικά, έχουν την τάση να εμφανίζουν ακόμη πιο ακραίες προκαταλήψεις. Το 2016, η Microsoft (MSFT ) παρουσίασε ένα chatbot ονόματι Tay που έμαθε να μιμείται τις δημοσιεύσεις στα κοινωνικά μέσα. Μέσα σε λίγες ώρες, άρχισε να δημοσιεύει εξαιρετικά προσβλητικό περιεχόμενο, οδηγώντας τη Microsoft να αναστείλει το λογαριασμό σύντομα.

Εάν οι εταιρείες δεν είναι προσεκτικές όταν κατασκευάζουν και αναπτύσσουν αυτά τα chatbot, μπορεί να οδηγήσουν σε παρόμοιες καταστάσεις. Τα chatbot μπορούν να μεταχειρίζονται τους πελάτες με κακό τρόπο ή να διαδώσουν βλαβερές προκαταλήψεις που υποτίθεται ότι πρέπει να τις αποτρέψουν.

2. Κίνδυνοι Κυβερνοασφαλείας

Οι κίνδυνοι της τεχνολογίας chatbot AI μπορούν επίσης να αποτελέσουν έναν πιο άμεσο κίνδυνο κυβερνοασφαλείας για τους ανθρώπους και τις επιχειρήσεις. Ένας από τους πιο συχνούς τύπους κυβερνοεπιθέσεων είναι οι επιθέσεις phishing και vishing. Αυτές οι επιθέσεις περιλαμβάνουν κυβερνοεπιθέτες που μιμούνται αξιόπιστες οργανώσεις, όπως τράπεζες ή κυβερνητικές υπηρεσίες.

Οι επιθέσεις phishing λειτουργούν συνήθως μέσω email και μηνυμάτων κειμένου — το πάτημα στον σύνδεσμο επιτρέπει στο malware να εισέλθει στο σύστημα. Μόλις μέσα, ο ιός μπορεί να κάνει οτιδήποτε, από την κλοπή προσωπικών δεδομένων μέχρι το κλείδωμα του συστήματος με απαίτηση λύτρων.

Ο ρυθμός των επιθέσεων phishing έχει αυξηθεί σταθερά κατά τη διάρκεια και μετά την πανδημία COVID-19. Το Cybersecurity & Infrastructure Security Agency βρήκε ότι το 84% των ατόμων απάντησε σε μηνύματα phishing με ευαίσθητες πληροφορίες ή πάτησε στον σύνδεσμο.

Οι δράστες phishing χρησιμοποιούν την τεχνολογία chatbot AI για να αυτοματοποιήσουν την αναζήτηση για θύματα, να πείσουν τους χρήστες να πατήσουν σε συνδέσμους και να παραδώσουν προσωπικές πληροφορίες. Τα chatbot χρησιμοποιούνται από πολλά χρηματοπιστωτικά ιδρύματα — όπως τράπεζες — για να βελτιώσουν την εμπειρία εξυπηρέτησης πελατών.

Οι δράστες phishing μπορούν να μιμούνται τις ίδιες αυτοματοποιημένες προτροπές που χρησιμοποιούν οι τράπεζες για να εξαπατήσουν τα θύματα. Μπορούν επίσης να καλέσουν αυτόματα τηλεφωνικούς αριθμούς ή να επικοινωνήσουν με τα θύματα απευθείας σε διαδραστικές πλατφόρμες chat.

3. Δηλητηρίαση δεδομένων

Η δηλητηρίαση δεδομένων είναι μια νέα μορφή κυβερνοεπίθεσης που στοχεύει απευθείας την τεχνολογία AI. Η τεχνολογία AI μαθαίνει από σύνολα δεδομένων και χρησιμοποιεί αυτές τις πληροφορίες για να ολοκληρώσει εργασίες. Αυτό ισχύει για όλα τα προγράμματα AI, ανεξάρτητα από τον σκοπό ή τις λειτουργίες τους.

Για τα chatbot AI, αυτό σημαίνει μάθηση πολλαπλών απαντήσεων σε πιθανές ερωτήσεις που μπορούν να κάνουν οι χρήστες. Ωστόσο, αυτό είναι επίσης ένας από τους κινδύνους της τεχνολογίας AI.

Αυτά τα σύνολα δεδομένων είναι συχνά διαθέσιμα σε όλους μέσω εργαλείων και πόρων ανοιχτού κώδικα. Αν και οι εταιρείες AI συνήθως κρατούν ένα στενά φυλαγμένο μυστικό για τις πηγές δεδομένων τους, οι κυβερνοεπιθέτες μπορούν να καθορίσουν ποιες πηγές χρησιμοποιούν και να τις χειραγωγήσουν.

Οι κυβερνοεπιθέτες μπορούν να βρουν τρόπους να χειραγωγήσουν τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των AI, επιτρέποντας τους να χειραγωγήσουν τις αποφάσεις και τις απαντήσεις τους. Η τεχνολογία AI θα χρησιμοποιήσει τις πληροφορίες από τα τροποποιημένα δεδομένα και θα εκτελέσει τις ενέργειες που θέλουν οι επιθέτες.

Για παράδειγμα, μια από τις πιο συχνά χρησιμοποιούμενες πηγές για σύνολα δεδομένων είναι οι πηγές Wiki όπως η Βικιπαίδεια. Αν και τα δεδομένα δεν προέρχονται από το ζωντανό άρθρο της Βικιπαίδειας, προέρχονται από στιγμιότυπα δεδομένων που λαμβάνονται σε συγκεκριμένα χρονικά διαστήματα. Οι χάκερ μπορούν να βρουν τρόπους να επεξεργαστούν τα δεδομένα για να τους ωφελήσουν.

Στην περίπτωση των chatbot AI, οι χάκερ μπορούν να διαβρώσουν τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των chatbot που εργάζονται για ιατρικά ή χρηματοπιστωτικά ιδρύματα. Μπορούν να χειραγωγήσουν τα προγράμματα chatbot να δώσουν στους πελάτες ψευδείς πληροφορίες που θα τους οδηγήσουν να πατήσουν σε έναν σύνδεσμο που περιέχει malware ή μια ψευδή ιστοσελίδα. Μόλις η τεχνολογία AI αρχίσει να χρησιμοποιεί δηλητηριασμένα δεδομένα, είναι δύσκολο να ανιχνευθεί και μπορεί να οδηγήσει σε μια σημαντική παραβίαση της κυβερνοασφαλείας που δεν θα γίνει αντιληπτή για πολύ καιρό.

Πώς Να Αντιμετωπιστούν οι Κίνδυνοι των Chatbot AI

Αυτοί οι κίνδυνοι είναι ανησυχητικοί, αλλά δεν σημαίνει ότι τα chatbot είναι εγγενώς επικίνδυνα. Αντίθετα, πρέπει να τα προσεγγίζετε με προσοχή και να ληφθούν υπόψη αυτοί οι κίνδυνοι όταν κατασκευάζονται και χρησιμοποιούνται chatbot.

Το κλειδί για την πρόληψη της προκατάληψης AI είναι η αναζήτηση της προκατάληψης κατά τη διάρκεια της εκπαίδευσης. Βεβαιωθείτε ότι εκπαιδεύετε την τεχνολογία AI σε διαφορετικά σύνολα δεδομένων και προγραμματίζετε την τεχνολογία AI να αποφεύγει τη συνεκτίμηση στοιχείων όπως η φυλή, το φύλο ή ο σεξουαλικός προσανατολισμός κατά τη λήψη αποφάσεων. Επίσης, είναι καλύτερο να έχετε μια ομάδα με ποικιλία υπόβαθρων επιστημόνων δεδομένων για να αναθεωρήσουν τις εσωτερικές λειτουργίες των chatbot και να βεβαιωθούν ότι δεν εμφανίζουν προκαταλήψεις, όσο ανεπαίσθητες κι αν είναι.

Η καλύτερη άμυνα ενάντια στις επιθέσεις phishing είναι η εκπαίδευση. Εκπαιδεύστε όλους τους υπαλλήλους να αναγνωρίζουν τα κοινά σημάδια των επιθέσεων phishing, ώστε να μην πέσουν θύματα αυτών των επιθέσεων. Η διασπορά της ευαισθητοποίησης των καταναλωτών γύρω από το ζήτημα θα βοηθήσει, επίσης.

Μπορείτε να προλαμβάνετε την δηλητηρίαση δεδομένων περιορίζοντας την πρόσβαση στα δεδομένα εκπαίδευσης των chatbot. Μόνο οι άνθρωποι που χρειάζονται πρόσβαση σε αυτά τα δεδομένα για να κάνουν τη δουλειά τους σωστά πρέπει να έχουν εξουσιοδότηση — μια έννοια που ονομάζεται αρχή του ελάχιστου προνομίου. Μετά την εφαρμογή αυτών των περιορισμών, χρησιμοποιήστε ισχυρά μέτρα επαλήθευσης όπως τον έλεγχο ταυτότητας πολλαπλών παραγόντων ή τα βιομετρικά στοιχεία για να μειώσετε τον κίνδυνο παραβίασης ενός εξουσιοδοτημένου λογαριασμού από κυβερνοεγκληματίες.

Μείνετε Ευαισθητοποιημένοι Ενάντια στους Κινδύνους της Εξάρτησης από την Τεχνολογία AI

Η τεχνολογία AI είναι μια πραγματικά θαυμάσια τεχνολογία με σχεδόν ατελείωτες εφαρμογές. Ωστόσο, οι κίνδυνοι της τεχνολογίας AI μπορεί να είναι αόρατοι. Είναι τα chatbot επικίνδυνα; Όχι εγγενώς, αλλά οι κυβερνοεπιθέτες μπορούν να τα χρησιμοποιήσουν με διάφορους επιζήμιους τρόπους. Εναπόκειται στους χρήστες να αποφασίσουν ποιες είναι οι εφαρμογές αυτής της νέας τεχνολογίας.