Οι Κίνδυνοι των Chatbot AI – Και Πώς Να Αντιμετωπιστούν

Οι chatbot AI, που κάποτε θεωρούνταν απλά αυτοματοποιημένα προγράμματα ομιλίας, μπορούν τώρα να μάθουν και να συμμετέχουν σε συνομιλίες που είναι σχεδόν αδιακρίτως ανθρώπινες. Ωστόσο, οι κίνδυνοι των chatbot AI είναι εξίσου ποικίλοι.

Αυτοί οι κίνδυνοι possono να варίουν από ανθρώπους που τους χρησιμοποιούν λανθασμένα μέχρι πραγματικούς κινδύνους κυβερνοασφαλείας. Καθώς οι άνθρωποι εξαρτώνται ολοένα και περισσότερο από την τεχνολογία AI, είναι απαραίτητο να γνωρίζουμε τις πιθανές επιπτώσεις της χρήσης αυτών των προγραμμάτων. Αλλά είναι οι chatbot επικίνδυνοι;

1. Προκατάληψη και Διακρίσεις

Ένας από τους μεγαλύτερους κινδύνους των chatbot AI είναι η τάση τους προς βλαβερές προκαταλήψεις. Επειδή η τεχνολογία AI δημιουργεί συνδέσεις μεταξύ δεδομένων που οι άνθρωποι συχνά παραβλέπουν, μπορεί να μαθαίνει να είναι διακριτικός. Ως αποτέλεσμα, οι chatbot μπορούν να μάθουν να εκπέμπουν ρατσιστικό, σεξιστικό ή διακριτικό περιεχόμενο, ακόμη και αν δεν υπήρχε κάτι τέτοιο στην εκπαίδευσή τους.

Ένα χαρακτηριστικό παράδειγμα είναι ο chatbot προσλήψεων της Amazon (AMZN ). Το 2018, αποκαλύφθηκε ότι η Amazon έχασε ένα πρόγραμμα AI που προορίζονταν να αξιολογησει τα βιογραφικά των υποψηφίων, επειδή τιμωρούσε τις αιτήσεις από γυναίκες. Επειδή τα περισσότερα βιογραφικά που εκπαιδεύτηκαν οι chatbot ήταν ανδρικά, έμαθαν ότι οι ανδρικοί υποψήφιοι ήταν προτιμότεροι, ακόμη και αν τα δεδομένα δεν το έλεγαν ρητά.

Οι chatbot που χρησιμοποιούν περιεχόμενο του διαδικτύου για να μάθουν να επικοινωνούν φυσικά, έχουν την τάση να εμφανίζουν ακόμη πιο ακραίες προκαταλήψεις. Το 2016, η Microsoft (MSFT ) παρουσίασε einen chatbot ονόματι Tay που έμαθε να μιμείται τις δημοσιεύσεις στα κοινωνικά μέσα. Μέσα σε λίγες ώρες, άρχισε να δημοσιεύει εξαιρετικά προσβλητικό περιεχόμενο, οδηγώντας τη Microsoft να αναστείλει το λογαριασμό σύντομα.

Εάν οι εταιρείες δεν είναι προσεκτικές όταν κατασκευάζουν και αναπτύσσουν αυτούς τους chatbot, μπορεί να οδηγήσουν σε παρόμοιες καταστάσεις. Οι chatbot μπορούν να μεταχειρίζονται τους πελάτες με κακό τρόπο ή να διαδώσουν βλαβερές προκαταλήψεις που υποτίθεται ότι πρέπει να τις αποτρέψουν.

2. Κίνδυνοι Κυβερνοασφαλείας

Οι κίνδυνοι της τεχνολογίας chatbot AI μπορούν επίσης να αποτελέσουν einen πιο直接ικό κίνδυνο κυβερνοασφαλείας για τους ανθρώπους και τις επιχειρήσεις. Ένας από τους πιο συχνούς τύπους κυβερνοεπιθέσεων είναι οι επιθέσεις phishing και vishing. Αυτές οι επιθέσεις περιλαμβάνουν κυβερνοεπιθέτες που μιμούνται αξιόπιστες οργανώσεις, όπως τράπεζες ή κυβερνητικές υπηρεσίες.

Οι επιθέσεις phishing λειτουργούν συνήθως μέσω email και μηνυμάτων κειμένου — η πατήση στο σύνδεσμο επιτρέπει στο malware να εισέλθει στο σύστημα. Μόλις μέσα, το ιό μπορεί να κάνει οτιδήποτε, από την κλοπή προσωπικών δεδομένων μέχρι την κρατησία του συστήματος για λύτρα.

Ο ρυθμός των επιθέσεων phishing έχει αυξηθεί σταθερά κατά τη διάρκεια και μετά την πανδημία COVID-19. Το Cybersecurity & Infrastructure Security Agency βρήκε ότι το 84% των ατόμων απάντησε σε μηνύματα phishing με ευαίσθητες πληροφορίες ή πατήσε στο σύνδεσμο.

Οι φισέρ χρησιμοποιούν την τεχνολογία chatbot AI για να αυτοματοποιήσουν την αναζήτηση για θύματα, να πείσουν τους χρήστες να πατήσουν σε συνδέσμους και να παραδώσουν προσωπικές πληροφορίες. Οι chatbot χρησιμοποιούνται από πολλές финансовές ιδρύματα — όπως τράπεζες — για να βελτιώσουν την εμπειρία εξυπηρέτησης πελατών.

Οι φισέρ μπορούν να μιμούνται τις ίδιες αυτοματοποιημένες προτροπές που χρησιμοποιούν οι τράπεζες για να εξαπατήσουν τα θύματα. Μπορούν επίσης να καλέσουν αυτόματα τηλεφωνικούς αριθμούς ή να επικοινωνήσουν με τα θύματα trực tiếp σε διαδραστικές πλατφόρμες chat.

3. Δολοπλοκία Δεδομένων

Η δολοπλοκία δεδομένων είναι ένας νεοσχεδιασμένος κυβερνοεπιθετικός που στοχεύει trực tiếp την τεχνολογία AI. Η τεχνολογία AI μαθαίνει από συνόλους δεδομένων και χρησιμοποιεί αυτές τις πληροφορίες για να ολοκληρώσει εργασίες. Αυτό ισχύει για όλα τα προγράμματα AI, ανεξάρτητα από τον σκοπό ή τις λειτουργίες τους.

Για τους chatbot AI, αυτό σημαίνει μάθηση πολλαπλών απαντήσεων σε πιθανές ερωτήσεις που μπορούν να κάνουν οι χρήστες. Ωστόσο, αυτό είναι επίσης ένας από τους κινδύνους της τεχνολογίας AI.

Αυτά τα συνόλους δεδομένων είναι συχνά ανοιχτά εργαλεία και πόρους που είναι διαθέσιμα σε όλους. Αν και οι εταιρείες AI συνήθως κρατούν ένα στενά φυλαγμένο μυστικό για τις πηγές δεδομένων τους, οι κυβερνοεπιθέτες μπορούν να καθορίσουν ποιες πηγές χρησιμοποιούν και να τις χειραγωγήσουν.

Οι κυβερνοεπιθέτες μπορούν να βρουν τρόπους να χειραγωγήσουν τα συνόλους δεδομένων που χρησιμοποιούνται για την εκπαίδευση των AI, επιτρέποντας τους να χειραγωγήσουν τις αποφάσεις και τις απαντήσεις τους. Η τεχνολογία AI θα χρησιμοποιήσει τις πληροφορίες από τις τροποποιημένες δεδομένες και θα εκτελέσει τις ενέργειες που θέλουν οι επιθέτες.

Για παράδειγμα, μια από τις πιο συχνά χρησιμοποιούμενες πηγές για συνόλους δεδομένων είναι οι πηγές Wiki όπως η Βικιπαίδεια. Αν και τα δεδομένα δεν προέρχονται από το ζωντανό άρθρο της Βικιπαίδειας, προέρχονται από στιγμιότυπα δεδομένων που λαμβάνονται σε συγκεκριμένα χρονικά διαστήματα. Οι χάκερ μπορούν να βρουν τρόπους να επεξεργαστούν τα δεδομένα για να τους ωφελήσουν.

Στην περίπτωση των chatbot AI, οι χάκερ μπορούν να διαβρώσουν τα συνόλους δεδομένων που χρησιμοποιούνται για την εκπαίδευση των chatbot που εργάζονται για ιατρικές ή οικονομικές ιδρύματα. Μπορούν να χειραγωγήσουν τα προγράμματα chatbot να δώσουν στους πελάτες ψευδή πληροφορίες που θα τους οδηγήσουν να πατήσουν σε einen σύνδεσμο που περιέχει malware ή μια ψευδή ιστοσελίδα. Μόλις η τεχνολογία AI αρχίσει να χρησιμοποιεί τις δολοπλοκίες δεδομένων, είναι δύσκολο να ανιχνευθεί και μπορεί να οδηγήσει σε eine σημαντική παραβίαση της κυβερνοασφαλείας που δεν θα γίνει αντιληπτή για πολύ καιρό.

Πώς Να Αντιμετωπιστούν οι Κίνδυνοι των Chatbot AI

Αυτοί οι κίνδυνοι είναι ανησυχητικοί, αλλά δεν σημαίνει ότι οι chatbot είναι εγγενώς επικίνδυνοι. Αντίθετα, πρέπει να προσεγγιστεί με προσοχή και να ληφθούν υπόψη αυτοί οι κίνδυνοι όταν κατασκευάζονται και χρησιμοποιούνται chatbot.

Ο κλειδί για την πρόληψη της προκατάληψης AI είναι η αναζήτηση της προκατάληψης κατά τη διάρκεια της εκπαίδευσης. Βεβαιωθείτε ότι εκπαιδεύετε την τεχνολογία AI σε διαφορετικά συνόλους δεδομένων και προγραμματίζετε την τεχνολογία AI να αποφεύγει την παράγονση πραγμάτων όπως η φυλή, το φύλο ή η σεξουαλική προτίμηση στη λήψη αποφάσεων. Επίσης, είναι καλύτερο να έχειτε μια διαφορετική ομάδα επιστημόνων δεδομένων για να αναθεωρήσουν τις εσωτερικές λειτουργίες των chatbot και να βεβαιωθούν ότι δεν εμφανίζουν προκαταλήψεις, όσο υπονόμευες κι αν είναι.

Η καλύτερη άμυνα ενάντια στις επιθέσεις phishing είναι η εκπαίδευση. Εκπαιδεύστε όλους τους υπαλλήλους να αναγνωρίζουν τα κοινά σημάδια των επιθέσεων phishing, ώστε να μην πέσουν θύματα αυτών των επιθέσεων. Η διασπορά της ευαισθητοποίησης των καταναλωτών γύρω από το ζήτημα θα βοηθήσει, επίσης.

Μπορείτε να προλαμβάνετε την δολοπλοκία δεδομένων περιοριζοντας την πρόσβαση στα δεδομένα εκπαίδευσης των chatbot. Μόνο οι άνθρωποι που χρειάζονται πρόσβαση σε αυτά τα δεδομένα για να κάνουν τη δουλειά τους σωστά πρέπει να έχουν εξουσιοδότηση — ένα концепτό που ονομάζεται αρχή του ελάχιστου προνομίου. Μετά την εφαρμογή αυτών των περιορισμών, χρησιμοποιήστε ισχυρά μέτρα επαλήθευσης όπως την πολλαπλή αυθεντικοποίηση ή τη βιομετρική για να αποτρέψετε τους κινδύνους των κυβερνοεπιθέσεων να εισβάλουν σε ένα εξουσιοδοτημένο λογαριασμό.

Μείνετε Ευαισθητοποιημένοι Ενάντια στους Κινδύνους της Εξάρτησης από την Τεχνολογία AI

Η τεχνολογία AI είναι μια πραγματικά θαυμάσια τεχνολογία με σχεδόν ατελείωτες εφαρμογές. Ωστόσο, οι κίνδυνοι της τεχνολογίας AI μπορεί να είναι αόρατοι. Είναι οι chatbot επικίνδυνοι; Όχι εγγενώς, αλλά οι κυβερνοεπιθέτες μπορούν να τους χρησιμοποιήσουν με διάφορους τρόπους. Είναι στους χρήστες να αποφασίσουν ποιες είναι οι εφαρμογές αυτής της νέας τεχνολογίας.