Οι Κίνδυνοι των Chatbot με Τεχνητή Νοημοσύνη – Και Πώς να τους Αντιμετωπίσουμε

Παλαιότερα θεωρούνταν απλώς ως αυτοματοποιημένα προγράμματα ομιλίας, τα chatbot με τεχνητή νοημοσύνη μπορούν τώρα να μάθουν και να διεξάγουν συνομιλίες που είναι σχεδόν αδιακρίτως από τους ανθρώπους. Ωστόσο, οι κίνδυνοι των chatbot με τεχνητή νοημοσύνη είναι εξίσου ποικίλοι.

Αυτοί possono να κυμαίνονται από άτομα που τους χρησιμοποιούν με λάθος τρόπο μέχρι πραγματικούς κινδύνους κυβερνοασφάλειας. Καθώς οι άνθρωποι εξαρτώνται όλο και περισσότερο από την τεχνολογία της τεχνητής νοημοσύνης, είναι απαραίτητο να γνωρίζουμε τις πιθανές επιπτώσεις της χρήσης αυτών των προγραμμάτων. Αλλά είναι οι chatbot επικίνδυνοι;

1. Προκατάληψη και Διακρίσεις

Ένας από τους μεγαλύτερους κινδύνους των chatbot με τεχνητή νοημοσύνη είναι η τάση τους προς επιβλαβείς προκαταλήψεις. Επειδή η τεχνητή νοημοσύνη δημιουργεί συνδέσεις μεταξύ σημείων δεδομένων που οι άνθρωποι συχνά παραβλέπουν, μπορεί να πιάσει τις λεπτές, σιωπηλές προκαταλήψεις στα δεδομένα εκπαίδευσής της και να διδάξει τον εαυτό της να είναι διακριστικός. Ως αποτέλεσμα, τα chatbot μπορούν να μάθουν γρήγορα να εκτοξεύουν ρατσιστικό, σεξιστικό ή διακριστικό περιεχόμενο, ακόμη και αν τίποτα τόσο ακραίο δεν ήταν στα δεδομένα εκπαίδευσής τους.

Ένα πρωτοποριακό παράδειγμα είναι το chatbot προσλήψεων της Amazon. Το 2018, αποκαλύφθηκε ότι η Amazon έχει εγκαταλείψει ένα πρόγραμμα τεχνητής νοημοσύνης που προορίζονταν να αξιολογηθούν τα βιογραφικά των υποψηφίων, επειδή τιμωρούσε τις αιτήσεις από γυναίκες. Επειδή τα περισσότερα από τα βιογραφικά που εκπαιδεύτηκε το chatbot ήταν ανδρών, έμαθε ότι οι ανδρικοί υποψήφιοι ήταν προτιμότεροι, ακόμη και αν τα δεδομένα εκπαίδευσής δεν το έλεγαν ρητά.

Τα chatbot που χρησιμοποιούν περιεχόμενο διαδικτύου για να διδάξουν τον εαυτό τους πώς να επικοινωνούν φυσικά, έχουν την τάση να εμφανίζουν ακόμη πιο ακραίες προκαταλήψεις. Το 2016, η Microsoft παρουσίασε ένα chatbot με το όνομα Tay που έμαθε να μιμείται δημοσιεύσεις στα μέσα κοινωνικής δικτύωσης. Μέσα σε λίγες ώρες, άρχισε να δημοσιεύει εξαιρετικά επιθετικό περιεχόμενο, οδηγώντας τη Microsoft να αναστείλει το λογαριασμό σύντομα.

Εάν οι εταιρείες δεν είναι προσεκτικές όταν κατασκευάζουν και αναπτύσσουν αυτά τα chatbot, μπορεί να οδηγήσουν σε παρόμοιες καταστάσεις. Τα chatbot θα μπορούσαν να κακομεταχειρίζονται τους πελάτες ή να διαδίδουν επιβλαβές προκαταλήψεις που προορίζονται να τις αποτρέψουν.

2. Κίνδυνοι Κυβερνοασφάλειας

Οι κίνδυνοι της τεχνολογίας chatbot με τεχνητή νοημοσύνη μπορούν επίσης να αποτελέσουν μια πιο直接ική απειλή για την κυβερνοασφάλεια των ανθρώπων και των επιχειρήσεων. Μια από τις πιο παραγωγικές μορφές κυβερνοεπιθέσεων είναι οι απάτες phishing και vishing. Αυτές περιλαμβάνουν κυβερνοεπιτιθέμενους που μιμούνται αξιόπιστες οργανώσεις, όπως τράπεζες ή κυβερνητικές αρχές.

Οι απάτες phishing λειτουργούν συνήθως μέσω email και μηνυμάτων κειμένου — το κλικ στο σύνδεσμο επιτρέπει στο malware να εισέλθει στο σύστημα υπολογιστή. Μόλις μέσα, το ιός μπορεί να κάνει οτιδήποτε, από την κλοπή προσωπικών πληροφοριών μέχρι την κρατημένη του συστήματος για λύτρα.

Το ποσοστό των επιθέσεων phishing έχει αυξηθεί σταθερά κατά τη διάρκεια και μετά την πανδημία COVID-19. Το Cybersecurity & Infrastructure Security Agency βρήκε ότι το 84% των ατόμων απάντησε σε μηνύματα phishing με ευαίσθητες πληροφορίες ή κλικ στο σύνδεσμο.

Οι φισέρ χρησιμοποιούν την τεχνολογία chatbot με τεχνητή νοημοσύνη για να αυτοματοποιήσουν την αναζήτηση για θύματα, να πείσουν τους να κάνουν κλικ σε συνδέσμους και να παραδώσουν προσωπικές πληροφορίες. Τα chatbot χρησιμοποιούνται από πολλές финансовές ιδρύματα — όπως τράπεζες — για να βελτιώσουν την εμπειρία εξυπηρέτησης πελατών.

Τα chatbot των φισέρ μπορούν να μιμούνται τις αυτοματοποιημένες προτροπές που χρησιμοποιούν οι τράπεζες για να εξαπατήσουν τα θύματα. Μπορούν επίσης να κάνουν αυτόματα κλήσεις σε τηλεφωνικούς αριθμούς ή να επικοινωνούν trực tiếp με τα θύματα σε διαδραστικές πλατφόρμες chat.

3. Δολοφονία Δεδομένων

Η δολοφονία δεδομένων είναι μια νεοσχεδιασμένη κυβερνοεπίθεση που στοχεύει trực tiếp στην τεχνητή νοημοσύνη. Η τεχνολογία της τεχνητής νοημοσύνης μαθαίνει από συνόλους δεδομένων και χρησιμοποιεί αυτές τις πληροφορίες για να ολοκληρώσει εργασίες. Αυτό ισχύει για όλα τα προγράμματα της τεχνητής νοημοσύνης, ανεξάρτητα από τον σκοπό ή τις λειτουργίες τους.

Για τα chatbot με τεχνητή νοημοσύνη, αυτό σημαίνει ότι μαθαίνουν πολλές απαντήσεις σε πιθανές ερωτήσεις που μπορούν να κάνουν οι χρήστες. Ωστόσο, αυτό είναι επίσης ένας από τους κινδύνους της τεχνητής νοημοσύνης.

Αυτά τα σύνολα δεδομένων είναι συχνά ανοιχτά εργαλεία και πόρους που είναι διαθέσιμα σε όλους. Αν και οι εταιρείες της τεχνητής νοημοσύνης συνήθως κρατούν ένα στενά φυλαγμένο μυστικό για τις πηγές δεδομένων τους, οι κυβερνοεπιτιθέμενοι μπορούν να καθορίσουν ποιες από αυτές τις πηγές χρησιμοποιούν και να τις χειραγωγήσουν.

Οι κυβερνοεπιτιθέμενοι μπορούν να βρουν τρόπους να χειραγωγήσουν τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των τεχνητών νοημοσύνης, επιτρέποντάς τους να χειραγωγήσουν τις αποφάσεις και τις απαντήσεις τους. Η τεχνητή νοημοσύνη θα χρησιμοποιήσει τις πληροφορίες από τις τροποποιημένες δεδομένες και θα εκτελέσει τις ενέργειες που θέλουν οι επιτιθέμενοι.

Για παράδειγμα, μια από τις πιο συχνά χρησιμοποιούμενες πηγές για σύνολα δεδομένων είναι οι πηγές Wiki όπως η Βικιπαίδεια. Αν και τα δεδομένα δεν προέρχονται από το ζωντανό άρθρο της Βικιπαίδειας, προέρχονται από στιγμιότυπα δεδομένων που έχουν ληφθεί σε συγκεκριμένα χρονικά διαστήματα. Οι χάκερ μπορούν να βρουν τρόπους να τροποποιήσουν τα δεδομένα για να τους ωφελήσουν.

Στην περίπτωση των chatbot με τεχνητή νοημοσύνη, οι χάκερ μπορούν να διαβρώσουν τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των chatbot που εργάζονται για ιατρικές ή χρηματοοικονομικές ιδρύματα. Μπορούν να χειραγωγήσουν τα προγράμματα chatbot να δώσουν στους πελάτες ψευδείς πληροφορίες που θα τους οδηγήσουν να κάνουν κλικ σε einen σύνδεσμο που περιέχει malware ή μια απάτη.

Πώς να Αντιμετωπίσουμε τους Κινδύνους των Chatbot με Τεχνητή Νοημοσύνη

Αυτοί οι κίνδυνοι είναι ανησυχούν, αλλά δεν σημαίνει ότι τα chatbot είναι εγγενώς επικίνδυνα. Αντίθετα, πρέπει να τα προσεγγίσουμε με προσοχή και να λάβουμε υπόψη αυτούς τους κινδύνους όταν κατασκευάζουμε και χρησιμοποιούμε chatbot.

Ο κλειδί για την πρόληψη της προκατάληψης της τεχνητής νοημοσύνης είναι η αναζήτηση της κατά τη διάρκεια της εκπαίδευσής της. Βεβαιωθείτε ότι να εκπαιδεύσετε το chatbot σε ποικίλα σύνολα δεδομένων και να το προγραμματίσετε ειδικά για να αποφύγει τη λήψη υπόψη πραγμάτων όπως η φυλή, το φύλο ή η σεξουαλική προτίμηση στη λήψη αποφάσεων. Είναι επίσης καλύτερο να έχετε μια ποικίλη ομάδα επιστημόνων δεδομένων για να αναθεωρήσουν τις εσωτερικές λειτουργίες των chatbot και να βεβαιωθείτε ότι δεν εμφανίζουν καμία προκατάληψη, όσο υπονόμευτη κι αν είναι.

Η καλύτερη άμυνα ενάντια στις απάτες phishing είναι η εκπαίδευση. Εκπαιδεύστε όλους τους υπαλλήλους να αναγνωρίζουν κοινά σημάδια των απάτων phishing, ώστε να μην πέσουν θύματα αυτών των επιθέσεων. Η διάδοση της ευαισθητοποίησης των καταναλωτών γύρω από το ζήτημα θα βοηθήσει, επίσης.

Μπορείτε να προλαμβάνετε την δολοφονία δεδομένων με την περιορισμό της πρόσβασης στα δεδομένα εκπαίδευσης των chatbot. Μόνο οι άνθρωποι που χρειάζονται πρόσβαση σε αυτά τα δεδομένα για να κάνουν σωστά την δουλειά τους πρέπει να έχουν εξουσιοδότηση — μια έννοια που ονομάζεται αρχή της ελάχιστης εξουσιοδότησης. Μετά την εφαρμογή αυτών των περιορισμών, χρησιμοποιήστε ισχυρά μέτρα επαλήθευσης όπως η πολλαπλή αυθεντικοποίηση ή η βιομετρική για να αποτρέψετε τους κινδύνους των κυβερνοεπιτιθέμενων που χειραγωγούν ένα εξουσιοδοτημένο λογαριασμό.

Μείνετε Ευαισθητοποιημένοι Ενάντια στους Κινδύνους της Εξάρτησης από την Τεχνητή Νοημοσύνη

Η τεχνητή νοημοσύνη είναι μια πραγματικά θαυμάσια τεχνολογία με σχεδόν ατελείωτες εφαρμογές. Ωστόσο, οι κίνδυνοι της τεχνητής νοημοσύνης μπορεί να είναι ασαφείς. Είναι οι chatbot επικίνδυνοι; Όχι εγγενώς, αλλά οι κυβερνοεπιτιθέμενοι μπορούν να τους χρησιμοποιήσουν με διάφορους τρόπους. Είναι δική μας ευθύνη να αποφασίσουμε ποιες είναι οι εφαρμογές αυτής της νέας τεχνολογίας.