Ηγέτες σκέψης
Ανησυχίες για τους Πιθανούς Κινδύνους του ChatGPT Κερδίζουν Ώμα και Είναι μια Πause στη Τεχνητή Νοημοσύνη μια Καλή Κίνηση;
Ενώ ο Elon Musk και άλλοι παγκόσμιοι ηγέτες της τεχνολογίας έχουν ζητήσει μια παύση στην τεχνητή νοημοσύνη μετά την κυκλοφορία του ChatGPT, κάποιοι επικριτές πιστεύουν ότι μια διακοπή της ανάπτυξης δεν είναι η λύση. Ο ευαγγελιστής της τεχνητής νοημοσύνης Andrew Pery, της εταιρείας ABBYY για την έξυπνη αυτοματοποίηση, πιστεύει ότι η παύση είναι σαν να βάζεις το οδοντόπαστα πίσω στο σωλήνα. Εδώ, μας λέει γιατί…
Οι εφαρμογές της τεχνητής νοημοσύνης είναι πανταχού παρούσες, επηρεάζοντας σχεδόν κάθε πτυχή της ζωής μας. Ενώ είναι αξιοσημείωτο, η τοποθέτηση φρένων τώρα μπορεί να είναι απίθανη.
Υπάρχουν σίγουρα αισθητές ανησυχίες που απαιτούν αυξημένο ρυθμιστικό έλεγχο για να ελέγξουν τις πιθανές επιβλαβείς επιπτώσεις.
Πρόσφατα, η Ιταλική Αρχή Προστασίας Δεδομένων προσωρινά απαγόρευσε τη χρήση του ChatGPT σε εθνικό επίπεδο λόγω ανησυχιών σχετικά με την ιδιωτικότητα που σχετίζονται με τον τρόπο συλλογής και επεξεργασίας των προσωπικών δεδομένων που χρησιμοποιούνται για την εκπαίδευση του μοντέλου, καθώς και μια εμφανής έλλειψη προστατευτικών μέτρων, εκθέτοντας τα παιδιά σε απαντήσεις “απόλυτα ακατάλληλες για την ηλικία και την ευαισθησία τους”.
Η Ευρωπαϊκή Οργάνωση Καταναλωτών (BEUC) παρότρυνε την ΕΕ να διερευνήσει τις πιθανές επιβλαβείς επιπτώσεις των μεγάλων μοντέλων γλώσσας, δεδομένου ότι “αυξάνονται οι ανησυχίες σχετικά με το πώς το ChatGPT και παρόμοια chatbot μπορεί να εξαπατήσουν και να χειριστούν τους ανθρώπους. Αυτά τα συστήματα τεχνητής νοημοσύνης χρειάζονται μεγαλύτερη δημόσια εποπτεία και οι δημόσιες αρχές πρέπει να επανακαταλάβουν τον έλεγχο πάνω τους”.
Στις Ηνωμένες Πολιτείες, το Κέντρο για την Τεχνητή Νοημοσύνη και την Ψηφιακή Πολιτική κατέθεσε μια καταγγελία στην Ομοσπονδιακή Επιτροπή Εμπορίου που το ChatGPT παραβιάζει το άρθρο 5 του Νόμου της Ομοσπονδιακής Επιτροπής Εμπορίου (FTC Act) (15 USC 45). Η βάση της καταγγελίας είναι ότι το ChatGPT υποτίθεται ότι δεν πληροί τις οδηγίες που έχουν καθοριστεί από την FTC για τη διαφάνεια και την εξηγηματικότητα των συστημάτων τεχνητής νοημοσύνης. Αναφέρθηκε στις αναγνωρίσεις του ChatGPT για διάφορους γνωστούς κινδύνους, συμπεριλαμβανομένης της παραβίασης των δικαιωμάτων ιδιωτικότητας, της δημιουργίας επιβλαβμένου περιεχομένου και της διάδοσης ψευδών πληροφοριών.
Η उपयσιμότητα των μεγάλων μοντέλων γλώσσας, όπως το ChatGPT, δενwithstanding η έρευνα υπογραμμίζει την πιθανή σκοτεινή πλευρά του. Αποδεικνύεται ότι παράγει λανθασμένες απαντήσεις, поскольку το υποκείμενο μοντέλο ChatGPT βασίζεται σε αλγόριθμους βαθιάς μάθησης που εκμεταλλεύονται μεγάλες βάσεις δεδομένων εκπαίδευσης από το διαδίκτυο. Σε αντίθεση με άλλα chatbot, το ChatGPT χρησιμοποιεί μοντέλα γλώσσας που βασίζονται σε τεχνικές βαθιάς μάθησης που παράγουν κείμενο παρόμοιο με τις ανθρώπινες συνομιλίες, και η πλατφόρμα “φτάνει σε μια απάντηση κάνοντας μια σειρά υποθέσεων, που είναι μέρος του λόγου για τον οποίο μπορεί να υποστηρίξει λανθασμένες απαντήσεις σαν να ήταν απόλυτα αληθινές”.
Επιπλέον, το ChatGPT αποδεικνύεται ότι ενισχύει και ενισχύει τις προκαταλήψεις, οδηγώντας σε “απαντήσεις που διακρίνουν το φύλο, τη φυλή και τις μειονότητες, κάτι που η εταιρεία προσπαθεί να μετριάσει”. Το ChatGPT μπορεί επίσης να είναι ένας θησαυρός για τους κακόβουλους ηθοποιούς να εκμεταλλευτούν τους αβλέπτως χρήστες, παραβιάζοντας την ιδιωτικότητά τους και εκθέτοντάς τους σε επιθέσεις απάτης.
Αυτές οι ανησυχίες προκάλεσαν το Ευρωπαϊκό Κοινοβούλιο να δημοσιεύσει einen σχολιασμό που ενισχύει την ανάγκη να ενισχύσει περαιτέρω τις τρέχουσες διατάξεις του προσχέδιου Νόμου της ΕΕ για την Τεχνητή Νοημοσύνη, (AIA) που εξακολουθεί να περιμένει επικύρωση. Ο σχολιασμός υπογραμμίζει ότι το τρέχον προσχέδιο του προτεινόμενου κανονισμού εστιάζει σε αυτό που ονομάζεται στενή τεχνητή νοημοσύνη, που αποτελείται από συγκεκριμένες κατηγορίες υψηλού κινδύνου συστημάτων τεχνητής νοημοσύνης, όπως η πρόσληψη, η αξιολόγηση πιστωτικής αξιοπιστίας, η απασχόληση, η επιβολή του νόμου και η ικανότητα για κοινωνικές υπηρεσίες. Ωστόσο, το προσχέδιο του κανονισμού της ΕΕ για την τεχνητή νοημοσύνη δεν καλύπτει την γενική τεχνητή νοημοσύνη, όπως τα μεγάλα μοντέλα γλώσσας που παρέχουν πιο προηγμένα γνωστικά χαρακτηριστικά και που μπορούν “να εκτελέσουν eine ευρεία γκάμα έξυπνων εργασιών”. Υπάρχουν κλήσεις να επεκτείνουν το πεδίο εφαρμογής του προσχέδιου κανονισμού για να περιλαμβάνει μια ξεχωριστή, υψηλού κινδύνου κατηγορία γενικής τεχνητής νοημοσύνης, που απαιτεί από τους développers να αναλάβουν αυστηρές δοκιμές συμμόρφωσης πριν από την τοποθέτησή τους στην αγορά και να παρακολουθούν συνεχώς την απόδοσή τους για πιθανές απρόβλεπτες επιβλαβείς εξόδους.
Ένα ιδιαίτερα χρήσιμο κομμάτι έρευνας τραβά την προσοχή σε αυτό το κενό που ο κανονισμός της ΕΕ για την τεχνητή νοημοσύνη είναι “πρωτίστως εστιάζει σε συμβατικά μοντέλα τεχνητής νοημοσύνης και όχι στη νέα γενιά που βλέπουμε σήμερα”.
Συνιστά τέσσερις στρατηγικές που οι ρυθμιστές πρέπει να λάβουν υπόψη.
- Απαιτήστε από τους développers τέτοιων συστημάτων να αναφέρουν τακτικά την αποτελεσματικότητα των διαδικασιών διαχείρισης κινδύνων για να μετριάσουν τις επιβλαβείς εξόδους.
- Οι επιχειρήσεις που χρησιμοποιούν μεγάλα μοντέλα γλώσσας πρέπει να είναι υποχρεωμένες να αποκαλύψουν στους πελάτες τους ότι το περιεχόμενο ήταν παραγόμενο από τεχνητή νοημοσύνη.
- Οι développers πρέπει να συνδρομήσουν σε μια формική διαδικασία σταδίων κυκλοφορίας, ως μέρος ενός πλαισίου διαχείρισης κινδύνων, που σχεδιάζεται για να προστατεύσει από πιθανές απρόβλεπτες επιβλαβείς εξόδους.
- Τοποθετήστε το βάρος στους développers να “μετριάσετε τον κίνδυνο από τις ρίζες” έχοντας να “προ-δραστηριοποιούνται να ελέγχουν το σύνολο δεδομένων εκπαίδευσης για λανθασμένες αναπαραστάσεις”.
Ένας παράγοντας που διατηρεί τους κινδύνους που σχετίζονται με τις επαναστατικές τεχνολογίες είναι η οδηγία των καινοτόμων να επιτύχουν το πλεονέκτημα του πρώτου κινητήρα με την υιοθέτηση eines “ship first and fix later” επιχειρηματικού μοντέλου. Ενώ η OpenAI είναι κάπως διαφανής σχετικά με τους πιθανούς κινδύνους του ChatGPT, έχουν κυκλοφορήσει για ευρεία εμπορική χρήση με μια “buyer beware” ευθύνη στους χρήστες να ζυγίσουν και να αναλάβουν τους κινδύνους τους. Αυτό μπορεί να είναι μια αδιανόητη προσέγγιση δεδομένης της πανταχού παρούσας επίδρασης των συστημάτων συνομιλίας τεχνητής νοημοσύνης. Η προνοητική ρύθμιση σε συνδυασμό με ροβούστα μέτρα επιβολής πρέπει να είναι πρωταρχική όταν χειρίζεται τέτοιου είδους επαναστατική τεχνολογία.
Η τεχνητή νοημοσύνη已经 διεισδύει σχεδόν κάθε μέρος της ζωής μας, που σημαίνει ότι μια παύση στην ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσε να σημαίνει πολλά απρόβλεπτα εμπόδια και συνέπειες. Αντί να φρενάρουμε απότομα, οι ηγέτες της βιομηχανίας και της νομοθετικής εξουσίας πρέπει να συνεργαστούν με καλή πίστη για να θεσπίσουν ενεργό ρύθμιση που είναι ριζωμένη σε ανθρώπινα κεντρικά αξίες όπως η διαφάνεια, η ευθύνη και η δικαιοσύνη. Αναφερόμενοι σε υφιστάμενη νομοθεσία όπως ο AIA, οι ηγέτες του ιδιωτικού και του δημόσιου τομέα μπορούν να σχεδιάσουν πλήρη, παγκοσμίως τυποποιημένα πολιτικά που θα αποτρέψουν τις κακόβουλες χρήσεις και θα μετριάσουν τις αντίθετες εξόδους, διατηρώντας την τεχνητή νοημοσύνη εντός των ορίων της βελτίωσης των ανθρώπινων εμπειριών.
