Οι ανησυχίες για τους 潜在적인 κινδύνους του ChatGPT κερδίζουν έδαφος, αλλά μια παύση στην ανάπτυξη της τεχνητής νοημοσύνης είναι καλή κίνηση;

Ενώ ο Ίλον Μασκ και άλλοι παγκόσμιοι ηγέτες της τεχνολογίας έχουν ζητήσει παύση στην ανάπτυξη της τεχνητής νοημοσύνης μετά την κυκλοφορία του ChatGPT, κάποιοι κριτικοί πιστεύουν ότι μια διακοπή της ανάπτυξης δεν είναι η λύση. Ο Andrew Pery, ευαγγελιστής της τεχνητής νοημοσύνης και της εταιρείας ABBYY, πιστεύει ότι η παύση της ανάπτυξης είναι σαν να προσπαθείς να βάλεις το οδοντόκρεμα πίσω στο tube. Εδώ, μας λέει γιατί…

Οι εφαρμογές της τεχνητής νοημοσύνης είναι πανταχού παρούσες, επηρεάζοντας σχεδόν κάθε πτυχή της ζωής μας. Ενώ είναι αξιοθαύμαστο να σταματήσουμε τώρα, μπορεί να είναι απίθανο.

Υπάρχουν σίγουρα ανησυχίες που απαιτούν αυξημένο ρυθμιστικό έλεγχο για να περιοριστούν οι δυνητικά επιζήμιες επιπτώσεις.

Πρόσφατα, η Ιταλική Αρχή Προστασίας Δεδομένων προσωρινά απέκλεισε τη χρήση του ChatGPT σε εθνικό επίπεδο λόγω ανησυχιών σχετικά με την προστασία των δεδομένων που σχετίζονται με τον τρόπο συλλογής και επεξεργασίας των προσωπικών δεδομένων που χρησιμοποιούνται για την εκπαίδευση του μοντέλου, καθώς και την έλλειψη μέτρων ασφαλείας, εκθέτοντας τα παιδιά σε απαντήσεις “απόλυτα ανεπίσημες για την ηλικία και την ευαισθησία τους”.

Ο Ευρωπαϊκός Οργανισμός Καταναλωτών (BEUC) ζητά από την Ευρωπαϊκή Ένωση να διερευνήσει τις δυνητικές επιζήμιες επιπτώσεις των μεγάλων μοντέλων γλώσσας, δεδομένου ότι “οι ανησυχίες αυξάνονται σχετικά με το πώς το ChatGPT και παρόμοια chatbot μπορεί να εξαπατήσουν και να χειριστούν τους ανθρώπους. Αυτά τα συστήματα τεχνητής νοημοσύνης χρειάζονται μεγαλύτερη δημόσια εποπτεία και οι δημόσιες αρχές πρέπει να ανακτήσουν τον έλεγχο τους”.

Στις Ηνωμένες Πολιτείες, το Κέντρο για την Τεχνητή Νοημοσύνη και την Ψηφιακή Πολιτική έχει υποβάλει μια καταγγελία στην Ομοσπονδιακή Επιτροπή Εμπορίου ότι το ChatGPT παραβιάζει το άρθρο 5 του Νόμου για την Ομοσπονδιακή Επιτροπή Εμπορίου (FTC Act) (15 USC 45). Η βάση της καταγγελίας είναι ότι το ChatGPT δεν συμμορφώνεται με τις οδηγίες που έχουν οριστεί από την FTC για τη διαφάνεια και την εξηγηματικότητα των συστημάτων τεχνητής νοημοσύνης. Αναφέρθηκε στις αναγνωρίσεις του ChatGPT για διάφορα γνωστά κινδύνους, συμπεριλαμβανομένης της παραβίασης των δικαιωμάτων προστασίας των δεδομένων, της δημιουργίας επιζήμιου περιεχομένου και της διάδοσης ψευδών πληροφοριών.

Η χρησιμότητα των μεγάλων μοντέλων γλώσσας όπως το ChatGPT, παρά την έρευνα, υπογραμμίζει την σκοτεινή πλευρά του. Αποδεικνύεται ότι παράγει λανθασμένες απαντήσεις, καθώς το υποκείμενο μοντέλο του ChatGPT βασίζεται σε αλγόριθμους βαθιάς μάθησης που εκμεταλλεύονται μεγάλες βάσεις δεδομένων εκπαίδευσης από το διαδίκτυο. Σε αντίθεση με άλλα chatbot, το ChatGPT χρησιμοποιεί μοντέλα γλώσσας που βασίζονται σε τεχνικές βαθιάς μάθησης που παράγουν κείμενο παρόμοιο με τις ανθρώπινες συνομιλίες, και η πλατφόρμα “φτάνει σε μια απάντηση με μια σειρά υποθέσεων, που είναι ο λόγος για τον οποίο μπορεί να υποστηρίξει λανθασμένες απαντήσεις σαν να ήταν απόλυτα αληθινές”.

Επιπλέον, το ChatGPT αποδεικνύεται ότι ενισχύει και ενισχύει τις προκαταλήψεις, οδηγώντας σε “απαντήσεις που διακρίνονται κατά φύλο, φυλή και μειονότητες, κάτι που η εταιρεία προσπαθεί να μετριάσει”. Το ChatGPT μπορεί επίσης να είναι một ελδorado για κακόβουλους ηθοποιούς να εκμεταλλευτούν αθώους χρήστες, παραβιάζοντας την ιδιωτικότητά τους και εκθέτοντας τους σε επιθέσεις απάτης.

Αυτές οι ανησυχίες προκάλεσαν το Ευρωπαϊκό Κοινοβούλιο να δημοσιεύσει ένα σχόλιο που ενισχύει την ανάγκη να ενισχυθούν περαιτέρω οι τρέχουσες διατάξεις του προσχέδιου Νόμου της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη, (AIA) που εξακολουθεί να περιμένει επικύρωση. Το σχόλιο υπογραμμίζει ότι το τρέχον προσχέδιο του προτεινόμενου κανονισμού επικεντρώνεται σε αυτό που ονομάζεται στενή εφαρμογή της τεχνητής νοημοσύνης, που αποτελείται από συγκεκριμένες κατηγορίες υψηλού κινδύνου συστημάτων τεχνητής νοημοσύνης, όπως η πρόσληψη, η πιστωτική αξιολόγηση, η απασχόληση, η επιβολή του νόμου και η ικανότητα για κοινωνικές υπηρεσίες. Υπάρχουν κλήσεις να επεκταθεί ο σκοπός του προσχέδιου κανονισμού για να συμπεριλάβει μια ξεχωριστή, υψηλού κινδύνου κατηγορία γενικής χρήσης συστημάτων τεχνητής νοημοσύνης, που θα απαιτεί από τους dévelopers να αναλάβουν αυστηρές δοκιμές συμμόρφωσης πριν από την τοποθέτησή τους στην αγορά και να παρακολουθούν συνεχώς την απόδοσή τους για δυνητικά απρόβλεπτες επιζήμιες εξόδους.

Ένα ιδιαίτερα χρήσιμο κομμάτι ερεύνας υπογραμμίζει αυτό το κενό που ο κανονισμός της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη “πρωτίστως επικεντρώνεται σε συμβατικά μοντέλα τεχνητής νοημοσύνης και όχι στη νέα γενιά που βλέπουμε σήμερα”.

Συνιστά τέσσερις στρατηγικές που οι ρυθμιστές πρέπει να λάβουν υπόψη.

1. Απαιτήστε από τους dévelopers τέτοιων συστημάτων να αναφέρουν τακτικά την αποτελεσματικότητα των διαδικασιών διαχείρισης κινδύνων για να μετριάσουν τις επιζήμιες εξόδους.
2. Οι επιχειρήσεις που χρησιμοποιούν μεγάλης κλίμακας μοντέλα γλώσσας πρέπει να είναι υποχρεωμένες να αναφέρουν στους πελάτες τους ότι το περιεχόμενο ήταν παραγμένο από τη τεχνητή νοημοσύνη.
3. Οι dévelopers πρέπει να συνδρομήσουν σε μια формική διαδικασία σταδιακών κυκλοφοριών,作为 μέρος ενός πλαισίου διαχείρισης κινδύνων, που σχεδιάζεται για να προστατεύσει ενάντια σε δυνητικά απρόβλεπτες επιζήμιες εξόδους.
4. Βάλτε τον dévelopers να “μετριάσετε τον κίνδυνο στις ρίζες” με την υποχρέωση να “προ-δραστηριοποιούνται για να ελέγξουν το σύνολο δεδομένων εκπαίδευσης για παραπλανητικές αναπαραστάσεις”.

Ένας παράγοντας που διαιωνίζει τους κινδύνους που σχετίζονται με τις επαναστατικές τεχνολογίες είναι η ορμή των καινοτόμων να επιτύχουν το πλεονέκτημα του πρώτου κινητήρα με την υιοθέτηση ενός μοντέλου “αποστολής πρώτα και διόρθωσης αργότερα”. Ενώ η OpenAI είναι κάπως διαφανής σχετικά με τους δυνητικούς κινδύνους του ChatGPT, έχουν κυκλοφορήσει για ευρεία εμπορική χρήση με ένα “αγοράστε με προσοχή” βάρος στους χρήστες να ζυγίσουν και να αναλάβουν τους κινδύνους τους οι ίδιοι. Αυτό μπορεί να είναι μια αδιανόητη προσέγγιση δεδομένου του πανταχού παρούσας επιρροής των συστημάτων συνομιλίας της τεχνητής νοημοσύνης. Η προληπτική ρύθμιση σε συνδυασμό με ρομποτικές μέτρα επιβολής πρέπει να είναι πρωταρχική όταν χειρίζεται τέτοιες επαναστατικές τεχνολογίες.

Η τεχνητή νοημοσύνη ήδη διεισδύει σχεδόν σε κάθε μέρος της ζωής μας, που σημαίνει ότι μια παύση στην ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσε να υποδηλώσει eine ποικιλία απρόβλεπτων εμποδίων και συνεπειών. Αντί να σταματήσουμε απότομα, οι βιομηχανικοί και νομοθετικοί παίκτες πρέπει να συνεργαστούν με καλή πίστη για να θεσπίσουν ενεργό ρύθμιση που βασίζεται σε ανθρώπινα κεντρικά αξίες όπως η διαφάνεια, η ευθύνη και η δίκαιος. Αναφερόμενοι σε υπάρχοντες νόμους όπως ο AIA, οι ηγέτες του ιδιωτικού και του δημόσιου τομέα μπορούν να σχεδιάσουν πλήρη, παγκοσμίως стандαρδποιημένα πολιτικά που θα αποτρέψουν τις κακόβουλες χρήσεις και θα μετριάσουν τις δυσμενείς εξόδους, διατηρώντας την τεχνητή νοημοσύνη εντός των ορίων της βελτίωσης των ανθρώπινων εμπειριών.