Ηγέτες σκέψης

Αυξάνονται οι ανησυχίες για τους πιθανούς κινδύνους του ChatGPT, αλλά είναι σωστή κίνηση η παύση ανάπτυξης της τεχνητής νοημοσύνης;

Andrew Pery
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ ρύθμιση της γενικής τεχνητής νοημοσύνης, όπως το ChatGPT, απαιτεί νέους κανόνες πέρα…
Δείτε περισσότερα
  • Η ρύθμιση της γενικής τεχνητής νοημοσύνης, όπως το ChatGPT, απαιτεί νέους κανόνες πέρα από τη στενή εστίαση της ευρωπαϊκής πράξης για την τεχνητή νοημοσύνη.
  • Το μοντέλο 'πρώτα η κυκλοφορία και μετά η διόρθωση' της OpenAI μεταφέρει τον κίνδυνο στους χρήστες χωρίς επαρκείς διασφαλίσεις.
  • Η προληπτική ρύθμιση και η επιβολή είναι απαραίτητες για να αποτραπεί η τεχνητή νοημοσύνη από το να ενισχύει την προκατάληψη και την παραπληροφόρηση.

Ενώ ο Ίλον Μασκ και άλλοι παγκόσμιοι ηγέτες της τεχνολογίας έχουν ζητήσει παύση στην ανάπτυξη της τεχνητής νοημοσύνης μετά την κυκλοφορία του ChatGPT, κάποιοι κριτικοί πιστεύουν ότι μια διακοπή της ανάπτυξης δεν είναι η λύση. Ο Andrew Pery, ευαγγελιστής της τεχνητής νοημοσύνης και της εταιρείας ABBYY, πιστεύει ότι η παύση της ανάπτυξης είναι σαν να προσπαθείς να βάλεις την οδοντόκρεμα πίσω στο σωληνάριο. Εδώ, μας λέει γιατί…

Οι εφαρμογές της τεχνητής νοημοσύνης είναι πανταχού παρούσες, επηρεάζοντας σχεδόν κάθε πτυχή της ζωής μας. Ενώ είναι αξιοθαύμαστο να σταματήσουμε τώρα, μπορεί να είναι απίθανο.

Υπάρχουν σίγουρα ανησυχίες που απαιτούν αυξημένο ρυθμιστικό έλεγχο για να περιοριστούν οι δυνητικά επιζήμιες επιπτώσεις.

Πρόσφατα, η Ιταλική Αρχή Προστασίας Δεδομένων προσωρινά απέκλεισε τη χρήση του ChatGPT σε εθνικό επίπεδο λόγω ανησυχιών σχετικά με την προστασία των δεδομένων που σχετίζονται με τον τρόπο συλλογής και επεξεργασίας των προσωπικών δεδομένων που χρησιμοποιούνται για την εκπαίδευση του μοντέλου, καθώς και την έλλειψη μέτρων ασφαλείας, εκθέτοντας τα παιδιά σε απαντήσεις “απολύτως ακατάλληλες για την ηλικία και την αντίληψή τους”.

Ο Ευρωπαϊκός Οργανισμός Καταναλωτών (BEUC) ζητά από την Ευρωπαϊκή Ένωση να διερευνήσει τις δυνητικές επιζήμιες επιπτώσεις των μεγάλων μοντέλων γλώσσας, δεδομένου ότι “οι ανησυχίες αυξάνονται σχετικά με το πώς το ChatGPT και παρόμοια chatbot μπορεί να εξαπατήσουν και να χειριστούν τους ανθρώπους. Αυτά τα συστήματα τεχνητής νοημοσύνης χρειάζονται μεγαλύτερη δημόσια εποπτεία και οι δημόσιες αρχές πρέπει να ανακτήσουν τον έλεγχο τους”.

Στις Ηνωμένες Πολιτείες, το Κέντρο για την Τεχνητή Νοημοσύνη και την Ψηφιακή Πολιτική έχει υποβάλει μια καταγγελία στην Ομοσπονδιακή Επιτροπή Εμπορίου ότι το ChatGPT παραβιάζει το άρθρο 5 του Νόμου για την Ομοσπονδιακή Επιτροπή Εμπορίου (FTC Act) (15 USC 45). Η βάση της καταγγελίας είναι ότι το ChatGPT φέρεται να μη συμμορφώνεται με τις οδηγίες που έχουν οριστεί από την FTC για τη διαφάνεια και την εξηγησιμότητα των συστημάτων τεχνητής νοημοσύνης. Αναφέρθηκε στις αναγνωρίσεις του ChatGPT για διάφορους γνωστούς κινδύνους, συμπεριλαμβανομένης της παραβίασης των δικαιωμάτων προστασίας των δεδομένων, της δημιουργίας επιζήμιου περιεχομένου και της διάδοσης ψευδών πληροφοριών.

Παρά τη χρησιμότητα μεγάλων γλωσσικών μοντέλων όπως το ChatGPT, η έρευνα αναδεικνύει τη σκοτεινή πλευρά του. Αποδεικνύεται ότι παράγει λανθασμένες απαντήσεις, καθώς το υποκείμενο μοντέλο του ChatGPT βασίζεται σε αλγόριθμους βαθιάς μάθησης που εκμεταλλεύονται μεγάλες βάσεις δεδομένων εκπαίδευσης από το διαδίκτυο. Σε αντίθεση με άλλα chatbot, το ChatGPT χρησιμοποιεί μοντέλα γλώσσας που βασίζονται σε τεχνικές βαθιάς μάθησης που παράγουν κείμενο παρόμοιο με τις ανθρώπινες συνομιλίες, και η πλατφόρμα “φτάνει σε μια απάντηση με μια σειρά υποθέσεων, που είναι ο λόγος για τον οποίο μπορεί να υποστηρίξει λανθασμένες απαντήσεις σαν να ήταν απόλυτα αληθινές”.

Επιπλέον, το ChatGPT αποδεικνύεται ότι τονίζει και ενισχύει τις προκαταλήψεις, οδηγώντας σε “απαντήσεις που κάνουν διακρίσεις με βάση το φύλο και τη φυλή ή εις βάρος μειονοτικών ομάδων, κάτι που η εταιρεία προσπαθεί να μετριάσει”. Το ChatGPT μπορεί επίσης να είναι μια πλούσια πηγή ευκαιριών για κακόβουλους παράγοντες να εκμεταλλευτούν ανυποψίαστους χρήστες, παραβιάζοντας την ιδιωτικότητά τους και εκθέτοντας τους σε επιθέσεις απάτης.

Αυτές οι ανησυχίες προκάλεσαν το Ευρωπαϊκό Κοινοβούλιο να δημοσιεύσει ένα σχόλιο που ενισχύει την ανάγκη να ενισχυθούν περαιτέρω οι τρέχουσες διατάξεις του προσχέδιου Νόμου της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη, (AIA) που εξακολουθεί να περιμένει επικύρωση. Το σχόλιο υπογραμμίζει ότι το τρέχον προσχέδιο του προτεινόμενου κανονισμού επικεντρώνεται σε αυτό που ονομάζεται στενή εφαρμογή της τεχνητής νοημοσύνης, που αποτελείται από συγκεκριμένες κατηγορίες υψηλού κινδύνου συστημάτων τεχνητής νοημοσύνης, όπως η πρόσληψη, η πιστωτική αξιολόγηση, η απασχόληση, η επιβολή του νόμου και η επιλεξιμότητα για κοινωνικές υπηρεσίες. Ωστόσο, το τότε σχέδιο του AIA δεν καλύπτει την τεχνητή νοημοσύνη γενικής χρήσης, όπως μεγάλα γλωσσικά μοντέλα που προσφέρουν πιο προηγμένες γνωστικές δυνατότητες και μπορούν να «εκτελούν ευρύ φάσμα ευφυών εργασιών». Υπάρχουν εκκλήσεις να επεκταθεί ο σκοπός του προσχέδιου κανονισμού για να συμπεριλάβει μια ξεχωριστή, υψηλού κινδύνου κατηγορία γενικής χρήσης συστημάτων τεχνητής νοημοσύνης, που θα απαιτεί από τους προγραμματιστές να αναλάβουν αυστηρές δοκιμές συμμόρφωσης πριν από την τοποθέτησή τους στην αγορά και να παρακολουθούν συνεχώς την απόδοσή τους για δυνητικά απρόβλεπτες επιζήμιες εξόδους.

Ένα ιδιαίτερα χρήσιμο κομμάτι ερεύνας υπογραμμίζει αυτό το κενό που ο κανονισμός της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη “πρωτίστως επικεντρώνεται σε συμβατικά μοντέλα τεχνητής νοημοσύνης και όχι στη νέα γενιά που βλέπουμε σήμερα”.

Συνιστά τέσσερις στρατηγικές που οι ρυθμιστές πρέπει να λάβουν υπόψη.

  1. Απαιτήστε από τους προγραμματιστές τέτοιων συστημάτων να αναφέρουν τακτικά την αποτελεσματικότητα των διαδικασιών διαχείρισης κινδύνων για να μετριάσουν τις επιζήμιες εξόδους.
  2. Οι επιχειρήσεις που χρησιμοποιούν μεγάλης κλίμακας μοντέλα γλώσσας πρέπει να είναι υποχρεωμένες να αναφέρουν στους πελάτες τους ότι το περιεχόμενο ήταν παραγμένο από τη τεχνητή νοημοσύνη.
  3. Οι προγραμματιστές πρέπει να δεσμευτούν σε μια επίσημη διαδικασία σταδιακών κυκλοφοριών, ως μέρος ενός πλαισίου διαχείρισης κινδύνων, που σχεδιάζεται για να προστατεύσει ενάντια σε δυνητικά απρόβλεπτες επιζήμιες εξόδους.
  4. Βάλτε στους προγραμματιστές την ευθύνη να «μετριάσουν τον κίνδυνο στη ρίζα του» με την υποχρέωση να “προ-δραστηριοποιούνται για να ελέγξουν το σύνολο δεδομένων εκπαίδευσης για παραπλανητικές αναπαραστάσεις”.

Ένας παράγοντας που διαιωνίζει τους κινδύνους που σχετίζονται με τις επαναστατικές τεχνολογίες είναι η ορμή των καινοτόμων να επιτύχουν το πλεονέκτημα της πρώτης εισόδου στην αγορά με την υιοθέτηση ενός μοντέλου “κυκλοφορίας πρώτα και διόρθωσης αργότερα”. Ενώ η OpenAI είναι κάπως διαφανής σχετικά με τους δυνητικούς κινδύνους του ChatGPT, έχουν κυκλοφορήσει για ευρεία εμπορική χρήση με ένα “αγοράστε με προσοχή” βάρος στους χρήστες να ζυγίσουν και να αναλάβουν τους κινδύνους τους οι ίδιοι. Αυτό μπορεί να είναι μια αδιανόητη προσέγγιση δεδομένου του πανταχού παρούσας επιρροής των συστημάτων συνομιλίας της τεχνητής νοημοσύνης. Η προληπτική ρύθμιση σε συνδυασμό με ισχυρά μέτρα επιβολής πρέπει να είναι πρωταρχική όταν χειρίζεται τέτοιες επαναστατικές τεχνολογίες.

Η τεχνητή νοημοσύνη ήδη διεισδύει σχεδόν σε κάθε μέρος της ζωής μας, που σημαίνει ότι μια παύση στην ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσε να υποδηλώσει μια ποικιλία απρόβλεπτων εμποδίων και συνεπειών. Αντί να σταματήσουμε απότομα, οι βιομηχανικοί και νομοθετικοί παίκτες πρέπει να συνεργαστούν με καλή πίστη για να θεσπίσουν ενεργό ρύθμιση που βασίζεται σε ανθρωποκεντρικές αξίες όπως η διαφάνεια, η λογοδοσία και η δικαιοσύνη. Αναφερόμενοι σε υπάρχοντες νόμους όπως ο AIA, οι ηγέτες του ιδιωτικού και του δημόσιου τομέα μπορούν να σχεδιάσουν πλήρη, παγκοσμίως τυποποιημένες πολιτικές που θα αποτρέψουν τις κακόβουλες χρήσεις και θα μετριάσουν τις δυσμενείς συνέπειες, διατηρώντας την τεχνητή νοημοσύνη εντός των ορίων της βελτίωσης των ανθρώπινων εμπειριών.

Ο Andrew Pery είναι προωθητής της ηθικής στην τεχνητή νοημοσύνη στην παγκόσμια εταιρεία έξυπνης αυτοματοποίησης ABBYY. Διαθέτει μεταπτυχιακό τίτλο νομικών σπουδών με διάκριση από το Northwestern University Pritzker School of Law και είναι Πιστοποιημένος Επαγγελματίας Προστασίας Δεδομένων. Ο Pery έχει περισσότερα από 25 χρόνια εμπειρίας στην ηγεσία προγραμμάτων διαχείρισης τεχνολογίας για κορυφαίες παγκόσμιες εταιρείες τεχνολογίας. Η εξειδίκευσή του είναι στην έξυπνη αυτοματοποίηση διαδικασιών εγγράφων και στην ευφυή ανάλυση διαδικασιών με ιδιαίτερη εξειδίκευση σε τεχνολογίες AI, εφαρμογές λογισμικού, προστασία δεδομένων και ηθική AI.