Ηγέτες σκέψης

Το AI και η Μάχη κατά της Τεχνοφοβίας

Prof. Ioannis Pitas
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ έρευνα για την τεχνητή νοημοσύνη δεν μπορεί να σταματήσει, γιατί είναι η μόνη ελπίδα…
Δείτε περισσότερα
  • Η έρευνα για την τεχνητή νοημοσύνη δεν μπορεί να σταματήσει, γιατί είναι η μόνη ελπίδα της ανθρωπότητας για τη διαχείριση της αυξανόμενης παγκόσμιας πολυπλοκότητας.
  • Η μεγαλύτερη απειλή από την τεχνητή νοημοσύνη είναι η ικανότητά της να εξαπατά τους κακώς εκπαιδευμένους πολίτες και να υπονομεύει τη δημοκρατία.
  • Τα συστήματα τεχνητής νοημοσύνης θα πρέπει να καταχωρούνται από το διεθνές δίκαιο και να ειδοποιούν τους χρήστες όταν αλληλεπιδρούν με τεχνητή νοημοσύνη.

Όταν πρόκειται για την παραγωγική τεχνητή νοημοσύνη και τα μεγάλα γλωσσικά μοντέλα, όπως το ChatGPT, ο ενθουσιασμός για την AI συνδυάζεται με τεχνοφοβία. Αυτό είναι φυσικό για το ευρύ κοινό: οι άνθρωποι αγαπούν τα νέα και συναρπαστικά πράγματα, αλλά φοβούνται το άγνωστο. Το νέο στοιχείο είναι ότι αρκετοί διακεκριμένοι επιστήμονες έγιναν και οι ίδιοι σκεπτικιστές απέναντι στην τεχνολογία, αν όχι τεχνόφοβοι. Παραδείγματα είναι οι επιστήμονες και βιομήχανοι που ζητούν εξάμηνη απαγόρευση της έρευνας στην AI ή ο σκεπτικισμός του κορυφαίου επιστήμονα της AI, καθηγητή A. Hinton. Το μόνο σχετικό ιστορικό παράλληλο που μπορώ να θυμηθώ είναι η κριτική των ατομικών και πυρηνικών βομβών από μέρος της επιστημονικής κοινότητας κατά τον Ψυχρό Πόλεμο. Ευτυχώς, η ανθρωπότητα κατάφερε να αντιμετωπίσει αυτές τις ανησυχίες με αρκετά ικανοποιητικό τρόπο.

Βεβαίως, όλοι έχουν δικαίωμα να αμφισβητούν τη σημερινή κατάσταση της AI:

  • Κανείς δεν γνωρίζει γιατί τα μεγάλα γλωσσικά μοντέλα λειτουργούν τόσο καλά και αν έχουν κάποιο όριο.
  • Ελλοχεύουν πολλοί κίνδυνοι να δημιουργήσουν κακόβουλοι «βόμβες AI», ιδίως αν τα κράτη παραμένουν παθητικοί παρατηρητές στο ζήτημα της ρύθμισης.

Πρόκειται για βάσιμες ανησυχίες που τροφοδοτούν τον φόβο του αγνώστου, ακόμη και σε διακεκριμένους επιστήμονες. Άλλωστε, και οι ίδιοι είναι άνθρωποι.

Μπορεί όμως η έρευνα στην AI να σταματήσει, έστω προσωρινά; Κατά τη γνώμη μου, όχι, διότι η AI είναι η απάντηση της ανθρωπότητας σε μια παγκόσμια κοινωνία και έναν φυσικό κόσμο ολοένα μεγαλύτερης πολυπλοκότητας. Καθώς οι διεργασίες αύξησης της φυσικής και κοινωνικής πολυπλοκότητας είναι βαθιές και φαίνονται αδιάκοπες, η AI και η μόρφωση των πολιτών είναι η μόνη μας ελπίδα για ομαλή μετάβαση από τη σημερινή Κοινωνία της Πληροφορίας σε μια Κοινωνία της Γνώσης. Διαφορετικά, μπορεί να αντιμετωπίσουμε μια καταστροφική κοινωνική ενδόρρηξη.

Η λύση είναι να εμβαθύνουμε στην κατανόηση των εξελίξεων της AI, να επιταχύνουμε την ανάπτυξή της και να ρυθμίσουμε τη χρήση της ώστε να μεγιστοποιούμε τη θετική επίδρασή της και να ελαχιστοποιούμε τις ήδη εμφανείς και τις υπόλοιπες κρυφές αρνητικές επιπτώσεις. Η έρευνα στην AI μπορεί και πρέπει να αλλάξει: να γίνει πιο ανοιχτή, δημοκρατική, επιστημονική και ηθική. Ακολουθεί ένας προτεινόμενος κατάλογος σημείων προς αυτή την κατεύθυνση:

  • Τον πρώτο λόγο σε σημαντικά ζητήματα έρευνας της AI με εκτεταμένες κοινωνικές επιπτώσεις πρέπει να έχουν τα εκλεγμένα κοινοβούλια και οι κυβερνήσεις, αντί για τις εταιρείες ή μεμονωμένους επιστήμονες.
  • Πρέπει να καταβληθεί κάθε προσπάθεια για να διευκολυνθεί η διερεύνηση των θετικών πτυχών της AI στην κοινωνική και οικονομική πρόοδο και να ελαχιστοποιηθούν οι αρνητικές πτυχές της.
  • Η θετική επίδραση των συστημάτων AI μπορεί να υπερτερήσει κατά πολύ των αρνητικών πτυχών τους, εφόσον ληφθούν κατάλληλα ρυθμιστικά μέτρα. Η τεχνοφοβία ούτε δικαιολογείται ούτε αποτελεί λύση.
  • Κατά τη γνώμη μου, η μεγαλύτερη σημερινή απειλή προκύπτει από το γεγονός ότι τέτοια συστήματα AI μπορούν να εξαπατήσουν εξ αποστάσεως πάρα πολλούς απλούς ανθρώπους με χαμηλή ή μέτρια μόρφωση και/ή περιορισμένη ικανότητα διερεύνησης. Αυτό μπορεί να είναι εξαιρετικά επικίνδυνο για τη δημοκρατία και για κάθε μορφή κοινωνικοοικονομικής προόδου.
  • Στο εγγύς μέλλον πρέπει να αντιμετωπίσουμε τη μεγάλη απειλή από τη χρήση LLM και/ή CAN σε παράνομες δραστηριότητες. Η αντιγραφή σε πανεπιστημιακές εξετάσεις είναι μια σχετικά ήπια χρήση σε σύγκριση με τις συναφείς εγκληματικές δυνατότητες.
  • Η επίδρασή τους στην εργασία και στις αγορές θα είναι πολύ θετική μεσοπρόθεσμα και μακροπρόθεσμα.
  • Με βάση τα παραπάνω, τα συστήματα AI θα πρέπει: α) να υποχρεούνται από το διεθνές δίκαιο να εγγράφονται σε ένα «μητρώο συστημάτων AI» και β) να ενημερώνουν τους χρήστες ότι συνομιλούν με σύστημα AI ή χρησιμοποιούν τα αποτελέσματά του.
  • Καθώς τα συστήματα AI έχουν τεράστια κοινωνική επίδραση, οι βασικές προηγμένες τεχνολογίες τους πρέπει να γίνουν ανοιχτές, ώστε να μεγιστοποιηθούν το όφελος και η κοινωνικοοικονομική πρόοδος.
  • Τα δεδομένα που σχετίζονται με την AI πρέπει να εκδημοκρατιστούν, τουλάχιστον εν μέρει, και πάλι με στόχο τη μεγιστοποίηση του οφέλους και της κοινωνικοοικονομικής προόδου.
  • Πρέπει να προβλεφθούν κατάλληλα και ισχυρά σχήματα οικονομικής αποζημίωσης για τους πρωτοπόρους της τεχνολογίας AI, ώστε να αντισταθμίζονται τυχόν απώλειες κέρδους λόγω της παραπάνω ανοιχτότητας και να διασφαλίζονται ισχυρές μελλοντικές επενδύσεις στην έρευνα και ανάπτυξη της AI, για παράδειγμα μέσω τεχνολογικών διπλωμάτων ευρεσιτεχνίας και υποχρεωτικών σχημάτων αδειοδότησης.
  • Η ισορροπία της έρευνας στην AI μεταξύ ακαδημαϊκού χώρου και βιομηχανίας πρέπει να επανεξεταστεί, ώστε να μεγιστοποιούνται τα ερευνητικά αποτελέσματα, να διατηρείται η ανταγωνιστικότητα και να επιβραβεύονται οι κίνδυνοι που αναλαμβάνονται στην έρευνα και ανάπτυξη.
  • Οι εκπαιδευτικές πρακτικές πρέπει να επανεξεταστούν σε όλες τις βαθμίδες, ώστε να μεγιστοποιηθεί το όφελος από τις τεχνολογίες AI και παράλληλα να διαμορφωθεί μια νέα γενιά δημιουργικών και προσαρμοστικών πολιτών και επιστημόνων, συμπεριλαμβανομένων των επιστημόνων της AI.
  • Πρέπει να δημιουργηθούν και να ενισχυθούν κατάλληλοι μηχανισμοί ρύθμισης, εποπτείας και χρηματοδότησης της AI, ώστε να διασφαλιστούν τα παραπάνω.

Αρκετά από αυτά τα σημεία αναλύονται στο πρόσφατο τετράτομο βιβλίο μου «Επιστήμη και Κοινωνία της AI», ιδίως στους τόμους A, που ξαναγράφτηκε τον Μάιο του 2023 ώστε να καλύψει τα LLM και την τεχνητή γενική νοημοσύνη, και C.

Βιβλιογραφικές αναφορές:

Επιστήμη και Κοινωνία της Τεχνητής Νοημοσύνης, Μέρος A: Εισαγωγή στην επιστήμη της AI και στην τεχνολογία πληροφοριών

Επιστήμη και Κοινωνία της Τεχνητής Νοημοσύνης, Μέρος C: Επιστήμη και Κοινωνία της AI

Καθ. Ιωάννης Πίτας (IEEE fellow, IEEE Distinguished Lecturer, EURASIP fellow) είναι Καθηγητής στο Τμήμα Πληροφορικής του AUTH και Διευθυντής του Εργαστηρίου Τεχνητής Νοημοσύνης και Ανάλυσης Πληροφοριών (AIIA). Έχει διατελέσει Επισκέπτης Καθηγητής σε διάφορα Πανεπιστήμια. Έχει δημοσιεύσει πάνω από 920 εργασίες, έχει συνεισφέρει σε 45 βιβλία στους τομείς ενδιαφέροντός του και έχει επιμεληθεί ή συγγράψει μόνος του ή από κοινού άλλα 11 βιβλία για την Υπολογιστική Όραση και τη Μηχανική Μάθηση. Είναι πρόεδρος της Διεθνούς Ακαδημίας Διδακτορικών Σπουδών Τεχνητής Νοημοσύνης (AIDA).