Juliette Powell & Art Kleiner, Συγγραφείς του The AI Dilemma – Σειρά Συνεντεύξεων

Το The AI Dilemma γράφτηκε από την Juliette Powell και τον Art Kleiner.

Juliette Powell είναι συγγραφέας, δημιουργός τηλεοπτικών προγραμμάτων με 9.000 ζωντανές εκπομπές και τεχνολόγος και κοινωνιολόγος. Είναι επίσης σχολιάστρια στο Bloomberg TV/ Business News Networks και ομιλήτρια σε συνέδρια που διοργανώνονται από τον Economist και τον Διεθνή Οργανισμό Χρηματοδότησης. Η ομιλία της στο TED έχει 130.000 προβολές στο YouTube. Η Juliette αναγνωρίζει τα πρότυπα και τις πρακτικές των επιτυχημένων ηγετών επιχειρήσεων που βασίζονται στην υπεύθυνη χρήση της τεχνητής νοημοσύνης και των δεδομένων για να κερδίσουν. Είναι μέλος του διδακτικού προσωπικού του ITP του NYU, όπου διδάσκει τέσσερα μαθήματα, συμπεριλαμβανομένου του μαθήματος «Δεξιότητες σχεδιασμού για υπεύθυνα μέσα ενημέρωσης», ένα μάθημα που βασίζεται στο βιβλίο της.

Art Kleiner είναι συγγραφέας, συντάκτης και μελλοντολόγος. Τα βιβλία του περιλαμβάνουν The Age of Heretics, Who Really Matters, Privilege and Success και The Wise. Ήταν συντάκτης του strategy+business, του βραβευμένου περιοδικού που εκδίδεται από την PwC. Ο Art είναι επίσης επί σειρά ετών μέλος του διδακτικού προσωπικού του NYU-ITP και IMA, όπου τα μαθήματά του περιλαμβάνουν τη συνδιδασκαλία του μαθήματος «Υπεύθυνη τεχνολογία και το μέλλον των μέσων ενημέρωσης».

“Το The AI Dilemma” είναι ένα βιβλίο που επικεντρώνεται στους κινδύνους της τεχνητής νοημοσύνης όταν βρίσκεται σε λάθος χέρια, ενώ αναγνωρίζει τα οφέλη που προσφέρει η τεχνητή νοημοσύνη στην κοινωνία.

Προβλήματα προκύπτουν επειδή η υποκείμενη τεχνολογία είναι τόσο σύνθετη που γίνεται αδύνατο για τον τελικό χρήστη να κατανοήσει πραγματικά τις εσωτερικές λειτουργίες ενός κλειστού συστήματος.

Ένα από τα πιο σημαντικά ζητήματα που υπογραμμίζονται είναι το πώς ο ορισμός της υπεύθυνης τεχνητής νοημοσύνης αλλάζει συνεχώς, καθώς οι κοινωνικές αξίες συχνά δεν παραμένουν σταθερές με την πάροδο του χρόνου.

Απόλαυσα πολύ την ανάγνωση του βιβλίου “The AI Dilemma”. Είναι ένα βιβλίο που δεν παρουσιάζει με εντυπωσιοθηρικό τρόπο τους κινδύνους της τεχνητής νοημοσύνης ούτε εμβαθύνει στις πιθανές παγίδες της γενικής τεχνητής νοημοσύνης (AGI). Αντίθετα, οι αναγνώστες μαθαίνουν για τους απρόσμενους τρόπους με τους οποίους τα προσωπικά δεδομένα μας χρησιμοποιούνται χωρίς τη γνώση μας, καθώς και για κάποια από τα τρέχοντα όρια της τεχνητής νοημοσύνης και τους λόγους ανησυχίας.

Παρακάτω υπάρχουν κάποια ερωτήματα που σχεδιάστηκαν για να δείξουν στους αναγνώστες μας τι μπορούν να περιμένουν από αυτό το πρωτοποριακό βιβλίο.

Τι σας ενέπνευσε αρχικά να γράψετε “The AI Dilemma”?

Η Juliette πήγε στο Columbia εν μέρει για να μελετήσει τα όρια και τις δυνατότητες ρύθμισης της τεχνητής νοημοσύνης. Είχε ακούσει από πρώτο χέρι από φίλους που δούλευαν σε προγράμματα τεχνητής νοημοσύνης για την ένταση που υπάρχει σε αυτά τα προγράμματα. Κατέληξε στο συμπέρασμα ότι υπήρχε ένα δίλημμα της τεχνητής νοημοσύνης, ένα πολύ μεγαλύτερο πρόβλημα από την αυτορρύθμιση. Ανέπτυξε το μοντέλο Apex benchmark — ένα μοντέλο για το πώς οι αποφάσεις σχετικά με την τεχνητή νοημοσύνη τείνουν προς τη περιορισμένη υπευθυνότητα λόγω των αλληλεπιδράσεων μεταξύ εταιρειών και ομάδων εντός των εταιρειών. Αυτό οδήγησε στη διατριβή της.

Ο Art είχε συνεργαστεί με την Juliette σε διάφορα συγγραφικά έργα. Διάβασε τη διατριβή της και είπε: “Έχετε ένα βιβλίο εδώ.” Η Juliette τον προσκάλεσε να συνεργαστεί στη συγγραφή του. Κατά τη διάρκεια της εργασίας τους μαζί, ανακάλυψαν ότι είχαν πολύ διαφορετικές προοπτικές, αλλά μοιράζονταν μια ισχυρή άποψη ότι αυτό το σύνθετο, υψηλού κινδύνου φαινόμενο της τεχνητής νοημοσύνης θα χρειαζόταν να κατανοηθεί καλύτερα, ώστε οι άνθρωποι που το χρησιμοποιούν να μπορέσουν να ενεργούν πιο υπεύθυνα και αποτελεσματικά.

Ένα από τα θεμελιώδη προβλήματα που υπογραμμίζονται στο The AI Dilemma είναι το πώς είναι τώρα αδύνατο να κατανοηθεί εάν ένα σύστημα τεχνητής νοημοσύνης είναι υπεύθυνο ή εάν διαιωνίζει τις κοινωνικές ανισότητες με την απλή μελέτη του πηγαίου κώδικα. Πόσο μεγάλο είναι αυτό το πρόβλημα;

Το πρόβλημα δεν είναι κυρίως με τον πηγαίο κώδικα. Όπως σημειώνει η Cathy O’Neil, όταν υπάρχει ένα κλειστό σύστημα, δεν είναι μόνο ο κώδικας. Είναι το κοινωνικοτεχνικό σύστημα — οι ανθρώπινες και τεχνολογικές δυνάμεις που διαμορφώνουν η μία την άλλη — που πρέπει να εξεταστεί. Η λογική που δημιούργησε και κυκλοφόρησε το σύστημα τεχνητής νοημοσύνης περιελάμβανε τον προσδιορισμό του σκοπού και των δεδομένων, τον καθορισμό προτεραιοτήτων, τη δημιουργία μοντέλων, τη ρύθμιση οδηγιών και φραγμών για τη μηχανική μάθηση και την απόφαση για το πότε και πώς ένας άνθρωπος πρέπει να παρέμβει. Αυτό το μέρος πρέπει να γίνει διαφανές — τουλάχιστον στους παρατηρητές και τους ελεγκτές. Το ρίσκο της κοινωνικής ανισότητας και άλλα ρίσκα είναι πολύ μεγαλύτερα όταν αυτά τα μέρη της διαδικασίας είναι κρυφά. Δεν μπορείτε πραγματικά να ανασυνθέσετε τη λογική του σχεδιασμού μόνο από τον πηγαίο κώδικα.

Μπορεί η εστίαση στην Εξηγήσιμη Τεχνητή Νοημοσύνη (XAI) να αντιμετωπίσει αυτό το πρόβλημα;

Για τους μηχανικούς, η εξηγήσιμη τεχνητή νοημοσύνη θεωρείται τώρα ως μια ομάδα τεχνολογικών περιορισμών και πρακτικών, που στοχεύουν στο να κάνουν τα μοντέλα πιο διαφανή για τους ανθρώπους που δουλεύουν με αυτά. Για κάποιον που έχει κατηγορηθεί ψευδώς, η εξηγησιμότητα έχει μια διαφορετική σημασία και επείγουσα ανάγκη. Χρειάζονται εξηγησιμότητα για να μπορέσουν να αντικρούσουν την κατηγορία και να υπερασπιστούν τον εαυτό τους. Όλοι χρειαζόμαστε εξηγησιμότητα με την έννοια της διαφάνειας των επιχειρηματικών ή κυβερνητικών αποφάσεων που υποκείονται στα μοντέλα. Τουλάχιστον στις Ηνωμένες Πολιτείες, θα υπάρχει πάντα μια ένταση μεταξύ εξηγησιμότητας — το δικαίωμα του ανθρώπου να γνωρίζει – και του δικαιώματος μιας οργάνωσης να ανταγωνίζεται και να καινοτομεί. Οι ελεγκτές και οι ρυθμιστές χρειάζονται ένα διαφορετικό επίπεδο εξηγησιμότητας. Αναφερόμαστε σε αυτό με περισσότερες λεπτομέρειες στο The AI Dilemma.

Μπορείτε να μοιραστείτε τις απόψεις σας σχετικά με τη σημασία της ευθύνης των εμπλεκόμενων φορέων (εταιρειών τεχνητής νοημοσύνης) για τον κώδικα που κυκλοφορούν στον κόσμο;

Μέχρι τώρα, για παράδειγμα, στη σύγκρουση αυτόνομου αυτοκινήτου στο Τέμπι της Αριζόνας, στην οποία σκοτώθηκε μια πεζή, καταλογίστηκε ευθύνη στη χειρίστρια και της επιβλήθηκε τριετής επιτηρούμενη αναστολή. Τελικά, ωστόσο, ήταν μια οργανωτική αποτυχία.

Όταν καταρρέει μια γέφυρα, ο μηχανολόγος μηχανικός λογοδοτεί. Αυτό συμβαίνει επειδή οι μηχανολόγοι εκπαιδεύονται, επανεκπαιδεύονται διαρκώς και υπόκεινται στη λογοδοσία που επιβάλλει το επάγγελμά τους. Δεν ισχύει το ίδιο για τους μηχανικούς υπολογιστών.

Πρέπει οι εμπλεκόμενοι φορείς, συμπεριλαμβανομένων των εταιρειών τεχνητής νοημοσύνης, να εκπαιδεύονται και να επαναεκπαιδεύονται για να λάβουν καλύτερες αποφάσεις και να έχουν περισσότερη ευθύνη;

Το The AI Dilemma επικεντρώνεται πολύ στο πώς εταιρείες όπως η Google (GOOGL ) και η Meta μπορούν να συλλέγουν και να εκμεταλλευτούν τα προσωπικά δεδομένα μας. Μπορείτε να μοιραστείτε ένα παράδειγμα σημαντικής κατάχρησης των δεδομένων μας που πρέπει να είναι στο ραντάρ όλων;

Από το The AI Dilemma, σελίδα 67 και εξής:

Νέες περιπτώσεις συστηματικής κατάχρησης προσωπικών δεδομένων συνεχίζουν να εμφανίζονται δημόσια, πολλές από τις οποίες αφορούν την κρυφή χρήση αναγνώρισης προσώπου. Τον Δεκέμβριο του 2022, το MIT Technology Review δημοσίευσε αναφορές για μια μακροχρόνια πρακτική της iRobot. Τα οικιακά ρομπότ Roomba καταγράφουν εικόνες και βίντεο μέσα στα σπίτια εθελοντών που συμμετέχουν σε δοκιμές beta, που αναπόφευκτα σημαίνει συλλογή ιδιωτικών και οικογενειακών εικόνων. Αυτές μοιράζονται, χωρίς την επίγνωση των δοκιμαστών, με ομάδες έξω από τη χώρα. Σε τουλάχιστον μια περίπτωση, μια εικόνα ενός ατόμου στην τουαλέτα δημοσιεύθηκε στο Facebook (META ). Εν τω μεταξύ, στο Ιράν, οι αρχές έχουν αρχίσει να χρησιμοποιούν δεδομένα από συστήματα αναγνώρισης προσώπου για να παρακολουθούν και να συλλαμβάνουν γυναίκες που δεν φορούν χιτζάμπ.16

Δεν υπάρχει ανάγκη να επεκταθούμε περισσότερο σε αυτές τις ιστορίες. Υπάρχουν τόσο πολλές. Είναι σημαντικό, ωστόσο, να αναγνωρίσουμε το σωρευτικό αποτέλεσμα αυτού του τρόπου ζωής. Χάνουμε την αίσθηση του ελέγχου της ζωής μας όταν νιώθουμε ότι οι ιδιωτικές πληροφορίες μας μπορεί να χρησιμοποιηθούν εναντίον μας, ανά πάσα στιγμή, χωρίς προειδοποίηση.

Μια επικίνδυνη έννοια που αναφέρθηκε είναι το πώς ολόκληρος ο κόσμος μας σχεδιάζεται για να είναι χωρίς τριβές, με τον ορισμό της τριβής να είναι “οποιοδήποτε σημείο στο ταξίδι του πελάτη με μια εταιρεία όπου χτυπάει ένα εμπόδιο που τον επιβραδύνει ή προκαλεί δυσαρέσκεια.” Πώς η προσδοκία μας για μια εμπειρία χωρίς τριβές μπορεί να οδηγήσει σε επικίνδυνες τεχνητές νοημοσύνες;

Στη Νέα Ζηλανδία, ένα Pak’n’Save bot για γεύματα πρότεινε μια συνταγή που θα δημιουργούσε αέριο χλώριο αν χρησιμοποιηθεί. Αυτό προωθήθηκε ως ένας τρόπος για τους πελάτες να χρησιμοποιήσουν τα περισσεύματα φαγητού και να εξοικονομήσουν χρήματα.

Η απουσία τριβών δημιουργεί μια ψευδαίσθηση ελέγχου. Είναι γρηγορότερο και ευκολότερο να ακούσετε την εφαρμογή παρά να ψάξετε τη συνταγή της γιαγιάς. Οι άνθρωποι ακολουθούν το μονοπάτι της ελάχιστης αντίστασης και δεν συνειδητοποιούν πού τους οδηγεί.

Η τριβή, από την άλλη πλευρά, είναι δημιουργική. Συμμετέχετε. Αυτό οδηγεί σε πραγματικό έλεγχο. Πραγματικός έλεγχος απαιτεί προσοχή και δουλειά, και — στην περίπτωση της τεχνητής νοημοσύνης — την εκτέλεση μιας εκτεταμένης ανάλυσης κόστους-οφέλους.

Με την ψευδαίσθηση του ελέγχου, φαίνεται ότι ζούμε σε ένα κόσμο όπου τα συστήματα τεχνητής νοημοσύνης προτρέπουν τους ανθρώπους, αντί οι άνθρωποι να διατηρούν τον πλήρη έλεγχο. Μπορείτε να δώσετε παραδείγματα που οι άνθρωποι πιστεύουν ότι έχουν έλεγχο, όταν στην πραγματικότητα δεν έχουν κανέναν;

Σαν Φρανσίσκο τώρα, με τα ρομπότ-ταξί. Η ιδέα των αυτοοδηγούμενων ταξί προκαλεί δύο αντίθετα συναισθήματα: ενθουσιασμό (“ταξί με πολύ χαμηλότερο κόστος!”) και φόβο (“θα με χτυπήσουν;”). Έτσι, πολλοί ρυθμιστές προτείνουν ότι τα αυτοκίνητα πρέπει να δοκιμαστούν με ανθρώπους μέσα, οι οποίοι μπορούν να χειριστούν τα συστήματα ελέγχου. Δυστυχώς, το να έχεις ανθρώπους σε εγρήγορση, έτοιμους να παρακάμψουν τα συστήματα και να αναλάβουν τον έλεγχο σε πραγματικό χρόνο, μπορεί να μην είναι μια καλή δοκιμή της δημόσιας ασφάλειας. Η υπερβολική αυτοπεποίθηση είναι μια συχνή δυναμική με τα συστήματα τεχνητής νοημοσύνης. Όσο πιο αυτόνομο είναι το σύστημα, τόσο περισσότερο οι χειριστές το εμπιστεύονται και δεν δίνουν πλήρη προσοχή. Βαριόμαστε να επιτηρούμε αυτές τις τεχνολογίες. Όταν επίκειται ένα ατύχημα, δεν το περιμένουμε και συχνά δεν αντιδράμε εγκαίρως.

Έγινε πολλή έρευνα για αυτό το βιβλίο. Υπήρξε κάτι που σας εξέπληξε;

Ένα πράγμα που μας εξέπληξε πραγματικά ήταν ότι οι άνθρωποι σε όλο τον κόσμο δεν μπορούσαν να συμφωνήσουν για το ποιος πρέπει να ζήσει και ποιος πρέπει να πεθάνει στη προσομοίωση του Moral Machine για μια σύγκρουση αυτοοδηγούμενου οχήματος. Αν δεν μπορούμε να συμφωνήσουμε σε αυτό, τότε είναι δύσκολο να φανταστούμε ότι θα μπορούσαμε να έχουμε ενιαία παγκόσμια διακυβέρνηση ή καθολικά πρότυπα για τα συστήματα τεχνητής νοημοσύνης.

Και οι δύο περιγράψατε τους εαυτούς σας ως επιχειρηματίες, πώς θα επηρεάσουν όσα μάθατε και παρουσιάσατε τις μελλοντικές σας προσπάθειες;

Η πρακτική μας συμβουλευτικής για την τεχνητή νοημοσύνη είναι προσανατολισμένη προς τη βοήθεια των οργανισμών να αναπτυχθούν υπεύθυνα με την τεχνολογία. Οι δικηγόροι, οι μηχανικοί, οι κοινωνικοί επιστήμονες και οι στοχαστές του επιχειρηματικού κόσμου είναι όλοι ενδιαφερόμενοι φορείς στο μέλλον της τεχνητής νοημοσύνης. Στη δουλειά μας, φέρνουμε όλες αυτές τις προοπτικές μαζί και ασκούμε τη δημιουργική τριβή για να βρούμε καλύτερες λύσεις. Έχουμε αναπτύξει πλαίσια όπως ο υπολογισμός του σκόπιμα αναλαμβανόμενου κινδύνου για να βοηθήσουμε στην πλοήγηση αυτών των ζητημάτων.

Ευχαριστούμε για τις υπέροχες απαντήσεις, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Το Δίλημμα της Τεχνητής Νοημοσύνης.