Juliette Powell & Art Kleiner, Συγγραφείς του The AI Dilemma – Σειρά Συνεντεύξεων

Το The AI Dilemma γράφτηκε από την Juliette Powell και τον Art Kleiner.

Juliette Powell είναι συγγραφέας, δημιουργός τηλεοπτικών προγραμμάτων με 9.000 ζωντανούς εκπομπές και τεχνολόγος και κοινωνιολόγος. Είναι επίσης σχολιαστής στο Bloomberg TV/ Business News Networks και ομιλητής σε συνέδρια που διοργανώνονται από τον Economist και τον Διεθνή Οικονομικό Οργανισμό. Η ομιλία της στο TED έχει 130.000 προβολές στο YouTube. Η Juliette αναγνωρίζει τα πρότυπα και τις πρακτικές των επιτυχημένων ηγετών επιχειρήσεων που βασίζονται στην ηθική της τεχνητής νοημοσύνης και των δεδομένων για να κερδίσουν. Είναι μέλος του διδακτικού προσωπικού του ITP του NYU, όπου διδάσκει τέσσερα μαθήματα, συμπεριλαμβανομένων των δεξιοτήτων σχεδιασμού για υπεύθυνους μέσους ενημέρωσης, ένα μάθημα που βασίζεται στο βιβλίο της.

Art Kleiner είναι συγγραφέας, редактор και μελλοντολόγος. Τα βιβλία του περιλαμβάνουν The Age of Heretics, Who Really Matters, Privilege and Success και The Wise. Ήταν редактор του strategy+business, του βραβευμένου περιοδικού που εκδίδεται από την PwC. Ο Art είναι επίσης μακροχρόνιος μέλος του διδακτικού προσωπικού του NYU-ITP και IMA, όπου τα μαθήματά του περιλαμβάνουν τη διδασκαλία της υπεύθυνης τεχνολογίας και του μέλλοντος των μέσων ενημέρωσης.

“Το The AI Dilemma” είναι ένα βιβλίο που επικεντρώνεται στα κίνδυνα της τεχνητής νοημοσύνης στην λάθος χέρια, ενώ αναγνωρίζει τα οφέλη που προσφέρει η τεχνητή νοημοσύνη στην κοινωνία.

Προβλήματα προκύπτουν επειδή η υποκείμενη τεχνολογία είναι τόσο σύνθετη που γίνεται αδύνατο για τον τελικό χρήστη να κατανοήσει πραγματικά τις εσωτερικές λειτουργίες ενός κλειστού συστήματος.

Ένα από τα πιο σημαντικά ζητήματα που υπογραμμίζονται είναι το πώς η ορισμός της υπεύθυνης τεχνητής νοημοσύνης αλλάζει συνεχώς, καθώς οι κοινωνικές αξίες συχνά δεν παραμένουν σταθερές με την πάροδο του χρόνου.

Απολαύσαμε πολύ το βιβλίο “The AI Dilemma”. Είναι ένα βιβλίο που δεν ευαισθητοποιεί τους κινδύνους της τεχνητής νοημοσύνης ή δεν εμβαθύνει βαθιά στις πιθανές παγίδες της γενικής τεχνητής νοημοσύνης (AGI). Αντίθετα, οι αναγνώστες μαθαίνουν για τους απρόσμενα τρόπους με τους οποίους τα προσωπικά δεδομένα μας χρησιμοποιούνται χωρίς τη γνώση μας, καθώς και για κάποια από τα τρέχοντα όρια της τεχνητής νοημοσύνης και τους λόγους ανησυχίας.

Παρακάτω υπάρχουν κάποια ερωτήματα που σχεδιάστηκαν για να δείξουν στους αναγνώστες μας τι μπορούν να περιμένουν από αυτό το πρωτοποριακό βιβλίο.

Τι σας ενέπνευσε αρχικά να γράψετε “The AI Dilemma”?

Η Juliette πήγε στο Columbia για να μελετήσει τα όρια και τις δυνατότητες ρύθμισης της τεχνητής νοημοσύνης. Είχε ακούσει από πρώτο χέρι από φίλους που δούλευαν σε προγράμματα τεχνητής νοημοσύνης για την ένταση που υπάρχει σε αυτά τα προγράμματα. Κατέληξε στο συμπέρασμα ότι υπήρχε ένα δίλημμα της τεχνητής νοημοσύνης, ένα πολύ μεγαλύτερο πρόβλημα από την αυτορρύθμιση. Ανέπτυξε το μοντέλο Apex benchmark — ένα μοντέλο για το πώς οι αποφάσεις σχετικά με την τεχνητή νοημοσύνη τείνουν προς τη χαμηλή ευθύνη λόγω των αλληλεπιδράσεων μεταξύ εταιρειών και ομάδων εντός των εταιρειών. Αυτό οδήγησε στη διατριβή της.

Ο Art είχε συνεργαστεί με την Juliette σε πολλά προγράμματα γραφής. Διάβασε τη διατριβή της και είπε: “Έχετε ένα βιβλίο εδώ.” Η Juliette τον προσκάλεσε να συνεργαστεί στη συγγραφή του. Κατά τη διάρκεια της εργασίας τους μαζί, ανακάλυψαν ότι είχαν πολύ διαφορετικές προοπτικές, αλλά μοιράζονταν μια ισχυρή άποψη ότι αυτό το σύνθετο, υψηλά рисκό φαινόμενο της τεχνητής νοημοσύνης θα χρειαζόταν να κατανοηθεί καλύτερα, ώστε οι άνθρωποι που το χρησιμοποιούν να μπορέσουν να ενεργούν πιο υπεύθυνα και αποτελεσματικά.

Ένα από τα θεμελιώδη προβλήματα που υπογραμμίζονται στο The AI Dilemma είναι το πώς είναι τώρα αδύνατο να κατανοηθεί εάν ένα σύστημα τεχνητής νοημοσύνης είναι υπεύθυνο ή εάν διαιωνίζει τις κοινωνικές ανισότητες με το απλό έλεγχο του πηγαίου κώδικα. Πόσο μεγάλο είναι αυτό το πρόβλημα;

Το πρόβλημα δεν είναι κυρίως με τον πηγαίο κώδικα. Όπως σημειώνει η Cathy O’Neil, όταν υπάρχει ένα κλειστό σύστημα, δεν είναι μόνο ο κώδικας. Είναι το sociotechnical σύστημα — οι ανθρώπινες και τεχνολογικές δυνάμεις που διαμορφώνουν η μία την άλλη — που πρέπει να εξεταστεί. Η λογική που δημιούργησε και κυκλοφόρησε το σύστημα τεχνητής νοημοσύνης περιελάμβανε την ταυτότητα ενός σκοπού, την ταυτότητα δεδομένων, την καθοδήγηση, τη δημιουργία μοντέλων, τη ρύθμιση οδηγιών και φραγμών για την εκμάθηση με τη βοήθεια μηχανής και την απόφαση για το πότε και πώς ένας άνθρωπος πρέπει να παρέμβει. Αυτό το μέρος πρέπει να γίνει διαφανές — τουλάχιστον στους παρατηρητές και τους ελεγκτές. Το ρίσκο της κοινωνικής ανισότητας και άλλα ρίσκα είναι πολύ μεγαλύτερα όταν αυτά τα μέρη της διαδικασίας είναι κρυφά. Δεν μπορείτε πραγματικά να ξανασχεδιάσετε τη λογική του σχεδιασμού από τον πηγαίο κώδικα.

Μπορεί η εστίαση στην Εξηγητή Τεχνητή Νοημοσύνη (XAI) να αντιμετωπίσει αυτό το πρόβλημα;

Για τους μηχανικούς, η εξηγητή τεχνητή νοημοσύνη θεωρείται τώρα ως μια ομάδα τεχνολογικών περιορισμών και πρακτικών, που στοχεύουν στο να κάνουν τα μοντέλα πιο διαφανή για τους ανθρώπους που δουλεύουν με αυτά. Για κάποιον που έχει κατηγορηθεί ψευδώς, η εξηγησιμότητα έχει μια διαφορετική σημασία και επείγουσα ανάγκη. Χρειάζονται εξηγησιμότητα για να μπορέσουν να αντιταχθούν στην άμυνά τους. Όλοι χρειαζόμαστε εξηγησιμότητα με την έννοια της διαφάνειας των επιχειρηματικών ή κυβερνητικών αποφάσεων που υποκείονται στα μοντέλα. Τουλάχιστον στις Ηνωμένες Πολιτείες, θα υπάρχει πάντα μια ένταση μεταξύ εξηγησιμότητας — το δικαίωμα του ανθρώπου να γνωρίζει – και του δικαιώματος μιας οργάνωσης να ανταγωνίζεται και να καινοτομεί. Οι ελεγκτές και οι ρυθμιστές χρειάζονται ένα διαφορετικό επίπεδο εξηγησιμότητας. Αναφερόμαστε σε αυτό με περισσότερες λεπτομέρειες στο The AI Dilemma.

Μπορείτε να μοιραστείτε τις απόψεις σας σχετικά με τη σημασία της ευθύνης των μετόχων (εταιρειών τεχνητής νοημοσύνης) για τον κώδικα που κυκλοφορούν στον κόσμο;

Μέχρι τώρα, για παράδειγμα, στην περίπτωση της αυτοκίνητου που οδηγούσε μόνο του στο Tempe, AZ, που σκότωσε έναν πεζό, ο χειριστήςถูก κατηγορηθεί. Ένας άνθρωπος πήγε στη φυλακή. Τελικά, ωστόσο, ήταν μια οργανωτική αποτυχία.

Όταν καταρρέει μια γέφυρα, ο μηχανικός είναι υπεύθυνος. Αυτό συμβαίνει επειδή οι μηχανικοί εκπαιδεύονται, εκπαιδεύονται συνεχώς και είναι υπεύθυνοι από την επαγγελματική τους τάξη. Οι μηχανικοί υπολογιστών δεν είναι.

Πρέπει οι μετόχοι, συμπεριλαμβανομένων των εταιρειών τεχνητής νοημοσύνης, να εκπαιδεύονται και να επαναεκπαιδεύονται για να λάβουν καλύτερες αποφάσεις και να έχουν περισσότερη ευθύνη;

Το The AI Dilemma επικεντρώνεται πολύ στην πώς εταιρείες όπως η Google (GOOGL ) και η Meta μπορούν να συλλέγουν και να εκμεταλλευτούν τα προσωπικά δεδομένα μας. Μπορείτε να μοιραστείτε ένα παράδειγμα σημαντικής κακοποίησης των δεδομένων μας που πρέπει να είναι στο ραντάρ όλων;

Από το The AI Dilemma, σελίδα 67ff:

Νέα περιπτώσεις συστηματικής κακοποίησης προσωπικών δεδομένων συνεχίζουν να εμφανίζονται δημόσια, πολλές από τις οποίες αφορούν την κρυφή χρήση αναγνώρισης προσώπου. Τον Δεκέμβριο του 2022, το MIT Technology Review δημοσίευσε αναφορές για μια μακροχρόνια πρακτική της iRobot. Τα οικιακά ρομπότ Roomba καταγράφουν εικόνες και βίντεο που λαμβάνονται από τους εθελοντές βета-δοκιμής στο σπίτι, που αναπόφευκτα σημαίνει συλλογή ιδιωτικών και οικογενειακών εικόνων. Αυτές μοιράζονται, χωρίς την επίγνωση των δοκιμαστών, με ομάδες έξω από τη χώρα. Σε τουλάχιστον μια περίπτωση, μια εικόνα ενός ατόμου στην τουαλέτα δημοσιεύθηκε στο Facebook (META ). Εν τω μεταξύ, στο Ιράν, οι αρχές έχουν αρχίσει να χρησιμοποιούν δεδομένα από συστήματα αναγνώρισης προσώπου για να παρακολουθούν και να συλλαμβάνουν γυναίκες που δεν φορούν hijabs.16

Δεν υπάρχει ανάγκη να επεκταθούμε περισσότερο σε αυτές τις ιστορίες. Υπάρχουν τόσο πολλές. Είναι σημαντικό, ωστόσο, να αναγνωρίσουμε την συσσώρευση του αποτελέσματος της ζωής με αυτόν τον τρόπο. Χάνουμε την αίσθηση του ελέγχου της ζωής μας όταν νιώθουμε ότι οι ιδιωτικές πληροφορίες μας μπορεί να χρησιμοποιηθούν εναντίον μας, ανά πάσα στιγμή, χωρίς προειδοποίηση.

Μια επικίνδυνη έννοια που αναφέρθηκε είναι το πώς ολόκληρος ο κόσμος μας σχεδιάζεται για να είναι χωρίς τριβές, με τον ορισμό της τριβής να είναι “οποιοδήποτε σημείο στο ταξίδι του πελάτη με μια εταιρεία όπου χτυπάει ένα εμπόδιο που τον επιβραδύνει ή προκαλεί δυσαρέσκεια.” Πώς η προσδοκία μας για μια εμπειρία χωρίς τριβές μπορεί να οδηγήσει σε επικίνδυνες τεχνητές νοημοσύνες;

Στη Νέα Ζηλανδία, ένα Pak’n’Save bot για γεύματα πρότεινε μια συνταγή που θα δημιουργούσε χλωρίνη αέριο αν χρησιμοποιηθεί. Αυτό προωθήθηκε ως ένας τρόπος για τους πελάτες να χρησιμοποιήσουν τα υπόλοιπα και να σώσουν χρήματα.

Η απουσία τριβών δημιουργεί μια ψευδαίσθηση ελέγχου. Είναι γρηγορότερο και εύκολο να ακούσετε την εφαρμογή παρά να ψάξετε τη συνταγή της γιαγιάς. Οι άνθρωποι ακολουθούν το μονοπάτι της ελάχιστης αντίστασης και δεν συνειδητοποιούν πού τους οδηγεί.

Η τριβή, από την άλλη πλευρά, είναι δημιουργική. Συμμετέχετε. Αυτό οδηγεί σε πραγματικό έλεγχο. Πραγματικός έλεγχος απαιτεί προσοχή και δουλειά, και — στην περίπτωση της τεχνητής νοημοσύνης — την εκτέλεση μιας εκτεταμένης ανάλυσης κόστους-οφέλους.

Με την ψευδαίσθηση του ελέγχου, φαίνεται ότι ζούμε σε ένα κόσμο όπου τα συστήματα τεχνητής νοημοσύνης προτρέπουν τους ανθρώπους, αντί για τους ανθρώπους να παραμένουν πλήρως υπό έλεγχο. Μπορείτε να δώσετε παραδείγματα που οι άνθρωποι πιστεύουν ότι έχουν έλεγχο, όταν στην πραγματικότητα δεν έχουν κανέναν;

Σαν Φρανσίσκο τώρα, με τα ρομπότ-ταξί. Η ιδέα των αυτοοδηγούμενων ταξί προκαλεί δύο αντίθετες συναισθήσεις: ενθουσιασμό (“ταξί με πολύ χαμηλότερο κόστος!”) και φόβο (“θα με χτυπήσουν;”). Έτσι, πολλοί ρυθμιστές προτείνουν ότι τα αυτοκίνητα πρέπει να δοκιμαστούν με ανθρώπους μέσα, οι οποίοι μπορούν να διαχειριστούν τους ελέγχους. Δυστυχώς, το να έχεις ανθρώπους σε εγρήγορση, έτοιμους να ανακαταλάβουν τα συστήματα σε πραγματικό χρόνο, μπορεί να μην είναι μια καλή δοκιμή της δημόσιας ασφάλειας. Η υπερβολική αυτοπεποίθηση είναι μια συχνή δυναμική με τα συστήματα τεχνητής νοημοσύνης. Όσο πιο αυτονομικά είναι το σύστημα, τόσο περισσότερο οι άνθρωποι τους εμπιστεύονται και δεν δίνουν πλήρη προσοχή. Γινόμαστε βαρετοί να παρακολουθούμε αυτές τις τεχνολογίες. Όταν συμβαίνει ένα ατύχημα, δεν το περιμένουμε και συχνά δεν αντιδράμε εγκαίρως.

Πόσο araştırma έγινε για αυτό το βιβλίο, υπήρχε κάτι που σας έκπληξε;

Ένα πράγμα που μας έκπληξε πραγματικά ήταν ότι οι άνθρωποι σε όλο τον κόσμο δεν μπορούσαν να συμφωνήσουν σε ποιος πρέπει να ζήσει και ποιος πρέπει να πεθάνει στη σχεδίαση του ηθικού μηχανισμού για μια σύγκρουση αυτοοδηγούμενου οχήματος. Αν δεν μπορούμε να συμφωνήσουμε σε αυτό, τότε είναι δύσκολο να φανταστούμε ότι θα μπορούσαμε να έχουμε ενιαία παγκόσμια διακυβέρνηση ή παγκόσμιους προτύπους για τα συστήματα τεχνητής νοημοσύνης.

Και οι δύο περιγράψατε τους εαυτούς σας ως επιχειρηματίες, πώς θα επηρεάσει το τι μάθατε και αναφέρατε στην μελλοντική σας δραστηριότητα;

Η πρακτική μας συμβουλευτικής για την τεχνητή νοημοσύνη είναι προσανατολισμένη προς τη βοήθεια των οργανισμών να αναπτυχθούν υπεύθυνα με την τεχνολογία. Οι δικηγόροι, οι μηχανικοί, οι κοινωνιολόγοι και οι επιχειρηματίες είναι 모두 μετόχοι στο μέλλον της τεχνητής νοημοσύνης. Στη δουλειά μας, φέρνουμε όλες αυτές τις προοπτικές μαζί και ασκούμε τη δημιουργική τριβή για να βρούμε καλύτερες λύσεις. Έχουμε αναπτύξει πλαισια όπως η αριθμητική της ενδεδειγμένης απειλής για να βοηθήσουμε στην πλοήγηση αυτών των ζητημάτων.

Ευχαριστούμε για τις υπέροχες απαντήσεις, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Το Δίλημμα της Τεχνητής Νοημοσύνης.