Ηγέτες σκέψης
Καθώς οι κλάδοι προετοιμάζονται για ταχύτερη υιοθέτηση της AI, νέα έμφαση στην ηθική και την ευθύνη

Βασικά σημείαΗ τεχνητή νοημοσύνη στον τομέα BFSI κινδυνεύει να ενισχύσει τις προκαταλήψεις, με τους…
Δείτε περισσότερα
- Η τεχνητή νοημοσύνη στον τομέα BFSI κινδυνεύει να ενισχύσει τις προκαταλήψεις, με τους μαύρους αιτούντες να έχουν 80% περισσότερες πιθανότητες απόρριψης στεγαστικών δανείων.
- Η υιοθέτηση της τεχνητής νοημοσύνης στην υγειονομική περίθαλψη αντιμετωπίζει προκλήσεις όπως τα προκατειλημμένα δεδομένα και ο κίνδυνος επιδείνωσης των ανισοτήτων.
- Οι εταιρείες μέσων ενημέρωσης πρέπει να παρακολουθούν την τεχνητή νοημοσύνη μετά την ανάπτυξή της για να εξισορροπούν την ηθική, την ιδιωτικότητα και το ανταγωνιστικό πλεονέκτημα.
Από: Πανδουράγκ Καμάτ, Διευθυντής Τεχνολογίας της Persistent Systems (PERSISTENT.BO )
Η τεχνητή νοημοσύνη (AI) στον πυρήνα της είναι μηχανική μάθηση (ML), η διαδικασία με την οποία οι μηχανές μαθαίνουν να βελτιώνουν την απόδοσή τους με βάση τις εισόδους δεδομένων. Το τεράστιο ποσό των υφιστάμενων δεδομένων σημαίνει ότι η τεχνητή νοημοσύνη έχει ευνοϊκές προϋποθέσεις για να ευδοκιμήσει, επιταχύνοντας με ταχύτατο ρυθμό τα τελευταία χρόνια. Και η υπόσχεση της τεχνητής νοημοσύνης έχει κάνει τους τεχνολόγους και τους διοικητικά στελέχη σε πολλούς διαφορετικούς κλάδους να σκέφτονται δημιουργικά για τις διάφορες εφαρμογές της.
Από την βιομηχανική επανάσταση και μετά, κάθε περίοδος ταχείας τεχνολογικής πρόοδου σημαδεύεται από ισάξιο ενθουσιασμό και δυσπιστία. Το World Wide Web Consortium (W3C), μια ομάδα που δημιουργεί κλαδικά πρότυπα για προγραμματιστές του διαδικτύου, σημειώνει ότι “υπάρχει αυξανόμενη ευαισθητοποίηση ότι η εφαρμογή της μηχανικής μάθησης δημιουργεί κινδύνους και μπορεί να οδηγήσει σε ζημίες” – συμπεριλαμβανομένων σε περιοχές όπως: προκατάληψη, ιδιωτικότητα, ασφάλεια, βιωσιμότητα και γενική ευθύνη.
“Υπάρχει σαφής ζήτηση για μια ηθική προσέγγιση στη ML, όπως φαίνεται από την ακτιβιστική κοινωνία, την εμφάνιση ~100 συνόλων ηθικών αρχών του AI παγκοσμίως και τις κυβερνητικές κινήσεις σε όλο τον κόσμο για τη ρύθμιση του AI”, έγραψε η ομάδα. “Εάν οι τεχνολογίες δεν ευθυγραμμίζονται με τις αξίες των κοινωνιών στις οποίες λειτουργούν, κινδυνεύουν να τις υπονομεύσουν.”
Επιλέξτε Σοφά
Στην επιφάνεια, είναι δύσκολο να υποστηρίξουμε ότι η αυξημένη ταχύτητα και η απόδοση είναι κακές για τις επιχειρήσεις. Αλλά για ορισμένες βιομηχανίες, υπάρχει πολύ που επηρεάζεται από τη διαδικασία λήψης αποφάσεων που κάποιοι υποστηρίζουν ότι δεν πρέπει να αφήνεται σε έναν αλγόριθμο. Εξετάζοντας σε μερικές από τις μεγαλύτερες βιομηχανίες, μπορούμε να δούμε πόσο ευάλωτοι είμαστε σε σφάλματα μηχανών και γιατί η υπεύθυνη τεχνητή νοημοσύνη είναι τόσο σημαντική.
Τράπεζες, Χρηματοοικονομικές Υπηρεσίες και Ασφάλιση (BFSI)
Το Παγκόσμιο Οικονομικό Φόρουμ (WEF) και η Deloitte εξέτασαν τη διαδικασία ανάπτυξης της τεχνητής νοημοσύνης στις εταιρείες BFSI, βρίσκοντας ότι, “ενώ η τεχνητή νοημοσύνη μπορεί να βοηθήσει στη δημιουργία χρήσιμων επιχειρηματικών πληροφοριών από ένα συντριπτικό ποσό πληροφοριών”, η “ξενότητα της τεχνητής νοημοσύνης” θα είναι μια πηγή συνεχούς σοβαρού κινδύνου.
“Η τεχνητή νοημοσύνη σκέφτεται με μη ανθρώπινους τρόπους”, διαβάζει η αναφορά. “Τα συστήματα της τεχνητής νοημοσύνης δεν ακολουθούν ανθρώπινες κατασκευές λογικής και συμπεριφέρονται πολύ διαφορετικά από ανθρώπους που έχουν την ίδια εργασία. Επιπλέον, η αυτομαθής φύση της τεχνητής νοημοσύνης επιτρέπει στα συστήματα να εξελίσσονται χωρίς ανθρώπινη εισροή, που μπορεί να οδηγήσει σε απρόβλεπτες εξελίξεις με βάση άγνωστες μεταβλητές.”
Οι υποστηρικτές της υπεύθυνης τεχνητής νοημοσύνης υποστηρίζουν ότι η μηχανική μάθηση παρουσιάζει σοβαρά προβλήματα σε πράγματα όπως η αυτόματη αξιολόγηση κινδύνου, πίστωση και λήψη αποφάσεων για δάνεια, όλα τα οποία έχουν ιστορικά προκατάληψη εις βάρος ορισμένων δημογραφικές ομάδες. Πρόσφατες μελέτες έχουν δείξει ότι οι δανειστές που χρησιμοποιούν μηχανές λήψης αποφάσεων με βάση την τεχνητή νοημοσύνη ήταν πιο πιθανό να αρνηθούν δάνεια για σπίτι σε μη λευκά άτομα – σε ορισμένες περιπτώσεις, οι μαύροι αιτούντες έχουν κατά 80% μεγαλύτερη πιθανότητα απόρριψης.
Υγεία
Πριν από μερικά χρόνια, το Journal of the American Medical Association (JAMA) εξέτασε την υιοθέτηση της τεχνητής νοημοσύνης στην υγεία, βρίσκοντας ότι οι προκλήσεις είναι πολλές, συμπεριλαμβανομένων “απραγματικών προσδοκιών, προκατειλημμένων και μη αντιπροσωπευτικών δεδομένων, ανεπαρκούς προτεραιότητας της ισότητας και της ένταξης, του κινδύνου να επιδεινώσει τις ανισότητες στην υγεία, χαμηλών επιπέδων εμπιστοσύνης και αβέβαιων ρυθμιστικών περιβαλλόντων”.
Δεν είναι ακριβώς μια ενθουσιώδης σύσταση, αλλά υπάρχει ένας υψηλότερος πήχης για την υπεύθυνη τεχνητή νοημοσύνη στην υγεία, ιδιαίτερα δεδομένης της πραγματικής ζωής-θανάτου δυνατότητας. Γενικά, οι επαγγελματίες της υγείας είναι αισιόδοξοι αλλά επιφυλακτικοί για το μέλλον της τεχνητής νοημοσύνης, επιλέγοντας να εστιάσουν τις προσπάθειές τους στην εκπαίδευση άλλων επαγγελματιών για τη χρήση της στην κλινική ρύθμιση και τη δημιουργία οδηγιών για το πώς να προχωρήσουν υπεύθυνα με τρόπο που ωφελεί όλους τους ασθενείς.
Μέσα
Η PwC εκτιμά ότι η τεχνητή νοημοσύνη θα παρέχει 15,7 τρισεκατομμύρια δολάρια στην παγκόσμια οικονομική ανάπτυξη μέχρι το 2030, αλλά σύμφωνα με την Salesforce (CRM ) λιγότεροι από τους μισούς (48%) των πελατών εμπιστεύονται τις εταιρείες να χρησιμοποιούν την τεχνητή νοημοσύνη ηθικά, και το 65% ανησυχούν για την αήθη χρήση της τεχνητής νοημοσύνης. Στο σημείο συνάντησης των κερδών και της εμπιστοσύνης, υπάρχουν οι εταιρείες μέσων ενημέρωσης – πρώιμοι υιοθετητές με τεράστια εμβέλεια και επιρροή. Και υπάρχουν ανησυχίες σχετικά με το γεγονός ότι η τεχνητή νοημοσύνη δεν είναι μια “ρύθμιση και ξέχασε” εφαρμογή, που σημαίνει ότι για τις εταιρείες μέσων, η ευθύνη τους δεν είναι μόνο στην παραγωγή περιεχομένου, αλλά και στη συνεχή παρακολούθηση μετά την ανάπτυξή του.
Πώς εξυπηρετούνται οι διαφημίσεις και προσωποποιούνται; Πώς φτάνει το περιεχόμενο σε ένα συγκεκριμένο κοινό, και τι είναι το μήνυμα; Ποιος διδάσκει την τεχνητή νοημοσύνη “πώς” να μάθει; Και πώς μπορείτε να στοχεύσετε συγκεκριμένους καταναλωτές ενώ ταυτόχρονα σέβεστε την ιδιωτικότητα; Αυτά είναι μόνο μερικές από τις ερωτήσεις που βασανίζουν τις εταιρείες μέσων καθώς ισορροπούν την ηθική με την απόκτηση ενός ανταγωνιστικού πλεονεκτήματος.
Η Απάντηση στην Ευθύνη
Η πρόοδος στην ανάπτυξη της υπεύθυνης τεχνητής νοημοσύνης είναι φανερή κάθε μέρα – οι νομοθέτες συντάσσουν κανονισμούς, οι καταναλωτές απαιτούν περισσότερη διαφάνεια, και πολλές εταιρείες έχουν δημιουργήσει συγκεκριμένα τμήματα που έχουν αναλάβει να διασφαλίσουν ότι η τεχνητή νοημοσύνη τους χρησιμοποιείται σωστά. Οι εταιρείες χρειάζονται ένα καλά καθορισμένο πλαίσιο υπεύθυνης τεχνητής νοημοσύνης που καλύπτει την ηθική, τη διαφάνεια, την ευθύνη, την ισότητα, την ιδιωτικότητα και την ασφάλεια. Όπως συνεχίζονται οι συζητήσεις και οι μεταρρυθμίσεις, μια πρόσφατη κοινή μελέτη από το MIT Sloan Management Review και την Boston Consulting Group παρέχει κάποια απλή γενική καθοδήγηση – έγραψαν, “Εάν θέλετε να είστε ένας υπεύθυνος ηγέτης της τεχνητής νοημοσύνης, εστιάστε στο να είστε μια υπεύθυνη εταιρεία.”












