Οι ηγέτες της τεχνολογίας υπογραμμίζουν τους κινδύνους της τεχνητής νοημοσύνης και την επείγουσα ανάγκη για ρυθμιστικές προδιαγραφές

Η ανάπτυξη και η πρόοδος της τεχνητής νοημοσύνης έχουν sido εκθετική τα τελευταία χρόνια. Σύμφωνα με την Statista, μέχρι το 2024, η παγκόσμια αγορά της τεχνητής νοημοσύνης θα παράγει έσοδα περίπου 3000 δισεκατομμυρίων δολαρίων, σε σύγκριση με τα 126 δισεκατομμύρια δολάρια το 2015. Ωστόσο, οι ηγέτες της τεχνολογίας τώρα προειδοποιούν για τους διάφορους κινδύνους της τεχνητής νοημοσύνης.

Ιδιαίτερα, η πρόσφατη κυμαία των μοντέλων γεννητικής τεχνητής νοημοσύνης, όπως το ChatGPT, έχει εισαγάγει νέες ικανότητες σε διάφορους τομείς, όπως η υγεία, η εκπαίδευση, οι χρηματοοικονομικές υπηρεσίες κ.λπ. Αυτές οι εξελίξεις που υποστηρίζονται από την τεχνητή νοημοσύνη είναι ευάλωτες λόγω πολλών ελαττωμάτων της τεχνητής νοημοσύνης που μπορούν να εκμεταλλευτούν οι κακόβουλοι πράκτορες.

Ας συζητήσουμε τι λένε οι εμπειρογνώμονες της τεχνητής νοημοσύνης για τις πρόσφατες εξελίξεις και να υπογραμμίσουμε τους πιθανούς κινδύνους της τεχνητής νοημοσύνης. Θα αναφερθούμε επίσης σύντομα στο πώς αυτοί οι κίνδυνοι μπορούν να διαχειριστούν.

Οι ηγέτες της τεχνολογίας και οι ανησυχίες τους σχετικά με τους κινδύνους της τεχνητής νοημοσύνης

Geoffrey Hinton

Ο Geoffrey Hinton, ένας διάσημος ηγέτης της τεχνολογίας (και ο “πατέρας” αυτού του τομέα), που πρόσφατα παραιτήθηκε από την Google (GOOGL ), έχει εκφράσει τις ανησυχίες του σχετικά με την ταχεία ανάπτυξη της τεχνητής νοημοσύνης και τους πιθανούς κινδύνους της. Ο Hinton πιστεύει ότι τα chatbot της τεχνητής νοημοσύνης μπορούν να γίνουν “πολύ τρομακτικά” αν ξεπεράσουν την ανθρώπινη νοημοσύνη.

Ο Hinton λέει:

«Τώρα, βλέπουμε ότι τα πράγματα όπως το GPT-4 ξεπερνούν έναν άνθρωπο σε γενικές γνώσεις και ξεπερνούν τον κατά πολύ. Σε ότι αφορά τον λόγο, δεν είναι τόσο καλό, αλλά ήδη κάνει απλές λογικές συλλογισμοί. Και με το ρυθμό της πρόοδου, περιμένουμε τα πράγματα να γίνουν καλύτερα πολύ γρήγορα. Έτσι, πρέπει να ανησυχούμε για αυτό».

Επιπλέον, πιστεύει ότι οι “κακόβουλοι πράκτορες” μπορούν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για “κακά πράγματα”, όπως να επιτρέψουν στους ρομπότ να έχουν δικές τους υπο-στόχους.尽管 τις ανησυχίες του, ο Hinton πιστεύει ότι η τεχνητή νοημοσύνη μπορεί να φέρει βραχυπρόθεσμες ωφέλειες, αλλά πρέπει επίσης να επενδύσουμε πολύ στην ασφάλεια και τον έλεγχο της τεχνητής νοημοσύνης.

Elon Musk

Η συμμετοχή του Elon Musk στην τεχνητή νοημοσύνη ξεκίνησε με την πρώιμη επένδυσή του στην DeepMind το 2010, για να συνεχίσει με την συν-ίδρυση της OpenAI και την ενσωμάτωση της τεχνητής νοημοσύνης στα αυτονομικά οχήματα της Tesla.

尽管 είναι ενθουσιασμένος με την τεχνητή νοημοσύνη, συχνά αναφέρει τις ανησυχίες του σχετικά με τους κινδύνους της τεχνητής νοημοσύνης. Ο Musk λέει ότι τα ισχυρά συστήματα της τεχνητής νοημοσύνης μπορούν να είναι πιο επικίνδυνα για την πολιτιστική μας παρά τα πυρηνικά όπλα. Σε μια συνέντευξη στο Fox News τον Απρίλιο του 2023, είπε:

«Η τεχνητή νοημοσύνη είναι πιο επικίνδυνη από, π.χ., τη λάθος σχεδίαση αεροσκαφών ή την παραγωγή αυτοκινήτων ή την κακή παραγωγή. Στο ότι έχει τη δυνατότητα — αν και μικρή — αλλά δεν είναι αμελητέα και έχει τη δυνατότητα καταστροφής της πολιτιστικής μας».

Επιπλέον, ο Musk υποστηρίζει τις κυβερνητικές ρυθμίσεις για την τεχνητή νοημοσύνη, για να διασφαλίσει την ασφάλεια από τους πιθανούς κινδύνους, αν και “δεν είναι τόσο διασκεδαστικό”.

Παύση των πειραμάτων της τεχνητής νοημοσύνης: Μια ανοιχτή επιστολή που υποστηρίζεται από χιλιάδες εμπειρογνώμονες της τεχνητής νοημοσύνης

Το Ινστιτούτο Μελλοντικού της Ζωής δημοσίευσε μια ανοιχτή επιστολή στις 22 Μαρτίου 2023. Η επιστολή καλεί για μια προσωρινή παύση έξι μηνών στα πειράματα συστημάτων της τεχνητής νοημοσύνης που είναι πιο προηγμένα από το GPT-4. Οι συγγραφείς εκφράζουν τις ανησυχίες τους σχετικά με το ρυθμό με τον οποίο αναπτύσσονται τα συστήματα της τεχνητής νοημοσύνης και τις σοβαρές κοινωνικές και οικονομικές προκλήσεις που αυτό προκαλεί.

Επιπλέον, η επιστολή αναφέρει ότι οι dévelopερ της τεχνητής νοημοσύνης πρέπει να συνεργαστούν με τους νομοθέτες για να τεκμηριώσουν τα συστήματα διακυβέρνησης της τεχνητής νοημοσύνης. Μέχρι τον Ιούνιο του 2023, η επιστολή έχει υπογραφεί από περισσότερους από 31.000 dévelopers, εμπειρογνώμονες και ηγέτες της τεχνολογίας. Μεταξύ των αξιοσημείωτων υπογραφόντων περιλαμβάνονται ο Elon Musk, ο Steve Wozniak (συν-ίδρυτής της Apple (AAPL )), ο Emad Mostaque (Διευθύνων Σύμβουλος, Stability AI), ο Yoshua Bengio (βραβευμένος με το βραβείο Turing) και πολλοί άλλοι.

Αντιρρήσεις για την παύση της ανάπτυξης της τεχνητής νοημοσύνης

Δύο εξέχοντες ηγέτες της τεχνητής νοημοσύνης, ο Andrew Ng και ο Yann LeCun, έχουν αντιταχθεί στην προτεινόμενη seis-μήνη παύση της ανάπτυξης των προηγμένων συστημάτων της τεχνητής νοημοσύνης και την θεωρούν μια κακή ιδέα.

Ο Ng λέει ότι尽管 η τεχνητή νοημοσύνη έχει κάποιους κινδύνους, όπως την προκατάληψη, η αξία που δημιουργεί η τεχνητή νοημοσύνη σε τομείς όπως η εκπαίδευση, η υγεία και η προσωπική εκπαίδευση είναι τεράστια.

Ο Yann LeCun λέει ότι η έρευνα και η ανάπτυξη δεν πρέπει να σταματήσουν, αν και τα προϊόντα της τεχνητής νοημοσύνης που φτάνουν στον τελικό χρήστη μπορούν να ρυθμιστούν.

Τι είναι οι πιθανοί κίνδυνοι και οι άμεσοι κίνδυνοι της τεχνητής νοημοσύνης;

1. Αντικατάσταση εργασιών

Οι εμπειρογνώμονες της τεχνητής νοημοσύνης πιστεύουν ότι τα έξυπνα συστήματα της τεχνητής νοημοσύνης μπορούν να αντικαταστήσουν τις γνωστικές και δημιουργικές εργασίες. Η τράπεζα Goldman Sachs εκτιμά ότι περίπου 300 εκατομμύρια εργασίες θα αυτοματοποιηθούν από την γεννητική τεχνητή νοημοσύνη.

Έτσι, πρέπει να existουν ρυθμίσεις για την ανάπτυξη της τεχνητής νοημοσύνης, ώστε να μην προκαλέσει μια σοβαρή οικονομική κάμψη. Πρέπει να existουν εκπαιδευτικά προγράμματα για την επαναειδίκευση και την επανακατάρτιση των εργαζομένων, για να αντιμετωπίσουν αυτή την πρόκληση.

2. Προκατειλημμένα συστήματα της τεχνητής νοημοσύνης

Οι προκαταλήψεις που υπάρχουν μεταξύ των ανθρώπων σχετικά με το φύλο, τη φυλή ή το χρώμα μπορούν να διαρρεύσουν ανεπίσημα στα δεδομένα που χρησιμοποιούνται για την εκπαίδευση των συστημάτων της τεχνητής νοημοσύνης, καθιστώντας τα προκατειλημμένα.

Για παράδειγμα, στο контέκστ της πρόσληψης, ένα προκατειλημμένο σύστημα της τεχνητής νοημοσύνης μπορεί να απορρίψει τα βιογραφικά των ατόμων από συγκεκριμένες εθνοτικές προελεύσεις, δημιουργώντας διακρίσεις στην αγορά εργασίας. Στην επιβολή του νόμου, η προκατειλημμένη προφητική αστυνομία θα μπορούσε να στοχεύει αναλογικά συγκεκριμένες γειτονιές ή δημογραφικές ομάδες.

Έτσι, είναι απαραίτητο να existει μια綜合ική στρατηγική δεδομένων που αντιμετωπίζει τους κινδύνους της τεχνητής νοημοσύνης, ιδιαίτερα την προκατάληψη. Τα συστήματα της τεχνητής νοημοσύνης πρέπει να αξιολογούνται και να ελέγχονται συχνά, για να διασφαλίσουν την ασφάλεια.

3. Κρίσιμες εφαρμογές της τεχνητής νοημοσύνης

Τα αυτονομικά οχήματα, η ιατρική διάγνωση και θεραπεία, τα συστήματα αεροπορίας, ο έλεγχος των πυρηνικών σταθμών, κ.λπ., είναι όλα παραδείγματα κρίσιμων εφαρμογών της τεχνητής νοημοσύνης. Αυτά τα συστήματα πρέπει να αναπτυχθούν με προσοχή, γιατί ακόμη και μικρές λάθη θα μπορούσαν να έχουν σοβαρές συνέπειες για την ανθρώπινη ζωή ή το περιβάλλον.

Για παράδειγμα, η δυσλειτουργία του λογισμικού της τεχνητής νοημοσύνης που ονομάζεται Maneuvering Characteristics Augmentation System (MCAS) αποδίδεται εν μέρει στην πτώση των δύο Boeing 737 MAX, πρώτα τον Οκτώβριο του 2018 και μετά τον Μάρτιο του 2019. Λυπηρό, οι δύο πτώσεις σκότωσαν 346 άτομα.

Πώς μπορούμε να υπερβούμε τους κινδύνους των συστημάτων της τεχνητής νοημοσύνης; – Υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης και ρυθμιστική συμμόρφωση

Η υπεύθυνη τεχνητή νοημοσύνη (RAI) σημαίνει την ανάπτυξη και την ανάπτυξη δίκαιων, λογικών, διαφανών και ασφαλών συστημάτων της τεχνητής νοημοσύνης, που διασφαλίζουν την ιδιωτικότητα και τηρούν τους νομικούς κανονισμούς και τις κοινωνικές νόρμες. Η εφαρμογή της RAI μπορεί να είναι σύνθετη, δεδομένης της ταχείας ανάπτυξης των συστημάτων της τεχνητής νοημοσύνης.

Ωστόσο, οι μεγάλες εταιρείες τεχνολογίας έχουν αναπτύξει πλαισιά για την RAI, όπως:

1. Το Responsible AI της Microsoft (MSFT )
2. Τα Principals της Google για την τεχνητή νοημοσύνη
3. Το Trusted AI της IBM

Τα εργαστήρια της τεχνητής νοημοσύνης σε όλο τον κόσμο μπορούν να πάρουν έμπνευση από αυτά τα πλαισιά ή να αναπτύξουν τα δικά τους πλαισιά για την υπεύθυνη τεχνητή νοημοσύνη, για να δημιουργήσουν αξιόπιστα συστήματα της τεχνητής νοημοσύνης.

Ρυθμιστική συμμόρφωση της τεχνητής νοημοσύνης

Καθώς τα δεδομένα είναι ένας ουσιαστικός компонέας των συστημάτων της τεχνητής νοημοσύνης, οι οργανισμοί και τα εργαστήρια της τεχνητής νοημοσύνης πρέπει να συμμορφώνονται με τους ακόλουθους κανονισμούς, για να διασφαλίσουν την ασφάλεια και την ιδιωτικότητα των δεδομένων.

1. Η GDPR (Γενική Ρύθμιση Προστασίας Δεδομένων) — ένα πλαισίο προστασίας δεδομένων της ΕΕ.
2. Η CCPA (Νόμος Προστασίας Καταναλωτών της Καλιφόρνιας) — ένας νόμος της πολιτείας της Καλιφόρνιας για τα δικαιώματα προστασίας και προστασίας των καταναλωτών.
3. Η HIPAA (Νόμος για την Προστασία της Ιατρικής Πληροφόρησης) — ένας νόμος των ΗΠΑ που προστατεύει τα ιατρικά δεδομένα των ασθενών.
4. Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη, και οι κατευθυντήριες γραμμές για την αξιόπιστη τεχνητή νοημοσύνη — ένας κανονισμός της Ευρωπαϊκής Επιτροπής για την τεχνητή νοημοσύνη.

Υπάρχουν διάφοροι τοπικοί και περιφερειακοί νόμοι που έχουν ψηφιστεί από διάφορες χώρες, για να προστατεύσουν τους πολίτες τους. Οι οργανισμοί που δεν διασφαλίζουν τη ρυθμιστική συμμόρφωση για τα δεδομένα μπορεί να αντιμετωπίσουν σοβαρές ποινές. Για παράδειγμα, η GDPR έχει ορίσει μια ποινή των 20 εκατομμυρίων ευρώ ή 4% του ετήσιου κέρδους για σοβαρές παραβάσεις, όπως η παράνομη επεξεργασία δεδομένων, η αμφισβήτηση της συναίνεσης των δεδομένων, η παραβίαση των δικαιωμάτων των υποκειμένων των δεδομένων ή η μη προστατευμένη μεταφορά δεδομένων σε διεθνείς οντότητες.

Ανάπτυξη και ρυθμίσεις της τεχνητής νοημοσύνης – Παρόν και Μέλλον

Με κάθε месяνα που περνά, οι προόδους της τεχνητής νοημοσύνης φτάνουν σε απρόσμενο ύψος. Αλλά, οι συνοδεύουσες ρυθμίσεις και πλαισιά της τεχνητής νοημοσύνης είναι πίσω. Χρειάζονται να είναι πιο ισχυρά και συγκεκριμένα.

Οι ηγέτες της τεχνολογίας και οι dévelopers της τεχνητής νοημοσύνης έχουν ήδη προειδοποιήσει για τους κινδύνους της τεχνητής νοημοσύνης, αν δεν ρυθμιστεί σωστά. Η έρευνα και η ανάπτυξη της τεχνητής νοημοσύνης μπορούν να φέρουν ακόμη περισσότερη αξία σε πολλούς τομείς, αλλά είναι σαφές ότι η προσεκτική ρύθμιση είναι τώρα απαραίτητη.

Για περισσότερα περιεχόμενα σχετικά με την τεχνητή νοημοσύνη, επισκεφθείτε unite.ai.