Μοντέλα και πλατφόρμες AI
Οι ηγέτες της τεχνολογίας επισημαίνουν τους κινδύνους της τεχνητής νοημοσύνης και την επείγουσα ανάγκη για ισχυρή ρύθμισή της
Βασικά σημείαΟι ηγέτες της τεχνολογίας προειδοποιούν ότι η τεχνητή νοημοσύνη που ξεπερνά την…
Δείτε περισσότερα
- Οι ηγέτες της τεχνολογίας προειδοποιούν ότι η τεχνητή νοημοσύνη που ξεπερνά την ανθρώπινη νοημοσύνη θέτει υπαρξιακούς κινδύνους και απαιτεί επείγουσες επενδύσεις σε θέματα ασφάλειας.
- Πάνω από 300 εκατομμύρια θέσεις εργασίας κινδυνεύουν από αυτοματοποίηση μέσω παραγωγικής τεχνητής νοημοσύνης, απαιτώντας μαζικά προγράμματα επανακατάρτισης του εργατικού δυναμικού.
- Προκατειλημμένα συστήματα τεχνητής νοημοσύνης μπορούν να διαιωνίσουν τη διάκριση στη πρόσληψη και στην επιβολή του νόμου χωρίς αυστηρό έλεγχο.
Η ανάπτυξη και η πρόοδος της τεχνητής νοημοσύνης έχουν εξελιχθεί εκθετικά τα τελευταία χρόνια. Σύμφωνα με τη Statista, μέχρι το 2024, η παγκόσμια αγορά της τεχνητής νοημοσύνης θα παράγει έσοδα περίπου 3000 δισεκατομμυρίων δολαρίων, σε σύγκριση με τα 126 δισεκατομμύρια δολάρια το 2015. Ωστόσο, οι ηγέτες της τεχνολογίας τώρα προειδοποιούν για τους διάφορους κινδύνους της τεχνητής νοημοσύνης.
Ιδιαίτερα, το πρόσφατο κύμα μοντέλων παραγωγικής τεχνητής νοημοσύνης, όπως το ChatGPT, έχει εισαγάγει νέες δυνατότητες σε διάφορους τομείς που χειρίζονται ευαίσθητα δεδομένα, όπως η υγεία, η εκπαίδευση, οι χρηματοοικονομικές υπηρεσίες κ.λπ. Αυτές οι εξελίξεις που υποστηρίζονται από την τεχνητή νοημοσύνη είναι ευάλωτες λόγω πολλών ελαττωμάτων της τεχνητής νοημοσύνης που μπορούν να εκμεταλλευτούν οι κακόβουλοι πράκτορες.
Ας συζητήσουμε τι λένε οι εμπειρογνώμονες της τεχνητής νοημοσύνης για τις πρόσφατες εξελίξεις και ας υπογραμμίσουμε τους πιθανούς κινδύνους της τεχνητής νοημοσύνης. Θα αναφερθούμε επίσης σύντομα στο πώς αυτοί οι κίνδυνοι μπορούν να αντιμετωπιστούν.
Οι ηγέτες της τεχνολογίας και οι ανησυχίες τους σχετικά με τους κινδύνους της τεχνητής νοημοσύνης
Geoffrey Hinton
Ο Geoffrey Hinton, ένας διάσημος ηγέτης της τεχνολογίας (και ο “πατέρας” αυτού του τομέα), που πρόσφατα παραιτήθηκε από την Google (GOOGL ), έχει εκφράσει τις ανησυχίες του σχετικά με την ταχεία ανάπτυξη της τεχνητής νοημοσύνης και τους πιθανούς κινδύνους της. Ο Hinton πιστεύει ότι τα chatbot της τεχνητής νοημοσύνης μπορούν να γίνουν “πολύ τρομακτικά” αν ξεπεράσουν την ανθρώπινη νοημοσύνη.
Ο Hinton λέει:
«Αυτή τη στιγμή βλέπουμε ότι συστήματα όπως το GPT-4 ξεπερνούν κατά πολύ έναν άνθρωπο ως προς το εύρος των γενικών γνώσεών τους. Στη συλλογιστική δεν είναι τόσο καλά, αλλά ήδη μπορούν να κάνουν απλούς συλλογισμούς. Δεδομένου του ρυθμού προόδου, αναμένουμε αρκετά γρήγορη βελτίωση. Επομένως, πρέπει να ανησυχούμε γι’ αυτό».
Επιπλέον, πιστεύει ότι οι “κακόβουλοι πράκτορες” μπορούν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για “κακά πράγματα”, όπως να επιτρέψουν στα ρομπότ να έχουν δικούς τους επιμέρους στόχους. Παρά τις ανησυχίες του, ο Hinton πιστεύει ότι η τεχνητή νοημοσύνη μπορεί να φέρει βραχυπρόθεσμες ωφέλειες, αλλά πρέπει επίσης να επενδύσουμε πολύ στην ασφάλεια και τον έλεγχο της τεχνητής νοημοσύνης.
Elon Musk
Η συμμετοχή του Elon Musk στην τεχνητή νοημοσύνη ξεκίνησε με την πρώιμη επένδυσή του στη DeepMind το 2010, για να συνεχίσει με τη συνίδρυση της OpenAI και την ενσωμάτωση της τεχνητής νοημοσύνης στα αυτόνομα οχήματα της Tesla.
Παρότι είναι ενθουσιασμένος με την τεχνητή νοημοσύνη, συχνά αναφέρει τις ανησυχίες του σχετικά με τους κινδύνους της τεχνητής νοημοσύνης. Ο Musk λέει ότι τα ισχυρά συστήματα της τεχνητής νοημοσύνης μπορούν να είναι πιο επικίνδυνα για τον πολιτισμό από τα πυρηνικά όπλα. Σε μια συνέντευξη στο Fox News τον Απρίλιο του 2023, είπε:
«Η τεχνητή νοημοσύνη είναι πιο επικίνδυνη από, για παράδειγμα, τον κακό σχεδιασμό αεροσκαφών, την προβληματική παραγωγή ή συντήρησή τους ή την κακή κατασκευή αυτοκινήτων. Έχει τη δυνατότητα να καταστρέψει τον πολιτισμό — όσο μικρή κι αν θεωρεί κανείς αυτή την πιθανότητα, δεν είναι αμελητέα».
Επιπλέον, ο Musk υποστηρίζει τις κυβερνητικές ρυθμίσεις για την τεχνητή νοημοσύνη, για να διασφαλίσει την ασφάλεια από τους πιθανούς κινδύνους, αν και “δεν είναι τόσο διασκεδαστικό”.
Παύση των πειραμάτων της τεχνητής νοημοσύνης: Μια ανοιχτή επιστολή που υποστηρίζεται από χιλιάδες εμπειρογνώμονες της τεχνητής νοημοσύνης
Το Future of Life Institute δημοσίευσε μια ανοιχτή επιστολή στις 22 Μαρτίου 2023. Η επιστολή καλεί για μια προσωρινή παύση έξι μηνών στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης πιο προηγμένων από το GPT-4. Οι συγγραφείς εκφράζουν τις ανησυχίες τους σχετικά με το ρυθμό με τον οποίο αναπτύσσονται τα συστήματα της τεχνητής νοημοσύνης και τις σοβαρές κοινωνικές και οικονομικές προκλήσεις που αυτό προκαλεί.
Επιπλέον, η επιστολή αναφέρει ότι οι προγραμματιστές της τεχνητής νοημοσύνης πρέπει να συνεργαστούν με τους νομοθέτες για να τεκμηριώσουν τα συστήματα διακυβέρνησης της τεχνητής νοημοσύνης. Μέχρι τον Ιούνιο του 2023, η επιστολή έχει υπογραφεί από περισσότερους από 31.000 προγραμματιστές, εμπειρογνώμονες και ηγέτες της τεχνολογίας. Μεταξύ των αξιοσημείωτων υπογραφόντων περιλαμβάνονται ο Elon Musk, ο Steve Wozniak (συνιδρυτής της Apple (AAPL )), ο Emad Mostaque (Διευθύνων Σύμβουλος, Stability AI), ο Yoshua Bengio (βραβευμένος με το βραβείο Turing) και πολλοί άλλοι.
Αντιρρήσεις για την παύση της ανάπτυξης της τεχνητής νοημοσύνης
Δύο εξέχοντες ηγέτες της τεχνητής νοημοσύνης, ο Andrew Ng και ο Yann LeCun, έχουν αντιταχθεί στην προτεινόμενη εξάμηνη παύση της ανάπτυξης των προηγμένων συστημάτων της τεχνητής νοημοσύνης και την θεωρούν μια κακή ιδέα.
Ο Ng λέει ότι, παρότι η τεχνητή νοημοσύνη ενέχει κινδύνους, όπως η προκατάληψη και η συγκέντρωση εξουσίας, η αξία που δημιουργεί σε τομείς όπως η εκπαίδευση, η υγεία και η καθοδήγηση που ανταποκρίνεται στις ανάγκες του χρήστη είναι τεράστια.
Ο Yann LeCun λέει ότι η έρευνα και η ανάπτυξη δεν πρέπει να σταματήσουν, αν και τα προϊόντα της τεχνητής νοημοσύνης που φτάνουν στον τελικό χρήστη μπορούν να ρυθμιστούν.
Τι είναι οι πιθανοί κίνδυνοι και οι άμεσοι κίνδυνοι της τεχνητής νοημοσύνης;

1. Εκτόπιση θέσεων εργασίας
Οι εμπειρογνώμονες της τεχνητής νοημοσύνης πιστεύουν ότι τα έξυπνα συστήματα της τεχνητής νοημοσύνης μπορούν να αντικαταστήσουν τις γνωστικές και δημιουργικές εργασίες. Η τράπεζα Goldman Sachs (GS ) εκτιμά ότι περίπου 300 εκατομμύρια θέσεις εργασίας θα αυτοματοποιηθούν από την παραγωγική τεχνητή νοημοσύνη.
Έτσι, πρέπει να υπάρχουν ρυθμίσεις για την ανάπτυξη της τεχνητής νοημοσύνης, ώστε να μην προκαλέσει μια σοβαρή οικονομική κάμψη. Πρέπει να υπάρχουν εκπαιδευτικά προγράμματα για την αναβάθμιση δεξιοτήτων και την επανακατάρτιση των εργαζομένων, για να αντιμετωπίσουν αυτή την πρόκληση.
2. Προκατειλημμένα συστήματα της τεχνητής νοημοσύνης
Οι προκαταλήψεις που υπάρχουν μεταξύ των ανθρώπων σχετικά με το φύλο, τη φυλή ή το χρώμα μπορούν να ενσωματωθούν ακούσια στα δεδομένα που χρησιμοποιούνται για την εκπαίδευση των συστημάτων της τεχνητής νοημοσύνης, καθιστώντας τα προκατειλημμένα.
Για παράδειγμα, στο πλαίσιο της πρόσληψης, ένα προκατειλημμένο σύστημα της τεχνητής νοημοσύνης μπορεί να απορρίψει τα βιογραφικά των ατόμων από συγκεκριμένες εθνοτικές προελεύσεις, δημιουργώντας διακρίσεις στην αγορά εργασίας. Στην επιβολή του νόμου, τα μεροληπτικά συστήματα πρόβλεψης εγκληματικότητας θα μπορούσαν να στοχεύουν δυσανάλογα συγκεκριμένες γειτονιές ή δημογραφικές ομάδες.
Έτσι, είναι απαραίτητο να υπάρχει μια ολοκληρωμένη στρατηγική δεδομένων που αντιμετωπίζει τους κινδύνους της τεχνητής νοημοσύνης, ιδιαίτερα την προκατάληψη. Τα συστήματα της τεχνητής νοημοσύνης πρέπει να αξιολογούνται και να ελέγχονται συχνά, για να διασφαλίζεται η αμεροληψία τους.
3. Εφαρμογές τεχνητής νοημοσύνης κρίσιμες για την ασφάλεια
Τα αυτόνομα οχήματα, η ιατρική διάγνωση και θεραπεία, τα συστήματα αεροπορίας, ο έλεγχος των πυρηνικών σταθμών, κ.λπ., είναι όλα παραδείγματα εφαρμογών τεχνητής νοημοσύνης κρίσιμων για την ασφάλεια. Αυτά τα συστήματα πρέπει να αναπτυχθούν με προσοχή, γιατί ακόμη και μικρά λάθη θα μπορούσαν να έχουν σοβαρές συνέπειες για την ανθρώπινη ζωή ή το περιβάλλον.
Για παράδειγμα, η δυσλειτουργία του λογισμικού της τεχνητής νοημοσύνης που ονομάζεται Maneuvering Characteristics Augmentation System (MCAS) θεωρείται μία από τις αιτίες των συντριβών δύο αεροσκαφών Boeing 737 MAX, πρώτα τον Οκτώβριο του 2018 και μετά τον Μάρτιο του 2019. Δυστυχώς, οι δύο συντριβές κόστισαν τη ζωή σε 346 άτομα.
Πώς μπορούμε να υπερβούμε τους κινδύνους των συστημάτων της τεχνητής νοημοσύνης; – Υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης και ρυθμιστική συμμόρφωση

Η υπεύθυνη τεχνητή νοημοσύνη (RAI) σημαίνει την ανάπτυξη και την εφαρμογή δίκαιων, υπόλογων, διαφανών και ασφαλών συστημάτων της τεχνητής νοημοσύνης, που διασφαλίζουν την ιδιωτικότητα και τηρούν τους νομικούς κανονισμούς και τις κοινωνικές νόρμες. Η εφαρμογή της RAI μπορεί να είναι σύνθετη, δεδομένης της ευρείας και ταχείας ανάπτυξης των συστημάτων της τεχνητής νοημοσύνης.
Ωστόσο, οι μεγάλες εταιρείες τεχνολογίας έχουν αναπτύξει πλαίσια για την RAI, όπως:
Τα εργαστήρια της τεχνητής νοημοσύνης σε όλο τον κόσμο μπορούν να πάρουν έμπνευση από αυτά τα πλαίσια ή να αναπτύξουν τα δικά τους πλαίσια για την υπεύθυνη τεχνητή νοημοσύνη, για να δημιουργήσουν αξιόπιστα συστήματα της τεχνητής νοημοσύνης.
Ρυθμιστική συμμόρφωση της τεχνητής νοημοσύνης
Καθώς τα δεδομένα είναι ένας ουσιαστικός παράγοντας των συστημάτων της τεχνητής νοημοσύνης, οι οργανισμοί και τα εργαστήρια της τεχνητής νοημοσύνης πρέπει να συμμορφώνονται με τους ακόλουθους κανονισμούς, για να διασφαλίσουν την ασφάλεια και την ιδιωτικότητα των δεδομένων.
- Ο GDPR (Γενικός Κανονισμός Προστασίας Δεδομένων) — ένα πλαίσιο προστασίας δεδομένων της ΕΕ.
- Ο CCPA (Νόμος της Καλιφόρνιας για την Προστασία του Απορρήτου των Καταναλωτών) — ένας νόμος της πολιτείας της Καλιφόρνιας για τα δικαιώματα ιδιωτικότητας και την προστασία των καταναλωτών.
- Ο HIPAA (Νόμος για τη Φορητότητα και τη Λογοδοσία της Ασφάλισης Υγείας) — ένας νόμος των ΗΠΑ που προστατεύει τα ιατρικά δεδομένα των ασθενών.
- Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη, και οι κατευθυντήριες γραμμές για την αξιόπιστη τεχνητή νοημοσύνη — ένας κανονισμός της Ευρωπαϊκής Επιτροπής για την τεχνητή νοημοσύνη.
Υπάρχουν διάφοροι τοπικοί και περιφερειακοί νόμοι που έχουν ψηφιστεί από διάφορες χώρες, για να προστατεύσουν τους πολίτες τους. Οι οργανισμοί που δεν διασφαλίζουν τη ρυθμιστική συμμόρφωση για τα δεδομένα μπορεί να αντιμετωπίσουν σοβαρές ποινές. Για παράδειγμα, ο GDPR έχει ορίσει μια ποινή των 20 εκατομμυρίων ευρώ ή 4% του ετήσιου κέρδους για σοβαρές παραβάσεις, όπως η παράνομη επεξεργασία δεδομένων, η μη τεκμηριωμένη συγκατάθεση για την επεξεργασία δεδομένων, η παραβίαση των δικαιωμάτων των υποκειμένων των δεδομένων ή η μη προστατευμένη μεταφορά δεδομένων σε διεθνείς οντότητες.
Ανάπτυξη και ρυθμίσεις της τεχνητής νοημοσύνης – Παρόν και Μέλλον
Με κάθε μήνα που περνά, οι εξελίξεις της τεχνητής νοημοσύνης φτάνουν σε πρωτοφανή ύψη. Αλλά, οι αντίστοιχοι κανονισμοί και τα πλαίσια διακυβέρνησης υστερούν. Πρέπει να είναι πιο ισχυρά και συγκεκριμένα.
Οι ηγέτες της τεχνολογίας και οι προγραμματιστές της τεχνητής νοημοσύνης έχουν ήδη προειδοποιήσει για τους κινδύνους της τεχνητής νοημοσύνης, αν δεν ρυθμιστεί σωστά. Η έρευνα και η ανάπτυξη της τεχνητής νοημοσύνης μπορούν να φέρουν ακόμη περισσότερη αξία σε πολλούς τομείς, αλλά είναι σαφές ότι η προσεκτική ρύθμιση είναι τώρα απαραίτητη.
Για περισσότερα περιεχόμενα σχετικά με την τεχνητή νοημοσύνη, επισκεφθείτε unite.ai.












