AGI και το μέλλον της AI
Είναι το GPT-4 ένα άλμα προς την επίτευξη της AGI;
Βασικά σημείαΗ ικανότητα του GPT-4 να γράφει ένα ποίημα σε σαιξπηρικό ύφος για τους πρώτους αριθμούς…
Δείτε περισσότερα
- Η ικανότητα του GPT-4 να γράφει ένα ποίημα σε σαιξπηρικό ύφος για τους πρώτους αριθμούς αποδεικνύει βαθιά συλλογιστική πέρα από την απομνημόνευση.
- Η εργασία της Microsoft υποστηρίζει ότι το GPT-4 επιδεικνύει μεγαλύτερη γενική νοημοσύνη από οποιοδήποτε προηγούμενο μοντέλο τεχνητής νοημοσύνης.
- Ο μεγαλύτερος κίνδυνος της γενικής τεχνητής νοημοσύνης (AGI) μπορεί να είναι η τάση της να παραληρεί παραπληροφόρηση από τα δεδομένα εκπαίδευσης.
Η Microsoft (MSFT ) δημοσίευσε πρόσφατα μια έρευνα με τίτλο: Sparks of Artificial General Intelligence: Early experiments with GPT-4. Όπως περιγράφεται από τη Microsoft:
Αυτή η έρευνα αναφέρει την έρευνά μας για μια πρώιμη έκδοση του GPT-4, όταν ήταν ακόμη σε ενεργό ανάπτυξη από την OpenAI. Υποστηρίζουμε ότι (αυτή η πρώιμη έκδοση του) GPT-4 είναι μέρος μιας νέας γενιάς LLMs (μαζί με το ChatGPT και το PaLM της Google , για παράδειγμα) που εμφανίζουν περισσότερη γενική νοημοσύνη από τα προηγούμενα μοντέλα AI.
Σε αυτήν την έρευνα, υπάρχουν αποφασιστικά στοιχεία που αποδεικνύουν ότι το GPT-4 πάει πολύ πέρα από τη μνήμη, και ότι έχει μια βαθιά και ευέλικτη κατανόηση των εννοιών, των δεξιοτήτων και των τομέων. Στην πραγματικότητα, η ικανότητά του να γενικεύει υπερβαίνει αυτήν των ανθρώπων.
Ενώ έχουμε συζητήσει προηγουμένως τα οφέλη της AGI, θα πρέπει να συνοψίσουμε γρήγορα τη γενική συναίνεση σχετικά με το τι είναι ένα σύστημα AGI. Βασικά, ένα AGI είναι ένα είδος προηγμένης AI που μπορεί να γενικεύσει σε πολλαπλούς τομείς και δεν είναι στενό στην εμβέλεια. Παραδείγματα στενής AI περιλαμβάνουν ένα αυτόνομο όχημα, ένα chatbot, ένα bot σκακιού ή οποιοδήποτε άλλο AI που έχει σχεδιαστεί για έναν μόνο σκοπό.
Ένα AGI, σε σύγκριση, θα μπορούσε να εναλλάσσεται ευέλικτα μεταξύ οποιουδήποτε από τα παραπάνω ή οποιουδήποτε άλλου τομέα εξειδίκευσης. Θα ήταν ένα AI που θα επωφεληθεί από νέους αλγορίθμους όπως μεταφορά γνώσης, και εξελικτική μάθηση, ενώ επίσης θα εκμεταλλευτεί αλγορίθμους όπως βαθιά ενισχυτική μάθηση.
Η παραπάνω περιγραφή του AGI ταιριάζει με την προσωπική μου εμπειρία με το GPT-4, καθώς και τα στοιχεία που μοιράζονται στην έρευνα που δημοσιεύθηκε από τη Microsoft.
Ένα από τα prompts που περιγράφονται στην έρευνα είναι να γράψει το GPT-4 μια απόδειξη της απειρίας των πρώτων αριθμών στη μορφή ενός ποιήματος.

Αν αναλύσουμε τις απαιτήσεις για τη δημιουργία ενός τέτοιου ποιήματος, συνειδητοποιούμε ότι απαιτεί μαθηματική σκέψη, ποιητική έκφραση και φυσική γλώσσα. Αυτή είναι μια πρόκληση που θα υπερβεί τις ικανότητες των περισσότερων ανθρώπων.
Η έρευνα ήθελε να κατανοήσει αν το GPT-4 παράγει περιεχόμενο με βάση τη γενική απομνημόνευση ή αν κατανοεί το πλαίσιο και μπορεί να συλλογιστεί. Όταν ζητήθηκε να αναδημιουργήσει ένα ποίημα στο στυλ του Σαίξπηρ, ήταν σε θέση να το κάνει. Αυτό απαιτεί ένα πολύπλοκο επίπεδο κατανόησης που υπερβαίνει τις ικανότητες του γενικού πληθυσμού και περιλαμβάνει θεωρία του νου και μαθηματική ιδιοφυΐα.
Πώς να Υπολογίσετε τη Νοημοσύνη του GPT-4;
Η ερώτηση τότε γίνεται πώς μπορούμε να μετρήσουμε τη νοημοσύνη ενός LLM; Και αν το GPT-4 εμφανίζει συμπεριφορές αληθινής μάθησης ή απλής απομνημόνευσης;
Ο τρέχων τρόπος δοκιμής ενός συστήματος AI είναι η αξιολόγηση του συστήματος σε ένα σύνολο τυποποιημένων dataset και να διασφαλίσουμε ότι είναι ανεξάρτητα από τα δεδομένα εκπαίδευσης και ότι καλύπτουν μια σειρά από εργασίες και τομείς. Αυτός ο τύπος δοκιμής είναι σχεδόν αδύνατος λόγω του σχεδόν ατελείωτου ποσού δεδομένων που εκπαιδεύτηκε το GPT-4.
Η έρευνα συζητά τη δημιουργία νέων και δύσκολων εργασιών/ερωτήσεων που αποδεικνύουν ότι το GPT-4 πάει πολύ πέρα από τη μνήμη και ότι έχει μια βαθιά και ευέλικτη κατανόηση των εννοιών, των δεξιοτήτων και των τομέων.
Όταν πρόκειται για τη νοημοσύνη, το GPT-4 μπορεί να παράγει σύντομες ιστορίες, σεναριά, και μπορεί να υπολογίσει τις πιο περίπλοκους τύπους.
Το GPT-4 είναι επίσης σε θέση να κωδικοποιήσει σε ένα πολύ υψηλό επίπεδο, τόσο σε ότι αφορά τη γραφή κώδικα από οδηγίες όσο και την κατανόηση του υπάρχοντος κώδικα. Το GPT-4 μπορεί να χειριστεί μια σειρά από εργασίες κωδικοποίησης, από κωδικοποίηση προκλήσεων σε πραγματικές εφαρμογές, από χαμηλού επιπέδου assembly σε υψηλού επιπέδου πλαίσια, από απλές δομές δεδομένων σε σύνθετα προγράμματα όπως παιχνίδια. Το GPT-4 μπορεί επίσης να συλλογιστεί σχετικά με την εκτέλεση του κώδικα, να προσομοιώσει τις επιπτώσεις των εντολών και να εξηγήσει τα αποτελέσματα σε φυσική γλώσσα. Το GPT-4 μπορεί ακόμη και να εκτελέσει ψευδοκώδικα,
Το GPT-4 μπορεί να προσφέρει ορθολογικές απαντήσεις σε σχεδόν οποιοδήποτε prompt. Στην πραγματικότητα, η νοημοσύνη του είναι σχεδόν ακατανίκητη στη σύνθεσή του.
Οι Περιορισμοί του GPT-4
Η έρευνα συνεχίζει να περιγράφει πώς ερεύνησαν τις απαντήσεις και τις συμπεριφορές του GPT-4, για να επιβεβαιώσουν τη συνέπεια, τη συνοχή και την ορθότητα, και για να αποκαλύψουν τους περιορισμούς και τις προκαταλήψεις του.
Ο πιο προφανής περιορισμός είναι η τάση του να επινοεί ανύπαρκτες πληροφορίες. Εδώ είναι ένα παράδειγμα μιας επινοημένης πληροφορίας που δίνεται στην έρευνα, όπου το GPT-4 ήταν βέβαιο στη απάντησή του, η οποία ήταν εντελώς ψευδής.

Φαίνεται ότι ακόμη και το GPT-4 κατανοεί αυτόν τον τρέχοντα περιορισμό με την επινόηση ανύπαρκτων πληροφοριών, καθώς αυτή ήταν η απάντηση που έδωσε όταν του ζήτησα τι είναι η επινόηση ανύπαρκτων πληροφοριών από το GPT:
Η επινόηση ανύπαρκτων πληροφοριών από το GPT αναφέρεται σε ένα φαινόμενο όπου ένα μοντέλο Παραγωγικού Προεκπαιδευμένου Μετασχηματιστή (Generative Pre-trained Transformer, GPT), όπως αυτό με το οποίο αλληλεπιδράτε, παράγει μια απάντηση που δεν βασίζεται σε πραγματικές πληροφορίες ή δεν είναι συνεκτική με το πλαίσιο που παρέχεται. Αυτές οι επινοήσεις συμβαίνουν όταν το μοντέλο παράγει κείμενο που μπορεί να φαίνεται πιθανό αλλά στην πραγματικότητα είναι λάθος, παραπλανητικό ή ανοητό.
Με άλλα λόγια, όταν εκπαιδεύετε ένα LLM AI με τα δεδομένα του κόσμου, πώς αποφεύγετε ένα σύστημα που μαθαίνει λάθος δεδομένα; Ένα μεγάλο γλωσσικό μοντέλο που μαθαίνει και αναπαράγει λανθασμένες πληροφορίες και θεωρίες συνωμοσίας θα μπορούσε να είναι μια από τις μεγαλύτερες παγίδες και απειλές που αντιμετωπίζει η ανθρωπότητα με την υιοθέτηση μεγάλης κλίμακας LLMs. Αυτό θα μπορούσε να είναι μια από τις μεγαλύτερες απειλές από την AGI, μια που είναι εκπληκτικά παραμελημένη όταν συζητάμε τους κινδύνους της AGI.
Αποδείξεις της Νοημοσύνης του GPT-4
Η έρευνα δείχνει ότι δεν είχε σημασία ποιο είδος σύνθετων prompts στέλνονταν προς το GPT-4, το GPT-4 θα υπερέβαινε τις προσδοκίες. Όπως αναφέρεται στην έρευνα:
Η απαράμιλλη δεξιοτεχνία του στη φυσική γλώσσα. Μπορεί όχι μόνο να παράγει κείμενο με φυσική ροή και συνοχή, αλλά και να κατανοήσει και να χειριστεί το κείμενο με διάφορους τρόπους, όπως να συνοψίσει, να μεταφράσει ή να απαντήσει σε ένα εξαιρετικά ευρύ σύνολο ερωτήσεων. Επιπλέον, με τη μετάφραση εννοούμε όχι μόνο μεταξύ διαφορετικών φυσικών γλωσσών αλλά και μεταφράσεις σε τόνο και στυλ, καθώς και σε διαφορετικούς τομείς όπως η ιατρική, το δίκαιο, η λογιστική, ο προγραμματισμός υπολογιστών, η μουσική και άλλα.
Δοκιμές τεχνικής αξιολόγησης δόθηκαν στο GPT-4, το οποίο πέρασε εύκολα, με την έννοια ότι αν ήταν ένας άνθρωπος στην άλλη πλευρά, θα είχε προσληφθεί αμέσως ως προγραμματιστής. Μια παρόμοια προκαταρκτική δοκιμή της ικανότητας του GPT-4 στο Multistate Bar Exam έδειξε ακρίβεια πάνω από 70%. Αυτό σημαίνει ότι στο μέλλον θα μπορούσαμε να αυτοματοποιήσουμε πολλές από τις εργασίες που δίνονται στους δικηγόρους. Στην πραγματικότητα, υπάρχουν κάποιες εταιρείες που εργάζονται για τη δημιουργία ρομποτικών δικηγόρων χρησιμοποιώντας το GPT-4.
Κατασκευάζοντας Νέα Γνώση
Ένα από τα επιχειρήματα στην έρευνα είναι ότι το μόνο που μένει για το GPT-4 να αποδείξει πραγματικά επίπεδα κατανόησης είναι να παράγει νέα γνώση, όπως να αποδείξει νέα μαθηματικά θεωρήματα, ένα κατόρθωμα που παραμένει εκτός εύρους για τα LLMs.
Τότε πάλι, αυτό είναι το ιερό δισκοπότηρο της AGI. Ενώ υπάρχουν κίνδυνοι με μια AGI που ελέγχεται στα λάθος χέρια, τα οφέλη μιας AGI που μπορεί να αναλύσει γρήγορα όλα τα ιστορικά δεδομένα για να ανακαλύψει νέα θεωρήματα, θεραπείες και θεραπείες είναι σχεδόν άπειρα.
Μια AGI θα μπορούσε να είναι ο ελλείπων κρίκος προς την εύρεση θεραπειών για σπάνιες γενετικές ασθένειες που σήμερα λείπουν ιδιωτικής χρηματοδότησης, προς την θεραπεία του καρκίνου μια για πάντα, και για τη βελτίωση της απόδοσης της ανανεώσιμης ενέργειας για να αφαιρέσουμε την εξάρτησή μας από μη βιώσιμες πηγές ενέργειας. Στην πραγματικότητα, θα μπορούσε να λύσει οποιοδήποτε σημαντικό πρόβλημα που θα του δοθεί. Αυτό είναι κάτι που κατανοούν ο Sam Altman και η ομάδα του στο OpenAI, μια AGI είναι πραγματικά η τελευταία εφεύρεση που χρειάζεται για να λυθούν τα περισσότερα προβλήματα και να ωφελήσει την ανθρωπότητα.
Φυσικά, αυτό δεν λύνει το πρόβλημα του πυρηνικού κουμπιού, δηλαδή ποιος ελέγχει την AGI και ποια είναι οι προθέσεις του. Παρόλα αυτά, αυτή η έρευνα κάνει ένα φανταστικό έργο στο να επιχειρηματολογεί ότι το GPT-4 είναι ένα άλμα προς την επίτευξη του ονείρου των ερευνητών της AI από το 1956, όταν το αρχικό Dartmouth Summer Research Project on Artificial Intelligence θερινό εργαστήριο ήταν πρώτα εκκίνησε.
Ενώ είναι αμφισβητούμενο αν το GPT-4 είναι μια AGI, θα μπορούσε να επιχειρηματολογηθεί ότι για πρώτη φορά στην ιστορία της ανθρωπότητας είναι ένα σύστημα AI που μπορεί να περάσει το Τεστ του Τούρινγκ.












