Βασικές αρχές της AI

Μοντέλα Διάχυσης σε AI – Ό,τι Χρειάζεται να Ξέρετε

mm
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google

Στο οικοσύστημα της τεχνητής νοημοσύνης, τα μοντέλα διάχυσης καθορίζουν την κατεύθυνση και το ρυθμό της τεχνολογικής πρόοδου. Επαναedefinουν τον τρόπο με τον οποίο αντιμετωπίζουμε σύνθετες εργασίες γενετικής τεχνητής νοημοσύνης. Αυτά τα μοντέλα βασίζονται στα μαθηματικά των αρχών Γκάους, της διακύμανσης, των διαφορικών εξισώσεων και των γενετικών ακολουθιών. (Θα εξηγήσουμε τις τεχνικές ορολογίες παρακάτω)

Σύγχρονα προϊόντα και λύσεις που αναπτύχθηκαν από την Nvidia (NVDA ), την Google (GOOGL ), την Adobe (ADBE ) και την OpenAI έχουν τοποθετήσει τα μοντέλα διάχυσης στο επίκεντρο της προσοχής. DALL.E 2, Stable Diffusion και Midjourney είναι εξέχοντα παραδείγματα μοντέλων διάχυσης που έχουν κάνει τον γύρο του διαδικτύου最近. Οι χρήστες παρέχουν μια απλή κειμενική πρόταση ως είσοδο, και αυτά τα μοντέλα μπορούν να τις μετατρέψουν σε ρεαλιστικές εικόνες, όπως αυτή που εμφανίζεται παρακάτω.

Μια εικόνα που δημιουργήθηκε με το Midjourney v5 χρησιμοποιώντας την είσοδο: vibrant California poppies.

Μια εικόνα που δημιουργήθηκε με το Midjourney v5 χρησιμοποιώντας την είσοδο: vibrant California poppies. Πηγή: Midjourney

Ας εξετάσουμε τις θεμελιώδεις αρχές λειτουργίας των μοντέλων διάχυσης και πώς αλλάζουν τις κατευθύνσεις και τις νόρμες του κόσμου όπως τον βλέπουμε σήμερα.

Τι είναι τα Μοντέλα Διάχυσης;

Σύμφωνα με τη δημοσίευση ερευνών «Denoising Diffusion Probabilistic Models», τα μοντέλα διάχυσης ορίζονται ως:

«Ένα μοντέλο διάχυσης ή πιθανολογικό μοντέλο διάχυσης είναι ένα παραμετροποιημένο Μαρκοβιανό σύνολο που εκπαιδεύεται χρησιμοποιώντας παραλλαγμένη εύρεση για να παράγει δείγματα που ταιριάζουν με τα δεδομένα μετά από πεπερασμένο χρόνο»

Απλά, τα μοντέλα διάχυσης μπορούν να παράγουν δεδομένα παρόμοια με αυτά στα οποία εκπαιδεύονται. Αν το μοντέλο εκπαιδευτεί σε εικόνες γατών, μπορεί να παράγει παρόμοιες ρεαλιστικές εικόνες γατών.

Τώρα ας προσπαθήσουμε να αναλύσουμε την τεχνική ορολογία που αναφέρθηκε παραπάνω. Τα μοντέλα διάχυσης λαμβάνουν έμπνευση από την αρχή λειτουργίας και τις μαθηματικές βάσεις ενός πιθανολογικού μοντέλου που μπορεί να αναλύσει και να προβλέψει τη συμπεριφορά ενός συστήματος που μεταβάλλεται με τον χρόνο, όπως η πρόβλεψη της απόδοσης της αγοράς μετοχών ή της εξάπλωσης της πανδημίας.

Η ορολογία αναφέρει ότι είναι παραμετροποιημένα Μαρκοβιανά σύνολα που εκπαιδεύονται με παραλλαγμένη εύρεση. Τα Μαρκοβιανά σύνολα είναι μαθηματικά μοντέλα που ορίζουν ένα σύστημα που μεταβάλλεται μεταξύ διαφορετικών καταστάσεων με τον χρόνο. Η υπάρχουσα κατάσταση του συστήματος μπορεί μόνο να καθορίσει την πιθανότητα μετάβασης σε μια συγκεκριμένη κατάσταση. Με άλλα λόγια, η τρέχουσα κατάσταση του συστήματος κατέχει τις πιθανές καταστάσεις που ένα σύστημα μπορεί να ακολουθήσει ή να αποκτήσει σε οποιαδήποτε δεδομένη στιγμή.

Η εκπαίδευση του μοντέλου χρησιμοποιώντας παραλλαγμένη εύρεση περιλαμβάνει σύνθετους υπολογισμούς για τις πιθανοτικές κατανομές. Σκοπός είναι να βρεθούν οι ακριβείς παράμετροι του Μαρκοβιανού συνόλου που ταιριάζουν με τα παρατηρημένα (γνωστά ή πραγματικά) δεδομένα μετά από συγκεκριμένο χρόνο. Αυτή η διαδικασία ελαχιστοποιεί την τιμή της συνάρτησης απώλειας του μοντέλου, η οποία είναι η διαφορά μεταξύ της προβλεπόμενης (άγνωστης) και της παρατηρημένης (γνωστής) κατάστασης.

Όταν εκπαιδευτεί, το μοντέλο μπορεί να παράγει δείγματα που ταιριάζουν με τα παρατηρημένα δεδομένα. Αυτά τα δείγματα αντιπροσωπεύουν πιθανές τροχιές ή κατάσταση που το σύστημα θα μπορούσε να ακολουθήσει ή να αποκτήσει με τον χρόνο, και κάθε τροχιά έχει διαφορετική πιθανότητα να συμβεί. Έτσι, το μοντέλο μπορεί να προβλέψει τη μελλοντική συμπεριφορά του συστήματος παράγοντας eine σειρά δειγμάτων και βάζοντας τις αντίστοιχες πιθανότητες (πιθανότητα αυτών των συμβάντων να συμβούν).

Πώς να Ερμηνεύσετε τα Μοντέλα Διάχυσης στην Τεχνητή Νοημοσύνη;

Τα μοντέλα διάχυσης είναι βαθιά γενετικά μοντέλα που λειτουργούν προσθέτοντας θόρυβο (Γκαουσιανό θόρυβο) στα διαθέσιμα δεδομένα εκπαίδευσης (γνωστά και ως διαδικασία εμπρόσθιας διάχυσης) και στη συνέχεια αναστρέφοντας τη διαδικασία (γνωστή ως αποθόρυβωση ή αντίστροφη διαδικασία διάχυσης) για να ανακτήσουν τα δεδομένα. Το μοντέλο μαθαίνει σταδιακά να αφαιρεί τον θόρυβο. Αυτή η διαδικασία αποθόρυβωσης παράγει νέα, υψηλής ποιότητας εικόνες από τυχαίες σπέρμες (τυχαίες εικόνες με θόρυβο), όπως φαίνεται στο παρακάτω σχήμα.

Αντίστροφη διαδικασία διάχυσης: μια θορυβώδης εικόνα αποθορυβώνεται για να ανακτήσει την αρχική εικόνα (ή να παράγει τις παραλλαγές της) μέσω ενός εκπαιδευμένου μοντέλου διάχυσης.

Αντίστροφη διαδικασία διάχυσης: μια θορυβώδης εικόνα αποθορυβώνεται για να ανακτήσει την αρχική εικόνα (ή να παράγει τις παραλλαγές της) μέσω ενός εκπαιδευμένου μοντέλου διάχυσης. Πηγή: Denoising Diffusion Probabilistic Models

3 Κατηγορίες Μοντέλων Διάχυσης

Υπάρχουν τρίεις θεμελιώδεις μαθηματικές βάσεις που υποστηρίζουν την επιστήμη πίσω από τα μοντέλα διάχυσης. Όλες οι τρεις λειτουργούν με τις ίδιες αρχές της προσθήκης θορύβου και της αφαίρεσής του για να παράγουν νέα δείγματα. Ας τις συζητήσουμε παρακάτω.

Ένα μοντέλο διάχυσης προσθέτει και αφαιρεί θόρυβο από μια εικόνα.

Ένα μοντέλο διάχυσης προσθέτει και αφαιρεί θόρυβο από μια εικόνα. Πηγή: Diffusion Models in Vision: A Survey

1. Μοντέλα Διάχυσης με Αποθόρυβωση (DDPMs)

Όπως εξηγήθηκε παραπάνω, τα DDPMs είναι γενετικά μοντέλα που χρησιμοποιούνται κυρίως για την αφαίρεση θορύβου από οπτικά ή ηχητικά δεδομένα. Έχουν δείξει εντυπωσιακά αποτελέσματα σε διάφορες εργασίες αποθόρυβωσης εικόνων και ήχου. Για παράδειγμα, η βιομηχανία κινηματογράφου χρησιμοποιεί σύγχρονα εργαλεία επεξεργασίας εικόνων και βίντεο για να βελτιώσει την ποιότητα παραγωγής.

2. Μοντέλα με Βαθμό Θορύβου και Βασισμένα σε Σκορ (SGMs)

Τα SGMs μπορούν να παράγουν νέα δείγματα από μια δεδομένη κατανομή. Λειτουργούν μαθαίνοντας μια εκτίμηση της συνάρτησης σκορ που μπορεί να εκτιμήσει την λογαριθμική πυκνότητα της στόχου κατανομής. Η εκτίμηση της λογαριθμικής πυκνότητας κάνει υποθέσεις για διαθέσιμους δεδομένα που είναι μέρος ενός άγνωστου συνόλου (τεστ συνόλου). Αυτή η συνάρτηση σκορ μπορεί στη συνέχεια να παράγει νέα δεδομένα από την κατανομή.

Για παράδειγμα, τα deepfakes είναι γνωστά για την παραγωγή ψευδών βίντεο και ήχων διάσημων προσωπικοτήτων. Αλλά συνήθως αποδίδονται στα Δίκτυα Αντιπαλότητας Γενετικών Μοντέλων (GANs). Ωστόσο, τα SGMs έχουν δείξει παρόμοιες ικανότητες – μερικές φορές υπερβαίνουν – στην παραγωγή υψηλής ποιότητας προσωπικών εικόνων. Επίσης, τα SGMs μπορούν να βοηθήσουν στην επέκταση των συνόλων δεδομένων υγείας, τα οποία δεν είναι εύκολα διαθέσιμα σε μεγάλες ποσότητες λόγω αυστηρών κανονισμών και βιομηχανικών προτύπων.

3. Στοχαστικές Διαφορικές Εξισώσεις (SDEs)

Οι SDEs περιγράφουν τις αλλαγές σε τυχαίες διαδικασίες σχετικά με τον χρόνο. Χρησιμοποιούνται ευρέως στη φυσική και τις χρηματοοικονομικές αγορές που εμπλέκονται τυχαίοι παράγοντες που επηρεάζουν σημαντικά τα αποτελέσματα της αγοράς.

Για παράδειγμα, οι τιμές των εμπορευμάτων είναι εξαιρετικά δυναμικές και επηρεάζονται από μια σειρά τυχαίων παραγόντων. Οι SDEs υπολογίζουν χρηματοοικονομικές παράγωγες όπως συμβόλαια μελλοντικής εκπλήρωσης (όπως συμβόλαια πετρελαίου). Μπορούν να μοντελοποιήσουν τις διακυμάνσεις και να υπολογίσουν ακριβείς τιμές για να δώσουν μια αίσθηση ασφάλειας.

Κύριες Εφαρμογές Μοντέλων Διάχυσης στην Τεχνητή Νοημοσύνη

Ας δούμε μερικές ευρέως διαδεδομένες πρακτικές και χρήσεις των μοντέλων διάχυσης στην τεχνητή νοημοσύνη.

Παραγωγή Υψηλής Ποιότητας Βίντεο

Η δημιουργία υψηλής ποιότητας βίντεο χρησιμοποιώντας βαθιά μάθηση είναι μια πρόκληση, καθώς απαιτεί υψηλή συνέχεια των καρέ του βίντεο. Αυτό είναι όπου τα μοντέλα διάχυσης έρχονται στο στάδιο, καθώς μπορούν να παράγουν ένα υποσύνολο καρέ βίντεο για να συμπληρώσουν τα λείποντα καρέ, με αποτέλεσμα υψηλής ποιότητας και ομαλά βίντεο χωρίς καθυστέρηση.

Ερευνητές έχουν αναπτύξει τις τεχνικές Εύκαμπτο Μοντέλο Διάχυσης και Υπόλοιπο Βίντεο Διάχυσης για να εξυπηρετήσουν αυτόν τον σκοπό. Αυτά τα μοντέλα μπορούν επίσης να παράγουν ρεαλιστικά βίντεο με την αβίαστη προσθήκη καρέ που παράγονται από την τεχνητή νοημοσύνη μεταξύ των πραγματικών καρέ.

Αυτά τα μοντέλα μπορούν απλά να επεκτείνουν τα καρέ ανά δευτερόλεπτο (FPS) ενός βίντεο με χαμηλά FPS, προσθέτοντας ψευδείς καρέ μετά την εκμάθηση των προτύπων από τα διαθέσιμα καρέ. Με σχεδόν καμία απώλεια καρέ, αυτά τα πλαίσια μπορούν να βοηθήσουν τα μοντέλα βαθιάς μάθησης να παράγουν βίντεο που παράγονται από την τεχνητή νοημοσύνη από την αρχή, τα οποία μοιάζουν με φυσικά πλάνα από υψηλής ποιότητας κάμερες.

Μια ευρεία γκάμα εξαιρετικών γενераторών βίντεο AI είναι διαθέσιμη το 2023 για να κάνει την παραγωγή και την επεξεργασία βίντεο γρήγορη και απλή.

Γενετική Παραγωγή Εικόνων από Κείμενο

Τα μοντέλα εικόνων από κείμενο χρησιμοποιούν εισαγωγικές προτάσεις για να παράγουν υψηλής ποιότητας εικόνες. Για παράδειγμα, δίνοντας την είσοδο “κόκκινο μήλο σε ένα πιάτο” και παράγοντας μια φωτορεαλιστική εικόνα ενός μήλου σε ένα πιάτο. Διάχυση με ανάμιξη και unCLIP είναι δύο εξέχοντα παραδείγματα τέτοιων μοντέλων που μπορούν να παράγουν υψηλά σχετικά και ακριβή εικόνες με βάση την είσοδο του χρήστη.

Επίσης, το GLIDE από την OpenAI είναι ένα άλλο ευρέως γνωστό λύση που κυκλοφόρησε το 2021 και παράγει φωτορεαλιστικές εικόνες χρησιμοποιώντας την είσοδο του χρήστη. Αργότερα, η OpenAI κυκλοφόρησε το DALL.E-2, το πιο προηγμένο μοντέλο γενετικής εικόνας μέχρι σήμερα.

Ομοίως, η Google έχει αναπτύξει ένα μοντέλο γενετικής εικόνας που ονομάζεται Imagen, το οποίο χρησιμοποιεί ένα μεγάλο γλωσσικό μοντέλο για να αναπτύξει μια βαθιά γλωσσική κατανόηση της εισαγωγικής πρότασης και στη συνέχεια παράγει φωτορεαλιστικές εικόνες.

Έχουμε αναφέρει άλλα δημοφιλή εργαλεία γενετικής εικόνας όπως το Midjourney και το Stable Diffusion (DreamStudio) παραπάνω. Δείτε μια εικόνα που δημιουργήθηκε με το Stable Diffusion παρακάτω.

Μια εικόνα που δημιουργήθηκε με το Stable Diffusion 1.5

Μια εικόνα που δημιουργήθηκε με το Stable Diffusion 1.5 χρησιμοποιώντας την πρόταση: «κολάζ, υπερ-ρεαλιστικό, πολλές παραλλαγές πορτρέτο του πολύ μεγάλου Thom Yorke, παραλλαγές προσώπου, τραγουδιστής-τραγουδοποιός, (πλευρική) προβολή, διάφορες ηλικίες, μακροοbject, liminal χώρος, από Lee Bermejo, Alphonse Mucha και Greg Rutkowski, γκρίζος πηγουνιάς, λεία πρόσωπο, ζυγωματικά».

Μοντέλα Διάχυσης στην Τεχνητή Νοημοσύνη – Τι να Περιμένουμε στο Μέλλον;

Τα μοντέλα διάχυσης έχουν αποκαλύψει υποσχόμενη δυνατότητα ως μια ισχυρή προσέγγιση για την παραγωγή υψηλής ποιότητας δειγμάτων από σύνθετα σύνολα εικόνων και βίντεο. Βελτιώνοντας την ικανότητα των ανθρώπων να χρησιμοποιούν και να χειρίζονται δεδομένα, τα μοντέλα διάχυσης μπορούν να επαναφέρουν τον κόσμο όπως τον βλέπουμε σήμερα. Μπορούμε να περιμένουμε να δούμε ακόμα περισσότερες εφαρμογές των μοντέλων διάχυσης να γίνονται αναπόσπαστο μέρος της καθημερινής μας ζωής.

Έχοντας dicho, τα μοντέλα διάχυσης δεν είναι η μόνη τεχνική γενετικής τεχνητής νοημοσύνης. Οι ερευνητές χρησιμοποιούν επίσης Δίκτυα Αντιπαλότητας Γενετικών Μοντέλων (GANs), Παραλλαγμένα Αυτοκωδικοποιητές και ροή-βασισμένα βαθιά γενετικά μοντέλα για να παράγουν περιεχόμενο AI. Η κατανόηση των θεμελιωδών χαρακτηριστικών που διακρίνουν τα μοντέλα διάχυσης από άλλα γενετικά μοντέλα μπορεί να βοηθήσει στην παραγωγή πιο αποτελεσματικών λύσεων στις επόμενες μέρες.

Για να μάθετε περισσότερα για τεχνολογίες βασισμένες στην τεχνητή νοημοσύνη, επισκεφθείτε Unite.ai. Δείτε τις επιλεγμένες μας πηγές για εργαλεία γενετικής τεχνητής νοημοσύνης παρακάτω.

Haziqa είναι ένας Επιστήμονας Δεδομένων με εκτεταμένη εμπειρία στη συγγραφή τεχνικού περιεχομένου για εταιρείες AI και SaaS.