Οι Κόστοι Εκπαίδευσης του AI Συνεχίζουν να Πετούν

Οι υψηλοί κόστοι εκπαίδευσης του AI έχουν αποτελέσει ένα σημαντικό εμπόδιο για την υιοθέτηση του AI, εμποδίζοντας πολλές εταιρείες από την εφαρμογή της τεχνολογίας του AI. Σύμφωνα με μια έκθεση του Forrester Consulting του 2017, το 48% των εταιρειών υπογράμμισε τους υψηλούς τεχνολογικούς κόσους ως einen από τους κύριους λόγους για τους οποίους δεν εφαρμόζουν λύσεις που βασίζονται στο AI.

Ωστόσο, πρόσφατες εξελίξεις έχουν δείξει ότι οι κόστοι εκπαίδευσης του AI μειώνονται ταχύτατα και αυτή η τάση αναμένεται να συνεχιστεί στο μέλλον. Σύμφωνα με την έκθεση ARK Invest Big Ideas 2023, οι κόστοι εκπαίδευσης ενός μεγάλου μοντέλου γλώσσας παρόμοιου με το GPT-3 έχουν μειωθεί από 4,6 εκατομμύρια δολάρια το 2020 σε 450.000 δολάρια το 2022, μια μείωση της τάξης του 70% ανά έτος.

Ας εξερευνήσουμε αυτήν την τάση της μείωσης των κοστών εκπαίδευσης του AI και συζητήσουμε τους παράγοντες που συμβάλλουν σε αυτήν τη μείωση.

Πώς Έχουν Μεταβληθεί οι Κόστοι Εκπαίδευσης του AI με το Πέρασμα του Χρόνου;

Σύμφωνα με την έρευνα της ARK Invest του 2020, ο κόστος εκπαίδευσης μοντέλων βαθιάς μάθησης βελτιώνεται 50 φορές πιο γρήγορα από τον νόμο του Moore. Πράγματι, το έξοδο που συνδέεται με την εκτέλεση eines συστήματος inference του AI έχει μειωθεί δραματικά σε σχεδόν μηδενικά επίπεδα για πολλές περιπτώσεις χρήσης.

Επιπλέον, οι κόστοι εκπαίδευσης έχουν μειωθεί δέκα φορές ετησίως τα τελευταία χρόνια. Για παράδειγμα, το 2017, η εκπαίδευση ενός ταξινομητή εικόνων όπως το ResNet-50 σε一个 δημόσιο cloud κόστιζε περίπου 1.000 δολάρια, αλλά μέχρι το 2019, το κόστος είχε μειωθεί σημαντικά σε περίπου 10 δολάρια.

Αυτά τα ευρήματα συμφωνούν με μια έκθεση της OpenAI του 2020, η οποία βρήκε ότι η ποσότητα της υπολογιστικής ισχύος που απαιτείται για την εκπαίδευση ενός μοντέλου του AI για την εκτέλεση της ίδιας εργασίας έχει μειωθεί με έναν παράγοντα δύο κάθε 16 μήνες από το 2012.

Επιπλέον, η έκθεση της ARK υπογραμμίζει τους μειωμένους κόσους εκπαίδευσης του AI. Η έκθεση προβλέπει ότι μέχρι το 2030, ο κόστος εκπαίδευσης ενός μοντέλου του GPT-3 θα μειωθεί σε 30 δολάρια, σε σύγκριση με 450.000 δολάρια το 2022.

Κόστος εκπαίδευσης μοντέλου GPT-3 – ARK Invest Big Ideas 2023

Παράγοντες που Συμβάλλουν στη Μείωση των Κοστών Εκπαίδευσης του AI

Η εκπαίδευση μοντέλων του AI γίνεται φθηνότερη και πιο εύκολη καθώς οι τεχνολογίες του AI συνεχίζουν να βελτιώνονται, καθιστώντας τις πιο προσιτές σε ένα ευρύτερο φάσμα επιχειρήσεων. Πολλοί παράγοντες, συμπεριλαμβανομένων των κοστών υλικού και λογισμικού και του cloud-based AI, έχουν συμβάλλει στη μείωση των κοστών εκπαίδευσης του AI.

Ας εξερευνήσουμε αυτούς τους παράγοντες παρακάτω.

1. Υλικό

Το AI απαιτεί εξειδικευμένο υλικό υψηλής ποιότητας για την επεξεργασία μεγάλων όγκων δεδομένων και υπολογισμών. Οι οργανισμοί όπως η NVIDIA, η IBM και η Google παρέχουν GPU και TPU για την εκτέλεση υψηλής απόδοσης υπολογισμών (HPC). Οι υψηλοί κόστοι του υλικού καθιστούν δύσκολο τον δημοκρατισμό του AI σε μεγάλη κλίμακα.

Ωστόσο, καθώς η τεχνολογία προχωρά, οι κόστοι του υλικού μειώνονται. Σύμφωνα με την έκθεση της ARK Invest 2023, ο νόμος του Wright προβλέπει ότι οι κόστοι παραγωγής μονάδων υπολογισμού AI (RCU) πρέπει να μειωθούν κατά 57% ετησίως, οδηγώντας σε μια μείωση των κοστών εκπαίδευσης του AI κατά 70% μέχρι το 2030, όπως φαίνεται στο παρακάτω γράφημα.

Κόστος υλικού εκπαίδευσης του AI – ARK Invest Big Ideas 2023

2. Λογισμικό

Οι κόστοι εκπαίδευσης λογισμικού του AI μπορούν να μειωθούν κατά 47% ετησίως μέσω αυξημένης αποδοτικότητας και κλιμάκωσης. Πλαίσια λογισμικού όπως το TensorFlow και το PyTorch επιτρέπουν στους développers να εκπαιδεύουν σύνθετα μοντέλα βαθιάς μάθησης σε διανεμημένα συστήματα με υψηλή απόδοση, εξοικονομώντας χρόνο και πόρους.

Επιπλέον, μεγάλα προ-εκπαιδευμένα μοντέλα όπως το Inceptionv3 ή το ResNet και τεχνικές μεταφορά μάθησης βοηθούν επίσης στη μείωση των κοστών, επιτρέποντας στους développers να βελτιστοποιούν υπάρχοντα μοντέλα αντί να τα εκπαιδεύουν από την αρχή.

Κόστος εκπαίδευσης λογισμικού του AI – ARK Invest Big Ideas 2023

3. Cloud-Based Τεχνική του AI

Η εκπαίδευση του AI με βάση το cloud μειώνει τους κόσους παρέχοντας κλιμακωτές υπολογιστικές πόρους κατά παραγγελία. Με το μοντέλο pay-as-you-go, οι επιχειρήσεις πληρώνουν μόνο για τους υπολογιστικούς πόρους τους. Επίσης, οι παρόχοι cloud προσφέρουν προ-κατασκευασμένες υπηρεσίες του AI που επιταχύνουν την εκπαίδευση του AI.

Για παράδειγμα, το Azure Machine Learning είναι μια υπηρεσία cloud για προβλέψιμη ανάλυση που επιτρέπει τη γρήγορη ανάπτυξη και εφαρμογή μοντέλων. Προσφέρει εύκαμπτους υπολογιστικούς πόρους και μνήμη. Οι χρήστες μπορούν να κλιμακώσουν έως χιλιάδες GPU γρήγορα για να αυξήσουν την υπολογιστική τους απόδοση. Επιτρέπει στους χρήστες να εργάζονται μέσω του προγράμματος περιήγησης στο internet σε προ-διαμορφωμένα περιβάλλοντα του AI, εξαλείφοντας την εγκατάσταση και την εγκατάσταση.

Η Επίδραση της Μείωσης των Κοστών Εκπαίδευσης του AI

Η μείωση των κοστών εκπαίδευσης του AI έχει σημαντικές επιπτώσεις για διάφορους κλάδους και πεδία, οδηγώντας σε βελτιωμένη καινοτομία και ανταγωνιστικότητα.

Ας συζητήσουμε κάποια από αυτά παρακάτω.

1. Μαζική Υιοθέτηση Σοφιστικών Chatbots του AI

Τα chatbots του AI είναι σε άνοδο λόγω της μείωσης των κοστών του AI. Ειδικά μετά την ανάπτυξη του ChatGPT και του GPT-4 (Generative Pre-trained Transformer) της OpenAI, έχει υπάρξει μια αξιοσημείωτη αύξηση στον αριθμό των εταιρειών που επιδιώκουν να αναπτύξουν chatbots του AI με παρόμοιες ή καλύτερες ικανότητες.

Για παράδειγμα, πέντε ημέρες μετά την κυκλοφορία του τον Νοέμβριο του 2022, το ChatGPT συγκέντρωσε 1 εκατομμύριο χρήστες. Αν και σήμερα, το κόστος για την εκτέλεση του μοντέλου σε κλίμακα είναι περίπου 0,01 δολάρια ανά ερώτηση, ο νόμος του Wright προβλέπει ότι μέχρι το 2030, οι εφαρμογές chatbot παρόμοιες με το ChatGPT θα είναι αναπτυγμένες σε μια τεράστια κλίμακα πολύ φθηνότερα (εκτιμώμενο 650 δολάρια για την εκτέλεση ενός δισεκατομμυρίου ερωτήσεων), με τη δυνατότητα να επεξεργαστούν 8,5 δισεκατομμύρια αναζητήσεις την ημέρα, ισοδύναμο με την αναζήτηση του Google.

Κόστος εκτέλεσης ερωτήσεων του AI ανά δισεκατομμύριο ερωτήσεων – ARK Invest Big Ideas 2023

2. Αυξημένη Χρήση Γεννητικού AI

Η μείωση των κοστών εκπαίδευσης του AI έχει οδηγήσει σε μια αύξηση της ανάπτυξης και εφαρμογής τεχνολογιών γεννητικού AI. Το 2022, υπήρξε μια σημαντική αύξηση στη χρήση του γεννητικού AI, οδηγούμενη από την εισαγωγή καινοτόμων εργαλείων γεννητικού AI, όπως το DALL-E 2, το Meta Make-A-Video και το Stable Diffusion. Το 2023, abbiamo ήδη μαρτυρήσει ένα πρωτοποριακό μοντέλο στη μορφή του GPT-4.

Εκτός από τη γεννήση εικόνων και κειμένου, το γεννητικό AI βοηθά τους développers να γράφουν κώδικα. Προγράμματα όπως το GitHub Copilot μπορούν να βοηθήσουν στην ολοκλήρωση μιας εργασίας κωδικοποίησης σε μισό χρόνο.

Χρόνος ολοκλήρωσης εργασιών κωδικοποίησης – ARK Invest Big Ideas 2023

3. Καλύτερη Χρήση Δεδομένων Εκπαίδευσης

Η μείωση των κοστών εκπαίδευσης του AI αναμένεται να επιτρέψει μια καλύτερη χρήση των δεδομένων εκπαίδευσης του AI. Για παράδειγμα, η έκθεση της ARK Invest 2023 προβλέπει ότι μέχρι το 2030, το κόστος εκπαίδευσης ενός μοντέλου με 57 φορές περισσότερους παραμέτρους και 720 φορές περισσότερους tokens από το GPT-3 (175 δισεκατομμύρια παραμέτρους) θα μειωθεί από 17 δισεκατομμύρια δολάρια σε 600.000 δολάρια.

Η διαθεσιμότητα και η ποιότητα των δεδομένων θα είναι ο πρωταρχικός περιορισμός για την ανάπτυξη προηγμένων μοντέλων μάθησης σε αυτόν τον κόσμο χαμηλού κόστους υπολογισμών. Ωστόσο, τα μοντέλα εκπαίδευσης θα αναπτύξουν την ικανότητα να επεξεργαστούν περίπου 162 τρισεκατομμύρια λέξεις ή 216 τρισεκατομμύρια tokens.

Το μέλλον του AI φαίνεται πολύ υποσχόμενο. Για να μάθετε περισσότερα για τις τελευταίες τάσεις και έρευνες στον τομέα της τεχνητής νοημοσύνης, επισκεφθείτε Unite.ai.