Οι προγραμματιστές δημιουργούν λογισμικό ανοιχτού κώδικα για να βοηθήσουν τους ερευνητές της τεχνητής νοημοσύνης να μειώσουν το αποτύπωμα άνθρακα

Μια ομάδα διεθνών ερευνητών τεχνητής νοημοσύνης και επιστημόνων δεδομένων συνεργάστηκε για να σχεδιάσει λογισμικό ικανό να εκτιμήσει το αποτύπωμα άνθρακα των υπολογιστικών λειτουργιών. Το πακέτο λογισμικού ανοιχτού κώδικα, που ονομάζεται CodeCarbo, σχεδιάστηκε από μια κοινοπραξία εταιρειών τεχνητής νοημοσύνης και επιστήμης δεδομένων. Η ελπίδα είναι ότι το λογισμικό θα επιτρέψει και θα δώσει κίνητρα στους προγραμματιστές να κάνουν τον κώδικά τους πιο αποτελεσματικό και να μειώσουν την ποσότητα CO2 που παράγεται από τη χρήση υπολογιστικών πόρων.

Μείωση του αποτυπώματος άνθρακα

Σύμφωνα με το ITP, το νέο πακέτο λογισμικού CodeCarbon αναπτύχθηκε από μια ομάδα ερευνητικών ομάδων τεχνητής νοημοσύνης με επικεφαλής την ερευνητική εταιρεία τεχνητής νοημοσύνης Mila, μαζί με το Comet.ml, το Haverford College στην Πενσυλβάνια και το GAMMA. Όχι μόνο το λογισμικό εκτιμά την ποσότητα CO2 που παράγεται από τη χρήση υπολογιστικών πόρων, αλλά παρέχει επίσης στους προγραμματιστές συμβουλές για τη μείωση του ενεργειακού αποτυπώματος άνθρακα.

Εκπαίδευση μοντέλων AI μπορεί να απαιτήσει πολλή ενέργεια. Όπως εξηγεί η ArsTechnica, ερευνητές από το Πανεπιστήμιο της Μασαχουσέτης Amherst εκτίμησαν το συνολικό κόστος δημιουργίας και εκπαίδευσης ορισμένων μοντέλων AI και η ομάδα διαπίστωσε ότι η εκπαίδευση του δικτύου φυσικής γλώσσας BERT παρήγαγε κάποτε περίπου τόσο άνθρακα όσο μια πτήση μετ' επιστροφής μεταξύ Σαν Φρανσίσκο και Νέας Υόρκης. Εν τω μεταξύ, η εκπαίδευση του μοντέλου πολλές φορές μέχρι να βελτιστοποιηθεί θα μπορούσε να δημιουργήσει τόσο CO2 όσο 315 διαφορετικοί επιβάτες που πραγματοποιούν την ίδια πτήση.

Γιατί ακριβώς τα μοντέλα τεχνητής νοημοσύνης καταναλώνουν τόση πολλή ενέργεια και παράγουν τόσο πολύ CO2 ως υποπροϊόν; Μέρος της απάντησης έγκειται στον τρόπο με τον οποίο εκπαιδεύονται και βελτιστοποιούνται τα μοντέλα AI. Για να επιτύχουν έστω και μικρές βελτιώσεις σε σχέση με τους υπάρχοντες αλγόριθμους αιχμής, οι ερευνητές AI μπορεί να εκπαιδεύσουν το μοντέλο τους χιλιάδες φορές, κάνοντας μικρές τροποποιήσεις στο μοντέλο κάθε φορά μέχρι να ανακαλυφθεί μια βέλτιστη αρχιτεκτονική μοντέλου.

Τα μοντέλα τεχνητής νοημοσύνης αυξάνονται επίσης σε μέγεθος συνεχώς και γίνονται πιο πολύπλοκα κάθε χρόνο.

Οι πιο ισχυροί αλγόριθμοι μηχανικής εκμάθησης και μοντέλα όπως οι GPT-3, BERT και VGG, έχουν εκατομμύρια παραμέτρους και εκπαιδεύονται για εβδομάδες κάθε φορά, που ανέρχονται σε εκατοντάδες ή χιλιάδες ώρες εκπαίδευσης. Το GPT-2 είχε περίπου 1.5 δισεκατομμύρια παραμέτρους εντός του δικτύου, ενώ το GPT-3 έχει περίπου 175 δισεκατομμύρια βάρη. Αυτό καταλήγει να χρησιμοποιεί εκατοντάδες κιλά CO2.

CodeCarbon

Το CodeCarbon διαθέτει μια μονάδα μηχανισμού παρακολούθησης που καταγράφει την ποσότητα ενέργειας που χρησιμοποιείται από τους παρόχους cloud και τα κέντρα δεδομένων. Στη συνέχεια, το σύστημα χρησιμοποιεί δεδομένα που αντλούνται από δημοσίως διαθέσιμες πηγές για να εκτιμήσει τον όγκο του CO2 που παράγεται, ελέγχοντας στατιστικά στοιχεία από το ηλεκτρικό δίκτυο στο οποίο είναι συνδεδεμένο το υλικό. Ο ιχνηλάτης εκτιμά το CO2 που παράγεται για κάθε πείραμα χρησιμοποιώντας μια συγκεκριμένη μονάδα AI, αποθηκεύοντας τα δεδομένα εκπομπών τόσο για τα έργα όσο και για ολόκληρο τον οργανισμό.

Ο ιδρυτής της Mila, Yohua Bengio, εξήγησε ότι ενώ η τεχνητή νοημοσύνη είναι ένα απίστευτα ισχυρό εργαλείο που μπορεί να αντιμετωπίσει πολλά προβλήματα, συχνά απαιτεί σημαντική ποσότητα ισχύος υπολογιστή. Ο Sylvian Duranton, Διευθύνων Σύμβουλος του Boston Consulting Group, υποστήριξε ότι η πληροφορική και η τεχνητή νοημοσύνη θα συνεχίσουν να αναπτύσσονται με εκθετικούς ρυθμούς σε όλο τον κόσμο. Η ιδέα είναι ότι το CodeCarbon θα βοηθήσει την τεχνητή νοημοσύνη και τις εταιρείες υπολογιστών να περιορίσουν το αποτύπωμα άνθρακα καθώς συνεχίζουν να αναπτύσσονται. Το CodeCarbon θα δημιουργήσει έναν πίνακα εργαλείων που θα επιτρέπει στις εταιρείες να βλέπουν εύκολα την ποσότητα των εκπομπών που παράγονται από την εκπαίδευση των μοντέλων μηχανικής εκμάθησης τους. Θα αντιπροσωπεύει επίσης τις εκπομπές σε μετρήσεις που μπορούν εύκολα να κατανοήσουν οι προγραμματιστές, όπως μίλια που διανύονται σε αυτοκίνητο, ώρες παρακολούθησης τηλεόρασης και τυπική κατανάλωση ενέργειας από ένα νοικοκυριό στις ΗΠΑ.

Οι προγραμματιστές του CodeCarbon αναμένουν ότι το λογισμικό όχι μόνο θα ενθαρρύνει τους ερευνητές της τεχνητής νοημοσύνης να προσπαθήσουν να μειώσουν το δικό τους αποτύπωμα άνθρακα, αλλά ότι θα ενθαρρύνει μεγαλύτερη διαφάνεια σχετικά με τις εκπομπές συνολικά. Οι προγραμματιστές θα μπορούν να ποσοτικοποιούν και να αναφέρουν τις εκπομπές που παράγονται από μια σειρά διαφορετικών πειραμάτων τεχνητής νοημοσύνης και υπολογιστών. Η ομάδα που είναι υπεύθυνη για τη δημιουργία του CodeCarbon ελπίζει ότι άλλοι προγραμματιστές θα χρησιμοποιήσουν το εργαλείο ανοιχτού κώδικα και θα το βελτιώσουν με νέες δυνατότητες που θα βοηθήσουν τους μηχανικούς και τους ερευνητές AI να περιορίσουν τον περιβαλλοντικό τους αντίκτυπο ακόμη περισσότερο.