Εργαλεία ΤΝ 101

Ολοκληρωμένος οδηγός για αρχάριους στα εργαλεία LLM της Hugging Face

Aayush Mittal
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
HUGGING FACE - COMPLETE GUIDE
Βασικά σημείαΤο Hugging Face εκδημοκρατεύει την τεχνητή νοημοσύνη με εργαλεία ανοιχτού κώδικα, όπως…
Δείτε περισσότερα
  • Το Hugging Face εκδημοκρατεύει την τεχνητή νοημοσύνη με εργαλεία ανοιχτού κώδικα, όπως οι αγωγοί (pipelines), που απλοποιούν πολύπλοκες εργασίες επεξεργασίας φυσικής γλώσσας (NLP).
  • Η μετάβαση της πλατφόρμας στη Rust, μέσα σε πλαίσια όπως το Candle, στοχεύει στην ενίσχυση της απόδοσης και στην ενεργοποίηση συμπερασμάτων (inference) χωρίς διακομιστή (serverless).
  • Το Hugging Face παρέχει προ-εκπαιδευμένα μοντέλα και σύνολα δεδομένων για να ξεκινήσετε γρήγορα έργα, χωρίς την απαιτητική και δαπανηρή ανάπτυξη από το μηδέν.

Η Hugging Face είναι ένα εργαστήριο έρευνας και κέντρο που έχει δημιουργήσει μια κοινότητα μελετητών, ερευνητών και ενθουσιωδών. Σε σύντομο χρονικό διάστημα, η Hugging Face έχει αποκτήσει σημαντική παρουσία στον χώρο του AI. Οι τεχνολογικοί γίγαντες συμπεριλαμβανομένων των Google (GOOGL ), Amazon (AMZN ) και Nvidia (NVDA ) έχουν ενισχύσει την startup Hugging Face με σημαντικές επενδύσεις, ανεβάζοντας την αποτίμησή της στα $4.5 δισεκατομμύρια.

Σε αυτόν τον οδηγό, θα σας εισαγάγουμε στους μετασχηματιστές, τα LLM και τον τρόπο με τον οποίο η βιβλιοθήκη Hugging Face παίζει σημαντικό ρόλο στη δημιουργία μιας ανοιχτής κοινότητας AI. Θα σας οδηγήσουμε επίσης μέσω των βασικών χαρακτηριστικών της Hugging Face, συμπεριλαμβανομένων των pipelines, των datasets, των μοντέλων και πολλών άλλων, με πρακτικά παραδείγματα Python.

Μετασχηματιστές στο NLP

Το 2017, το Πανεπιστήμιο Κορνέλ δημοσίευσε μια σημαντική δημοσίευση που εισήγαγε μετασχηματιστές. Αυτά είναι μοντέλα βαθιάς μάθησης που χρησιμοποιούνται στο NLP. Αυτή η ανακάλυψη κατέστησε δυνατή την ανάπτυξη μεγάλων μοντέλων γλώσσας όπως το ChatGPT.

Τα μεγάλα μοντέλα γλώσσας ή LLM είναι συστήματα AI που χρησιμοποιούν μετασχηματιστές για να κατανοήσουν και να δημιουργήσουν κείμενο που μοιάζει με αυτό των ανθρώπων. Ωστόσο, η δημιουργία αυτών των μοντέλων είναι ακριβή, συχνά απαιτώντας εκατομμύρια δολάρια, που περιορίζει την πρόσβασή τους σε μεγάλες εταιρείες.

Hugging Face, που ιδρύθηκε το 2016, στοχεύει να κάνει τα μοντέλα NLP προσιτά σε όλους. Παρότι είναι μια εμπορική εταιρεία, προσφέρει μια σειρά από πόρους ανοιχτού κώδικα που βοηθούν τους ανθρώπους και τις οργανώσεις να χτίσουν και να χρησιμοποιήσουν μοντέλα μετασχηματιστών με οικονομικά προσιτό τρόπο. Η μηχανική μάθηση αφορά την διδασκαλία των υπολογιστών να εκτελούν εργασίες αναγνωρίζοντας μοτίβα, ενώ η βαθιά μάθηση, ένα υποσύνολο της μηχανικής μάθησης, δημιουργεί ένα δίκτυο που μαθαίνει ανεξάρτητα. Οι μετασχηματιστές είναι ένας τύπος αρχιτεκτονικής βαθιάς μάθησης που χρησιμοποιεί αποτελεσματικά και ευέλικτα τα δεδομένα εισόδου, καθιστώντας τους μια δημοφιλή επιλογή για την κατασκευή μεγάλων μοντέλων γλώσσας λόγω των μικρότερων απαιτήσεων χρόνου εκπαίδευσης.

Πώς η Hugging διευκολύνει τα Έργα NLP και LLM

Hugging face Ecosystem - Models, dataset, metrics, transformers, accelerate, tokenizers

Η Hugging Face έχει κάνει την εργασία με τα LLM πιο απλή προσφέροντας:

  1. Μια σειρά από προ-εκπαιδευμένα μοντέλα για επιλογή.
  2. Εργαλεία και παραδείγματα για την προσαρμογή αυτών των μοντέλων σύμφωνα με τις συγκεκριμένες ανάγκες σας.
  3. Εύκολες επιλογές ανάπτυξης για διάφορα περιβάλλοντα.

Μια εξαιρετική πηγή που είναι διαθέσιμη μέσω της Hugging Face είναι το Ανοιχτό Leaderboard LLM. Λειτουργώντας ως μια ολοκληρωμένη πλατφόρμα, παρακολουθεί συστηματικά, κατατάσσει και αξιολογεί την αποτελεσματικότητα μιας σειράς Μεγάλων Μοντέλων Γλώσσας (LLM) και chatbots, παρέχοντας μια τεκμηριωμένη ανάλυση των προόδων στον ανοιχτό κώδικα.
Η αξιολόγηση χρησιμοποιεί τέσσερα τεστ:

  • AI2 Reasoning Challenge (25-shot): ερωτήσεις από τη διδακτέα ύλη των φυσικών επιστημών στο δημοτικό.
  • HellaSwag (10-shot): τεστ συμπερασμού κοινής λογικής, απλό για τους ανθρώπους αλλά δύσκολο για προηγμένα μοντέλα.
  • MMLU (5-shot): αξιολόγηση σε 57 πεδία, μεταξύ άλλων βασικά μαθηματικά, νομική και πληροφορική.
  • TruthfulQA (0-shot): μετρά την τάση αναπαραγωγής παραπληροφόρησης που συναντάται συχνά στο διαδίκτυο.

Οι όροι «25-shot», «10-shot», «5-shot» και «0-shot» δείχνουν πόσα παραδείγματα δίνονται στο prompt κατά την αξιολόγηση. Στο few-shot, λίγα παραδείγματα καθοδηγούν την απάντηση. Στο zero-shot δεν δίνονται παραδείγματα και το μοντέλο βασίζεται στις ήδη αποκτημένες γνώσεις του.

Συστατικά της Hugging

Pipelines

Τα pipelines είναι μέρος της βιβλιοθήκης Transformers της Hugging Face – μια λειτουργία που βοηθά στην εύκολη χρήση προ-εκπαιδευμένων μοντέλων που είναι διαθέσιμα στο αποθετήριο της Hugging Face. Παρέχει ένα εύχρηστο API για μια σειρά από εργασίες, συμπεριλαμβανομένης της ανάλυσης συναισθήματος, της απάντησης σε ερωτήσεις, της μοντελοποίησης γλώσσας με μάσκα, της αναγνώρισης ονομάτων οντοτήτων και της περίληψης.
Τα pipelines συνδυάζουν τρία βασικά συστατικά:

  1. Tokenizer: μετατρέπει το κείμενο σε μορφή κατανοητή από το μοντέλο.
  2. Μοντέλο: παράγει προβλέψεις από την προεπεξεργασμένη είσοδο.
  3. Μετεπεξεργαστής: μετατρέπει τις ακατέργαστες προβλέψεις σε αναγνώσιμη μορφή.

Έτσι μειώνεται ο απαιτούμενος κώδικας και παρέχεται εύχρηστη διεπαφή για εργασίες NLP.

Εφαρμογές Μετασχηματιστών με τη Βιβλιοθήκη Hugging

Ένα από τα χαρακτηριστικά της βιβλιοθήκης Hugging Face είναι η βιβλιοθήκη Transformers, η οποία απλοποιεί τις εργασίες NLP συνδέοντας ένα μοντέλο με τις απαραίτητες προ- και μετα-επεξεργασίες, διευκολύνοντας τη διαδικασία ανάλυσης. Για να εγκαταστήσετε και να εισαγάγετε τη βιβλιοθήκη, χρησιμοποιήστε τις ακόλουθες εντολές:

pip install -q transformers
from transformers import pipeline

Μετά την εγκατάσταση, μπορείτε να ξεκινήσετε με ανάλυση συναισθήματος, ταξινομώντας κείμενα ως θετικά ή αρνητικά. Η pipeline() παρέχει πρόσβαση και σε εργασίες ήχου, εικόνας και πολυτροπικών δεδομένων.

Πρακτικές Εφαρμογές

Κατηγοριοποίηση Κειμένου

Η κατηγοριοποίηση κειμένου γίνεται εύκολη με τη συνάρτηση pipeline() της Hugging Face. Εδώ είναι πώς μπορείτε να ξεκινήσετε μια διαδικασία κατηγοριοποίησης κειμένου:

classifier = pipeline("text-classification")

Δώστε ένα κείμενο ή λίστα κειμένων στο pipeline για προβλέψεις, που μπορούν να οπτικοποιηθούν με την Pandas. Το παράδειγμα εμφανίζει την ετικέτα και τη βαθμολογία για κάθε πρόταση:

sentences = ["I am thrilled to introduce you to the wonderful world of AI.",
"Hopefully, it won't disappoint you."]

# Get classification results for each sentence in the list
results = classifier(sentences)

# Loop through each result and print the label and score
for i, result in enumerate(results):
    print(f"Result {i + 1}:")
    print(f" Label: {result['label']}")
    print(f" Score: {round(result['score'], 3)}\n")

Έξοδος

Result 1: 
Label: POSITIVE 
Score: 1.0 

Result 2: 
Label: POSITIVE 
Score: 0.996 

Αναγνώριση Ονομάτων Οντοτήτων (NER)

Η NER είναι κρίσιμη για την εξαγωγή πραγματικών αντικειμένων από το κείμενο. Χρησιμοποιήστε τη διαδικασία NER για να αναγνωρίσετε αποτελεσματικά αυτές τις οντότητες:

ner_tagger = pipeline("ner", aggregation_strategy="simple")
text = "Elon Musk is the CEO of SpaceX."
outputs = ner_tagger(text)
print(outputs)

Έξοδος

 Elon Musk: PER, SpaceX: ORG 

Απάντηση σε Ερωτήσεις

Η απάντηση σε ερωτήσεις περιλαμβάνει την εξαγωγή ακριβών απαντήσεων σε συγκεκριμένες ερωτήσεις από ένα δεδομένο πλαίσιο. Αρχικοποιήστε μια διαδικασία απάντησης σε ερωτήσεις και εισαγάγετε την ερώτησή σας και το πλαίσιο για να λάβετε την επιθυμητή απάντηση:

reader = pipeline("question-answering")
text = "Hugging Face is a company creating tools for NLP. It is based in New York and was founded in 2016."
question = "Where is Hugging Face based?"
outputs = reader(question=question, context=text)
print(outputs)

Έξοδος

 {'score': 0.998, 'start': 51, 'end': 60, 'answer': 'New York'} 

Η συνάρτηση προσφέρει και άλλα έτοιμα pipelines:

Εργασία Περιγραφή Αναγνωριστικό
Παραγωγή κειμένου Παράγει κείμενο από prompt. pipeline(task="text-generation")
Περίληψη Συνοψίζει μεγάλο κείμενο ή έγγραφο. pipeline(task="summarization")
Ταξινόμηση εικόνας Αποδίδει ετικέτα σε εικόνα. pipeline(task="image-classification")
Ταξινόμηση ήχου Κατηγοριοποιεί ηχητικά δεδομένα. pipeline(task="audio-classification")
Απάντηση οπτικών ερωτήσεων Απαντά χρησιμοποιώντας εικόνα και ερώτηση. pipeline(task="vqa")

Για αναλυτικές περιγραφές και περισσότερες εργασίες, δείτε την τεκμηρίωση pipeline της Hugging Face.

Γιατί η Hugging στρέφεται στη Rust

Hugging face Safetensors and tokenizer Rust

Οι σελίδες GitHub των Safetensors και Tokenizers


Έχω περάσει τα τελευταία πέντε χρόνια βυθισμένος στον συναρπαστικό κόσμο της Μηχανικής Μάθησης και της Βαθιάς Μάθησης. Το πάθος μου και η εξειδίκευσή μου με οδήγησαν να συμβάλλω σε πάνω από 50 διαφορετικά έργα μηχανικής λογισμικού, με ιδιαίτερη έμφαση στο AI/ML. Η συνεχής περιέργειά μου με έχει οδηγήσει επίσης προς την Επεξεργασία Φυσικής Γλώσσας, ένα πεδίο που είμαι πρόθυμος να εξερευνήσω περαιτέρω.