Llama 3.1: il modello AI open-source più avanzato di Meta – Tutto ciò che devi sapere

Meta ha presentato Llama 3.1, il suo ultimo e più avanzato modello linguistico di grandi dimensioni, segnando un importante passo avanti nelle capacità e nell’accessibilità dell’AI. Questo nuovo rilascio si allinea con l’impegno di Meta per rendere l’AI accessibile in modo aperto, come sottolineato da Mark Zuckerberg, che ritiene che l’AI open-source sia benefico per gli sviluppatori, Meta e la società in generale.

Per presentare Llama 3.1, Mark Zuckerberg ha scritto un post di blog dettagliato intitolato “Open Source AI Is the Path Forward“, in cui descrive la sua visione per il futuro dell’AI. Egli traccia un parallelo tra l’evoluzione di Unix in Linux e l’attuale traiettoria dell’AI, sottolineando che l’AI open-source guiderà alla fine l’industria. Zuckerberg evidenzia i vantaggi dell’AI open-source, tra cui personalizzazione, efficienza dei costi, sicurezza dei dati e evitare il lock-in del fornitore.

Crede che lo sviluppo open-source favorisca l’innovazione, crei un ecosistema solido e garantisca un accesso equo alla tecnologia AI. Zuckerberg affronta anche le preoccupazioni relative alla sicurezza, sostenendo che l’AI open-source, attraverso la trasparenza e il controllo della comunità, può essere più sicura dei modelli chiusi come i modelli GPT di OpenAI.

L’impegno di Meta per l’AI open-source mira a costruire le migliori esperienze e servizi, liberi dalle limitazioni degli ecosistemi chiusi. Egli conclude invitando gli sviluppatori e le organizzazioni a unirsi per costruire un futuro in cui l’AI beneficia tutti, promuovendo la collaborazione e il progresso continuo.

Punti chiave

• Impegno per l’accessibilità aperta: Meta continua il suo impegno per l’AI open-source, con l’obiettivo di democratizzare l’accesso e l’innovazione.
• Capacità migliorate: Llama 3.1 vanta un’estensione della lunghezza del contesto a 128K, supporta otto lingue e introduce Llama 3.1 405B, il primo modello AI open-source di livello frontiera.
• Flessibilità e controllo senza precedenti: Llama 3.1 405B offre capacità all’avanguardia paragonabili ai migliori modelli con codice chiuso, abilitando nuovi flussi di lavoro come la generazione di dati sintetici e la distillazione del modello.
• Supporto completo dell’ecosistema: Con oltre 25 partner, tra cui importanti aziende tecnologiche come AWS, NVIDIA (NVDA ) e Google Cloud, Llama 3.1 è pronto per l’uso immediato su diverse piattaforme.

Panoramica di Llama 3.1

Capacità all’avanguardia

Llama 3.1 405B è progettato per rivaleggiare con i migliori modelli AI disponibili oggi. Eccelle nella conoscenza generale, nella guidabilità, nella matematica, nell’uso degli strumenti e nella traduzione multilingue. Questo modello è destinato a guidare l’innovazione in campi come la generazione di dati sintetici e la distillazione del modello, offrendo opportunità senza precedenti per la crescita e l’esplorazione.

Modelli aggiornati

Il rilascio include versioni migliorate dei modelli 8B e 70B, che ora supportano più lingue e hanno lunghezze di contesto estese fino a 128K. Questi miglioramenti abilitano applicazioni avanzate come la sintesi di testi lunghi, gli agenti conversazionali multilingue e gli assistenti di codifica.

Disponibilità open-source

Fedele alla sua filosofia open-source, Meta rende questi modelli disponibili per il download su Meta e Hugging Face. Gli sviluppatori possono utilizzare questi modelli per una varietà di applicazioni, tra cui il miglioramento di altri modelli, e possono eseguirli in ambienti diversi, dalle installazioni locali al cloud e alle distribuzioni locali.

Valutazioni e architettura del modello

Valutazioni estese

Llama 3.1 è stato sottoposto a test rigorosi su oltre 150 set di dati di riferimento in più lingue e paragonato ai principali modelli come GPT-4 e Claude 3.5 Sonnet. I risultati mostrano che Llama 3.1 è competitivo in una vasta gamma di attività, consolidando la sua posizione tra i migliori modelli AI.

Tecniche di formazione avanzate

La formazione del modello 405B ha richiesto l’elaborazione di oltre 15 trilioni di token utilizzando più di 16.000 GPU H100. Meta ha adottato un modello di trasformatore standard con procedure di post-formazione iterative, tra cui la formazione fine-tuning supervisionata e l’ottimizzazione delle preferenze dirette, per ottenere dati sintetici di alta qualità e prestazioni superiori.

Inferenza efficiente

Per supportare l’inferenza su larga scala, i modelli Llama 3.1 sono stati quantizzati da 16 bit a 8 bit, riducendo i requisiti computazionali e consentendo al modello di eseguirsi efficientemente su un singolo nodo del server.

Istruzione e fine-tuning della chat

Meta si è concentrata sul miglioramento della capacità del modello di seguire istruzioni dettagliate e mantenere alti livelli di sicurezza. Ciò ha richiesto diversi round di allineamento sulla base del modello pre-addestrato, utilizzando la generazione di dati sintetici e tecniche di elaborazione dei dati rigorose per garantire output di alta qualità in tutte le capacità.

Il sistema Llama

Llama 3.1 fa parte di un sistema più ampio progettato per funzionare con vari componenti, tra cui strumenti esterni. Meta mira a fornire agli sviluppatori la flessibilità per creare applicazioni e comportamenti personalizzati. Il rilascio include Llama Guard 3 e Prompt Guard per una maggiore sicurezza e protezione.

Llama Stack API

Meta sta rilasciando una richiesta di commento sull’API Llama Stack, un’interfaccia standard per facilitare l’utilizzo dei modelli Llama da parte di progetti di terze parti. Questa iniziativa mira a semplificare l’interoperabilità e a ridurre le barriere per gli sviluppatori e i fornitori di piattaforme.

Costruire con Llama 3.1 405B

Llama 3.1 405B offre capacità estese per gli sviluppatori, tra cui inferenza in tempo reale e batch, formazione fine-tuning supervisionata, valutazione del modello, pre-formazione continua, generazione assistita da recupero (RAG), chiamata di funzioni e generazione di dati sintetici. Già dal primo giorno, gli sviluppatori possono iniziare a costruire con queste funzionalità avanzate, supportate da partner come AWS, NVIDIA e Databricks.

Prova Llama 3.1 oggi

I modelli Llama 3.1 sono disponibili per il download e lo sviluppo immediato. Meta incoraggia la comunità a esplorare le potenzialità di questi modelli e a contribuire al crescente ecosistema. Con misure di sicurezza robuste e accesso open-source, Llama 3.1 è pronto a guidare la prossima ondata di innovazione AI.

Conclusione

Llama 3.1 rappresenta un importante traguardo nell’evoluzione dell’AI open-source, offrendo capacità e flessibilità senza precedenti. L’impegno di Meta per l’accessibilità aperta garantisce che più persone possano trarre beneficio dai progressi dell’AI, favorire l’innovazione e il dispiegamento equo della tecnologia. Con Llama 3.1, le possibilità per nuove applicazioni e ricerche sono vastissime, e Meta si aspetta che la comunità realizzi sviluppi innovativi con questo potente strumento.

I lettori che desiderano saperne di più possono leggere il post di blog dettagliato di Mark Zuckerberg intitolato “Open Source AI Is the Path Forward“.