Modelli e piattaforme di IA
GPT-2, Generatore di Testo di Intelligenza Artificiale Rilasciato integralmente
Come riporta TheNextWeb (TNW), OpenAI, l’organizzazione no-profit dietro numerosi progetti di intelligenza artificiale, ha appena pubblicato il modello finale nella pianificata release a tappe per GPT-2, un generatore di testo che ha causato un certo dibattito fin dalla sua annunciata release a febbraio.
Sulla base della ricerca di OpenAI intitolata Language Models are Unsupervised Multitask Learners, “GPT-2 utilizza l’apprendimento automatico per generare testi basati su input limitati.” Ciò significa che un utente può digitare una frase o due su qualsiasi argomento e il generatore di testi creerà un testo che ha una certa relazione con l’input originale. In sostanza, come nota TNW, a differenza della maggior parte dei generatori di testi, non produce stringhe pre-scritte. GPT-2 crea testi che non esistevano precedentemente.”
In un tweet, Scott B. Weingart, direttore del programma della Carnegie Mellon University Libraries, fornisce un esempio concreto:
What is a Panther but a young lion?
An entire corridor filled entirely with people screaming.
How’s this for a happy ending? pic.twitter.com/qvPTrs790N
— Scott B. Weingart (@scott_bot) 20 agosto 2019
If death, in some obscure and distant hour,
Strikes me still as I slept, if I yet dream:
Is that my peace with an eternity spent?
[…]
But I fear it will be no peace or rest
Until the stars give me the full glow of their light
To see all my cares and woes in an instant.Shit. pic.twitter.com/QRoi1C3rjj
— Scott B. Weingart (@scott_bot) 20 agosto 2019
OpenAI era inizialmente preoccupata per gli utilizzi potenzialmente dannosi del loro sistema, quindi a febbraio 2019 decise di rilasciare GPT-2 in quattro parti nell’arco di otto mesi. Come spiegato nel loro blog, “A causa delle nostre preoccupazioni riguardo alle applicazioni dannose della tecnologia, non stiamo rilasciando il modello addestrato. Come esperimento di divulgazione responsabile, stiamo rilasciando un modello molto più piccolo per i ricercatori da sperimentare, oltre a un documento tecnico.”
Come spiegato, il modello completo contiene 1,5 miliardi di parametri. “Più parametri ha un modello, più sembra ‘intelligente’ – proprio come gli esseri umani, la pratica rende perfetti.”
TNW nota che inizialmente OpenAI ha rilasciato un modello con 124 milioni di parametri, seguito da rilasci con 355 e 774 milioni. Secondo loro, dopo aver testato i modelli rilasciati, “ogni iterazione ha mostrato un notevole miglioramento delle capacità rispetto alle iterazioni precedenti.”
Per prevenire gli utilizzi dannosi, OpenAI ha rilasciato modelli di rilevamento GPT-2 che sono supposti “combattere preventivamente gli utilizzi dannosi.” Nella loro ammissione in un post del blog, questi modelli di rilevamento ancora necessitano di ulteriore lavoro per raggiungere il livello di qualità raggiunto finora in GPT-2 stesso.
Chi è interessato può scaricare il modello GPT-2 qui su Github, visualizzare la carta del modello qui, e leggere il post del blog di OpenAI qui.












