Modele i platformy AI

GPT-2, generator tekstu sztucznej inteligencji, jest wydany w pełnej wersji

mm
Opublikowano
Zaktualizowano
Dodaj Unite.AI do preferowanych ÅšrÃģdeł w Google

Jak donosi TheNextWeb (TNW), OpenAI, organizacja non-profit załoÅžona przez szereg projektÃģw sztucznej inteligencji, opublikowała ostateczny model w planowanej stopniowej publikacji GPT-2, generatora tekstu, ktÃģry wywołał duŞą debatę od momentu ogłoszenia jego premiery w lutym.

Na podstawie pracy badawczej OpenAI zatytułowanej Language Models are Unsupervised Multitask Learners, „GPT-2 wykorzystuje uczenie maszynowe do generowania nowych tekstÃģw na podstawie ograniczonego wejścia.” To oznacza, Åže uÅžytkownik moÅže wpisać zdanie lub dwa na dowolny temat, a generator AI wygeneruje tekst, ktÃģry ma jakiś związek z oryginalnym wejściem. W istocie, jak zauwaÅža TNW, w przeciwieństwie do większości „generatorÃģw tekstu”, nie generuje on wcześniej napisanych ciągÃģw. GPT-2 tworzy tekst, ktÃģry wcześniej nie istniał.”

W swoim tweecie Scott B. Weingart, dyrektor programu w Carnegie Mellon University Libraries, podaje konkretny przykład:

 

OpenAI początkowo obawiało się moÅžliwych niepoŞądanych zastosowań swojego systemu, więc w lutym 2019 zdecydowało się opublikować GPT-2 w czterech częściach w ciągu ośmiu miesięcy. Jak wyjaśnili w swoim blogu, „Ze względu na nasze obawy dotyczące niepoŞądanych zastosowań tej technologii, nie publikujemy wytrenowanego modelu. Jako eksperyment w odpowiedzialnym ujawnianiu, publikujemy znacznie mniejszy model dla badaczy do eksperymentowania, a takÅže pracę techniczną.”

Jak wyjaśniono, pełny model zawiera 1,5 miliarda parametrÃģw. „Im więcej parametrÃģw model jest wytrenowany, tym „mądrzejszy” się wydaje – tak jak ludzie, ćwiczenie czyni doskonałym.”

TNW zauwaÅža, Åže początkowo OpenAI opublikowało model z 124 milionami parametrÃģw, a następnie modele z 355 i 774 milionami. Według nich, po przetestowaniu opublikowanych modeli, „kaÅžda iteracja wykazała znaczną poprawę moÅžliwości w porÃģwnaniu z poprzednimi iteracjami.”

Aby zapobiec naduÅžyciom, OpenAI opublikowało modele wykrywania GPT-2, ktÃģre są „przeznaczone do prewencyjnego zwalczania naduÅžyć.” W swoim blogu przyznają, Åže te modele wykrywania nadal wymagają dodatkowej pracy, aby osiągnąć poziom jakości, jaki został dotychczas osiągnięty w samym GPT-2.

Zainteresowani mogą pobrać model GPT-2 tutaj na Github, sprawdzić kartę modelu tutaj, oraz przeczytać blog OpenAI tutaj.

mm

Były dyplomata i tłumacz dla UN, obecnie wolny strzelec/journalista/pisarz/badacz, koncentrujący się na nowoczesnej technologii, sztucznej inteligencji i nowoczesnej kulturze.