Modely a platformy AI

Nová chatbot Meena od Googlu může vést smysluplné a specifické konverzace téměř o čemkoli

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Jak působivé a užitečné jsou virtuální asistenti jako Siri, Alexa a Google Assistant, jejich konverzační dovednosti jsou obvykle omezeny na příjem určitých příkazů a poskytování předem definovaných odpovědí. Společnosti jako Google a Amazon (AMZN ) se snaží vyvinout metody školení a vývoje AI, které by mohly učinit chatboty více robustními a flexibilními, schopnými vést konverzace s uživateli mnohem přirozenějším způsobem. Jak uvádí DigitalTrends, Google nedávno publikoval článek, který demonstruje schopnosti svého nového chatbotu, nazvaného „Meena“. Podle článku od výzkumníků, Meena může vést konverzaci s uživateli na téměř jakékoli téma.

Meena je otevřený chatbot, což znamená, že reaguje na kontext konverzace a přizpůsobuje se vstupům, aby poskytoval více přirozené odpovědi. Většina ostatních chatbotů je uzavřená, což znamená, že jejich odpovědi jsou zaměřeny na bestimmá témata a omezeny na splnění určitých úkolů.

Podle zprávy Googlu, flexibilita Meeny byla výsledkem obrovského tréninkového datasetu. Meena byla trénována na přibližně 40 miliardách slov z konverzací na sociálních médiích a filtrovaných na nejrelevantnější a reprezentativnější slova. Google se snažil vyřešit některé problémy, které se vyskytují u většiny hlasových asistentů, jako je schopnost zpracovat témata a příkazy, které se vyvíjejí během několika kol konverzace, přičemž uživatel poskytuje další vstupy po odpovědi chatbotu. To znamená, že mnoho chatbotů není schopno požádat uživatele o upřesnění a když je dotaz, který nelze interpretovat, často se pouze vrátí k výsledkům vyhledávání.

Aby se vyřešil tento konkrétní problém, výzkumníci Googlu umožnili svým algoritmům sledovat kontext konverzace, což znamená, že mohou generovat specifické odpovědi. Model používal encoder, který zpracovával to, co bylo již řečeno v konverzaci, a decoder, který vytvářel odpověď na základě kontextu. Model byl trénován na specifických a nespecifických datech. Specifická data jsou slova, která jsou úzce související s předchozím prohlášením. Jak vysvětluje článek Googlu:

„Například, pokud A řekne, ‚Miluji tenis,‘ a B odpoví, ‚To je hezké,‘ pak by mělo být označení ‚nespecifické‘. Tato odpověď by mohla být použita v desítkách různých kontextů. Ale pokud B odpoví, ‚Také mě to baví, nemůžu se nasytit Rogera Federera!‘, pak je označeno jako ‚specifické‘, protože se úzce vztahuje k tomu, co se diskutuje.

Data, která byla použita k trénování modelu, se skládala ze sedmi „kol“ v konverzaci. Během trénování měl model 2,6 miliardy parametrů, které procházely 341 GB textových dat a hledaly vzory, dataset, který byl přibližně 8,5krát větší než dataset použitý k trénování modelu GPT-2 vyvinutého OpenAI.

Google uvedl, jak Meena fungovala v metrice Sensibleness a Specificity Average (SSA). SSA je metrika navržená výzkumníky Googlu a jejím cílem je kvantifikovat schopnost konverzační entity reagovat specifickými a relevantními odpověďmi, jak konverzace postupuje.

Skóre SSA se vypočítává testováním modelu proti pevnému počtu podnětů a sledováním počtu smysluplných odpovědí, které model poskytuje. Skóre modelu se odvozuje na základě procenta smysluplných/specifických odpovědí, které model byl schopen poskytnout ve vztahu k podnětům. Obecné odpovědi jsou penalizovány. Podle Googlu, průměrný člověk dosahuje skóre kolem 86 % na SSA, zatímco Meena dosáhla skóre 79 %. Další slavný model AI, agent vytvořený Pandora Bots, získal Loebner Prize za to, že jeho AI boty dosáhly sofistikované komunikace podobné lidské. Agent Pandora Bots dosáhl přibližně 56 % v testu SSA.

Microsoft (MSFT ) a Amazon se také snaží vyvinout více flexibilní a přirozené chatboty. Microsoft se již dva roky snaží vytvořit chatboty, které mohou vést konverzaci s více otázkami a odpověďmi, a proto zakoupil Semantic Machines, startup zabývající se AI, aby vylepšil Cortanu. Amazon nedávno spustil Alexa Prize challenge, který vyzval účastníky k navržení chatbotu, který by mohl vést konverzaci po dobu přibližně 20 minut.

Blogger a programátor se specializací na Machine Learning a Deep Learning témata. Daniel doufá, že pomůže ostatním využít sílu AI pro sociální dobro.