KI leer van KI: Die opkoms van sosiale leer onder groot taalmodelle

Sedert OpenAI onthul ChatGPT3.5 aan die einde van 2022, die rol van stigting groot taalmodelle (LLM's) het toenemend prominent geword in kunsmatige intelligensie (KI), veral in natuurlike taalverwerking (NLP). Hierdie LLM's, wat ontwerp is om mensagtige teks te verwerk en te genereer, leer uit 'n uitgebreide reeks tekste vanaf die internet, wat wissel van boeke tot webwerwe. Hierdie leerproses stel hulle in staat om die essensie van menslike taal vas te lê, sodat die LLM's soos algemene doelprobleemoplossers lyk.

Terwyl die ontwikkeling van LLM's nuwe deure oopgemaak het, is die metode om hierdie modelle vir spesifieke toepassings aan te pas—bekend as fyn instelling- bring sy eie stel uitdagings. Om 'n model te verfyn vereis bykomende opleiding oor meer gefokusde datastelle, wat kan lei tot probleme soos 'n vereiste vir benoemde data, die risiko van die model dryf en oorpas, en die behoefte aan aansienlike hulpbronne.

Om hierdie uitdagings aan te spreek, het navorsers van Google onlangs die idee van 'ssosiale leer' om KI te help om by KI te leer. Die sleutelgedagte is dat, wanneer LLM's in kletsbotte omskep word, hulle interaksie kan hê en van mekaar kan leer op 'n manier soortgelyk aan menslike sosiale leer. Hierdie interaksie stel hulle in staat om van mekaar te leer en sodoende hul doeltreffendheid te verbeter.

Wat is sosiale leer?

Sosiale leer is nie 'n nuwe idee nie. Dit is gebaseer op 'n teorie uit die 1970's deur Albert Bandura, wat daarop dui dat mense leer deur ander waar te neem. Hierdie konsep wat op KI toegepas word, beteken dat KI-stelsels kan verbeter deur interaksie met mekaar te hê, nie net uit direkte ervarings te leer nie, maar ook uit die aksies van eweknieë. Hierdie metode beloof vinniger vaardigheidsverwerwing en kan selfs KI-stelsels hul eie "kultuur" laat ontwikkel deur kennis te deel.

Anders as ander KI-leermetodes, soos proef-en-fout versterkingsleer or nabootsing leer uit direkte voorbeelde beklemtoon sosiale leer leer deur interaksie. Dit bied 'n meer praktiese en gemeenskaplike manier vir KI om nuwe vaardighede op te vang.

Sosiale leer in LLM's

’n Belangrike aspek van sosiale leer is om die kennis uit te ruil sonder om oorspronklike en sensitiewe inligting te deel. As sulks, navorsers het 'n onderwyser-student-dinamiek aangewend waar onderwysermodelle die leerproses vir studentemodelle fasiliteer sonder om enige vertroulike besonderhede bekend te maak. Om hierdie doelwit te bereik, genereer onderwysermodelle sintetiese voorbeelde of rigtings waaruit studentemodelle kan leer sonder om die werklike data te deel. Oorweeg byvoorbeeld 'n onderwysermodel wat opgelei is om te onderskei tussen strooipos- en nie-strooiposboodskappe deur data wat deur gebruikers gemerk is, te gebruik. As ons 'n ander model wil hê om hierdie taak te bemeester sonder om die oorspronklike, private data aan te raak, kom sosiale leer ter sprake. Die onderwysermodel sal sintetiese voorbeelde skep of insigte verskaf op grond van sy kennis, wat die studentemodel in staat stel om strooiposboodskappe akkuraat te identifiseer sonder direkte blootstelling aan die sensitiewe data. Hierdie strategie verhoog nie net leerdoeltreffendheid nie, maar demonstreer ook die potensiaal vir LLM's om op dinamiese, aanpasbare maniere te leer, wat moontlik 'n kollektiewe kenniskultuur bou. 'n Belangrike kenmerk van hierdie benadering is sy afhanklikheid van sintetiese voorbeelde en vervaardigde instruksies. Deur nuwe, insiggewende voorbeelde te genereer wat verskil van die oorspronklike datastel, kan onderwysermodelle privaatheid behou terwyl hulle steeds studentemodelle na effektiewe leer lei. Hierdie benadering was effektief en het resultate behaal op gelyke voet met dié wat verkry is deur die werklike data te gebruik.

Hoe maatskaplike leer uitdagings van fyn-instelling aanspreek?

Sosiale leer bied 'n nuwe manier om LLM's vir spesifieke take te verfyn. Dit help om die uitdagings van fyn-instelling op die volgende maniere te hanteer:

1. Minder behoefte aan gemerkte data: Deur te leer uit sintetiese voorbeelde wat tussen modelle gedeel word, verminder sosiale leer die afhanklikheid van moeilik bekombare benoemde data.
2. Vermy oorspesialisasie: Dit hou modelle veelsydig deur hulle bloot te stel aan 'n wyer reeks voorbeelde as dié in klein, spesifieke datastelle.
3. Verminder oorpassing: Sosiale leer verbreed die leerervaring, wat modelle help om beter te veralgemeen en ooraanpassing te vermy.
4. Spaar hulpbronne: Hierdie benadering maak voorsiening vir meer doeltreffende gebruik van hulpbronne, aangesien modelle uit mekaar se ervarings leer sonder om direkte toegang tot groot datastelle te benodig.

toekomstige rigtings

Die potensiaal vir sosiale leer in LLM's dui op verskeie interessante en betekenisvolle maniere vir toekomstige KI-navorsing:

1. Hibriede KI-kulture: Soos LLM's aan sosiale leer deelneem, kan hulle algemene metodologieë begin vorm. Studies kan uitgevoer word om die uitwerking van hierdie opkomende KI-“kulture” te ondersoek, deur hul invloed op menslike interaksies en die etiese kwessies wat betrokke is, te ondersoek.
2. Kruismodaliteitleer: Om sosiale leer verder as teks uit te brei om beelde, klanke en meer in te sluit, kan lei tot KI-stelsels met 'n ryker begrip van die wêreld, baie soos hoe mense deur verskeie sintuie leer.
3. Gedesentraliseerde leer: Die idee van KI-modelle wat van mekaar oor 'n gedesentraliseerde netwerk leer, bied 'n nuwe manier om kennisdeling op te skaal. Dit sal vereis dat beduidende uitdagings in koördinasie, privaatheid en sekuriteit aangespreek word.
4. Mens-KI-interaksie: Daar is potensiaal om te ondersoek hoe mense en KI wedersyds voordeel kan trek uit sosiale leer, veral in opvoedkundige en samewerkende omgewings. Dit kan herdefinieer hoe kennisoordrag en innovasie plaasvind.
5. Etiese KI-ontwikkeling: Om KI te onderrig om etiese dilemmas aan te spreek deur sosiale leer kan 'n stap in die rigting van meer verantwoordelike KI wees. Die fokus sal wees op die ontwikkeling van KI-stelsels wat eties kan redeneer en met maatskaplike waardes kan belyn.
6. Selfverbeterende stelsels: 'n Ekosisteem waar KI-modelle voortdurend leer en uit mekaar se ervarings verbeter, kan KI-innovasie versnel. Dit dui op 'n toekoms waar KI meer outonoom by nuwe uitdagings kan aanpas.
7. Privaatheid in leer: Met KI-modelle wat kennis deel, is dit noodsaaklik om die privaatheid van die onderliggende data te verseker. Toekomstige pogings kan dalk meer gesofistikeerde metodes ondersoek om kennisoordrag moontlik te maak sonder om datasekuriteit in te boet.

Die Bottom Line

Google-navorsers het baanbrekerswerk gedoen met 'n innoverende benadering genaamd sosiale leer onder groot taalmodelle (LLM's), geïnspireer deur die menslike vermoë om te leer deur ander waar te neem. Hierdie raamwerk stel LLM's in staat om kennis te deel en vermoëns te verbeter sonder om toegang tot sensitiewe data te verkry of dit bloot te lê. Deur sintetiese voorbeelde en instruksies te genereer, kan LLM's effektief leer en sleuteluitdagings in KI-ontwikkeling aanspreek, soos die behoefte aan benoemde data, oorspesialisasie, ooraanpassing en hulpbronverbruik. Sosiale leer verhoog nie net KI-doeltreffendheid en aanpasbaarheid nie, maar maak ook moontlikhede oop vir KI om gedeelde "kulture" te ontwikkel, betrokke te raak by kruismodaliteitsleer, aan gedesentraliseerde netwerke deel te neem, op nuwe maniere met mense om te gaan, etiese dilemmas te navigeer en privaatheid te verseker. Dit dui op 'n beduidende verskuiwing na meer samewerkende, veelsydige en etiese KI-stelsels, wat belowe om die landskap van kunsmatige intelligensie-navorsing en toepassing te herdefinieer.