AI oppii AI:ltä: Sosiaalisen oppimisen synty suurten kielen mallien joukossa

Siitä lähtien, kun OpenAI esitteli ChatGPT 3.5:n loppuvuonna 2022, perustavien suurten kielen mallien (LLM) rooli on tullut yhä merkittävämmäksi tekoälyssä (AI), erityisesti luonnollisen kielen prosessoinnissa (NLP). Nämä LLM:t, jotka on suunniteltu prosessoimaan ja generoimaan ihmismäistä tekstiä, oppivat laajasta joukosta internetistä peräisin olevia tekstejä, aina kirjoista verkkosivuille. Tämä oppimisprosessi mahdollistaa niiden omaksumisen ihmisen kielen olennaiset piirteet, mikä tekee LLM:istä kuin yleispätevistä ongelmanratkaisijoista.

Vaikka LLM:ien kehitys on avannut uusia ovia, näiden mallien sovittaminen tiettyihin sovelluksiin – tunnettu hienosäätö – tuo omat haasteensa. Mallin hienosäätö vaatii lisäkoulutusta kohdennetuilla tietojoukoilla, mikä voi johtaa haasteisiin, kuten vaatimukseen merkittyjä tietoja, mallin siirtymisen ja ylisovittumisen riskiin, sekä merkittävien resurssien tarpeeseen.

Haasteiden ratkaisemiseksi Googlen tutkijat ovat viime aikoina omaksuneet ’sosiaalisen oppimisen’ idean, jotta AI voisi oppia AI:ltä. Avainidea on, että kun LLM:t muunnetaan chatboteiksi, ne voivat vuorovaikuttaa ja oppia toisistaan tavalla, joka muistuttaa ihmisen sosiaalista oppimista. Tämä vuorovaikutus mahdollistaa niiden oppimisen toisistaan, mikä parantaa niiden tehokkuutta.

Mikä on sosiaalinen oppiminen?

Sosiaalinen oppiminen ei ole uusi idea. Se perustuu 1970-luvun Albert Banduran teoriaan, joka ehdottaa, että ihmiset oppivat toisten havainnoimisesta. Tämä käsite soveltuu tekoälyyn siten, että tekoälyjärjestelmät voivat parantaa vuorovaikutuksensa toistensa kanssa, oppien sekä suoraan kokemuksista että toisten toiminnasta. Tämä menetelmä luvaa nopeampaa taitojen hankkimista ja voi jopa antaa tekoälyjärjestelmille mahdollisuuden kehittää oma “kulttuuri” tietojen jakamisen kautta.

Toisin kuin muut tekoälyoppimismenetelmät, kuten vahvistusoppiminen tai jäljitelmäoppiminen suorien esimerkkien kautta, sosiaalinen oppiminen korostaa oppimista vuorovaikutuksen kautta. Se tarjoaa käytännöllisemmän ja yhteisöllisemmän tavan tekoälylle oppia uusia taitoja.

Sosiaalinen oppiminen LLM:issä

Tärkeä sosiaalisen oppimisen näkökohta on tietojen vaihto ilman alkuperäisen ja arkaluontoisen tiedon jakamista. Tämän vuoksi tutkijat ovat käyttäneet opettaja-oppijarelatiota, jossa opettajamallit helpottavat oppijamallien oppimisprosessia ilman luottamuksellisten yksityiskohtien paljastamista. Tämän tavoitteen saavuttamiseksi opettajamallit luovat synthetisiä esimerkkejä tai ohjeita, joista oppijamallit voivat oppia ilman alkuperäisen tiedon jakamista. Esimerkiksi, kun opettajamalli on koulutettu erottamaan roskapostia ja ei-roskapostia tekstiviesteistä, jotka on merkitty käyttäjien toimesta, ja haluamme toisen mallin hallitsevan tämän tehtävän ilman suoraa altistumista alkuperäisille, luottamuksellisille tiedoille, sosiaalinen oppiminen tulee kuvaan. Opettajamalli luo synthetisiä esimerkkejä tai antaa ohjeita perustuen siihen, mitä se on oppinut, mikä mahdollistaa oppijamallille roskapostin tunnistamisen tarkasti ilman suoraa altistumista luottamuksellisille tiedoille. Tämä strategia ei ainoastaan paranna oppimisen tehokkuutta vaan myös osoittaa LLM:ien potentiaalin oppia dynaamisissa, sopeutuvissa tavoissa, mahdollisesti luoden yhteisen tietokulttuurin. Tärkeä piirre tässä lähestymistavassa on sen riippuvuus synthetisistä esimerkeistä ja ohjeista. Luomalla uusia, informatiivisia esimerkkejä, jotka poikkeavat alkuperäisestä tietojoukosta, opettajamallit voivat säilyttää yksityisyyden samalla, kun ne ohjaavat oppijamalleja tehokkaaseen oppimiseen. Tämä lähestymistapa on osoittanut olevan tehokas, saavuttaen tulokset, jotka ovat vertailukelpoisia niiden kanssa, jotka on saavutettu käyttäen alkuperäisiä tietoja.

Miten sosiaalinen oppiminen ratkaisee hienosäätöhaasteita?

Sosiaalinen oppiminen tarjoaa uuden tavan hienosäätää LLM:itä tiettyihin tehtäviin. Se auttaa haasteiden ratkaisemisessa seuraavilla tavoilla:

1. Vähemmän tarvetta merkityille tiedoille: Oppimalla synthetisistä esimerkeistä, jotka jaetaan mallejen välillä, sosiaalinen oppiminen vähentää riippuvuutta hankalasti saatavissa olevista merkityistä tiedoista.
2. Välttäminen yli-erikoistumista: Se pitää mallit monipuolisina altistamalla ne laajemmalle joukolle esimerkkejä kuin mitä on saatavilla pienissä, spesifisissä tietojoukoissa.
3. Ylisovittumisen välttäminen: Sosiaalinen oppiminen laajentaa oppimiskokemusta, auttaen malleja yleistämään paremmin ja välttämään ylisovittumista.
4. Resurssien säästö: Tämä lähestymistapa mahdollistaa resurssien tehokkaamman käytön, koska mallit oppivat toistensa kokemuksista ilman suoraa pääsyä laajiin tietojoukkoihin.

Tulevaisuuden suunnat

Sosiaalisen oppimisen potentiaali LLM:issä viittaa moniin mielenkiintoisiin ja merkittäviin tavoisiin tulevaisuuden tekoälytutkimukselle:

1. Risteymätekoälykulttuurit: Kun LLM:it osallistuvat sosiaaliseen oppimiseen, ne voivat aloittaa yhteisten menetelmien kehittämisen. Tutkimuksia voidaan suorittaa tutkimaan näiden tekoäly”kulttuurien” vaikutusta ihmisten vuorovaikutuksiin ja niiden aiheuttamiin eettisiin kysymyksiin.
2. Monimodaalinen oppiminen: Sosiaalisen oppimisen laajentaminen tekstistä muihin aistiin, kuten kuvien ja äänen, voisi johtaa tekoälyjärjestelmiin, joilla on rikkaampi ymmärrys maailmasta, samalla tavalla kuin ihmiset oppivat useiden aistien kautta.
3. Hajautettu oppiminen: Idean, että tekoälymallit voivat oppia toisistaan hajautetussa verkostossa, tarjoaa uuden tavan skaalata tietojen jakoa. Tämä edellyttäisi merkittävien haasteiden ratkaisemista koordinoinnissa, yksityisyydessä ja turvallisuudessa.
4. Ihmisten ja tekoälyn vuorovaikutus: On potentiaalia tutkia, miten ihmiset ja tekoäly voivat hyötyä toisistaan sosiaalisen oppimisen kautta, erityisesti koulutus- ja yhteistyöympäristöissä. Tämä voisi uudelleenmääritellä, miten tietojen siirto ja innovaatio tapahtuvat.
5. Etinen tekoälykehitys: Opettamalla tekoälyä ratkaisemaan eettisiä dilemmatiikkaa sosiaalisen oppimisen kautta voisi olla askel kohti vastuullisempaa tekoälyä. Tärkeinä olisivat tekoälyjärjestelmien kehittäminen siten, että ne voivat perustella eettisesti ja olla linjassa yhteiskunnan arvojen kanssa.
6. Itseparantavat järjestelmät: Ekosysteemi, jossa tekoälymallit jatkuvasti oppivat ja parantavat toistensa kokemuksista, voisi kiihdyttää tekoälyinnovaatiota. Tämä viittaa tulevaisuuteen, jossa tekoäly voi sopeutua uusiin haasteisiin itsenäisemmin.
7. Yksityisyys oppimisessa: Koska tekoälymallit jakavat tietoja, on tärkeää varmistaa, että perustiedot ovat turvassa. Tulevaisuuden pyrkimyksiin kuuluisi kehittää monimutkaisempia menetelmiä tietojen siirtämiseksi ilman tietoturvan vaarantamista.

Päättely

Google-tutkijat ovat edelläkävijöinä kehittäneet innovatiivisen lähestymistavan, sosiaalisen oppimisen, suurten kielen mallien (LLM) joukossa, joka on inspiroitu ihmisen kyvystä oppia toisten havainnoimisesta. Tämä viitekehyksessä LLM:it voivat jakaa tietoja ja parantaa kykyjään ilman altistumista herkille tiedoille. Luomalla synthetisiä esimerkkejä ja ohjeita, LLM:it voivat oppia tehokkaasti, ratkaisemalla avainhaasteita tekoälykehityksessä, kuten tarpeen merkityille tiedoille, yli-erikoistumiselle, ylisovittumiselle ja resurssien kulutukselle. Sosiaalinen oppiminen ei ainoastaan paranna tekoälyn tehokkuutta ja sopeutuvuutta vaan myös avaa mahdollisuuksia tekoälylle kehittää jaettuja “kulttuureja”, osallistua monimodaaliseen oppimiseen, osallistua hajautettuihin verkkoihin, vuorovaikuttaa uusilla tavoilla ihmisten kanssa, ratkaista eettisiä ongelmia ja turvata yksityisyyden. Tämä merkitsee merkittävää siirtymistä kohti yhteisöllisempiä, monipuolisempia ja eettisempiä tekoälyjärjestelmiä, jotka lupaavat uudelleenmääritellä tekoälytutkimuksen ja soveltamisen maiseman.