Å lære bort opphavsrettslige data fra en trenet LLM – Er det mulig?

I domenene kunstig intelligens (KI) og maskinlæring (ML) viser store språkmodeller (LLM) både fremgang og utfordringer. Trenet på enorme tekstbaserte datasett, LLM-modellene omfatter menneskespråk og kunnskap.

Likevel presenterer deres evne til å absorbere og etterligne menneskelig forståelse juridiske, etiske og tekniske utfordringer. I tillegg kan de massive datasettene som driver LLM-ene inneholde giftig materiale, opphavsrettslige tekster, uakkurater eller personlige data.

Å få LLM-ene til å glemme utvalgte data er blitt et presserende spørsmål for å sikre juridisk overholdelse og etisk ansvar.

La oss utforske konseptet om å få LLM-ene til å glemme opphavsrettslige data for å besvare et grunnleggende spørsmål: Er det mulig?

Hvorfor er LLM-glemtning nødvendig?

LLM-ene inneholder ofte omstridt data, inkludert opphavsrettslige data. Å ha slike data i LLM-ene stiller juridiske utfordringer relatert til privat informasjon, forvrengt informasjon, opphavsrettslige data og feil eller skadelige elementer.

Derfor er glemtning essensiell for å garantere at LLM-ene overholder personvernregler og samsvarer med opphavsrettslover, og fremmer ansvarlige og etiske LLM-er.

Likevel er det å trekke ut opphavsrettslige innhold fra den enorme kunnskapen disse modellene har tilegnet seg en utfordring. Her er noen glemtningsteknikker som kan hjelpe med å løse dette problemet:

• Datafiltrering: Dette innebærer systematisk å identifisere og fjerne opphavsrettslige elementer, støyende eller forvrengte data, fra modellens treningsdata. Likevel kan filtrering føre til potensiell tap av verdifull, ikke-opphavsrettslig informasjon under filtreringsprosessen.
• Gradientmetoder: Disse metodene justerer modellens parametre basert på tapfunksjonens gradient, og løser opphavsrettslige data-problemer i ML-modeller. Likevel kan justeringer ha en negativ innvirkning på modellens totale ytelse på ikke-opphavsrettslige data.
• I-sammenheng-glemtning: Denne teknikken eliminerer effektivt innvirkningen av bestemte treningspunkter på modellen ved å oppdatere dens parametre uten å påvirke ubeslektede kunnskaper. Likevel møter metoden begrensninger i å oppnå presis glemtning, spesielt med store modeller, og dens effektivitet krever ytterligere evaluering.

Disse teknikker er ressurskrevende og tidskrevende, og gjør dem vanskelige å implementere.

Sakstudier

For å forstå betydningen av LLM-glemtning, fremhever disse virkelige sakene hvordan selskaper møter juridiske utfordringer relatert til store språkmodeller (LLM-er) og opphavsrettslige data.

OpenAI-saker: OpenAI, et fremtredende AI-selskap, er rammet av flere saker om LLM-eres treningsdata. Disse rettssakene stiller spørsmål om bruken av opphavsrettslige materialer i LLM-trening. I tillegg har de utløst undersøkelser om mekanismene modellene bruker for å sikre tillatelse for hvert opphavsrettslig verk som er integrert i deres treningsprosess.

Sarah Silverman-sak: Sarah Silverman-saken involverer en påstand om at ChatGPT-modellen genererte sammendrag av hennes bøker uten tillatelse. Denne rettssaken understreker de viktige spørsmålene om fremtiden for AI og opphavsrettslige data.

Oppdatering av juridiske rammer for å sammenfalle med teknologisk fremgang sikrer ansvarlig og juridisk bruk av AI-modeller. I tillegg må forskningsmiljøet omfattende løse disse utfordringene for å gjøre LLM-ene etiske og rettferdige.

Tradisjonelle LLM-glemtningsteknikker

LLM-glemtning ligner på å skille bestemte ingredienser fra en kompleks oppskrift, og sikre at bare de ønskede komponentene bidrar til den endelige retten. Tradisjonelle LLM-glemtningsteknikker, som finjustering med kurerte data og om-trening, mangler enkle mekanismer for å fjerne opphavsrettslige data.

Deres brede tilnærming viser seg ofte å være ineffektiv og ressurskrevende for den sofistikerte oppgaven med selektiv glemtning, da de krever omfattende om-trening.

Mens disse tradisjonelle metodene kan justere modellens parametre, har de vanskelig for å presist målrette opphavsrettslige innhold, og risikerer uforvollent data-tap og underoptimalt samsvar.

Derfor krever begrensningene i tradisjonelle teknikker og robuste løsninger eksperimentering med alternative glemtningsteknikker.

Ny teknikk: Å glemme en undergruppe av treningsdata

Microsoft-forskningsrapporten (MSFT ) introduserer en banebrytende teknikk for å glemme opphavsrettslige data i LLM-er. Fokusert på eksemplet med Llama2-7b-modellen og Harry Potter-bøkene, innebærer metoden tre kjernekomponenter for å få LLM til å glemme Harry Potter-verden. Disse komponentene inkluderer:

• Forsterket modellidentifikasjon: Å opprette en forsterket modell innebærer finjustering av måldata (f.eks. Harry Potter) for å styrke dens kunnskap om innholdet som skal glemmes.
• Erstatning av idiosynkratiske uttrykk: Unike Harry Potter-uttrykk i måldata erstattes med generiske uttrykk, og muliggjør en mer generalisert forståelse.
• Finjustering på alternative prediksjoner: Grunnmodellen undergår finjustering basert på disse alternative prediksjonene. I realiteten sletter den effektivt den opprinnelige teksten fra sin hukommelse når den konfronteres med relevant kontekst.

Selv om Microsoft-teknikken er i tidlig fase og kan ha begrensninger, representerer den et løftende fremsteg mot mer kraftfulle, etiske og tilpasningsdyktige LLM-er.

Resultatet av den nye teknikken

Den innovative metoden for å få LLM-er til å glemme opphavsrettslige data, presentert i Microsoft-forskningsrapporten, er et skritt mot ansvarlige og etiske modeller.

Den nye teknikken innebærer å slette Harry Potter-relatert innhold fra Meta sine Llama2-7b-modell, kjent for å ha blitt trenet på “books3”-datasettet som inneholder opphavsrettslige verk. Merkverdig er at modellens opprinnelige svar viste en intrikat forståelse av J.K. Rowlings univers, selv med generiske promter.

Likevel har Microsofts foreslåtte teknikk betydelig endret dens svar. Her er eksempler på promter som viser betydelige forskjeller mellom den opprinnelige Llama2-7b-modellen og den finjusterte versjonen.

Bildekilde 

Dette bildet viser at de finjusterte glemtningmodellene opprettholder sin ytelse over forskjellige benchmark (som Hellaswag, Winogrande, piqa, boolq og arc).

Bildekilde

Evalueringmetoden, som baserer seg på modellpromter og påfølgende svaranalyse, viser seg å være effektiv, men kan overse mer intrikate, motstridende informasjonseksraktingsmetoder.

Selv om teknikken er løftende, kreves videre forskning for å finjustere og utvide den, spesielt for å løse bredere glemtningoppgaver innen LLM-er.

Utlendingske utfordringer med den nye glemtningsteknikken

Selv om Microsofts glemtningsteknikk viser løftende resultater, finnes det flere AI-utfordringer og begrensninger.

Nøkkelbegrensninger og områder for forbedring omfatter:

• Lekasjer av opphavsrettslige informasjon: Metoden kan ikke helt minimere risikoen for opphavsrettslige informasjon lekasjer, da modellen kan beholde noen kunnskap om målinnholdet under finjusteringsprosessen.
• Evaluering av forskjellige datasett: For å vurdere effektiviteten, må teknikken undergå ytterligere evaluering over forskjellige datasett, da den opprinnelige eksperimenteren kun fokuserte på Harry Potter-bøkene.
• Skalbarhet: Testing på større datasett og mer komplekse språkmodeller er avgjørende for å vurdere teknikkenes anvendelighet og tilpasning i virkelige scenarier.

Økningen i AI-relaterte rettssaker, spesielt opphavsrettslige saker som målretter LLM-er, understreker behovet for klare retningslinjer. Løftende utviklinger, som den glemtningsteknikken foreslått av Microsoft, åpner en vei mot etiske, juridiske og ansvarlige AI-modeller.

Ikke gå glipp av de siste nyhetene og analyser i AI og ML – besøk unite.ai i dag.