At Lærte Ophører Med Ophavsretsligt Data Fra Et Trænet LLM – Er Det Muligt?

I områderne kunstig intelligens (AI) og maskinlæring (ML) viser store sprogmodeller (LLM) både præstationer og udfordringer. Trænet på enorme tekstdata, LLM-modeller indeholder menneskesprog og viden.

Men deres evne til at absorbere og efterligne menneskelig forståelse stiller juridiske, etiske og tekniske udfordringer. Desuden kan de massive data, der driver LLM, indeholde giftigt materiale, ophavsretsligt materiale, uøjagtigheder eller personlige data.

At få LLM til at glemme valgt data er blevet et presserende spørgsmål for at sikre juridisk overholdelse og etisk ansvar.

Lad os udforske begrebet om at få LLM til at glemme ophavsretsligt data for at besvare et grundlæggende spørgsmål: Er det muligt?

Hvorfor Er LLM Unlearning Nødvendigt?

LLM’er indeholder ofte omtvistet data, herunder ophavsretsligt data. At have sådant data i LLM’er stiller juridiske udfordringer i forhold til privat information, fordomsfuld information, ophavsretsligt materiale og falsk eller skadelig information.

Derfor er unlearning afgørende for at sikre, at LLM’er overholder privatlivsregler og overholder ophavsret love, og fremmer ansvarlige og etiske LLM’er.

Men at trække ophavsretsligt indhold ud af den enorme viden, disse modeller har erhvervet, er svært. Her er nogle unlearning-teknikker, der kan hjælpe med at løse dette problem:

• Datafiltrering: Det indebærer systematisk at identificere og fjerne ophavsretslige elementer, støjende eller fordomsfulde data fra modellens træningsdata. Men filtrering kan føre til tab af værdifuld ikke-ophavsretslig information under filtreringsprocessen.
• Gradientmetoder: Disse metoder justerer modellens parametre baseret på tabfunktionens gradient, og løser ophavsretsligt data-problemet i ML-modeller. Men justeringer kan have en negativ indvirkning på modellens samlede præstation på ikke-ophavsretslig data.
• Inkontekst unlearning: Denne teknik eliminerer effektivt virkningen af bestemte træningspunkter på modellen ved at opdatere dens parametre uden at påvirke ukontekstuel viden. Men metoden har begrænsninger i at opnå præcis unlearning, især med store modeller, og dens effektivitet kræver yderligere evaluering.

Disse teknikker er ressourcekrævende og tidskrævende, hvilket gør dem svære at implementere.

Case Studies

For at forstå betydningen af LLM unlearning fremhæver disse virkelige cases, hvordan virksomheder er overfyldt med juridiske udfordringer i forhold til store sprogmodeller (LLM) og ophavsretsligt data.

OpenAI-sager: OpenAI, en fremtrædende AI-virksomhed, er blevet ramt af talrige sager over LLM’ers træningsdata. Disse retssager stiller spørgsmål ved brugen af ophavsretsligt materiale i LLM-træning. De har også udløst undersøgelser af de mekanismer, modellerne anvender til at sikre tilladelse til hvert ophavsretsligt værk, der er integreret i deres træningsproces.

Sarah Silverman-sagen: Sarah Silverman-sagen indebærer en påstand om, at ChatGPT-modellen genererede sammenfatninger af hendes bøger uden tilladelse. Denne retssag understreger de vigtige spørgsmål vedrørende fremtiden for AI og ophavsretsligt data.

Opdatering af juridiske rammer for at tilpasse teknologisk fremgang sikrer ansvarlig og juridisk brug af AI-modeller. Desuden skal forskningssamfundet omfattende løse disse udfordringer for at gøre LLM’er etiske og retfærdige.

Traditionelle LLM Unlearning Teknikker

LLM unlearning ligner at adskille bestemte ingredienser fra en kompleks opskrift, så kun de ønskede komponenter bidrager til den færdige ret. Traditionelle LLM unlearning teknikker, som finjustering med kurateret data og gen-træning, mangler direkte mekanismer for at fjerne ophavsretsligt data.

Deres bredt pensel-tilgang viser sig ofte ineffektiv og ressourcekrævende til den sofistikerede opgave med selektiv unlearning, da de kræver omfattende gen-træning.

mens disse traditionelle metoder kan justere modellens parametre, kæmper de med at præcist målrette ophavsretsligt indhold, og risikerer ufrivillig datatab og suboptimal overholdelse.

Derfor kræver begrænsningerne af traditionelle teknikker og robuste løsninger eksperimentering med alternative unlearning-teknikker.

Ny Teknik: Unlearning Af En Undermængde Af Træningsdata

Microsoft-forskningspapiret (MSFT ) introducerer en banebrydende teknik til at glemme ophavsretsligt data i LLM’er. Fokuserer på eksemplet med Llama2-7b-modellen og Harry Potter-bøgerne, indebærer metoden tre kernekomponenter for at få LLM til at glemme Harry Potter-verdenen. Disse komponenter inkluderer:

• Forstærket modelidentifikation: At oprette en forstærket model indebærer finjustering af måldata (f.eks. Harry Potter) for at styrke dens viden om det indhold, der skal glemmes.
• Erstatning af idiosynkratisk udtryk: Unikke Harry Potter-udtryk i måldata erstattes med generiske udtryk, hvilket faciliterer en mere generaliseret forståelse.
• Finjustering på alternative forudsigelser: Basismodellen undergår finjustering baseret på disse alternative forudsigelser. Det vil sige, at den effektivt sletter den oprindelige tekst fra sin hukommelse, når den konfronteres med relevant kontekst.

Selvom Microsoft-teknikken er i en tidlig fase og kan have begrænsninger, repræsenterer den en lovende fremgang mod mere kraftfulde, etiske og tilpasningsdygtige LLM’er.

Udfaldet Af Den Nye Teknik

Den innovative metode til at få LLM’er til at glemme ophavsretsligt data, der er præsenteret i Microsoft-forskningspapiret, er et skridt mod ansvarlige og etiske modeller.

Den nye teknik indebærer at slette Harry Potter-relateret indhold fra Meta’s Llama2-7b-model, der er kendt for at være trænet på “books3”-datasettet, der indeholder ophavsretsligt materiale. Bemærkelsesværdigt viser modellens oprindelige svar en indviklet forståelse af J.K. Rowlings univers, selv med generiske prompts.

Men Microsofts foreslåede teknik har betydeligt ændret dens svar. Her er eksempler på prompts, der viser de bemærkelsesværdige forskelle mellem den oprindelige Llama2-7b-model og den finjusterede version.

Billedekilde 

Dette billede viser, at de finjusterede unlearning-modeller opretholder deres præstation på tværs af forskellige benchmarks (som Hellaswag, Winogrande, piqa, boolq og arc).

Billedekilde

Evalueringen, der afhænger af modellens prompts og efterfølgende responsanalyse, viser sig effektiv, men kan overse mere komplekse, fjendtlige informationsudtrækningsmetoder.

Selvom teknikken er lovende, kræves yderligere forskning til finjustering og udvidelse, især i forhold til at løse bredere unlearning-opgaver inden for LLM’er.

Ny Unlearning Teknik Udfordringer

Selvom Microsofts unlearning-teknik viser lovende resultater, findes der flere AI-ophavsretlige udfordringer og begrænsninger.

Nøglebegrænsninger og områder for forbedring omfatter:

• Lækage af ophavsretslig information: Metoden kan ikke helt afhjælpe risikoen for ophavsretslig information lækage, da modellen kan beholde nogen viden om målindholdet under finjusteringsprocessen.
• Evaluering af forskellige dataset: For at vurdere effektiviteten skal metoden undergå yderligere evaluering på tværs af forskellige dataset, da det første eksperiment kun fokuserede på Harry Potter-bøgerne.
• Skalbarhed: Testning på større dataset og mere komplekse sprogmodeller er afgørende for at vurdere teknikens anvendelighed og tilpasning i virkelige scenarier.

Stigningen i AI-relaterede retssager, især ophavsretssager rettet mod LLM’er, understreger behovet for klare retningslinjer. Lovende udviklinger, som den unlearning-metode foreslået af Microsoft, åbner en vej mod etisk, juridisk og ansvarligt AI.

Miss ikke de seneste nyheder og analyser i AI og ML – besøg unite.ai i dag.