Att glömma upphovsrättsskyddade data från en tränad LLM – Är det möjligt?

I områdena artificiell intelligens (AI) och maskinlärning (ML) visar stora språkmodeller (LLM) både prestationer och utmaningar. Tränade på omfattande textdata, LLM-modeller omfattar mänskligt språk och kunskap.

Men deras förmåga att absorbera och imitera mänsklig förståelse presenterar juridiska, etiska och tekniska utmaningar. Dessutom kan de omfattande datamängderna som driver LLM kan innehålla giftigt material, upphovsrättsskyddade texter, ofullständigheter eller personlig data.

Att göra LLM glömma vald data har blivit en angelägen fråga för att säkerställa juridisk överensstämmelse och etiskt ansvar.

Låt oss undersöka begreppet att göra LLM glömma upphovsrättsskyddade data för att besvara en grundläggande fråga: Är det möjligt?

Varför behövs LLM glömska?

LLM innehåller ofta omstridda data, inklusive upphovsrättsskyddade data. Att ha sådan data i LLM utgör juridiska utmaningar relaterade till privat information, partisk information, upphovsrättsdata och falska eller skadliga element.

Därför är glömska nödvändig för att säkerställa att LLM följer dataskyddsförordningar och följer upphovsrättslagar, främjande ansvarsfulla och etiska LLM.

Men att extrahera upphovsrättsskyddat innehåll från den omfattande kunskap som dessa modeller har förvärvat är utmanande. Här är några glömskemetoder som kan hjälpa till att lösa detta problem:

• Datafiltrering: Det innebär att systematiskt identifiera och ta bort upphovsrättsskyddade element, bullrig eller partisk data, från modellens träningsdata. Men filtrering kan leda till förlust av värdefull icke-upphovsrättsskyddad information under filtreringsprocessen.
• Gradientmetoder: Dessa metoder justerar modellens parametrar baserat på förlustfunktionens gradient, som hanterar upphovsrättsproblemet i ML-modeller. Men justeringar kan påverka modellens övergripande prestanda på icke-upphovsrättsskyddad data negativt.
• Inkontext glömska: Denna teknik eliminerar effektivt effekten av specifika träningspunkter på modellen genom att uppdatera dess parametrar utan att påverka orelaterad kunskap. Men metoden har begränsningar för att uppnå exakt glömska, särskilt med stora modeller, och dess effektivitet kräver ytterligare utvärdering.

Dessa tekniker är resurskrävande och tidskrävande, vilket gör dem svåra att implementera.

Fallstudier

För att förstå betydelsen av LLM-glömska belyser dessa verkliga fall hur företag kämpar med juridiska utmaningar relaterade till stora språkmodeller (LLM) och upphovsrättsskyddade data.

OpenAI-stämningsanspråk: OpenAI, ett framstående AI-företag, har drabbats av flera stämningsanspråk över LLM:s träningsdata. Dessa rättsliga åtgärder ifrågasätter användningen av upphovsrättsskyddat material i LLM-träning. Dessutom har de utlöst utredningar om de mekanismer modellerna använder för att säkra tillstånd för varje upphovsrättsskyddat verk som integreras i deras träningsprocess.

Sarah Silverman-stämningsanspråk: Fallet Sarah Silverman involverar en anklagelse om att ChatGPT-modellen genererade sammanfattningar av hennes böcker utan tillstånd. Denna rättsliga åtgärd understryker de viktiga frågorna om AI:s framtid och upphovsrättsskyddade data.

Att uppdatera juridiska ramverk för att anpassa sig till teknologisk utveckling säkerställer ansvarsfull och juridisk användning av AI-modeller. Dessutom måste forskarsamhället hantera dessa utmaningar på ett omfattande sätt för att göra LLM etiska och rättvisa.

Traditionella LLM-glömskemetoder

LLM-glömska är som att separera specifika ingredienser från ett komplext recept, säkerställande att endast de önskade komponenterna bidrar till den färdiga rätten. Traditionella LLM-glömskemetoder, som finjustering med kuraterad data och omträning, saknar enkla mekanismer för att ta bort upphovsrättsskyddade data.

Deras breda tillvägagångssätt visar sig ofta vara ineffektivt och resurskrävande för den sofistikerade uppgiften att välja glömska, eftersom de kräver omfattande omträning.

Medan dessa traditionella metoder kan justera modellens parametrar, kämpar de för att exakt rikta in sig på upphovsrättsskyddat innehåll, med risk för oavsiktlig dataförlust och undermålig överensstämmelse.

Därför kräver begränsningarna för traditionella tekniker och robusta lösningar experiment med alternativa glömskemetoder.

Ny teknik: Glömska av en delmängd av träningsdata

Microsoft-forskningsrapporten (MSFT ) introducerar en banbrytande teknik för att glömma upphovsrättsskyddade data i LLM. Fokuserad på exemplet med Llama2-7b-modellen och Harry Potter-böckerna, metoden består av tre kärnkomponenter för att göra LLM glömma Harry Potters värld. Dessa komponenter inkluderar:

• Förstärkt modellidentifiering: Att skapa en förstärkt modell innebär finjustering av måldata (t.ex. Harry Potter) för att stärka dess kunskap om innehållet som ska glömmas.
• Ersättning av idiosynkratiska uttryck: Unika Harry Potter-uttryck i måldata ersätts med generiska, vilket underlättar en mer allmän förståelse.
• Finjustering på alternativa förutsägelser: Basmodellen genomgår finjustering baserat på dessa alternativa förutsägelser. I princip raderar den ursprungliga texten från sitt minne när den konfronteras med relevant kontext.

Även om Microsoft-tekniken är i ett tidigt skede och kan ha begränsningar, representerar den ett lovande framsteg mot kraftfullare, etiska och anpassningsbara LLM.

Resultatet av den nya tekniken

Den innovativa metoden för att göra LLM glömma upphovsrättsskyddade data, presenterad i Microsoft-forskningsrapporten, är ett steg mot ansvarsfulla och etiska modeller.

Den nya tekniken innebär att radera Harry Potter-relaterat innehåll från Metas Llama2-7b-modell, som är känd för att ha tränats på “books3”-datamängden som innehåller upphovsrättsskyddade verk. Noterbart är att modellens ursprungliga svar visade en intrikat förståelse av J.K. Rowlings universum, även med generiska uppmaningar.

Men Microsofts föreslagna teknik förvandlade betydligt dess svar. Här är exempel på uppmaningar som visar de betydande skillnaderna mellan den ursprungliga Llama2-7b-modellen och den finjusterade versionen.

Bildkälla

Denna tabell visar att de finjusterade glömskamodellerna upprätthåller sin prestanda över olika benchmark (såsom Hellaswag, Winogrande, piqa, boolq och arc).

Bildkälla

Utvarderingsmetoden, som bygger på modelluppmaningar och efterföljande svarsanalys, visar sig vara effektiv men kan förbise mer invecklad, antagonistisk informationsutvinning.
Medan tekniken är lovande, krävs ytterligare forskning för att förbättra och expandera, särskilt för att hantera bredare glömskauppgifter inom LLM.

Nya glömskametodens utmaningar

Medan Microsofts glömskametod visar sig vara lovande, finns det flera AI-upphovsrättsutmaningar och begränsningar.

Nyckelbegränsningar och områden för förbättring omfattar:

• Läckage av upphovsrättsinformation: Metoden kan inte helt mildra risken för upphovsrättsinformation läckage, eftersom modellen kan behålla viss kunskap om målinnehållet under finjusteringsprocessen.
• Utvardering av olika datamängder: För att bedöma effektivitet måste metoden genomgå ytterligare utvardering över olika datamängder, eftersom det första experimentet fokuserade enbart på Harry Potter-böckerna.
• Skalbarhet: Testning på större datamängder och mer invecklade språkmodeller är avgörande för att bedöma teknikens tillämplighet och anpassningsförmåga i verkliga scenarier.

Ökningen av AI-relaterade rättsfall, särskilt upphovsrättsstämningsanspråk som riktar sig mot LLM, understryker behovet av tydliga riktlinjer. Lovande utveckling, som den glömskametod som föreslagits av Microsoft, banar väg för etisk, juridisk och ansvarsfull AI.

Miss inte de senaste nyheterna och analyserna inom AI och ML – besök unite.ai idag.