Metas AI-ambisjoner ble stoppet i Europa: Personvernkrenkelser utløste en regulatorisk pause

I 2023 foreslo Meta AI å trene sine store språkmodeller (LLM) på brukerdata fra Europa. Dette forslaget har som mål å forbedre LLM-ene evne til å forstå dialekt, geografi og kulturelle referanser til europeiske brukere.

Meta ønsket å utvide seg til Europa for å optimalisere nøyaktigheten av sine kunstig intelligens (AI)-teknologisystemer ved å trene dem til å bruke brukerdata. Imidlertid førte den irske Data Protection Commission (DPC) til at Meta måtte pause sin utvidelse på grunn av betydelige personvernkrenkelser.

Denne bloggen diskuterer DPCs personverns- og datasikkerhetsproblemer og hvordan Meta svarte på dem.

Personvernkrenkelser fremmet av DPC

DPC er Metas ledende tilsynsmyndighet i Den europeiske union (EU). Etter klager er DPC i ferd med å undersøke Metas dataprosedyrer. Selv om de har bedt Meta om å pause sine planer til etter en undersøkelse, kan de kreve ytterligere endringer eller forklaringer fra Meta underveis.

En av klagerne, NOYB (none of your business), en privatpersonaktivistorganisasjon, sendte inn elleve klager. I disse hevdet de at Meta hadde brutt flere aspekter av Den generelle personvernforskriften (GDPR). En av grunnene var at Meta ikke uttrykkelig hadde bedt om brukernes tillatelse til å få tilgang til deres data, men bare gav dem mulighet til å nekte.

I en tidligere episode ble Metas forsøk stoppet da de planla å gjennomføre målrettet reklame for europeere. Den europeiske unions rettslige organ (CJEU) fastslo at Meta ikke kunne bruke “berettiget interesse” som begrunnelse. Dette avgjørelsen hadde en negativ innvirkning på Meta, da selskapet hovedsakelig avhengig av GDPR-bestemmelsene for å forsvare sine praksiser.

DPC har fremmet en liste over bekymringer, inkludert:

1. Mangel på uttrykkelig samtykke: Som nevnt tidligere, var Metas intensjoner ikke fullstendig samtykkende. Deres praksis med å sende samtykkesavtaler i varsler og potensielt å fremme dem til å bli oversett, gjorde det vanskelig for brukerne å velge å avslå.
2. Unødvendig datainnsamling: GDPR fastslår at bare nødvendig data skal samles inn. Imidlertid hevdet DPC at Metas datainnsamling var for bred og manglet spesifikasjoner.
3. Problemer med åpenhet: Brukerne ble ikke informert om hvordan deres data skulle brukes, noe som skapte en tillitsdefisit. Dette gikk imot GDPRs prinsipper om åpenhet og ansvar.

Disse strengere regler utgjorde betydelige hindringer for Meta, som svarte ved å ikke være enig med DPCs undersøkelse og ved å fastholde sin posisjon om å være i samsvar med reglene.

Metas respons

Meta var misfornøyd med pausen og svarte på DPCs bekymringer. De hevdet at deres handlinger var i samsvar med reglene, og henviser til GDPRs bestemmelse om “berettiget interesse” for å begrunne sine dataprosedyrer.

I tillegg hevdet Meta at de hadde informert brukerne i tide gjennom ulike kommunikasjonskanaler og at deres AI-praksis søker å forbedre brukeropplevelsen uten å kompromittere personvern.

I respons til bekymringen om brukerens samtykke, hevdet Meta at denne tilnærmingen ville ha begrenset datavolum, noe som ville gjøre prosjektet ueffektivt. Derfor ble varslingen plassert strategisk for å bevare datavolumet.

Imidlertid understreket kritikere at å stole på “berettiget interesse” var utilstrekkelig for å være i samsvar med GDPR og uklar for uttrykkelig brukersamtykke. I tillegg mente de at åpenheten var utilstrekkelig, og at mange brukere var uvitende om hvordan deres data ble brukt.

En uttalelse fra Metas globale engasjementssjef høydepunktet selskapets forpliktelse til brukerpersonvern og regulatorisk samsvar. I den understreket han at Meta ville møte DPCs bekymringer og arbeide med å forbedre datasikkerhetstiltakene. Videre er Meta forpliktet til brukerbevissthet, personvern og utvikling av ansvarlige og forklarbare AI-systemer.

Konsekvenser av Metas AI-pause

Som en følge av pausen, har Meta måttet omstrukturere og omfordеле sin finansielle og menneskelige kapital på nytt. Dette har hatt en negativ innvirkning på deres operasjoner, noe som har ført til økt omjustering.

I tillegg har dette ført til usikkerhet rundt regler som styrer dataprosedyrer. DPCs avgjørelse vil også åpne vei for en periode hvor teknologibransjen kan møte enda strengere regler.

Metas metaverse, som er betraktet som “etterfølgeren til mobilinternettet”, vil også møte en nedgang. Ettersom innhenting av brukerdata fra ulike kulturer er en av de viktigste faktorene for å utvikle metaverse, vil pausen forstyrre dens utvikling.

Pausen har hatt en alvorlig innvirkning på Metas offentlige omdømme. Meta frykter å tape sin konkurransefordel, spesielt i LLM-rommet. I tillegg vil stakeholders tvile på selskapets evne til å håndtere brukerdata og følge personvernregler.

VIDERE IMPILIASJONER

DPCs avgjørelse vil ha en innvirkning på lovgivning og regler om personvern og datasikkerhet. I tillegg vil dette føre til at andre selskaper i teknologibransjen tar forsiktige tiltak for å forbedre sine dataprosedyrer. Teknologigiganter som Meta må balansere innovasjon og personvern, og sikre at sistnevnte ikke blir kompromittert.

I tillegg gir denne pausen en mulighet for aspirerende teknologiselskaper å kapitalisere på Metas tilbakeslag. Ved å ta ledelsen og ikke gjøre de samme feilene som Meta, kan disse selskapene drive vekst.

For å holde deg oppdatert med AI-nyheter og utviklinger rundt om i verden, besøk Unite.ai.