Meta’s AI-ambitie wordt stilgelegd in Europa: privacybezwaren leiden tot een reglementaire pauze

In 2023 stelde Meta AI voor om zijn grote taalmodellen (LLM’s) te trainen op gebruikersgegevens uit Europa. Dit voorstel heeft tot doel de capaciteit van LLM’s te verbeteren om de dialect, geografie en culturele verwijzingen van Europese gebruikers te begrijpen.

Meta wilde uitbreiden naar Europa om de nauwkeurigheid van zijn kunstmatige intelligentie (AI)-technologiesystemen te optimaliseren door ze te trainen om gebruikersgegevens te gebruiken. Echter, de Ierse Data Protection Commission (DPC) bracht grote privacybezwaren naar voren, waardoor Meta zijn uitbreidingsplannen moest pauzeren.

Deze blog bespreekt de privacy- en gegevensbeveiligingsbezwaren van de DPC en hoe Meta daarop reageerde.

Privacybezwaren door de DPC naar voren gebracht

De DPC is Meta’s leidende toezichthouder in de Europese Unie (EU). Na klachten is de DPC een onderzoek naar Meta’s gegevenspraktijken gestart. Hoewel het Meta heeft verzocht zijn plannen te pauzeren totdat het onderzoek is afgerond, kan het zijn dat de DPC tijdens het onderzoek aanvullende wijzigingen of verduidelijkingen van Meta vereist.

Een van de klagers, NOYB (none of your business), een organisatie voor privacyactivisten, diende elf klachten in. Daarin stelde ze dat Meta meerdere aspecten van de Algemene Verordening Gegevensbescherming (AVG) had geschonden. Een van de redenen was dat Meta gebruikers niet expliciet om toestemming had gevraagd om toegang te krijgen tot hun gegevens, maar hen alleen de optie had gegeven om te weigeren.

In een eerder geval werden Meta’s pogingen stopgezet toen het van plan was om gerichte advertenties voor Europeanen uit te voeren. Het Hof van Justitie van de Europese Unie (HvJ EU) oordeelde dat Meta geen “legitiem belang” kon gebruiken als rechtvaardiging. Deze uitspraak had een negatieve invloed op Meta, aangezien het bedrijf voornamelijk steunde op de AVG-bepalingen om zijn praktijken te verdedigen.

De DPC heeft een lijst met bezwaren naar voren gebracht, waaronder:

1. Afwezigheid van expliciete toestemming: Zoals eerder vermeld, waren Meta’s bedoelingen niet geheel vrijwillig. De praktijken van het bedrijf, waarbij toestemmingsovereenkomsten in meldingen werden verzonden en mogelijk gemist konden worden, maakten het moeilijk voor gebruikers om te kiezen voor weigering.
2. Onnodige gegevensverzameling: De AVG staat alleen noodzakelijke gegevensverzameling toe. Echter, de DPC stelde dat Meta’s gegevensverzameling te breed was en geen specificaties had.
3. Problemen met transparantie: Gebruikers werden niet geïnformeerd over hoe hun gegevens zouden worden gebruikt, waardoor een vertrouwensdeficit ontstond. Dit ging in tegen de beginselen van transparantie en verantwoordingsplicht van de AVG.

Deze stringente regelgeving vormde een aanzienlijke hindernis voor Meta, dat reageerde door het onderzoek van de DPC te betwisten en zijn standpunt van naleving te handhaven.

Meta’s reactie

Meta was teleurgesteld over de pauze en reageerde op de bezwaren van de DPC. Het bedrijf stelde dat zijn acties in overeenstemming waren met de regelgeving, waarbij het de AVG-bepaling “legitiem belang” aanhaalde om zijn gegevensverwerkingspraktijken te rechtvaardigen.

Daarnaast stelde Meta dat het gebruikers tijdig had geïnformeerd via verschillende communicatiekanalen en dat zijn AI-praktijken gericht waren op het verbeteren van de gebruikerservaring zonder de privacy te schenden.

Als reactie op het bezwaar over de gebruikersoptie stelde Meta dat deze aanpak zou leiden tot een beperkte hoeveelheid gegevens, waardoor het project ineffectief zou zijn. Daarom werd de melding strategisch geplaatst om de hoeveelheid gegevens te behouden.

Echter, critici benadrukten dat het vertrouwen op “legitiem belang” onvoldoende was voor de naleving van de AVG en niet transparant was voor expliciete gebruikerstoestemming. Bovendien vonden ze de mate van transparantie onvoldoende, aangezien veel gebruikers onbewust waren van de mate waarin hun gegevens werden gebruikt.

Een verklaring van Meta’s Global Engagement Director benadrukte het bedrijfs commitment aan gebruikersprivacy en regelgevingsconformiteit. Daarin benadrukte hij dat Meta de bezwaren van de DPC zou aanpakken en zou werken aan het verbeteren van de gegevensbeveiligingsmaatregelen. Bovendien is Meta toegewijd aan gebruikersbewustzijn, gebruikersprivacy en de ontwikkeling van verantwoorde en uitlegbare AI-systemen.

Gevolgen van Meta’s AI-pauze

Als gevolg van de pauze moest Meta zijn strategie opnieuw evalueren en zijn financiële en menselijke middelen dienovereenkomstig heralloceren. Dit heeft een negatieve invloed gehad op zijn operaties, waardoor een toename van herkalibratie is ontstaan.

Daarnaast heeft dit geleid tot onzekerheid over de regelgeving die de gegevenspraktijken regelt. De beslissing van de DPC zal ook de weg vrijmaken voor een tijdperk waarin de technologie-industrie mogelijk nog strengere regelgeving zal ervaren.

Meta’s metaverse, die wordt beschouwd als de “opvolger van het mobiele internet”, zal ook een vertraging ervaren. Aangezien het verzamelen van gebruikersgegevens over verschillende culturen een van de essentiële factoren is voor de ontwikkeling van de metaverse, verstoort de pauze de ontwikkeling ervan.

De pauze heeft Meta’s publieke perceptie ernstig beïnvloed. Meta overweegt mogelijk zijn concurrentievoordeel te verliezen, vooral op het gebied van LLM’s. Ook door de pauze zullen stakeholders twijfelen aan het vermogen van het bedrijf om gebruikersgegevens te beheren en de privacyregelgeving na te leven.

Breder implicaties

De beslissing van de DPC zal van invloed zijn op de wetgeving en regelgeving met betrekking tot gegevensprivacy en -beveiliging. Bovendien zal dit andere bedrijven in de technologie-industrie ertoe aanzetten om voorzorgsmaatregelen te nemen om hun gegevensbeveiligingsbeleid te verbeteren. Technologiebedrijven zoals Meta moeten innovatie en privacy in evenwicht brengen, waarbij de laatste niet wordt geschonden.

Daarnaast biedt deze pauze een kans voor aspirant-technologiebedrijven om te profiteren van Meta’s tegenslag. Door het initiatief te nemen en niet dezelfde fouten te maken als Meta, kunnen deze bedrijven groei stimuleren.

Om op de hoogte te blijven van AI-nieuws en -ontwikkelingen over de hele wereld, bezoek Unite.ai.