De Data Dilemma van AI: Privacy, Regulering en de Toekomst van Ethische AI

AI-gedreven oplossingen worden snel overgenomen in diverse industrieën, diensten en producten elke dag. Hun effectiviteit hangt echter af van de kwaliteit van de data waarop ze getraind zijn – een aspect dat vaak wordt gemist of onderschat in het proces van dataset-creatie.

Naarmate de autoriteiten voor gegevensbescherming de manier waarop AI-technologieën in overeenstemming zijn met privacy- en gegevensbeschermingsregels, neemt de druk op bedrijven toe om datasets op een compliant en ethische manier te verzamelen, annoteren en verfijnen.

Bestaat er echt een ethische aanpak voor het opbouwen van AI-datasets? Wat zijn de grootste ethische uitdagingen voor bedrijven en hoe lossen ze deze op? En hoe beïnvloeden de evoluerende juridische kaders de beschikbaarheid en het gebruik van trainingsdata? Laten we deze vragen onderzoeken.

Gegevensbescherming en AI

AI vereist van nature veel persoonlijke gegevens om taken uit te voeren. Dit heeft twijfels gewekt over het verzamelen, opslaan en gebruiken van deze informatie. Veel wetten over de hele wereld reguleren en beperken het gebruik van persoonlijke gegevens, van de AVG en de nieuw ingevoerde AI-wet in Europa tot HIPAA in de VS, die toegang tot patiëntgegevens in de medische industrie reguleert.

Referentie voor hoe streng de gegevensbeschermingswetten over de hele wereld zijn / DLA Piper

Bijvoorbeeld hebben veertien Amerikaanse staten momenteel uitgebreide gegevensbeschermingswetten, met zes meer die in 2025 en begin 2026 in werking treden. De nieuwe regering heeft een verschuiving in hun aanpak van gegevensbescherming aangekondigd op federaal niveau. Een belangrijk punt is AI-regulering, met de nadruk op het stimuleren van innovatie in plaats van het opleggen van beperkingen. Deze verschuiving omvat het intrekken van eerdere uitvoeringsbesluiten over AI en het introduceren van nieuwe richtlijnen om hun ontwikkeling en toepassing te leiden.

De gegevensbeschermingswetgeving evolueert in verschillende landen: in Europa zijn de wetten strenger, terwijl ze in Azië of Afrika minder streng zijn.

Persoonlijk identificeerbare informatie (PII) – zoals gezichtsbeelden, officiële documenten zoals paspoorten, of andere gevoelige persoonlijke gegevens – is over het algemeen beperkt in de meeste landen tot een zekere mate. Volgens de VN-Handel en Ontwikkeling is de verzameling, het gebruik en het delen van persoonlijke informatie met derden zonder kennisgeving of toestemming van consumenten een groot probleem voor de meeste landen. 137 van de 194 landen hebben regels om gegevensbescherming en privacy te waarborgen. Als gevolg daarvan nemen de meeste wereldwijde bedrijven uitgebreide voorzorgsmaatregelen om te voorkomen dat ze PII voor modeltraining gebruiken, aangezien regels zoals die in de EU dergelijke praktijken strikt verbieden, met zeldzame uitzonderingen in zwaar gereguleerde niches zoals wetshandhaving.

In de loop van de tijd worden de gegevensbeschermingswetten uitgebreider en wereldwijd gehandhaafd. Bedrijven passen hun praktijken aan om juridische uitdagingen te vermijden en te voldoen aan de opkomende juridische en ethische vereisten.

Welke Methoden Gebruiken Bedrijven Om Gegevens Te Verkrijgen?

Wanneer we de gegevensbeschermingsproblemen voor modeltraining bestuderen, is het essentieel om eerst te begrijpen waar bedrijven deze gegevens vandaan halen. Er zijn drie belangrijke en primaire gegevensbronnen.

• Gegevensverzameling

Deze methode maakt het mogelijk om gegevens te verzamelen van crowdsourcingsplatforms, mediabestanden en open-source datasets.

Het is belangrijk op te merken dat openbare mediabestanden onderworpen zijn aan verschillende licentieovereenkomsten. Zelfs een commerciële gebruikslicentie vermeldt vaak expliciet dat de inhoud niet mag worden gebruikt voor modeltraining. Deze verwachtingen verschillen per platform en vereisen dat bedrijven bevestigen dat ze de inhoud op de door hen nodige manier mogen gebruiken.

Zelfs als AI-bedrijven inhoud legaal verkrijgen, kunnen ze nog steeds enkele problemen tegenkomen. De snelle vooruitgang van AI-modeltraining heeft de juridische kaders ver overschreden, waardoor de regels en regelgevingen rondom AI-trainingsgegevens nog in ontwikkeling zijn. Als gevolg daarvan moeten bedrijven op de hoogte blijven van de juridische ontwikkelingen en zorgvuldig de licentieovereenkomsten controleren voordat ze stockinhoud voor AI-training gebruiken.

• Gegevenscreatie

Een van de veiligste methoden voor het voorbereiden van datasets is het creëren van unieke inhoud, zoals het filmen van mensen in gecontroleerde omgevingen zoals studio’s of buitengebieden. Voordat ze deelnemen, ondertekenen individuen een toestemmingsformulier voor het gebruik van hun PII, waarin wordt gespecificeerd welke gegevens worden verzameld, hoe en waar ze worden gebruikt en wie toegang heeft tot de gegevens. Dit zorgt voor volledige juridische bescherming en geeft bedrijven vertrouwen dat ze geen claims van illegaal gegevensgebruik zullen ontvangen.

Het belangrijkste nadeel van deze methode is de kosten, vooral wanneer gegevens worden gecreëerd voor randgevallen of grote projecten. Toch gebruiken grote bedrijven en ondernemingen deze aanpak steeds vaker voor ten minste twee redenen. Ten eerste waarborgt het volledige naleving van alle normen en juridische regelgeving. Ten tweede biedt het bedrijven gegevens die volledig zijn aangepast aan hun specifieke scenario’s en behoeften, waardoor de hoogste nauwkeurigheid bij modeltraining wordt gegarandeerd.

• Synthetische Gegevensgeneratie

Het gebruik van softwaretools om afbeeldingen, tekst of video’s te creëren op basis van een bepaald scenario. Echter, synthetische gegevens hebben beperkingen: ze worden gegenereerd op basis van vooraf gedefinieerde parameters en ontbreken de natuurlijke variabiliteit van echte gegevens.

Dit gebrek kan de AI-modellen nadelig beïnvloeden. Hoewel het niet relevant is voor alle gevallen en niet altijd gebeurt, is het nog steeds belangrijk om te onthouden dat “modelcollapse” — een punt waarop een overmatige afhankelijkheid van synthetische gegevens de modeldegradatie veroorzaakt, leidt tot slechte kwaliteituitvoer.

Synthetische gegevens kunnen nog steeds zeer effectief zijn voor basis taken, zoals het herkennen van algemene patronen, het identificeren van objecten of het onderscheiden van fundamentele visuele elementen zoals gezichten.

Echter, het is niet de beste optie wanneer een bedrijf een model volledig van scratch moet trainen of om moet gaan met zeldzame of zeer specifieke scenario’s.

De meest openbaringssituaties treden op in in-cabine-omgevingen, zoals een bestuurder die wordt afgeleid door een kind, iemand die vermoeid achter het stuur zit, of zelfs voorbeelden van roekeloos rijden. Deze gegevenspunten zijn niet algemeen beschikbaar in openbare datasets — noch zouden ze dat moeten zijn — aangezien ze echte personen in privésituaties betreffen. Aangezien AI-modellen afhankelijk zijn van trainingsgegevens om synthetische uitvoer te genereren, hebben ze moeite om scenario’s die ze nooit zijn tegengekomen, nauwkeurig weer te geven.

Wanneer synthetische gegevens falen, wordt gegenereerde gegevens — verzameld door middel van gecontroleerde omgevingen met echte acteurs — de oplossing.

Gegevensoplossingsproviders zoals Keymakr plaatsen camera’s in auto’s, huren acteurs in en nemen acties op zoals het verzorgen van een baby, drinken uit een fles of vermoeidheidsverschijnselen. De acteurs ondertekenen contracten waarin ze expliciet toestemming geven voor het gebruik van hun gegevens voor AI-training, waardoor ze voldoen aan de privacywetten.

Verantwoordelijkheden in het Proces van Dataset-Creatie

Elke deelnemer in het proces, van de klant tot de annotatiebedrijf, heeft specifieke verantwoordelijkheden die zijn vastgelegd in hun overeenkomst. De eerste stap is het opstellen van een contract, dat de aard van de relatie beschrijft, inclusief clausules over geheimhouding en intellectueel eigendom.

Laten we de eerste optie voor het werken met gegevens overwegen, namelijk wanneer ze van scratch worden gemaakt. De intellectuele eigendomsrechten vermelden dat alle door de leverancier gecreëerde gegevens eigendom zijn van het inhuurbedrijf, wat betekent dat ze namens hen zijn gemaakt. Dit betekent ook dat de leverancier ervoor moet zorgen dat de gegevens op een legale en juiste manier zijn verkregen.

Als gegevensoplossingsbedrijf zorgt Keymakr voor gegevenscompliance door eerst de rechtsgebieden te controleren waarin de gegevens worden gegenereerd, toestemming te verkrijgen van alle betrokken individuen en te garanderen dat de gegevens legaal kunnen worden gebruikt voor AI-training.

Het is ook belangrijk op te merken dat zodra de gegevens zijn gebruikt voor AI-modeltraining, is het bijna onmogelijk om te bepalen welke specifieke gegevens hebben bijgedragen aan het model, omdat AI alles samenbrengt. Dus, de specifieke uitvoer is niet noodzakelijkerwijs de uitvoer, vooral wanneer we het hebben over miljoenen afbeeldingen.

Vanwege de snelle ontwikkeling van dit gebied, worden er nog duidelijke richtlijnen vastgesteld voor het verdelen van verantwoordelijkheden. Dit is vergelijkbaar met de complexiteiten rondom zelfrijdende auto’s, waar vragen over aansprakelijkheid — of het nu de bestuurder, fabrikant of softwarebedrijf is — nog duidelijke verdeling vereisen.

In andere gevallen, wanneer een annotatieprovider een dataset ontvangt voor annotatie, gaat hij ervan uit dat de klant de gegevens legaal heeft verkregen. Als er duidelijke aanwijzingen zijn dat de gegevens illegaal zijn verkregen, moet de provider dit melden. Echter, dergelijke duidelijke gevallen zijn uiterst zeldzaam.

Het is ook belangrijk op te merken dat grote bedrijven, corporaties en merken die hun reputatie waarderen, zeer voorzichtig zijn over waar ze hun gegevens vandaan halen, zelfs als ze niet van scratch zijn gemaakt maar uit andere legale bronnen komen.

In samenvatting hangt de verantwoordelijkheid van elke deelnemer in het gegevenswerkproces af van de overeenkomst. U zou dit proces kunnen beschouwen als onderdeel van een bredere “duurzaamheidsketen”, waarin elke deelnemer een cruciale rol speelt bij het handhaven van juridische en ethische normen.

Welke Misverstanden Bestaan Er Over de Achterkant van AI-Ontwikkeling?

Een groot misverstand over AI-ontwikkeling is dat AI-modellen op dezelfde manier werken als zoekmachines, die informatie verzamelen en aggregaten om aan gebruikers te presenteren op basis van verworven kennis. Echter, AI-modellen, vooral taalmodellen, functioneren vaak op basis van waarschijnlijkheden in plaats van echte kennis. Ze voorspellen woorden of termen op basis van statistische waarschijnlijkheid, met behulp van patronen die in eerdere gegevens zijn gezien. AI “weet” niets; het extrapoleert, gokt en past waarschijnlijkheden aan.

Bovendien gaan veel mensen ervan uit dat het trainen van AI enorme datasets vereist, maar veel van wat AI moet herkennen — zoals honden, katten of mensen — is al goed gevestigd. De focus ligt nu op het verbeteren van de nauwkeurigheid en het verfijnen van modellen in plaats van het opnieuw uitvinden van herkenningscapaciteiten. Veel van de AI-ontwikkeling van vandaag draait om het sluiten van de laatste kleine nauwkeurigheidslacunes in plaats van van scratch te beginnen.

Ethische Uitdagingen en Hoe de Europese Unie AI-Wet en de Mitigatie van Amerikaanse Reguleringen de Globale AI-Markt Zullen Beïnvloeden

Wanneer we het hebben over de ethiek en legaliteit van het werken met gegevens, is het ook belangrijk om duidelijk te begrijpen wat “ethische” AI definieert.

De grootste ethische uitdaging waar bedrijven vandaag mee te maken krijgen in AI, is het bepalen van wat als onaanvaardbaar wordt beschouwd voor AI om te doen of te leren. Er is een brede overeenstemming dat ethische AI moet helpen in plaats van schaden aan mensen en moet vermijden om te bedriegen. Echter, AI-systemen kunnen fouten maken of “hallucineren”, wat het moeilijk maakt om te bepalen of deze fouten als desinformatie of schade kwalificeren.

AI-ethiek is een groot debat met organisaties zoals UNESCO die zich ermee bemoeien — met belangrijke principes rond controleerbaarheid en traceerbaarheid van uitvoer.

Juridische kaders rondom gegevenstoegang en AI-training spelen een significante rol in het vormgeven van de ethische landschap van AI. Landen met minder beperkingen op gegevensgebruik maken trainingsgegevens voor AI meer toegankelijk, terwijl landen met strengere gegevenswetten de beschikbaarheid van gegevens voor AI-training beperken.

Bijvoorbeeld, Europa, dat de AI-wet heeft aangenomen, en de VS, die veel AI-reguleringen heeft teruggedraaid, bieden tegenstrijdige benaderingen die het huidige mondiale landschap aangeven.

De Europese Unie AI-wet heeft een significante impact op bedrijven die in Europa opereren. Het legt een strikt regelgevend kader op, waardoor het voor bedrijven moeilijk wordt om bepaalde AI-modellen te gebruiken of te ontwikkelen. Bedrijven moeten speciale licenties verkrijgen om met bepaalde technologieën te werken, en in veel gevallen maken de regels het effectief te moeilijk voor kleinere bedrijven om aan deze regels te voldoen.

Als gevolg hiervan kunnen sommige startups ervoor kiezen om Europa te verlaten of helemaal niet te opereren, net zoals bij de impact van cryptocurrency-reguleringen. Grotere bedrijven die de investering kunnen doen om te voldoen aan de compliance-eisen, kunnen zich aanpassen. Echter, de wet kan AI-innovatie uit Europa wegjagen ten gunste van markten zoals de VS of Israël, waar de reguleringen minder streng zijn.

De beslissing van de VS om belangrijke middelen te investeren in AI-ontwikkeling met minder beperkingen kan ook nadelen hebben, maar kan meer diversiteit in de markt aantrekken. Terwijl de Europese Unie zich richt op veiligheid en regelgevingsconformiteit, zal de VS waarschijnlijk meer risicovolle en baanbrekende experimenten stimuleren.