Wat is Verantwoordelijke AI? Principes, Uitdagingen en Voordelen

Verantwoordelijke AI (RAI) verwijst naar het ontwerpen en implementeren van AI-systemen die transparant, onbevooroordeeld, aanspreekbaar en ethische richtlijnen volgen. Naarmate AI-systemen krachtiger en alomtegenwoordiger worden, is het essentieel om ervoor te zorgen dat ze op een verantwoorde manier worden ontwikkeld en veiligheids- en ethische richtlijnen volgen.

Gezondheid, Transport, Netwerkbeheer en Toezicht zijn veiligheidscritische AI-toepassingen waarbij systeemfalen ernstige gevolgen kan hebben. Grote bedrijven zijn zich ervan bewust dat RAI essentieel is voor het mitigeren van technologie-risico’s. Toch bleek uit een onderzoek van MIT Sloan/BCG, waarin 1093 respondenten waren opgenomen, dat 54% van de bedrijven geen expertise en talent had op het gebied van Verantwoordelijke AI.

Hoewel thought leaders en organisaties principes voor verantwoordelijke AI hebben ontwikkeld, blijft het waarborgen van de verantwoorde ontwikkeling van AI-systemen een uitdaging. Laten we dit idee in detail onderzoeken:

5 Principes voor Verantwoordelijke AI

1. Eerlijkheid

Technologen moeten procedures ontwerpen zodat AI-systemen alle individuen en groepen eerlijk en zonder vooroordeel behandelen. Eerlijkheid is dan ook de primaire vereiste in hoog-risico beslissingsapplicaties.

Eerlijkheid wordt gedefinieerd als:

“Het onderzoeken van de impact op verschillende demografische groepen en het kiezen van een van de verschillende wiskundige definities van groeps-eerlijkheid die voldoende zal voldoen aan de gewenste set van juridische, culturele en ethische vereisten.”

2. Aanspreekbaarheid

Aanspreekbaarheid houdt in dat individuen en organisaties die AI-systemen ontwikkelen en implementeren, verantwoordelijk moeten zijn voor hun beslissingen en acties. Het team dat AI-systemen implementeert, moet ervoor zorgen dat hun AI-systeem transparant, interpreteerbaar, controleerbaar en geen schade toebrengt aan de samenleving.

Aanspreekbaarheid omvat zeven componenten:

1. Context (doel waarvoor aanspreekbaarheid is vereist)
2. Range (onderwerp van aanspreekbaarheid)
3. Agent (wie is aanspreekbaar?)
4. Forum (aan wie de verantwoordelijke partij moet rapporteren)
5. Standards (criteria voor aanspreekbaarheid)
6. Proces (methode van aanspreekbaarheid)
7. Implicaties (gevolgen van aanspreekbaarheid)

3. Transparantie

Transparantie houdt in dat de reden achter besluitvorming in AI-systemen duidelijk en begrijpelijk is. Transparante AI-systemen zijn interpreteerbaar.

Volgens Assessment List for Trustworthy Artificial Intelligence (ALTAI) heeft transparantie drie sleutel-elementen:

1. Traceerbaarheid (de data, voorverwerkingstappen en model zijn toegankelijk)
2. Interpreteerbaarheid (de reden achter besluitvorming/predictie is duidelijk)
3. Open Communicatie (met betrekking tot de beperkingen van het AI-systeem)

4. Privacy

Privacy is een van de belangrijkste principes van verantwoordelijke AI. Het gaat over de bescherming van persoonlijke informatie. Deze principes waarborgen dat persoonlijke informatie met toestemming wordt verzameld en verwerkt en buiten het bereik van malafide partijen blijft.

Er was onlangs een zaak van Clearview, een bedrijf dat gezichtsherkenningmodellen maakt voor politie en universiteiten. De Britse toezichthouders daagden Clearview AI voor £ 7,5 miljoen wegens het verzamelen van afbeeldingen van Britse inwoners van sociale media zonder toestemming om een database van 20 miljard afbeeldingen te maken.

5. Beveiliging

Beveiliging houdt in dat AI-systemen veilig zijn en geen bedreiging vormen voor de samenleving. Een voorbeeld van een AI-beveiligingsbedreiging is adversarial attacks. Deze kwaadwillige aanvallen misleiden ML-modellen om verkeerde beslissingen te nemen. Het beschermen van AI-systemen tegen cyberaanvallen is essentieel voor verantwoordelijke AI.

4 Grote Uitdagingen en Risico’s van Verantwoordelijke AI

1. Vooroordeel

Menselijke vooroordelen met betrekking tot leeftijd, geslacht, nationaliteit en ras kunnen de dataverzameling beïnvloeden, wat mogelijk leidt tot vooroordeelde AI-modellen. Een onderzoek van het Amerikaanse ministerie van Handel toonde aan dat gezichtsherkenning AI personen van kleur verkeerd identificeert. Hierdoor kan het gebruik van AI voor gezichtsherkenning in de politie leiden tot onterechte arrestaties. Bovendien is het maken van eerlijke AI-modellen een uitdaging omdat er 21 verschillende parameters zijn om ze te definiëren. Er is dus een compromis; het voldoen aan één parameter voor eerlijke AI betekent het offeren van een andere.

2. Interpretatie

Interpretatie is een kritieke uitdaging bij de ontwikkeling van verantwoordelijke AI. Het gaat over het begrijpen van hoe het machine learning-model tot een bepaalde conclusie is gekomen.

Diepe neurale netwerken ontbreken aan interpretatie omdat ze opereren als black boxes met meerdere lagen verborgen neuronen, waardoor het moeilijk is om het beslissingsproces te begrijpen. Dit kan een uitdaging zijn in hoog-inzet besluitvorming, zoals in de gezondheidszorg, financiën, enz.

Bovendien is het formaliseren van interpretatie in ML-modellen een uitdaging omdat het subjectief en domeinspecifiek is.

3. Bestuur

Bestuur verwijst naar een set regels, beleid en procedures die de ontwikkeling en implementatie van AI-systemen toezien. Onlangs is er significante vooruitgang geboekt in de bestuursdiscussie over AI, met organisaties die kaders en ethische richtlijnen presenteren.

Ethische richtlijnen voor betrouwbaar AI van de EU, Australisch AI-ethiekraamwerk en OESO AI-principes zijn voorbeelden van AI-bestuurskaders.

Maar de snelle vooruitgang in AI in de afgelopen jaren kan deze AI-bestuurskaders inhalen. Daarom is er een kader nodig dat de eerlijkheid, interpreteerbaarheid en ethiek van AI-systemen beoordeelt.

4. Regulering

Naarmate AI-systemen meer worden gebruikt, is er regulering nodig om ethische en maatschappelijke waarden in overweging te nemen. Het ontwikkelen van regulering die AI-innovatie niet smoort, is een kritieke uitdaging in verantwoordelijke AI.

Selfs met de Algemene Verordening Gegevensbescherming (AVG), de California Consumer Privacy Act (CCPA) en de Wet Bescherming Persoonsgegevens (WBP) als regulerende instanties, ontdekten AI-onderzoekers dat 97% van de EU-websites niet voldeden aan de wettelijke vereisten van de AVG.

Bovendien staan wetgevers voor een aanzienlijke uitdaging om overeenstemming te bereiken over de definitie van AI die zowel klassieke AI-systemen als de nieuwste AI-toepassingen omvat.

3 Grote Voordelen van Verantwoordelijke AI

1. Verminderd Vooroordeel

Verantwoordelijke AI vermindert vooroordeel in besluitvormingsprocessen, waardoor vertrouwen in AI-systemen wordt opgebouwd. Het verminderen van vooroordeel in AI-systemen kan leiden tot een eerlijke en gelijke gezondheidszorg en vermindert vooroordeel in AI-gebaseerde financiële diensten enz.

2. Verbeterde Transparantie

Verantwoordelijke AI maakt transparante AI-toepassingen die vertrouwen in AI-systemen opbouwen. Transparante AI-systemen verminderen het risico op fouten en misbruik. Verbeterde transparantie maakt het controleren van AI-systemen gemakkelijker, wint het vertrouwen van stakeholders en kan leiden tot aanspreekbare AI-systemen.

3. Betere Beveiliging

Beveiligde AI-toepassingen waarborgen dat gegevens privé zijn, betrouwbaar en onschadelijk zijn en veilig zijn tegen cyberaanvallen.

Tech-giganten zoals Microsoft (MSFT ) en Google (GOOGL ), die aan de vooravond staan van de ontwikkeling van AI-systemen, hebben principes voor Verantwoordelijke AI ontwikkeld. Verantwoordelijke AI waarborgt dat innovatie in AI niet schadelijk is voor individuen en de samenleving.

Thought leaders, onderzoekers, organisaties en juridische autoriteiten moeten de literatuur over verantwoordelijke AI voortdurend herzien om een veilige toekomst voor AI-innovatie te waarborgen.

Voor meer AI-gerelateerde inhoud, bezoek unite.ai.