Kunstmatige intelligentie kan specifiek ongewenst gedrag vermijden met nieuwe algoritmes

Naarmate kunstmatige intelligentie-algoritmes en -systemen geavanceerder worden en grotere verantwoordelijkheden krijgen, wordt het steeds belangrijker om ervoor te zorgen dat AI-systemen gevaarlijk, ongewenst gedrag vermijden. Onlangs publiceerde een team van onderzoekers van de University of Massachusetts Amherst en Stanford een paper die aantoont hoe specifiek AI-gedrag kan worden vermeden door middel van een techniek die precieze wiskundige instructies oplevert die kunnen worden gebruikt om het gedrag van een AI te verfijnen.

Volgens TechXplore was het onderzoek gebaseerd op de veronderstelling dat oneerlijke/onveilige gedragingen kunnen worden gedefinieerd met wiskundige functies en variabelen. Als dit waar is, dan zou het mogelijk moeten zijn voor onderzoekers om systemen te trainen om deze specifieke gedragingen te vermijden. Het onderzoeksteam streefde ernaar om een toolkit te ontwikkelen die door gebruikers van de AI kan worden gebruikt om op te geven welk gedrag ze willen dat de AI vermijdt, en om AI-ingenieurs in staat te stellen om betrouwbaar een systeem te trainen dat ongewenste acties zal vermijden wanneer het in real-world scenario’s wordt gebruikt.

Phillip Thomas, de eerste auteur van het paper en assistent-professor in de informatica aan de U van Michigan Amherst, legde uit dat het onderzoeksteam ernaar streeft om aan te tonen dat ontwerpers van machine learning-algoritmes het voor gebruikers van AI gemakkelijker kunnen maken om ongewenst gedrag te beschrijven en het waarschijnlijk te maken dat het AI-systeem dat gedrag zal vermijden.

Het onderzoeksteam testte hun techniek door deze toe te passen op een veelvoorkomend probleem in datawetenschap, namelijk geslachtsbias. Het onderzoeksteam streefde ernaar om de algoritmes die worden gebruikt om de GPA van studenten te voorspellen, eerlijker te maken door de geslachtsbias te verminderen. Het onderzoeksteam gebruikte een experimentele dataset en instrueerde hun AI-systeem om te voorkomen dat modellen werden gemaakt die systematisch de GPA’s van studenten van een bepaald geslacht onderschatten of overschatten. Als gevolg van de instructies van de onderzoekers creëerde het algoritme een model dat de GPA’s van studenten beter voorspelde en aanzienlijk minder systemische geslachtsbias had dan eerder bestaande modellen. Eerder bestaande GPA-voorspellingsmodellen hadden last van bias omdat biasreductiemodellen vaak te beperkt waren om nuttig te zijn, of omdat er helemaal geen biasreductie werd gebruikt.

Het onderzoeksteam ontwikkelde ook een ander algoritme. Dit algoritme werd geïmplementeerd in een geautomatiseerde insulinepomp, en het algoritme was bedoeld om zowel prestaties als veiligheid in balans te brengen. Geautomatiseerde insulinepompen moeten beslissen hoe groot de insulinedosis moet zijn die een patiënt moet krijgen. Na het eten zal de pomp idealiter een insulinedosis afgeven die precies groot genoeg is om de bloedsuikerspiegel onder controle te houden. De insulinedoses die worden afgegeven, mogen niet te groot of te klein zijn.

Machine learning-algoritmes zijn al goed in het identificeren van patronen in een individus reactie op insulinedoses, maar bestaande analysemethode kunnen artsen niet laten specificeren welke resultaten moeten worden vermeden, zoals een lage bloedsuikerspiegel. In tegenstelling tot de bestaande methode kon het onderzoeksteam een methode ontwikkelen die kon worden getraind om insulinedoses af te geven die binnen de twee uitersten blijven, waardoor zowel onderdosering als overdosering wordt voorkomen. Hoewel het systeem nog niet klaar is voor testen bij echte patiënten, kan een meer geavanceerde AI op basis van deze aanpak de kwaliteit van leven voor mensen met diabetes verbeteren.

In het onderzoeksrapport verwijzen de onderzoekers naar het algoritme als een “Seledonian” algoritme. Dit is een verwijzing naar de drie wetten van de robotica zoals beschreven door de sciencefictionauteur Isaac Asimov. De implicatie is dat het AI-systeem “geen mens mag verwonden of, door niet te handelen, toelaten dat een mens wordt verwond”. Het onderzoeksteam hoopt dat hun kader zal toelaten dat AI-onderzoekers en -ingenieurs een verscheidenheid aan algoritmes en systemen kunnen ontwikkelen die gevaarlijk gedrag vermijden. Emma Brunskill, senior auteur van het paper en assistent-professor in de informatica aan Stanford, legde uit aan TechXplore

“We willen AI ontwikkelen die de waarden van zijn menselijke gebruikers respecteert en de vertrouwen rechtvaardigt dat we in autonome systemen stellen.”