Adrian Zidaritz, Auteur van AIbluedot.com – Interview Serie

Adrian Zidaritz is de auteur van AIbluedot.com, een blog die een overzicht biedt van AI, met een mengeling van wiskunde, ethiek, politiek en “alles” daartussen. Hoewel de artikelen een minimale hoeveelheid technisch materiaal bevatten, zijn ze niet gericht op specialisten, maar op het algemene publiek. AI wordt door niet-specialisten verkeerd begrepen en het wordt in de media ofwel opgeblazen of afgezwakt; het is niettemin de meest gevolgrijke technologie in onze huidige tijd.

Wat trok je aanvankelijk aan bij AI?

AI-ontwikkeling vereist een breed scala aan expertise, in tegenstelling tot elke andere moderne technologie. Het voedt zich met onderzoek uit statistiek, neurowetenschappen, toegepaste wiskunde, informatica, softwareontwikkeling, psychologie, enz… Die uitdaging is wat me aantrok, in combinatie met het feit dat ik het geluk had om in mijn vorige carrière met veel van deze gebieden te hebben gewerkt: wiskunde, informatica, softwareontwikkeling, statistiek.

Je hebt een uitgebreide carrière achter de rug in AI. Kun je enkele van deze hoogtepunten bespreken?

Dit is in zekere zin een voortzetting van vraag 1. Bijna elk middelbaar persoon dat momenteel in AI werkt, komt van ergens anders vandaan. Tot ongeveer 2005 was er geen AI (overigens is het succes van AI voornamelijk te danken aan neurale netwerken = diepe leer, alle andere technieken verbleken daarbij; dus in de praktijk bedoelen we met AI diepe leer). Als gevolg daarvan brengen velen van ons die in AI werken unieke perspectieven mee naar het veld. Ik kom uit een wiskundige achtergrond, in combinatie met het leiden van praktische AI-projecten, waarbij BigData-engineering een zeer grote rol speelt (soms meer dan 80% van de totale projecttijd). Mijn achtergrond zit tussen de vraag naar de wiskundige fundamenten van AI (zeer theoretisch) en de zeer praktische aspecten van het leiden van teams van datawetenschappers en machine learning-engineers. Er zijn andere onderzoekers die meer weten over de AI-technologieën in het midden van de sandwich.

Je hebt gesteld dat AI in de media ofwel is opgeblazen of afgezwakt. Waarom denk je dat er zo’n disconnectie is tussen de media die de staat van AI nauwkeurig rapporteren en de werkelijke realiteit van de technologie?

Omdat AI zelfs door sommige mensen die in AI werken, laat staan de pers, verkeerd wordt begrepen. Het is een zeer jonge discipline, met zeer jonge werknemers. De verschillende meningen van deze jonge werknemers komen in de media terecht, waardoor de doelstellingen niet goed aansluiten. Voldoende om de documentaire The Social Dilemma op Netflix te noemen, waarin deze conflicterende meningen over AI, vanuit een Silicon Valley-perspectief, goed worden gedocumenteerd.

Op dit moment is de meeste vooruitgang die we in AI hebben gezien, afkomstig van diepe leer. Wat zijn je meningen over het zwarte-doos-probleem van diepe leer?

Dat is een groot probleem. We hebben namelijk geen theoretische (=wiskundige) begrip van het leerproces. We weten niet hoe diepe leer-algoritmes werkelijk leren. We zien alleen dat ze het doen. Er zijn natuurlijk pogingen gedaan om een theorie te ontwikkelen, maar geen enkele heeft breed aanvaarding gekregen. Dus in afwezigheid van die basale begrip, kunnen we alleen maar zeggen “zie, het werkt”. Maar een witte-doos-verklaring geven is op dit moment onmogelijk. Andere algoritmes (niet diepe leer) worden beter begrepen en voor die algoritmes is het mogelijk om verklaringen van de resultaten te geven. Niet voor diepe leer.

Wat zijn je meningen over AI-vooringenomenheid en hoe voorkomen we die?

Op dit moment gaat AI alleen over data, niet over algoritmes. De algoritmes kennen geen vooringenomenheid, de vooringenomenheid zit in de data. De data weerspiegelt de samenstelling van de samenleving en ook de stratificatie van de samenleving, omdat de dataverzameling ook vooringenomenheid bevat. Dit zijn overigens natuurlijk voorkomende zaken, wat moet gebeuren is een geleidelijke inclusie van mensen van alle soorten achtergronden in het dataverzamingsproces, zodat de data een correcte weergave van de bevolking geeft.

Welk type machine learning vind je het meest interessant?

Zoals ik eerder zei, cedeert machine learning nu terrein aan zijn meest succesvolle innerlijke tak, diepe leer. Neurale netwerken, door hun veelzijdigheid, domineren.

Je hebt gesteld dat een Universeel Basisinkomen (UBI) absoluut noodzakelijk zal zijn om de banenverliezen te compenseren die het gevolg zijn van AI. Kun je je mening hierover toelichten?

De samenleving zal enorme gevolgen ondervinden van automatisering (toegepaste AI). We hebben de momentous verschuivingen zelfs in de politieke omwentelingen sinds 2016 gezien. Er zal eenvoudigweg geen weg terug zijn. Veel banen zullen gewoon verdwijnen. Het heeft geen zin om je te trainen als radioloog deze dagen. AI kan röntgenfoto’s en MRI’s en allerlei andere afdrukken veel beter lezen dan een mens. Wat zal er gebeuren met mensen wanneer er gewoon geen baan is die ze kunnen doen? UBI garandeert dat mensen niet onnodig zullen lijden wanneer automatisering wijdverbreid wordt. En er is geen reden om dat te doen, omdat AI het noodzakelijke werk voor de samenleving zal leveren.

Geloof je dat we ooit Kunstmatige Algemene Intelligentie (AGI) kunnen bereiken?

Ja, veel mensen beweren dat de software van DeepMind al grenst aan AGI. Ik schrijf me niet in voor die gedachte, maar zelfs voor mij is het antwoord ja. AGI betekent niet emoties of bewustzijn, de I in AGI is simpelweg cognitieve intelligentie. En voor dat niveau van intelligentie lijkt het antwoord ja te zijn.

Geloof je dat er een kans is dat we in een simulatie leven?

Een mogelijkheid? Ja, dat wil zeggen dat de kans dat we in een simulatie leven, niet 0 is. Het is ook intellectueel aantrekkelijk. Maar is het waarschijnlijk? Nee, voor mij is het niet waarschijnlijk, d.w.z. de kans, hoewel niet 0, is zeer klein.

Bedankt voor het interview, lezers die meer willen leren over Adrian’s meningen over verschillende aspecten van AI, moeten AIbluedot.com bezoeken.