Google-onderzoekers creëren systeem om nieuwe AI-algoritmes te ontwikkelen vanuit wiskundige bouwstenen

Machine learning stelt een computerapplicatie in staat om bedreven te worden in een breed scala aan taken, maar het kan veel tijd kosten om een machine learning-architectuur van scratch te ontwerpen en vervolgens de algoritme te trainen. Zoals gerapporteerd door ScienceAlert, hebben onderzoekers bij Google Brain onlangs geëxperimenteerd met nieuwe manieren om AI-programma’s te creëren, waarbij technieken op basis van mutaties worden gebruikt die AIs in staat stellen om “organisch” te evolueren.

Het AutoML-systeem van Google creëert al een tijdje automatisch AI-programma’s, en veel van deze programma’s presteren beter dan modellen die zijn ontworpen door menselijke ingenieurs. Echter, de onderzoekers van Google konden dit systeem uitbreiden en publiceerden onderzoek dat impliceert dat het systeem kan worden gebruikt om “nieuwe, efficiëntere en krachtigere algoritmes te ontdekken” via een proces dat evolutie imiteert. Dit proces is gebaseerd op de mutatie van wiskundige functies en kan ook helpen om de menselijke vooroordelen die vaak in AI-systemen terechtkomen via gegevens te verminderen.

Het onderzoeksteam van Google heeft een paper gepubliceerd op arXiv, getiteld “Evolving Machine Learning Algorithms From Scratch”. Hierin bespreekt het onderzoeksteam hun nieuw systeem, genaamd AutoML-Zero. Auto-ML Zero werkt door basale wiskundige operaties te manipuleren, die als bouwstenen voor nieuwe, geavanceerde algoritmes dienen. Systemen die zijn ontworpen met AutoML-Zero kunnen potentieel krachtiger en nauwkeuriger zijn dan veel andere AIs, maar het onderzoeksteam testte het proces met een specifiek doel in gedachten – het verhelpen van menselijke vooroordelen in generieke machine learning-modellen en datasets. De onderzoekers beschrijven het probleem in hun onderzoeksrapport:

“Menselijk ontworpen componenten bevoordelen de zoekresultaten ten gunste van menselijk ontworpen algoritmes, mogelijk de innovatiepotentie van AutoML verminderend. Innovatie wordt ook beperkt door minder opties te hebben: je kunt niet ontdekken wat je niet zoekt.”

AutoML-Zero werkt met een driedelige aanpak: setup, predict en learn. AutoML-Zero begint met het nemen van 100 algoritmes die zijn gemaakt door middel van de willekeurige combinatie van eenvoudige wiskundige operaties, waarna de algoritmes tegen elkaar worden uitgespeeld. Zodra de best presterende algoritmes zijn geïdentificeerd, worden kleine aanpassingen gemaakt aan deze algoritmes en wordt een nieuwe ronde van trials uitgevoerd. Dit proces van concurrentie en mutatie imiteert een “survival-of-the-fittest”-selectieproces.

Volgens rapporten kan het hele proces relatief snel worden uitgevoerd, aangezien het systeem in staat is om tot 10.000 mogelijke algoritmes per seconde per processor te verwerken. Het kan ook deze trials uitvoeren met minimale input van menselijke operators, 24/7.

Veel van de meest indrukwekkende algoritmesheden van vandaag zijn slechts kleine variaties van algoritmes met een lange geschiedenis in computerwetenschap en AI, geschaald. Volgens Haran Jackson, zoals geciteerd door Newsweek, is het meest interessante aspect van het nieuwe paper dat het systeem potentieel nieuwe algoritmes kan ontdekken die radicaal verschillen van die welke het meest worden gebruikt.

“Er is een gevoel onder veel leden van de gemeenschap dat de meest indrukwekkende prestaties van kunstmatige intelligentie alleen kunnen worden bereikt met de uitvinding van nieuwe algoritmes die fundamenteel verschillen van die welke wij als soort hebben ontwikkeld”, zei Jackson. “Dit is wat het bovengenoemde paper zo interessant maakt. Het presenteert een methode om automatisch nieuwe machine learning-algoritmes te construeren en te testen.”

AutoML-Zero is nog in de proof-of-concept-fase en er moet nog veel werk worden gedaan voordat het in staat is om algoritmes te produceren die zo nuttig zijn als die welke de meest geavanceerde AI-toepassingen van vandaag aandrijven. Niettemin kan het onderzoek dat op het systeem is uitgevoerd, zelfs voordat AutoML-Zero is voltooid, nuttig zijn om andere algoritmes te ontwerpen door ingenieurs.