Elektriciteit helpt bij het vinden van materialen die kunnen “leren”

Een team van wetenschappers bij Argonne National Laboratory kon observeren hoe een niet-levend materiaal gedrag vertoonde dat geassocieerd wordt met leren, wat volgens hen kan leiden tot betere kunstmatige intelligentie (AI)-systemen.

Het artikel dat de studie beschrijft, werd gepubliceerd in Advanced Intelligent Systems.

De groep richt zich op de ontwikkeling van de volgende generatie supercomputers en zoekt inspiratie bij de menselijke hersenen.

Niet-biologische materialen met leerachtig gedrag

Onderzoekers die brain-inspired computers willen maken, zoeken vaak naar niet-biologische materialen die hints geven dat ze leerachtig gedrag kunnen vertonen. Deze materialen kunnen worden gebruikt om hardware te bouwen die kan worden gekoppeld aan nieuwe software-algoritmen, waardoor meer energie-efficiënte AI mogelijk wordt.

De nieuwe studie werd geleid door wetenschappers van Purdue University. Zij blootstelden zuurstofarme nikkeloxide aan korte elektrische pulsen en ontlokten twee verschillende elektrische reacties die lijken op leren. Volgens Shriram Ramanathan, professor aan Rutgers University, die ten tijde van het onderzoek professor was aan Purdue University, kwamen ze met een volledig elektrisch aangedreven systeem dat leerachtig gedrag vertoonde.

Het onderzoeksteam maakte gebruik van de middelen van de Advanced Photon Source (APS), een faciliteit van het U.S. Department of Energy (DOE) Office of Science bij DOE’s Argonne National Laboratory.

Habitatie en sensitiviteit

De eerste reactie die optreedt, is habitatie, die plaatsvindt wanneer het materiaal gewend raakt aan een lichte elektrische schok. Hoewel de weerstand van het materiaal toeneemt na een initiële schok, merkten de onderzoekers op dat het materiaal gewend raakt aan de elektrische stimulus.

Fanny Rodolakis is een natuurkundige en beamline-wetenschapper bij de APS.

“Habitatie is zoals wat gebeurt wanneer je in de buurt van een vliegveld woont,” zegt Rodolakis. “De dag dat je erin trekt, denk je ‘wat een herrie’, maar uiteindelijk merk je het bijna niet meer.”

De tweede reactie die door het materiaal wordt getoond, is sensitiviteit, die optreedt wanneer een grotere dosis elektriciteit wordt toegediend.

“Met een grotere stimulus, neemt de reactie van het materiaal toe in plaats van af te nemen in de loop van de tijd,” zegt Rodolakis. “Het is alsof je naar een eng film kijkt en iemand then zegt ‘boe!’ vanachter een hoek – je ziet het echt springen.”

“Pretty much alle levende organismen vertonen deze twee kenmerken,” vervolgt Ramanathan. “Ze zijn echt een fundamentaal aspect van intelligentie.”

De twee gedragingen worden gecontroleerd door kwantuminteracties die plaatsvinden tussen elektronen. Deze interacties kunnen niet worden beschreven door klassieke fysica en spelen een rol bij het vormen van de basis voor een faseovergang in het materiaal.

“Een voorbeeld van een faseovergang is een vloeistof die een vaste stof wordt,” zegt Rodolakis. “Het materiaal dat we bekijken, bevindt zich right op de grens, en de concurrerende interacties die plaatsvinden op het elektronische niveau, kunnen gemakkelijk een andere kant op worden getipt door kleine stimuli.”

Volgens Ramanathan is het essentieel om een systeem te hebben dat volledig kan worden gecontroleerd door elektrische signalen.

“Het kunnen manipuleren van materialen op deze manier, zal het mogelijk maken dat hardware een deel van de verantwoordelijkheid voor intelligentie kan overnemen,” zegt hij. “Het gebruik van kwantumeigenschappen om intelligentie in hardware te krijgen, vertegenwoordigt een belangrijke stap naar energie-efficiënte computing.”

Overwinnen van de stabiliteit-plasticiteitdilemma

Wetenschappers kunnen het verschil tussen habitatie en sensitiviteit gebruiken om de stabiliteit-plasticiteitdilemma te overwinnen, wat een grote uitdaging is in de ontwikkeling van AI. Algoritmen hebben vaak moeite om zich aan te passen aan nieuwe informatie, en wanneer ze dat doen, vergeten ze vaak een deel van hun eerdere ervaringen of wat ze hebben geleerd. Als wetenschappers een materiaal kunnen maken dat kan habitueren, kunnen ze het leren om onnodige informatie te negeren of te vergeten en zo extra stabiliteit te bereiken. Aan de andere kant kan sensitiviteit het systeem trainen om nieuwe informatie te onthouden en te incorporeren, waardoor plasticiteit mogelijk wordt.

“AI heeft vaak moeite om te leren en nieuwe informatie op te slaan zonder informatie die al is opgeslagen, te overschrijven,” zegt Rodolakis. “Te veel stabiliteit voorkomt dat AI leert, maar te veel plasticiteit kan leiden tot catastrofale vergetelheid.”

Volgens het team is een van de grote voordelen van de nieuwe studie de kleine grootte van het nikkeloxide-apparaat.

“Dit type leren was eerder niet gedaan in de huidige generatie van elektronica zonder een groot aantal transistors,” legt Rodolakis uit. “Het enkele junction-systeem is het kleinste systeem tot nu toe dat deze eigenschappen vertoont, wat grote implicaties heeft voor de mogelijke ontwikkeling van neuromorfische schakelingen.”