Wanneer een ouder zijn of haar jonge kind leert omgaan met de wereld, leert hij of zij door middel van associaties en het identificeren van patronen. Neem bijvoorbeeld de letter S. Ouders laten hun kind genoeg voorbeelden van de letter zien en voordat je het weet, kan het kind andere voorbeelden identificeren in contexten waarin geen actieve begeleiding is; school, een boek, een billboard.

Veel van de steeds meer ontwikkelde kunstmatige intelligentie (AI)-technologie werd onderwezen op dezelfde manier. Onderzoekers voedden het systeem met correcte voorbeelden van iets dat ze wilden dat het zou herkennen, en net als een jong kind, begon AI patronen te herkennen en deze kennis uit te breiden naar contexten die het nog nooit eerder had meegemaakt, waardoor het zijn eigen “neuronale netwerk” voor categorisatie vormde. Net als menselijke intelligentie, verloren deskundigen echter het spoor van de invoer die AI’s besluitvorming informeerde. 

Het “black box-probleem” van AI komt hierdoor naar voren als het feit dat we niet volledig begrijpen hoe of waarom een AI-systeem verbindingen maakt, noch de variabelen die een rol spelen in zijn beslissingen. Dit probleem is vooral relevant wanneer men probeert om systemen veiliger en betrouwbaarder te maken en de governance van AI-adoptie vast te stellen. 

Van een AI-aangedreven voertuig dat niet op tijd remt en voetgangers verwondt, tot AI-afhankelijke gezondheidstechnologie-apparaten die artsen helpen bij het diagnosticeren van patiënten, en vooroordelen die worden getoond door AI-gestuurde wervingsprocessen, heeft de complexiteit achter deze systemen geleid tot de opkomst van een nieuw vakgebied: de fysica van AI, dat probeert om AI verder te vestigen als een instrument voor mensen om een dieper begrip te verwerven. 

Nu zal een nieuwe onafhankelijke studiegroep deze uitdagingen aanpakken door de vakgebieden fysica, psychologie, filosofie en neurologie te combineren in een interdisciplinaire verkenning van de mysteries van AI.

NTT stelt AI-vertrouwen en -veiligheid voor

De onlangs aangekondigde Fysica van Kunstmatige Intelligentie Groep is een spin-off van NTT Research’s Physics & Informatics (PHI) Lab, en werd onthuld op NTT’s Upgrade 2025-conferentie in San Francisco, Californië vorige week. Het zal de Fysica van Kunstmatige Intelligentie-aanpak voor het begrijpen van AI blijven ontwikkelen, die het team de afgelopen vijf jaar heeft onderzocht. 

Dr. Hidenori Tanaka, die een PhD in Toegepaste Fysica & Computerwetenschappen en -techniek van de Harvard University heeft, zal de nieuwe onderzoeksgroep leiden, voortbouwend op zijn eerdere ervaring in NTT’s Intelligent Systems Group en CBS-NTT’s AI-onderzoeksprogramma in de fysica van intelligentie aan Harvard.

“Als fysicus ben ik enthousiast over het onderwerp intelligentie, omdat je, vanuit een wiskundig oogpunt, je af kunt vragen hoe je het concept van creativiteit kunt definiëren. Hoe kun je überhaupt over vriendelijkheid nadenken? Deze concepten zouden abstract zijn gebleven als het niet voor AI was. Het is makkelijk om te speculeren en te zeggen ‘dit is mijn definitie van vriendelijkheid’, wat niet wiskundig betekenisvol is, maar nu met AI is het praktisch belangrijk, omdat we AI vriendelijk moeten maken, en we het moeten vertellen in de taal van de wiskunde wat vriendelijkheid is, bijvoorbeeld,” zei Dr. Tanaka tegen me vorige week op de sidelines van de Upgrade-conferentie.  

Vroeg in hun onderzoek erkende het PHI Lab het belang van het begrijpen van de “black box”-natuur van AI en machine learning om nieuwe systemen met verbeterde energoefficiëntie voor berekeningen te ontwikkelen. De vooruitgang van AI in de afgelopen vijf jaar heeft echter steeds belangrijkere overwegingen met betrekking tot veiligheid en betrouwbaarheid gegenereerd, die nu cruciaal zijn voor industrie-toepassingen en governance-beslissingen over AI-adoptie. 

Door de nieuwe onderzoeksgroep zal NTT Research de overeenkomsten tussen biologische en kunstmatige intelligentie onderzoeken, in de hoop om de complexiteit van AI-mechanismen te ontrafelen en een meer harmonieuze fusie van menselijke-AI-samenwerking tot stand te brengen. 

Hoewel deze aanpak nieuw is in de integratie van AI, is het niet nieuw. Fysici hebben eeuwenlang geprobeerd om de precieze details van technologische en menselijke relaties te onthullen, van Galileo Galilei’s studies over hoe objecten bewegen en zijn bijdrage aan de mechanica, tot hoe de stoommachine het begrip van thermodynamica informeerde tijdens de Industriële Revolutie. In de 21e eeuw proberen wetenschappers echter te begrijpen hoe AI werkt in termen van training, kennisverwerving en besluitvorming, zodat in de toekomst meer samenhangende, veilige en betrouwbare AI-technologieën kunnen worden ontworpen. 

“AI is een neuronetwerk, de manier waarop het is gestructureerd is zeer vergelijkbaar met hoe een menselijk brein werkt; neuronen verbonden door synapsen, die allemaal worden weergegeven door getallen in een computer. En dan is dat waar we denken dat er fysica kan zijn… Fysica gaat over het nemen van alles uit het universum, het formuleren van wiskundige hypothesen over hun innerlijke werking en het testen ervan,” zei Dr. Hanaka. 

De nieuwe groep zal blijven samenwerken met het Harvard University Center for Brain Science (CBS), en plant om samen te werken met Stanford University Associate Professor Suya Ganguli, met wie Dr. Tanaka verschillende artikelen heeft geschreven. 

Dr. Tanaka benadrukt echter dat een natuurwetenschappelijke en cross-industry-aanpak fundamenteel zal zijn. In 2017, toen hij een PhD-kandidaat was aan Harvard, realiseerde de onderzoeker zich dat hij meer wilde doen dan traditionele fysica, en in de voetsporen van zijn voorgangers treden, van Galilei tot Newton en Einstein, om nieuwe conceptuele werelden in de fysica te openen. 

“Momenteel is AI het enige onderwerp waarover ik met iedereen kan praten. Als onderzoeker is het geweldig, omdat iedereen altijd bereid is om over AI te praten, en ik leer ook van elk gesprek, omdat ik me realiseer hoe mensen AI zien en gebruiken op een manier die verder gaat dan academische contexten. Ik zie NTT’s missie als de katalysator om deze gesprekken te starten, ongeacht mensen’s achtergronden, omdat we leren van elke interactie,” besloot Dr. Tanaka.