Wanneer een ouder een jong kind leert omgaan met de wereld, leert hij door middel van associaties en het identificeren van patronen. Neem bijvoorbeeld de letter S. Ouders laten hun kind genoeg voorbeelden van de letter zien en voordat je het weet, kan het kind andere voorbeelden identificeren in contexten waarin geen leiding wordt gegeven; school, een boek, een billboard.

Veel van de immer-emergente kunstmatige intelligentie (AI)-technologie werd op dezelfde manier onderwezen. Onderzoekers voerden het systeem correcte voorbeelden van iets dat ze wilden dat het zou herkennen, en net als een jong kind, begon AI patronen te herkennen en kennis te extrapoleren naar contexten die het nog nooit eerder had meegemaakt, waardoor het zijn eigen “neurale netwerk” voor categorisatie vormde. Net als menselijke intelligentie, verloren deskundigen echter het spoor van de invoer die AI’s besluitvorming informeerde.

Het “zwarte doos-probleem” van AI komt hierdoor naar voren als het feit dat we niet volledig begrijpen hoe of waarom een AI-systeem verbindingen maakt, noch de variabelen die een rol spelen in zijn beslissingen. Dit probleem is vooral relevant wanneer men probeert om systemen te verbeteren en hun betrouwbaarheid en veiligheid te waarborgen en om het bestuur van AI-adoptie tot stand te brengen.

Van een AI-aangedreven voertuig dat niet op tijd remt en voetgangers verwondt, tot AI-afhankelijke medische apparaten die artsen helpen bij het diagnosticeren van patiënten, en vooroordelen die worden getoond door AI-gedreven wervingsprocessen, heeft de complexiteit achter deze systemen geleid tot de opkomst van een nieuw vakgebied: de fysica van AI, dat probeert om AI verder te vestigen als een instrument voor mensen om een dieper begrip te bereiken.

Nu zal een nieuwe onafhankelijke studiegroep deze uitdagingen aanpakken door de vakgebieden fysica, psychologie, filosofie en neurowetenschappen te combineren in een interdisciplinaire verkenning van de mysteries van AI.

NTT stelt AI-vertrouwen en -veiligheid voor

De onlangs aangekondigde Physics of Artificial Intelligence Group is een spin-off van NTT Research’s Physics & Informatics (PHI) Lab en werd onthuld op NTT’s Upgrade 2025-conferentie in San Francisco, Californië, vorige week. Het zal de fysica van AI-aanpak voor het begrijpen van AI blijven ontwikkelen, die het team de afgelopen vijf jaar heeft onderzocht.

Dr. Hidenori Tanaka, die een PhD in toegepaste fysica en informatica van de Harvard-universiteit heeft, zal de nieuwe onderzoeksgroep leiden, voortbouwend op zijn eerdere ervaring in NTT’s Intelligent Systems Group en CBS-NTT’s AI-onderzoeksprogramma in de fysica van intelligentie op Harvard.

“Als fysicus ben ik enthousiast over het onderwerp intelligentie, omdat, wiskundig gezien, je je af kunt vragen hoe je het concept van creativiteit kunt denken. Hoe kun je zelfs over vriendelijkheid nadenken? Deze concepten zouden abstract zijn gebleven als het niet door AI was. Het is gemakkelijk om te speculeren, te zeggen ‘dit is mijn definitie van vriendelijkheid’, wat niet wiskundig betekenisvol is, maar nu met AI is het praktisch belangrijk, omdat we AI vriendelijk moeten maken, en we het in de taal van de wiskunde moeten zeggen wat vriendelijkheid is, bijvoorbeeld,” zei Dr. Tanaka tegen me vorige week op de zijlijn van de Upgrade-conferentie.

Vroeg in hun onderzoek erkende het PHI Lab het belang van het begrijpen van de “zwarte doos”-aard van AI en machine learning om nieuwe systemen te ontwikkelen met verbeterde energiedoeltreffendheid voor berekeningen. De vooruitgang van AI in de afgelopen vijf jaar heeft echter steeds belangrijkere overwegingen van veiligheid en betrouwbaarheid opgeroepen, die nu kritiek zijn voor industrie-toepassingen en bestuursbeslissingen over AI-adoptie.

Door de nieuwe onderzoeksgroep zal NTT Research de overeenkomsten tussen biologische en kunstmatige intelligentie onderzoeken, in de hoop om de complexiteit van AI-mechanismen te ontrafelen en een meer harmonieuze fusie van menselijke-AI-samenwerking tot stand te brengen.

Hoewel deze aanpak nieuw is in zijn integratie van AI, is hij niet nieuw. Fysici hebben geprobeerd om de precieze details van technologische en menselijke relaties te onthullen gedurende eeuwen, van Galileo Galilei’s studies over hoe objecten bewegen en zijn bijdrage aan de mechanica, tot hoe de stoommachine de begrip van thermodynamica tijdens de Industriële Revolutie informeerde. In de 21e eeuw zoeken wetenschappers echter naar een beter begrip van hoe AI werkt in termen van training, kennisverwerving en besluitvorming, zodat in de toekomst meer samenhangende, veilige en betrouwbare AI-technologieën kunnen worden ontworpen.

“AI is een neurale netwerk, de manier waarop het is gestructureerd is zeer vergelijkbaar met hoe een menselijke hersenen werken; neuronen verbonden door synapsen, die allemaal worden weergegeven door nummers in een computer. En dan geloven we dat er fysica kan zijn… Fysica gaat over het nemen van alles uit het universum, het formuleren van wiskundige hypothesen over hun innerlijke werking en het testen ervan,” zei Dr. Hanaka.

De nieuwe groep zal blijven samenwerken met het Harvard University Center for Brain Science (CBS) en plant om samen te werken met Stanford University Associate Professor Suya Ganguli, met wie Dr. Tanaka verschillende papers heeft geschreven.

Dr. Tanaka benadrukt echter dat een natuurwetenschappelijke en cross-industriële aanpak fundamenteel zal zijn. In 2017, toen hij een PhD-kandidaat was aan de Harvard-universiteit, realiseerde de onderzoeker zich dat hij meer wilde doen dan traditionele fysica en in de voetsporen van zijn voorgangers treden, van Galilei tot Newton en Einstein, om nieuwe conceptuele werelden in fysica te openen.

“Momenteel is AI het enige onderwerp waarover ik met iedereen kan praten. Als onderzoeker is het geweldig, omdat iedereen altijd bereid is om over AI te praten, en ik leer ook van elk gesprek, omdat ik me realiseer hoe mensen AI verschillend zien en gebruiken, zelfs buiten academische contexten. Ik zie NTT’s missie als een katalysator om deze gesprekken te starten, ongeacht mensen’s achtergronden, omdat we van elke interactie leren,” besloot Dr. Tanaka.