Når en forelder lærer sitt lille barn å forholde seg til verden, lærer de gjennom assosiasjoner og identifisering av mønstre. Ta for eksempel bokstaven S. Foreldre viser barnet nok eksempler på brevet og om ikke lenge vil de kunne identifisere andre eksempler i sammenhenger der veiledning ikke er aktiv; skole, en bok, en reklametavle.

Mye av den stadig nye teknologien for kunstig intelligens (AI) var undervist på samme måte. Forskere matet systemet med riktige eksempler på noe de ønsket at det skulle gjenkjenne, og som et lite barn begynte AI å gjenkjenne mønstre og ekstrapolere slik kunnskap til kontekster det aldri før hadde opplevd, og dannet sitt eget "nevrale nettverk" for kategorisering. I likhet med menneskelig intelligens mistet imidlertid eksperter oversikten over inputene som informerte AIs beslutningstaking. 

Den "black box problem” av AI fremstår dermed som det faktum at vi ikke fullt ut forstår hvordan eller hvorfor et AI-system oppretter koblinger, og heller ikke variablene som spiller inn i avgjørelsene. Dette problemet er spesielt relevant når man søker å forbedre systemenes pålitelighet og sikkerhet og etablere styringen av AI-adopsjon. 

Fra et AI-drevet kjøretøy som ikke klarer å bremse i tide og skade fotgjengere, til AI-avhengige helseteknologiske enheter som hjelper leger med å diagnostisere pasienter, og skjevheter som vises av screeningsprosesser for AI-ansettelser, har kompleksiteten bak disse systemene ført til fremveksten av et nytt studiefelt: fysikken til AI, som søker å ytterligere etablere AI som et verktøy for mennesker for å oppnå høyere forståelse. 

Nå vil en ny uavhengig studiegruppe møte disse utfordringene ved å slå sammen feltene fysikk, psykologi, filosofi og nevrovitenskap i en tverrfaglig utforskning av AIs mysterier.

NTT foreslår AI-tillit og sikkerhet

Den nylig annonserte Physics of Artificial Intelligence Group er en spin-off av NTT Researchs Physics & Informatics (PHI) Lab, og ble avduket på NTTs Upgrade 2025-konferanse i San Francisco, California forrige uke. Det vil fortsette å fremme Physics of Artificial Intelligence-tilnærmingen til å forstå AI, som teamet har undersøkt de siste fem årene. 

Dr. Hidenori Tanaka, som har en doktorgrad i anvendt fysikk og informatikk og ingeniørvitenskap fra Harvard University, vil lede den nye forskningsgruppen, og bygge på sin tidligere erfaring i NTTs Intelligent Systems Group og CBS-NTTs AI Research-program i intelligensens fysikk ved Harvard.

«Som fysiker er jeg begeistret for temaet intelligens fordi, matematisk sett, hvordan kan man tenke på konseptet kreativitet? Hvordan kan man i det hele tatt tenke på vennlighet? Disse konseptene ville ha forblitt abstrakte hvis det ikke var for AI. Det er lett å spekulere og si «dette er min definisjon av vennlighet», noe som ikke er matematisk meningsfullt, men nå med AI er det praktisk viktig fordi hvis vi vil gjøre AI snill, må vi fortelle det med matematikkens språk hva vennlighet er.» is, for eksempel,” fortalte Dr. Tanaka meg forrige uke på sidelinjen av Upgrade-konferansen.  

Tidlig i sin forskning anerkjente PHI Lab viktigheten av å forstå "black box"-naturen til AI og maskinlæring for å utvikle nye systemer med forbedret energieffektivitet for beregning. AIs fremskritt det siste halve tiåret har imidlertid fremkalt stadig viktigere sikkerhets- og pålitelighetshensyn, som dermed har blitt avgjørende for industriapplikasjoner og styringsbeslutninger om AI-adopsjon. 

Gjennom den nye forskergruppen vil NTT Research adressere likhetene mellom biologisk og kunstig intelligens, og dermed håpe å avdekke kompleksiteten til AI-mekanismer og bygge mer harmonisk fusjon av menneske-AI-samarbeid. 

Selv om den er ny i sin integrering av AI, er denne tilnærmingen ikke ny. Fysikere har forsøkt å avsløre de nøyaktige detaljene i teknologiske og menneskelige forhold i århundrer, fra Galileo Galileis studier av hvordan objekter beveger seg og hans bidrag til mekanikk, til hvordan dampmaskinen informerte forståelser av termodynamikk under den industrielle revolusjonen. I det 21. århundre søker imidlertid forskere å forstå hvordan AI fungerer når det gjelder å bli trent, akkumulere kunnskap og ta beslutninger slik at mer sammenhengende, trygge og pålitelige AI-teknologier kan utformes i fremtiden. 

"AI er et nevronettverk, måten det er strukturert på er veldig likt hvordan en menneskelig hjerne fungerer; nevroner koblet sammen av synapser, som alle er representert av tall inne i en datamaskin. Og så er det der vi tror at det kan være fysikk ... Fysikk handler om å ta alt fra universet, formulere matematiske hypoteser om deres indre funksjoner og teste dem," sa Dr. Hanaka. 

Den nye gruppen vil fortsette å samarbeide med Harvard University Center for Brain Science (CBS), og planlegger å samarbeide med Stanford University førsteamanuensis Suya Ganguli, som Dr. Tanaka har vært medforfatter av flere artikler med. 

Dr. Tanaka understreker imidlertid at en naturvitenskapelig og tverrindustriell tilnærming vil være grunnleggende. I 2017, da han var ph.d.-kandidat ved Harvard, innså forskeren at han ønsket å gjøre mer enn tradisjonell fysikk, og følge i fotsporene til sine forgjengere, fra Galilei til Newton og Einstein, for å åpne opp nye konseptuelle verdener innen fysikk. 

"Foreløpig er AI det eneste temaet jeg kan snakke med alle om. Som forsker er det flott fordi alle alltid er opptatt av å snakke om AI, og jeg lærer også av hver samtale fordi jeg innser hvordan folk ser og bruker AI annerledes, også utenfor akademiske sammenhenger. Jeg ser på NTTs oppdrag som katalysatoren for å sette i gang disse samtalene, uavhengig av folks bakgrunn, konkluderte Dr. Tana.