Når en forelder lærer sitt unge barn å relatere til verden, lærer de gjennom assosiasjoner og identifisering av mønster. Ta bokstaven S, for eksempel. Foreldre viser barnet nok eksempler på bokstaven, og før lenge vil de være i stand til å identifisere andre eksempler i sammenhenger hvor veiledning ikke er aktiv; skole, en bok, en plakat.

Mye av den stadig fremvoksende kunstig intelligens (AI)-teknologien ble lært på samme måte. Forskere matet systemet med riktige eksempler på noe de ønsket at det skulle gjenkjenne, og som et unge barn, begynte AI å gjenkjenne mønster og trekke ut slik kunnskap til sammenhenger det aldri tidligere hadde opplevd, og dannet sin egen “nevralt nettverk” for kategorisering. Liksom menneskelig intelligens, mistet imidlertid ekspertene spor av innputtene som informerte AI-s beslutningstagning.

“Den svarte boks-problemet” i AI oppstår derfor som en realitet som vi ikke fullt ut forstår hvordan eller hvorfor et AI-system gjør koblinger, eller hvilke variabler som spiller inn i dens beslutninger. Dette problemet er spesielt relevant når det gjelder å forbedre systemer til å bli mer pålitelige og trygge, og å etablere styring av AI-tilpasning.

Fra et AI-drevet kjøretøy som svikter å bremse i tide og skader fotgjengere, til AI-avhengige helse-teknologi som hjelper leger med å diagnostisere pasienter, og forutinntatte holdninger som utvises av AI-basert rekrutteringsskjermer, har kompleksiteten bak disse systemene ført til oppblomstringen av et nytt studiefelt: fysikken av AI, som søker å etablere AI som et verktøy for mennesker til å oppnå høyere forståelse.

Nå vil en ny uavhengig studiegruppe møte disse utfordringene ved å slå sammen fagfeltene fysikk, psykologi, filosofi og nevrovitenskap i en tverrfaglig utforskning av AI-s mysterier.

NTT foreslår AI-tillit og sikkerhet

Den nylig annonserte Fysikk av kunstig intelligens-gruppe er en avlegger av NTT Research’s Fysikk & Informatikk (PHI) Lab, og ble avduket på NTT’s Upgrade 2025-konferansen i San Francisco, California i fjor uke. Den vil fortsette å fremme fysikken av kunstig intelligens-tilnærmingen til å forstå AI, som teamet har undersøkt i løpet av de siste fem årene.

Dr. Hidenori Tanaka, som har en PhD i anvendt fysikk og datateknologi fra Harvard University, vil lede den nye forskningsgruppen, bygget på hans tidligere erfaring i NTT’s Intelligente Systemer-gruppe og CBS-NTT’s AI-forskningsprogram i fysikken av intelligens ved Harvard.

“Som fysiker er jeg spennende på emnet intelligens fordi, matematisk sett, hvordan kan du tenke på konseptet kreativitet? Hvordan kan du tenke på venlighet? Disse konseptene ville ha forblitt abstrakte hvis det ikke var for AI. Det er lett å spekulere og si ‘dette er min definisjon av venlighet’, som ikke er matematisk meningsfullt, men nå med AI, er det praktisk viktig fordi hvis vi ønsker å gjøre AI venlig, må vi fortelle det i matematikkens språk hva venlighet er, for eksempel,” fortalte Dr. Tanaka meg i fjor uke på sidelinjen av Upgrade-konferansen.

Tidlig i deres forskning, erkjente PHI Lab betydningen av å forstå den “svarte boks”-natur av AI og maskinlæring for å utvikle nye systemer med forbedret energi-effektivitet for beregning. AI-s fremgang i løpet av de siste fem årene har imidlertid ført til økende viktige sikkerhets- og tillitsvurdninger, som har blitt kritiske for bransjeapplikasjoner og styringsbeslutninger om AI-tilpasning.

Gjennom den nye forskningsgruppen, vil NTT Research møte likhetene mellom biologisk og kunstig intelligens, og håper å avdekke kompleksiteten av AI-mekanismer og bygge en mer harmonisk fusjon av menneske-AI-samarbeid.

Selv om dette er nytt i sin integrasjon av AI, er denne tilnærmingen ikke ny. Fysikere har søkt å avdekke de nøyaktige detaljene av teknologiske og menneskelige relasjoner i århundrer, fra Galileo Galileis studier av hvordan objekter beveger seg og hans bidrag til mekanikk, til hvordan dampmaskinen informerte forståelsen av termodynamikk under den industrielle revolusjon. I det 21. århundre søker imidlertid vitenskapsmenn å forstå hvordan AI fungerer i termer av å bli trent, å samle kunnskap og å fatte beslutninger, så at i fremtiden kan mer sammenhengende, trygge og pålitelige AI-teknologier bli designet.

“AI er et nevralt nettverk, måten det er strukturert på er svært lik hvordan et menneskehjerne fungerer; nevroner koblet sammen av synapser, som alle er representert av tall innen en datamaskin. Og deretter er det der vi tror at det kan finnes fysikk… Fysikk handler om å ta noe fra universet, å formulere matematiske hypoteser om deres indre mekanismer og å teste dem,” sa Dr. Hanaka.

Den nye gruppen vil fortsette å samarbeide med Harvard University Center for Brain Science (CBS), og planlegger å samarbeide med Stanford University Associate Professor Suya Ganguli, som Dr. Tanaka har skrevet flere artikler med.

Imidlertid betoner Dr. Tanaka at en naturvitenskapelig og tverrfaglig tilnærming vil være grunnleggende. I 2017, da han var en PhD-kandidat ved Harvard, innsett forskeren at han ønsket å gjøre mer enn tradisjonell fysikk, og følge i fotsporene til sine forgjengere, fra Galilei til Newton og Einstein, for å åpne opp nye konseptuelle verdener i fysikk.

“Nå er AI det ene emnet jeg kan snakke med alle om. Som forsker er det fantastisk fordi alle er alltid villige til å snakke om AI, og jeg lærer også av hver samtale fordi jeg innser hvordan folk ser og bruker AI forskjellig, også utenfor akademiske sammenhenger. Jeg ser NTTs misjon som å være katalysatoren som skal starte disse samtaler, uavhengig av folks bakgrunn, fordi vi lærer av hver interaksjon,” avsluttet Dr. Tanaka.