Når en forælder underviser deres unge barn i at relatere til verden, underviser de gennem associationer og identifikation af mønstre. Tag bogstabet S som eksempel. Forældrene viser deres barn nok eksempler på bogstaverne, og før længe vil de være i stand til at identificere andre eksempler i sammenhænge, hvor vejledning ikke er aktiv; skole, en bog, en billboard.

Meget af den stadig udviklende kunstig intelligens (AI) teknologi blev undervist på samme måde. Forskere fødede systemet korrekte eksempler på noget, de ville have det til at genkende, og ligesom et ungt barn, begyndte AI at genkende mønstre og ekstrapolere sådan viden til sammenhænge, det aldrig havde oplevet før, og dannede dets eget “neuralt netværk” til kategorisering. Ligesom menneskelig intelligens, tabte eksperter dog sporet af input, der informerede AI’s beslutningstagning. 

“Den “sorte kasse problem” i AI opstår således som faktum, at vi ikke fuldt ud forstår, hvordan eller hvorfor et AI-system laver forbindelser, eller de variable, der spiller ind i dets beslutninger. Dette problem er særligt relevant, når man søger at forbedre systemers tillid og sikkerhed og etablerer styringen af AI-adoptionsbeslutninger. 

Fra en AI-drevet køretøj, der ikke bremser i tide og skader fodgængere, til AI-afhængige sundhedsteknologiske enheder, der hjælper læger med at diagnosticere patienter, og forudindtagelser, der vises af AI-baserede rekrutteringsprocesser, har kompleksiteten bag disse systemer ført til opblomstringen af et nyt studieområde: fysikken af AI, der søger at etablere AI som et værktøj for mennesker til at opnå højere forståelse. 

Nu vil en ny uafhængig studiegruppe imødegå disse udfordringer ved at kombinere fysik, psykologi, filosofi og neurovidenskab i en tværfaglig udforskning af AI’s mysterier.

NTT foreslår AI-tillid og sikkerhed

Den nyligt annoncerede Fysik Af Kunstig Intelligens Gruppe er en udspaltning af NTT Research’s Physics & Informatics (PHI) Lab, og blev præsenteret på NTT’s Upgrade 2025-konference i San Francisco, Californien sidste uge. Den vil fortsætte med at udvikle fysikken af AI-tilgangen til at forstå AI, som holdet har undersøgt i de sidste fem år. 

Dr. Hidenori Tanaka, der har en ph.d. i anvendt fysik og datalogi fra Harvard University, vil lede den nye forskningsgruppe, og bygge på sin tidligere erfaring i NTT’s Intelligent Systems Group og CBS-NTT’s AI-forskningsprogram i fysikken af intelligens på Harvard.

“Som fysiker er jeg begejstret for emnet om intelligens, fordi, matematisk, hvordan kan man tænke på begrebet kreativitet? Hvordan kan man overhovedet tænke på venlighed? Disse begreber ville være blevet abstrakte, hvis det ikke var for AI. Det er let at spekulere og sige ‘dette er min definition af venlighed’, som ikke er matematisk meningsfuldt, men nu med AI, er det praktisk vigtigt, fordi hvis vi vil gøre AI venligt, må vi fortælle det i matematikkens sprog, hvad venlighed er, for eksempel,” sagde Dr. Tanaka til mig sidste uge på sidelinjen af Upgrade-konferencen.  

Tidligt i deres forskning erkendte PHI Lab betydningen af at forstå “sort kasse”-naturen af AI og maskinel læring for at udvikle nye systemer med forbedret energoeffektivitet til beregning. AI’s fremgang i det sidste halve årti har dog fremkaldt stadig vigtigere sikkerheds- og tillidsværdigheds-overvejelser, som er blevet kritiske for industriel anvendelse og styringsbeslutninger om AI-adoptionsbeslutninger. 

Gennem den nye forskningsgruppe vil NTT Research imødegå lighederne mellem biologisk og kunstig intelligens, og håbe at afklare kompleksiteten af AI-mekanismer og bygge en mere harmonisk fusion af menneske-AI-samarbejde. 

Selvom denne tilgang er ny i sin integration af AI, er den ikke ny. Fysikere har søgt at afsløre de præcise detaljer om teknologiske og menneskelige relationer i århundreder, fra Galileo Galileis studier af, hvordan objekter bevæger sig, og hans bidrag til mekanik, til hvordan dampmaskinen informerede forståelsen af termodynamik under den industrielle revolution. I det 21. århundrede søger videnskabsmænd dog at forstå, hvordan AI fungerer i forhold til træning, akkumulering af viden og træffelse af beslutninger, sådan at fremtidige, mere samarbejdende, sikre og tillidsværdige AI-teknologier kan designes. 

“AI er et neuralt netværk, og måden det er struktureret på er meget lig til, hvordan et menneskes hjerne fungerer; neuroner forbundet med synapser, som alle er repræsenteret af tal inden for en computer. Og så er det, hvor vi tror, at der kan være fysik… Fysik handler om at tage noget fra universet, formulere matematiske hypoteser om deres indre mekanismer og teste dem,” sagde Dr. Hanaka. 

Den nye gruppe vil fortsætte med at samarbejde med Harvard University Center for Brain Science (CBS), og planlægger at samarbejde med Stanford University Associate Professor Suya Ganguli, med hvem Dr. Tanaka har co-forfattet flere artikler. 

Dr. Tanaka understreger dog, at en naturvidenskabelig og tværfaglig tilgang vil være fundamentalt vigtig. I 2017, da han var en ph.d.-stipendiat på Harvard, indså forskeren, at han ville gøre mere end traditionel fysik, og følge i fodsporene af sine forgængere, fra Galilei til Newton og Einstein, for at åbne op for nye konceptuelle verdener i fysik. 

“For tiden er AI det eneste emne, jeg kan tale med alle om. Som forsker er det fantastisk, fordi alle er altid villige til at tale om AI, og jeg lærer også af hver samtale, fordi jeg indsætter, hvordan folk ser og bruger AI forskelligt, selv ud over akademiske sammenhænge. Jeg ser NTT’s mission som værende katalysatoren til at antænde disse samtaler, uanset folks baggrund, fordi vi lærer af hver interaktion,” afsluttede Dr. Tanaka.