Når en forælder underviser deres unge barn i at relatere til verden, underviser de gennem associationer og identifikation af mønstre. Tag bogstaven S, for eksempel. Forældre viser deres barn nok eksempler på bogstaven, og før længe vil de være i stand til at identificere andre eksempler i sammenhænge, hvor vejledning ikke er aktiv; skole, en bog, en reklame på en vej.

Meget af den fremvoksende kunstig intelligens (KI)-teknologi blev undervist på samme måde. Forskere fodrede systemet med korrekte eksempler på noget, de ville have, det skulle genkende, og ligesom et ungt barn, begyndte KI at genkende mønstre og udvide sådan viden til sammenhænge, det aldrig havde oplevet før, og dannede sin egen “neurale netværk” til kategorisering. Ligesom menneskelig intelligens, tabte eksperter dog overblik over input, der informerede KI’s beslutningstagning.

“Den sorte kasse-problem” med KI opstår således, fordi vi ikke fuldt ud forstår, hvordan eller hvorfor et KI-system danner forbindelser, eller hvilke variable, der spiller ind i dets beslutninger. Dette problem er særligt relevant, når man søger at forbedre systemer til at være mere pålidelige og sikre, og etablere styring af KI-adoptionsbeslutninger.

Fra en KI-drevet bil, der ikke bremser i tide og kommer til skade for fodgængere, til KI-afhængige sundheds-teknologiske enheder, der hjælper læger med at diagnostisere patienter, og forudindtagelser, der vises af KI-baserede rekrutteringsprocesser, har kompleksiteten bag disse systemer ført til opblomstringen af et nyt studieområde: fysikken af KI, der søger at etablere KI som et værktøj for mennesker til at opnå en højere forståelse.

Nu vil en ny uafhængig studiegruppe imødegå disse udfordringer ved at kombinere fysik, psykologi, filosofi og neurovidenskab i en tværfaglig undersøgelse af KI’s mysterier.

NTT foreslår KI-tillid og sikkerhed

Den nyligt annoncerede Fysik af Kunstig Intelligens Gruppe er en udspaltning af NTT Research’s Physics & Informatics (PHI) Lab, og blev præsenteret på NTT’s Upgrade 2025-konference i San Francisco, Californien sidste uge. Den vil fortsætte med at udvikle fysikken af KI-tilgangen til at forstå KI, som holdet har undersøgt i de sidste fem år.

Dr. Hidenori Tanaka, der har en ph.d. i anvendt fysik og datalogi fra Harvard University, vil lede den nye forskningsgruppe, bygget på hans tidligere erfaring i NTT’s Intelligent Systems Group og CBS-NTT’s KI-forskningsprogram i fysikken af intelligens på Harvard.

“Som fysiker er jeg begejstret for emnet om intelligens, fordi, matematisk, hvordan kan du tænke på begrebet kreativitet? Hvordan kan du overhovedet tænke på venlighed? Disse begreber ville være blevet abstrakte, hvis det ikke var for KI. Det er let at spekulere og sige ‘dette er min definition af venlighed’, som ikke er matematisk meningsfuldt, men nu med KI, er det praktisk vigtigt, fordi hvis vi vil gøre KI venligt, må vi fortælle det på matematisk sprog, hvad venlighed er, for eksempel,” sagde Dr. Tanaka til mig sidste uge på sidelinjen af Upgrade-konferencen.

Tidligt i deres forskning erkendte PHI Lab betydningen af at forstå den “sorte kasse”-natur af KI og maskinel læring for at udvikle nye systemer med forbedret energi-effektivitet til beregning. KI’s fremgang i det sidste halve årti har dog fremkaldt stadig vigtigere sikkerheds- og tillidsværdigheds-overvejelser, som er blevet kritiske for industriel anvendelse og styringsbeslutninger om KI-adoptionsbeslutninger.

Gennem den nye forskningsgruppe vil NTT Research imødegå lighederne mellem biologisk og kunstig intelligens, og håber på den måde at afklare kompleksiteten af KI-mekanismer og bygge en mere harmonisk fusion af menneske-KI-samarbejde.

Selvom denne tilgang er ny i sin integration af KI, er den ikke ny. Fysikere har søgt at afsløre de præcise detaljer om teknologiske og menneskelige relationer i århundreder, fra Galileo Galileis studier af, hvordan objekter bevæger sig, og hans bidrag til mekanik, til hvordan dampmaskinen informerede forståelsen af termodynamik under den industrielle revolution. I det 21. århundrede søger videnskabsmænd dog at forstå, hvordan KI fungerer i forhold til at blive trænet, at samle viden og træffe beslutninger, sådan at fremtidige, mere samarbejdende, sikre og tillidsværdige KI-teknologier kan designes.

“KI er et neuralt netværk, og måden det er struktureret på, er meget lig, hvordan et menneske-hjerne fungerer; neuroner forbundet med synapser, som alle er repræsenteret af tal inden for en computer. Og det er der, vi tror, at der kan være fysik… Fysik handler om at tage noget fra universet, formulere matematiske hypoteser om deres indre mekanismer og teste dem,” sagde Dr. Hanaka.

Den nye gruppe vil fortsætte med at samarbejde med Harvard University Center for Brain Science (CBS), og planlægger at samarbejde med Stanford University Associate Professor Suya Ganguli, med hvem Dr. Tanaka har skrevet flere artikler.

Dr. Tanaka understreger dog, at en naturvidenskabelig og tværfaglig tilgang vil være fundamentalt vigtig. I 2017, da han var ph.d.-stipendiat på Harvard, indså forskeren, at han ville gøre mere end traditionel fysik, og følge i fodsporene af sine forgængere, fra Galilei til Newton og Einstein, for at åbne op for nye konceptuelle verdener i fysik.

“For tiden er KI det eneste emne, jeg kan tale med alle om. Som forsker er det fantastisk, fordi alle er altid villige til at tale om KI, og jeg lærer også af hver samtale, fordi jeg indser, hvordan folk ser og bruger KI forskelligt, selv ud over akademiske sammenhænge. Jeg ser NTT’s mission som værende katalysatoren for at sætte disse samtaler i gang, uanset folks baggrund, fordi vi lærer af hver interaktion,” sagde Dr. Tanaka som afslutning.