När en förälder undervisar sitt unga barn att relatera till världen, lär de genom associationer och identifiering av mönster. Ta bokstaven S till exempel. Föräldrar visar sitt barn tillräckligt många exempel på bokstaven och innan länge kommer de att kunna identifiera andra exempel i sammanhang där vägledning inte är aktiv; skola, en bok, en reklamskylt.

Mycket av den alltmer framväxande artificiella intelligens-tekniken (AI) lärdes på samma sätt. Forskare matade systemet med korrekta exempel på något de ville att det skulle känna igen, och likt ett ungt barn, började AI känna igen mönster och extrapolera sådan kunskap till sammanhang det aldrig tidigare hade upplevt, och bildade sin egen “neuronnätverk” för kategorisering. Liksom mänsklig intelligens, förlorade experter dock spåren av de indata som informerade AI:s beslutsfattande.

“Svarta lådan”-problemet för AI uppstår således som det faktum att vi inte fullständigt förstår hur eller varför ett AI-system gör kopplingar, eller de variabler som spelar in i dess beslut. Detta problem är särskilt relevant när man söker förbättra systemens tillförlitlighet och säkerhet, och etablera styrningen av AI-antagande.

Från ett AI-styrt fordon som inte bromsar i tid och skadar fotgängare, till AI-baserade hälso-teknik apparater som hjälper läkare att diagnostisera patienter, och bias som visas av AI-baserade rekryteringsprocesser, har komplexiteten bakom dessa system lett till uppkomsten av ett nytt forskningsområde: fysiken av AI, som syftar till att ytterligare etablera AI som verktyg för människor att uppnå högre förståelse.

Nu kommer en ny oberoende studiegrupp att ta itu med dessa utmaningar genom att kombinera fysik, psykologi, filosofi och neurovetenskap i en tvärvetenskaplig undersökning av AI:s mysterier.

NTT föreslår AI-tillit och säkerhet

Den nyligen tillkännagivna Fysik av Artificiell Intelligens Grupp är en avknoppning från NTT Researchs Fysik & Informatics (PHI) Lab, och presenterades på NTT:s Upgrade 2025-konferens i San Francisco, Kalifornien förra veckan. Den kommer att fortsätta att utveckla Fysik av Artificiell Intelligens-ansatsen för att förstå AI, som teamet har undersökt under de senaste fem åren.

Dr. Hidenori Tanaka, som har en doktorsexamen i Tillämpad Fysik & Datorsystemteknik från Harvard University, kommer att leda den nya forskargruppen, och bygger på sin tidigare erfarenhet i NTT:s Intelligenta Systemgrupp och CBS-NTT:s AI-forskningsprogram i fysiken av intelligens vid Harvard.

“Som fysiker är jag upphetsad över ämnet intelligens, eftersom man matematiskt sett kan tänka på begreppet kreativitet. Hur kan man ens tänka på begreppet vänlighet? Dessa begrepp hade förblivit abstrakta om det inte vore för AI. Det är lätt att spekulera och säga ‘detta är min definition av vänlighet’, som inte är matematiskt meningsfullt, men nu med AI är det praktiskt viktigt eftersom om vi vill göra AI vänlig, måste vi tala om för den på matematiskt språk vad vänlighet är, till exempel”, berättade Dr. Tanaka för mig förra veckan på konferensen.

Tidigt i sin forskning erkände PHI-laboratoriet vikten av att förstå “svarta lådan”-naturen hos AI och maskinlärande för att utveckla nya system med förbättrad energoeffektivitet för beräkningar. AI:s framsteg under de senaste fem åren har dock väckt alltmer viktiga säkerhets- och tillförlitlighetsaspekter, som därmed har blivit avgörande för industriella tillämpningar och styrningsbeslut om AI-antagande.

Genom den nya forskargruppen kommer NTT Research att ta itu med likheterna mellan biologisk och artificiell intelligens, i syfte att lösa komplexiteten i AI-mekanismer och bygga en mer harmonisk fusion av mänsklig-AI-samarbete.

Även om denna ansats är ny i sin integration av AI, är den inte ny. Fysiker har sökt avslöja de exakta detaljerna i tekniska och mänskliga relationer i århundraden, från Galileo Galileis studier om hur föremål rör sig och hans bidrag till mekanik, till hur ångmaskinen informerade förståelsen av termodynamik under den industriella revolutionen. I det 21:a århundradet söker dock forskare förstå hur AI fungerar i termer av utbildning, ackumulering av kunskap och beslutsfattande, så att i framtiden, mer sammanhängande, säkra och tillförlitliga AI-teknologier kan designas.

“AI är ett neuronnätverk, det sätt det är strukturerat på är mycket likt hur en mänsklig hjärna fungerar; neuroner som är kopplade till synapser, som alla representeras av siffror i en dator. Och sedan är det där vi tror att det kan finnas fysik… Fysik handlar om att ta någonting från universum, formulera matematiska hypoteser om deras inre funktionssätt och testa dem”, sa Dr. Hanaka.

Den nya gruppen kommer att fortsätta att samarbeta med Harvard University Center for Brain Science (CBS), och planerar att samarbeta med Stanford University Associate Professor Suya Ganguli, med vilken Dr. Tanaka har skrivit flera artiklar.

Dr. Tanaka betonar dock att en naturvetenskaplig och tvärvetenskaplig ansats kommer att vara grundläggande. 2017, när han var doktorand vid Harvard, insåg forskaren att han ville göra mer än traditionell fysik, och följa i fotspåren av sina föregångare, från Galilei till Newton och Einstein, för att öppna upp nya konceptuella världar i fysik.

“För närvarande är AI det ämne som jag kan prata med alla om. Som forskare är det bra eftersom alla alltid är villiga att prata om AI, och jag lär mig också av varje samtal eftersom jag inser hur människor ser och använder AI på olika sätt, även bortom akademiska sammanhang. Jag ser NTT:s uppdrag som katalysatorn för att initiera dessa samtal, oavsett människors bakgrund, eftersom vi lär oss av varje interaktion”, avslutade Dr. Tanaka.