Když rodič učí svého malého dítěte, aby se vztahovalo ke světu, učí je prostřednictvím asociací a identifikace vzorců. Vzíme-li například písmeno S. Rodiče ukazují dítěti dostatek příkladů písmena a brzy bude schopno identifikovat další příklady v kontextech, kde není aktivní vedení; škola, kniha, billboard.

Velká část stále se vyvíjející technologie umělé inteligence (AI) byla naučena podobným způsobem. Výzkumníci krmili systém správnými příklady něčeho, co chtěli, aby rozpoznal, a jako malé dítě, AI začalo rozpoznávat vzorce a extrapolovat takové znalosti do kontextů, ve kterých dříve nebylo zkušeností, vytvářející si svou vlastní „neuronovou síť“ pro kategorizaci. Jako lidská inteligence, však odborníci ztratili stopu vstupních údajů, které informovaly rozhodování AI. 

„Černá skříňka problém“ AI tak vzniká jako fakt, že plně nerozumíme, jak nebo proč systém AI vytváří spojení, ani proměnným, které hrají do jeho rozhodnutí. Tento problém je zejména relevantní, když se snažíme zlepšit důvěryhodnost a bezpečnost systémů a stanovit governance adopce AI. 

Od vozidla s AI, které selže při brzdění včas a zraní chodce, po AI-reliantní zdravotnické zařízení, které pomáhá doktorům diagnostikovat pacienty, a předsudky vystavené procesy AI náboru, složitost za těmito systémy vedla k vzniku nového oboru studia: fyzika AI, která se snaží dále etablovat AI jako nástroj pro lidi, aby dosáhli vyššího porozumění. 

Nyní, nová nezávislá studijní skupina bude řešit tyto výzvy slučováním oborů fyziky, psychologie, filozofie a neurovědy v mezioborovém zkoumání tajemství AI.

NTT navrhuje AI důvěru a bezpečnost

Nově oznámená Skupina Fyziky Umělé Inteligence je odnoží NTT Research’s Physics & Informatics (PHI) Lab, a byla odhalena na NTT’s Upgrade 2025 konferenci v San Francisku, Kalifornie minulý týden. Bude pokračovat v pokroku Fyziky Umělé Inteligence přístupu k pochopení AI, který tým prošetřoval po dobu pěti let. 

Dr. Hidenori Tanaka, který má PhD v oboru Aplikované Fyziky & Informatiky a Strojírenství z Harvardovy Univerzity, povede novou výzkumnou skupinu, navazující na jeho předchozí zkušenosti v NTT’s Intelligent Systems Group a CBS-NTT’s AI Research programu v fyzice inteligence na Harvardu.

„Jako fyzik jsem nadšen tématem inteligence, protože matematicky, jak můžete myslet na koncept tvořivosti? Jak můžete dokonce myslet na dobrotu? Tyto koncepty by zůstaly abstraktní, kdyby nebylo AI. Je snadné spekulovat, říkat „toto je moje definice dobroty“, což není matematicky smysluplné, ale nyní s AI, je prakticky důležité, protože pokud chceme udělat AI dobrotivou, musíme mu říct v jazyce matematiky, co dobrotivost je, například,“ řekl Dr. Tanaka minulý týden na sidelines konference Upgrade.  

Brzy na začátku jejich výzkumu, PHI Lab rozpoznal důležitost pochopení „černé skříňky“ povahy AI a strojového učení pro vývoj nových systémů s vylepšenou energetickou efektivitou pro výpočet. Pokrok AI v posledním půl desetiletí, však vyvolal stále důležitější bezpečnostní a důvěryhodnostní úvahy, které se staly kritickými pro průmyslové aplikace a rozhodnutí o governance adopce AI. 

Prostřednictvím nové výzkumné skupiny, NTT Research bude řešit podobnosti mezi biologickými a umělými inteligencemi, a tak doufá odhalit složitosti mechanismů AI a budovat více harmonické spojení lidsko-AI spolupráce. 

Ačkoli je tento přístup novátorský ve své integraci AI, není nový. Fyzikové se snažili odhalit přesné detaily technologických a lidských vztahů po staletí, od Galilea Galileiho studií o tom, jak se pohybují objekty a jeho příspěvku k mechanice, po to, jak parní stroj informoval pochopení termodynamiky během Průmyslové revoluce. V 21. století, však vědci se snaží pochopit, jak AI funguje v termínech školení, akumulace znalostí a rozhodování, aby v budoucnu mohly být navrženy více koherentní, bezpečné a důvěryhodné AI technologie. 

„AI je neuronová síť, způsobem, jakým je strukturována, je velmi podobná tomu, jak funguje lidský mozek; neuronů spojených synapsí, které jsou všechny reprezentovány čísly uvnitř počítače. A pak je to místo, kde věříme, že může být fyzika… Fyzika je o tom, že vezmete cokoliv z vesmíru, formuluje matematické hypotézy o jeho vnitřních mechanismech a testuje je,“ řekl Dr. Hanaka. 

Nová skupina bude pokračovat ve spolupráci s Harvard University Center for Brain Science (CBS), a plánuje spolupracovat se Stanford University Associate Professor Suya Ganguli, se kterým Dr. Tanaka napsal několik článků. 

Nicméně, Dr. Tanaka zdůrazňuje, že přírodně-vědní a mezioborový přístup bude fundamentální. V roce 2017, když byl PhD kandidátem na Harvardu, výzkumník si uvědomil, že chce dělat více než tradiční fyziku, a následovat stopám svých předchůdců, od Galileiho po Newtona a Einsteina, aby otevřel nové konceptuální světy ve fyzice. 

„V současné době je AI téma, o kterém mohu mluvit se všemi. Jako výzkumník, je to skvělé, protože všichni jsou vždy ochotni mluvit o AI, a také se učím z každé konverzace, protože si uvědomuji, jak lidé vnímají a používají AI jinak, dokonce i mimo akademické kontexty. Vidím NTT’s misi jako katalyzátor, který spouští tyto konverzace, bez ohledu na pozadí lidí, protože se učíme z každé interakce,“ uzavřel Dr. Tanaka.