Když rodič učí své malé dítě, aby se vztahovalo k světu, učí je prostřednictvím asociací a identifikace vzorců. Vezměme si například písmeno S. Rodiče ukazují dítěti dostatek příkladů písmena a brzy bude schopné identifikovat další příklady v kontextech, kde není aktivní vedení; škola, kniha, billboard.

Velká část stále se vyvíjející umělé inteligence (AI) byla naučena podobným způsobem. Výzkumníci nakrmili systém správnými příklady něčeho, co chtěli, aby rozpoznal, a jako malé dítě, AI začalo rozpoznávat vzorce a extrapolovat takové znalosti do kontextů, ve kterých se dříve nevyskytovalo, vytvářející svou vlastní „neuronovou síť“ pro kategorizaci. Jako lidská inteligence, však odborníci ztratili přehled o vstupech, které informovaly rozhodování AI.

„Černá skříňka“ problému AI tak vzniká jako fakt, že plně nerozumíme, jak nebo proč systém AI vytváří spojení, ani proměnným, které hrají roli v jeho rozhodnutích. Tento problém je zvláště relevantní, když se snažíme zlepšit systémy, aby byly důvěryhodnější a bezpečnější, a stanovit řízení přijetí AI.

Od vozidla s AI, které selže a zraní chodce, po zdravotnické zařízení, které závisí na AI pro diagnostiku pacientů, a předsudky, které vykazují procesy výběru personálu s AI, komplexita za těmito systémy vedla ke vzniku nového oboru studia: fyzika AI, který se snaží dále etablovat AI jako nástroj pro lidi, aby dosáhli vyššího porozumění.

Nyní bude nová nezávislá studijní skupina řešit tyto výzvy spojením oborů fyziky, psychologie, filozofie a neurovědy v mezioborovém zkoumání tajemství AI.

NTT navrhuje důvěru a bezpečnost AI

Nově oznámená Skupina Fyziky Umělé Inteligence je odnoží laboratoře Fyziky a Informatiky (PHI) NTT Research a byla odhalena na konferenci NTT Upgrade 2025 v San Francisku, Kalifornie, minulý týden. Bude pokračovat ve vývoji přístupu Fyziky Umělé Inteligence k pochopení AI, který tým zkoumá již pět let.

Dr. Hidenori Tanaka, který má doktorát z aplikované fyziky a počítačového inženýrství z Harvardovy univerzity, povede novou výzkumnou skupinu, navazující na svou předchozí zkušenost ve Skupině Inteligentních Systémů NTT a programu CBS-NTT pro výzkum AI ve fyzice inteligence na Harvardu.

„Jako fyzik jsem nadšen tématem inteligence, protože matematicky, jak můžete myslet na koncept kreativity? Jak můžete dokonce myslet na laskavost? Tyto koncepty by zůstaly abstraktní, kdyby nebylo AI. Je snadné spekulovat, říkat „toto je moje definice laskavosti“, což není matematicky smysluplné, ale nyní s AI je to prakticky důležité, protože pokud chceme udělat AI laskavou, musíme jí říci v jazyce matematiky, co laskavost je, například,“ řekl Dr. Tanaka minulý týden na okraj konference Upgrade.

Na počátku svého výzkumu laboratoř PHI rozpoznala důležitost pochopení „černé skříňky“ AI a strojového učení pro vývoj nových systémů s vylepšenou energetickou efektivitou pro výpočet. Pokrok AI v posledním půl desetiletí, však vyvolal stále důležitější bezpečnostní a důvěryhodnostní úvahy, které se staly kritickými pro průmyslové aplikace a rozhodnutí o řízení přijetí AI.

Prostřednictvím nové výzkumné skupiny bude NTT Research řešit podobnosti mezi biologickými a umělými inteligencemi, doufající, že rozluští složitosti mechanismů AI a postaví více harmonické spojení mezi lidmi a AI.

Ačkoli je tento přístup novátorský ve svém začlenění AI, není nový. Fyzikové se snažili odhalit přesné detaily technických a lidských vztahů po staletí, od studií Galilea Galileiho o pohybu objektů a jeho příspěvku k mechanice, až po to, jak parní stroj informoval chápání termodynamiky během průmyslové revoluce. V 21. století však vědci se snaží pochopit, jak AI funguje z hlediska školení, akumulace znalostí a rozhodování, aby v budoucnu mohly být navrženy více soudržné, bezpečné a důvěryhodné technologie AI.

„AI je neuronová síť, způsobem, jakým je strukturována, je velmi podobná tomu, jak funguje lidský mozek; neurony propojené synapsiami, které jsou všechny reprezentovány čísly uvnitř počítače. A pak je to místo, kde věříme, že může být fyzika… Fyzika je o tom, že vezmete cokoliv z vesmíru, formulujete matematické hypotézy o jejich vnitřních fungování a testujete je,“ řekl Dr. Hanaka.

Nová skupina bude pokračovat ve spolupráci s Centrem pro mozkovou vědu na Harvardově univerzitě (CBS) a plánuje spolupráci se Stanfordovou univerzitou, profesorem Suyou Gangulim, se kterým Dr. Tanaka napsal několik článků.

Dr. Tanaka však zdůrazňuje, že přírodně-vědní a mezioborový přístup bude zásadní. V roce 2017, kdy byl doktorandem na Harvardu, si výzkumník uvědomil, že chce dělat více než tradiční fyziku, a následovat své předchůdce, od Galileiho po Newtona a Einsteina, aby otevřel nové konceptuální světy ve fyzice.

„V současné době je AI téma, o kterém mohu mluvit se všemi. Jako výzkumník je to skvělé, protože všichni jsou vždy ochotni mluvit o AI, a já také učím z každé konverzace, protože si uvědomuji, jak lidé vnímají a používají AI jinak, i mimo akademické kontexty. Vidím misi NTT jako katalyzátor, který vyvolá tyto konverzace, bez ohledu na pozadí lidí, protože se učíme z každé interakce,“ uzavřel Dr. Tanaka.