Kiedy rodzic uczy swoje małe dziecko, aby odnosiło się do świata, uczy przez skojarzenia i identyfikację wzorców. Weźmy na przykład literę S. Rodzice pokazują swojemu dziecku wystarczająco wielu przykładów litery, a przed długo czasem, będą one w stanie zidentyfikować inne przykłady w kontekstach, w których nie ma aktywnej pomocy; szkoła, książka, billboard.

Wieła z coraz bardziej pojawiającej się technologii sztucznej inteligencji (AI) była nauczona w ten sam sposób. Naukowcy podawali systemowi poprawne przykłady czegoś, co chcieli, aby rozpoznał, a jak młode dziecko, AI zaczęło rozpoznawać wzorce i ekstrapolować taką wiedzę do kontekstów, w których nie miało wcześniej doświadczenia, tworząc swoją własną „sieć neuronową” do klasyfikacji. Podobnie jak inteligencja ludzka, jednak eksperci stracili ślad z wejściami, które poinformowały podejmowanie decyzji przez AI.

„Czarna skrzynka” AI pojawia się jako fakt, że nie całkowicie rozumiemy, jak ani dlaczego system AI tworzy połączenia, ani jakie zmienne odgrywają rolę w jego decyzjach. Ten problem jest szczególnie istotny, gdy próbujemy poprawić systemy pod względem zaufania i bezpieczeństwa oraz ustanowić zarządzanie przyjęciem AI.

Od pojazdu zasilanego AI, który nie hamuje na czas i rani pieszych, do urządzeń medycznych zależnych od AI, które pomagają lekarzom w diagnozowaniu pacjentów, oraz uprzedzeń wykazywanych przez procesy rekrutacyjne oparte na AI, złożoność za tymi systemami doprowadziła do powstania nowej dziedziny badań: fizyki AI, która dąży do dalszego ustanowienia AI jako narzędzi dla ludzi, aby osiągnąć wyższe zrozumienie.

Teraz nowa niezależna grupa badawcza zajmie się tymi wyzwaniami, łącząc dziedziny fizyki, psychologii, filozofii i neurologii w międzydyscyplinarnym badaniu tajemnic AI.

NTT proponuje zaufanie i bezpieczeństwo AI

Nowo ogłoszona Grupa Fizyki Sztucznej Inteligencji jest oddziałem Laboratorium Fizyki i Informatyki (PHI) NTT Research, i została zaprezentowana na konferencji Upgrade 2025 NTT w San Francisco, Kalifornia, w zeszłym tygodniu. Będzie kontynuować rozwój podejścia Fizyki Sztucznej Inteligencji do zrozumienia AI, które zespół badał przez ostatnie pięć lat.

Dr Hidenori Tanaka, który ma doktorat z fizyki stosowanej i inżynierii komputerowej na Uniwersytecie Harvarda, poprowadzi nową grupę badawczą, budując na swoim wcześniejszym doświadczeniu w Grupie Systemów Inteligentnych NTT i programie badawczym AI CBS-NTT w dziedzinie fizyki inteligencji na Harvardzie.

„Jako fizyk jestem podekscytowany tematem inteligencji, ponieważ matematycznie, jak można pomyśleć o pojęciu kreatywności? Jak można pomyśleć o dobroci? Te pojęcia pozostałyby abstrakcyjne, gdyby nie AI. Łatwo jest spekulować, mówiąc „to jest moja definicja dobroci”, co nie ma matematycznego znaczenia, ale teraz z AI, jest to praktycznie istotne, ponieważ jeśli chcemy uczynić AI dobrym, musimy powiedzieć mu w języku matematyki, co to jest dobroć, na przykład”, powiedział Dr Tanaka w zeszłym tygodniu na marginesie konferencji Upgrade.

Na początku swoich badań, Laboratorium PHI uznało wagę zrozumienia „czarnej skrzynki” AI i uczenia maszynowego, aby opracować nowe systemy z poprawioną efektywnością energetyczną obliczeń. Postęp AI w ciągu ostatnich pięciu lat wywołał jednak coraz bardziej istotne rozważania dotyczące bezpieczeństwa i zaufania, które stały się kluczowe dla decyzji branżowych i rządowych dotyczących przyjęcia AI.

Przez nową grupę badawczą, NTT Research zajmie się podobieństwami między biologiczną i sztuczną inteligencją, aby rozwiązać złożoności mechanizmów AI i zbudować bardziej harmonijne połączenie współpracy człowiek-AI.

Chociaż nowatorskie w swoim połączeniu AI, to podejście nie jest nowe. Fizycy starali się ujawnić dokładne szczegóły technologicznych i ludzkich relacji przez wieki, od badań Galilea Galileiego nad tym, jak poruszają się obiekty i jego wkładu w mechanikę, do tego, jak silnik parowy poinformował zrozumienie termodynamiki podczas rewolucji przemysłowej. W XXI wieku jednak naukowcy starają się zrozumieć, jak AI działa w kategoriach szkolenia, gromadzenia wiedzy i podejmowania decyzji, aby w przyszłości mogły być zaprojektowane bardziej spójne, bezpieczne i godne zaufania technologie AI.

„AI jest siecią neuronową, sposób, w jaki jest zorganizowana, jest bardzo podobny do tego, jak działa ludzki mózg; neurony połączone synapsami, które są reprezentowane przez liczby w komputerze. I tam wierzymy, że może być fizyka… Fizyka polega na tym, aby wziąć wszystko z wszechświata, sformułować matematyczne hipotezy o ich wewnętrznych mechanizmach i przetestować je”, powiedział Dr Hanaka.

Nowa grupa będzie kontynuować współpracę z Centrum Nauk o Mózgu Uniwersytetu Harvarda (CBS), i planuje współpracować z profesorem Stanford University, Suyą Ganguli, z którym Dr Tanaka napisał kilka artykułów.

Jednak Dr Tanaka podkreśla, że podejście oparte na naukach przyrodniczych i międzybranżowych będzie fundamentalne. W 2017 roku, kiedy był kandydatem na doktorat na Harvardzie, badacz zrozumiał, że chce zrobić coś więcej niż tradycyjna fizyka, i pójść w ślady swoich poprzedników, od Galileiego do Newtona i Einsteina, aby otworzyć nowe światy pojęć w fizyce.

„Obecnie AI jest tematem, o którym mogę porozmawiać z każdym. Jako badacz, jest to wspaniałe, ponieważ każdy zawsze jest skłonny porozmawiać o AI, i ja również uczę się z każdej rozmowy, ponieważ zdaję sobie sprawę, jak ludzie postrzegają i używają AI inaczej, nawet poza kontekstami akademickimi. Widzę misję NTT jako katalizator, który ma wywołać te rozmowy, niezależnie od pochodzenia ludzi, ponieważ uczymy się z każdej interakcji”, zakończył Dr Tanaka.