Kiedy rodzic uczy swoje małe dziecko relacji ze światem, uczy poprzez skojarzenia i identyfikację wzorców. Weźmy na przykład literę S. Rodzice pokazują dziecku wystarczająco dużo przykładów tej litery, a wkrótce będzie ono w stanie zidentyfikować inne przykłady w kontekstach, w których wskazówki nie są aktywne; szkoła, książka, billboard.

Duża część stale rozwijającej się technologii sztucznej inteligencji (AI) została nauczony w ten sam sposób. Naukowcy podali systemowi prawidłowe przykłady czegoś, co chcieli, aby rozpoznał, i niczym małe dziecko, AI zaczęła rozpoznawać wzorce i ekstrapolować taką wiedzę do kontekstów, których nigdy wcześniej nie doświadczyła, tworząc własną „sieć neuronową” do kategoryzacji. Jednak podobnie jak ludzka inteligencja, eksperci stracili z oczu dane wejściowe, które informowały podejmowanie decyzji przez AI. 

"problem z czarną skrzynką„AI” wyłania się zatem jako fakt, że nie do końca rozumiemy, jak lub dlaczego system AI tworzy połączenia, ani zmienne, które wpływają na jego decyzje. Kwestia ta jest szczególnie istotna, gdy dążymy do poprawy wiarygodności i bezpieczeństwa systemów oraz ustanowienia zarządzania adopcją AI. 

Od pojazdu napędzanego sztuczną inteligencją, który nie hamuje na czas i powoduje obrażenia u pieszych, po urządzenia medyczne oparte na sztucznej inteligencji, które pomagają lekarzom w diagnozowaniu pacjentów, uprzedzenia wykazywane przez procesy rekrutacyjne AIZłożoność tych systemów doprowadziła do powstania nowej dziedziny nauki: fizyki sztucznej inteligencji, której celem jest szerzej pojęta rola sztucznej inteligencji jako narzędzia umożliwiającego ludziom osiągnięcie głębszego zrozumienia. 

Teraz nowa niezależna grupa badawcza zajmie się tymi wyzwaniami, łącząc dziedziny fizyki, psychologii, filozofii i neuronauki w interdyscyplinarnym badaniu tajemnic sztucznej inteligencji.

NTT proponuje zaufanie i bezpieczeństwo sztucznej inteligencji

Nowo ogłoszony Grupa Fizyki Sztucznej Inteligencji jest spin-offem Physics & Informatics (PHI) Lab NTT Research i został zaprezentowany na konferencji Upgrade 2025 NTT w San Francisco w Kalifornii w zeszłym tygodniu. Będzie on nadal rozwijał podejście Physics of Artificial Intelligence do zrozumienia AI, które zespół badał przez ostatnie pięć lat. 

Dr Hidenori Tanaka, który uzyskał doktorat z fizyki stosowanej, informatyki i inżynierii na Uniwersytecie Harvarda, pokieruje nową grupą badawczą, opierając się na swoim wcześniejszym doświadczeniu w Grupie Systemów Inteligentnych NTT oraz programie badawczym AI CBS-NTT w zakresie fizyki inteligencji na Harvardzie.

„Jako fizyk jestem podekscytowany tematem inteligencji, ponieważ matematycznie rzecz biorąc, jak można wyobrazić sobie pojęcie kreatywności? Jak można w ogóle pomyśleć o życzliwości? Te koncepcje pozostałyby abstrakcyjne, gdyby nie sztuczna inteligencja. Łatwo spekulować, mówiąc: „To moja definicja życzliwości”, co nie ma sensu matematycznego, ale teraz, w przypadku sztucznej inteligencji, ma to praktyczne znaczenie, ponieważ jeśli chcemy, aby sztuczna inteligencja była życzliwa, musimy jej w języku matematyki powiedzieć, czym jest życzliwość. is„Na przykład”, powiedział mi dr Tanaka w zeszłym tygodniu na marginesie konferencji Upgrade.  

Już na wczesnym etapie badań PHI Lab uznało znaczenie zrozumienia natury „czarnej skrzynki” AI i uczenia maszynowego w celu opracowania nowych systemów o zwiększonej efektywności energetycznej do obliczeń. Postęp AI w ciągu ostatniego półwiecza wywołał jednak coraz ważniejsze rozważania dotyczące bezpieczeństwa i wiarygodności, które stały się krytyczne dla zastosowań przemysłowych i decyzji dotyczących zarządzania w zakresie wdrażania AI. 

Za pośrednictwem nowej grupy badawczej NTT Research zajmie się podobieństwami między inteligencją biologiczną i sztuczną, mając nadzieję na rozwikłanie złożoności mechanizmów sztucznej inteligencji i stworzenie bardziej harmonijnej współpracy między człowiekiem a sztuczną inteligencją. 

Choć nowatorskie w swojej integracji AI, to podejście nie jest nowe. Fizycy od wieków starają się ujawnić dokładne szczegóły technologicznych i ludzkich relacji, od badań Galileusza Galilei nad tym, jak obiekty się poruszają i jego wkładu w mechanikę, po to, jak maszyna parowa wpłynęła na zrozumienie termodynamiki podczas rewolucji przemysłowej. Jednak w XXI wieku naukowcy starają się zrozumieć, jak działa AI pod względem szkolenia, gromadzenia wiedzy i podejmowania decyzji, aby w przyszłości można było projektować bardziej spójne, bezpieczne i godne zaufania technologie AI. 

„AI to sieć neuronowa, której struktura jest bardzo podobna do tego, jak działa ludzki mózg; neurony połączone synapsami, które są reprezentowane przez liczby wewnątrz komputera. I właśnie tam wierzymy, że może istnieć fizyka… Fizyka polega na wzięciu czegokolwiek ze wszechświata, formułowaniu matematycznych hipotez na temat ich wewnętrznych działań i testowaniu ich” – powiedział dr Hanaka. 

Nowa grupa będzie kontynuować współpracę z Harvard University Center for Brain Science (CBS) i planuje nawiązać współpracę z profesorem nadzwyczajnym Uniwersytetu Stanforda Suyą Ganguli, z którą dr Tanaka był współautorem kilku prac. 

Jednak dr Tanaka podkreśla, że ​​fundamentalne będzie podejście nauk przyrodniczych i międzybranżowe. W 2017 r., gdy był doktorantem na Harvardzie, badacz zdał sobie sprawę, że chce robić coś więcej niż tradycyjną fizykę i podążać śladami swoich poprzedników, od Galileusza po Newtona i Einsteina, aby otwierać nowe światy koncepcyjne w fizyce. 

„Obecnie AI to jedyny temat, o którym mogę rozmawiać ze wszystkimi. Jako badaczka, to świetnie, ponieważ wszyscy są zawsze gotowi rozmawiać o AI, a ja również uczę się z każdej rozmowy, ponieważ zdaję sobie sprawę, jak ludzie postrzegają i wykorzystują AI inaczej, nawet poza kontekstami akademickimi. Uważam, że misją NTT jest bycie katalizatorem do wywoływania tych rozmów, niezależnie od pochodzenia ludzi, ponieważ uczymy się z każdej interakcji” – podsumowała dr Tanaka.