Nowy system ma na celu rozwiązanie problemu zużycia energii przez sztuczną inteligencję

Komputery, które wykorzystują sztuczną inteligencję (AI), wymagają dużej ilości energii, a ich wymagania obliczeniowe podwajają się mniej więcej co trzy do czterech miesięcy. W przypadku centrów danych w chmurze, które są wykorzystywane przez aplikacje AI i uczenie maszynowe, zużywają one więcej energii elektrycznej rocznie niż niektóre małe kraje. Wiele badaczy ostrzega, że ten system jest niewykonalny.

Zespół tych badaczy pod przewodnictwem Uniwersytetu Waszyngtonu opracował rozwiązanie, które ma pomóc rozwiązać ten problem – nowe optyczne urządzenia komputerowe dla AI i uczenia maszynowego. Urządzenia te są szybsze i znacznie bardziej efektywne energetycznie niż konwencjonalna elektronika. Pomagają również rozwiązać problem “szumu”, który jest spowodowany przez optyczne obliczenia, co może zakłócać precyzję obliczeń.

Badania zostały opublikowane 21 stycznia w Science Advances.

Wykorzystanie szumu jako wejścia

W artykule zespołu badawczego zostało udowodnione, jak system optycznych obliczeń dla AI i uczenia maszynowego może wykorzystać część szumu jako wejście, aby poprawić kreatywność sztucznej sieci neuronowej (ANN) w systemie.

Changming Wu jest doktorantem na Uniwersytecie Waszyngtonu w dziedzinie inżynierii elektrycznej i komputerowej oraz głównym autorem artykułu.

“Zbudowaliśmy komputer optyczny, który jest szybszy niż konwencjonalny komputer cyfrowy”, powiedział Wu. “Ponadto, ten komputer optyczny może tworzyć nowe rzeczy na podstawie losowych danych wejściowych generowanych przez szum optyczny, który większość badaczy próbowała uniknąć”.

Szum w obliczeniach optycznych jest spowodowany przez swobodne cząstki światła, czyli fotony. Są one wytwarzane przez lasery wewnątrz urządzenia i promieniowanie termiczne. Aby rozwiązać problem szumu, zespół połączył swoje optyczne rdzenie obliczeniowe z siecią generatywno-dyskryminacyjną (GAN). Następnie przetestowali różne techniki ograniczania szumu, takie jak wykorzystanie części wygenerowanego szumu jako losowych danych wejściowych dla GAN.

Zespół nakazał GAN, aby nauczył się pisać ręcznie cyfrę “7” jak człowiek, co oznaczało, że musiał nauczyć się tego zadania, obserwując przykłady pisma ręcznego przed powtarzaniem ćwiczeń. Ze względu na swoją formę, komputer optyczny musiał generować obrazy cyfrowe, które miały podobny styl do przykładów.

Mo Li jest profesorem na Uniwersytecie Waszyngtonu w dziedzinie inżynierii elektrycznej i komputerowej oraz starszym autorem artykułu.

“Zamiast uczyć sieci, aby odczytywać ręcznie pisane cyfry, nauczylismy sieć, aby nauczyć się pisać cyfry, naśladując przykłady pisma ręcznego, na których została wyszkolona”, powiedział Li. “Wraz z naszymi współpracownikami z Duke University udowodniliśmy również, że GAN może ograniczyć negatywny wpływ szumów optycznych, wykorzystując algorytm szkoleniowy, który jest odporny na błędy i szumy. Co więcej, sieć rzeczywiście wykorzystuje szumy jako losowe dane wejściowe, które są potrzebne do generowania przykładów wyjściowych”.

Podczas gdy GAN kontynuował ćwiczenia pisanie cyfry, rozwinął swój własny charakterystyczny styl pisma. Ostatecznie był w stanie napisać cyfry od 1 do 10 w symulacjach komputerowych.

Budowanie urządzenia w większej skali

Zespół będzie teraz starał się zbudować urządzenie w większej skali za pomocą obecnej technologii produkcji półprzewodników, co poprawi wydajność i pozwoli zespołowi na wykonywanie bardziej złożonych zadań.

“Ten system optyczny reprezentuje architekturę sprzętu komputerowego, która może zwiększyć kreatywność sztucznych sieci neuronowych stosowanych w AI i uczeniu maszynowym, ale co ważniejsze, demonstruje możliwość tego systemu w dużym stopniu, gdzie szumy i błędy mogą być ograniczane i nawet wykorzystywane”, powiedział Li. “Aplikacje AI rozwijają się tak szybko, że w przyszłości ich zużycie energii będzie niewykonalne. Ta technologia ma potencjał, aby pomóc zmniejszyć zużycie energii, czyniąc AI i uczenie maszynowe ekologicznie zrównoważonymi – i bardzo szybkimi, osiągając wyższą wydajność ogólnie.