Nawigacja po drodze do sztucznej inteligencji ogólnej (AGI) razem: zbalansowany podejd

Jak sztuczna inteligencja ogólna (AGI) szybko postępuje, dyskusja przechodzi od filozoficznej debaty do praktycznej relewancji, z ogromną możliwością przekształcenia globalnych biznesów i ludzkiego potencjału.

Turing’s AGI Icons event series łączy innowatorów AI, aby omówić praktyczne i odpowiedzialne postępy rozwiązań AGI. 24 lipca Turing zorganizował nasze drugie wydarzenie AGI Icons w SHACK15, wyłącznym centrum dla przedsiębiorców i innowatorów technologicznych w San Francisco. Moderowane przez Anitę Ramaswamy, kolumnistkę finansową w The Information, rozmawiałem z Adamem D’Angelo, dyrektorem generalnym Quora, aby omówić drogę do AGI i podzielić się spostrzeżeniami na temat harmonogramów rozwoju, aplikacji w świecie rzeczywistym i zasad odpowiedzialnego wdrożenia.

Droga od AI do AGI

„Gwiazda północy”, która napędza badania nad AI, to dążenie do ludzkiej „inteligencji”. To, co odróżnia AGI od standardowego AI, to postęp poza wąską funkcjonalność w kierunku większej ogólności (szerokości) i wydajności (głębokości), nawet przewyższającej ludzkie możliwości.

To „droga do AGI”, gdzie AI postępuje w kierunku bardziej autonomicznych systemów, lepszych zdolności rozumowania, zwiększonych możliwości i poprawionej funkcjonalności. Postępy te są podzielone na pięć poziomów taksonomicznych:

• Poziom 0: Brak AI – Proste narzędzia, takie jak kalkulatory
• Poziom 1: Wyrastająca AGI – Bieżące LLM, takie jak ChatGPT
• Poziom 2: Kompetentna AGI – Systemy AI, które równają się z doświadczonymi dorosłymi w określonych zadaniach
• Poziom 3: Ekspert AGI – Systemy AI na 90. percentylu doświadczonych dorosłych
• Poziom 4: Wirtuoz AGI – Systemy AI na 99. percentylu
• Poziom 5: Nadludzka AGI – Systemy AI, które przewyższają wszystkich ludzi

Źródło

Podczas naszej rozmowy Adam zdefiniował pojęcie AGI jako „oprogramowanie, które może robić wszystko, co może zrobić człowiek”. Wyobraża sobie przyszłość, w której AI poprawia się, ostatecznie przejmując skomplikowane zadania ludzkie obsługiwane przez badaczy uczenia maszynowego.

Przechodząc dalej, porównałem moje poglądy na AGI do „sztucznego mózgu” zdolnego do różnorodnych zadań, takich jak „tłumaczenie maszynowe, złożone zapytania i kodowanie”. To jest różnica między AGI a bardziej przewidywalnym AI i wąskimi formami ML, które pojawiły się przed nim. Wydaje się, że jest to zachowanie emergentne.

Realistyczne harmonogramy rozwoju na drodze do AGI

Podobnie jak w podróży samochodowej, najważniejszym pytaniem dotyczącym AGI jest: „Czy już tam jesteśmy?” Krótka odpowiedź to nie, ale ponieważ badania nad AI przyspieszają, odpowiednie pytanie brzmi: „Jak możemy zrównoważyć ambicje AGI z realistycznymi oczekiwaniami?”

Adam podkreślił, że zwiększona automatyzacja z AGI spowoduje przesunięcie ról ludzkich, a nie ich eliminację, prowadząc do szybszego wzrostu gospodarczego i bardziej wydajnej produktywności. „Gdy ta technologia staje się coraz bardziej potężna, dojdziemy do punktu, w którym 90% tego, co ludzie robią dzisiaj, zostanie zautomatyzowane, ale wszyscy będą przesunięci do innych rzeczy”.

Obecnie wiele gospodarek na świecie jest ograniczonych przez liczbę dostępnych osób do pracy. Gdy osiągniemy AGI, będziemy mogli rozwijać gospodarkę w znacznie szybszym tempie niż jest to możliwe dzisiaj.

Nie możemy podać ostatecznego harmonogramu, kiedy prawdziwa AGI zostanie zrealizowana, ale Adam i ja przytoczyli kilka przykładów postępów w AI, które umożliwiają przyszły postęp AGI. Na przykład eksperymenty Turinga z narzędziami deweloperskimi AI pokazały 33% wzrost produktywności deweloperów, co wskazuje na jeszcze większy potencjał.

Aplikacje w świecie rzeczywistym i efekty

Jedną z najbardziej obiecujących aplikacji AGI jest dziedzina rozwoju oprogramowania. Duże modele językowe (LLM), poprzednik AGI, są już wykorzystywane do poprawy rozwoju oprogramowania i poprawy jakości kodu. Widzę tę erę AI jako bliższą biologii niż fizyce, gdzie wszystkie rodzaje pracy z wiedzą będą się poprawiać. Będzie tak wiele więcej produktywności odblokowanej dla i z ludzkości.

Moja perspektywa wynika z doświadczenia, gdzie zaobserwowałem 10-krotny wzrost produktywności osobistej podczas korzystania z LLM i narzędzi deweloperskich AI. Używamy również AI w Turingu, aby ocenić talent techniczny i dopasować odpowiednich inżynierów oprogramowania i ekspertów z dziedziny do odpowiednich stanowisk.

To, co widzę w przestrzeni szkolenia LLM, to na przykład to, że trenerzy wykorzystują te modele, aby poprawić produktywność deweloperów i przyspieszyć harmonogramy projektów. Automatyzując rutynowe zadania programistyczne i zapewniając inteligentne sugestie kodu, LLM pozwalają deweloperom skupić się na bardziej strategicznych i kreatywnych aspektach swojej pracy.

Adam zakończył: „LLM nie napiszą wszystkiego kodu, ale zrozumienie podstaw programowania pozostaje kluczowe. Kalkulatory nie wyeliminowały potrzeby nauki arytmetyki”. Dodał: „Deweloperzy stają się bardziej wartościowi, gdy używają tych modeli. Obecność LLM jest pozytywna dla stanowisk deweloperskich i będzie wiele zysków dla deweloperów”.

Wkraczamy w złoty wiek rozwoju oprogramowania, w którym jeden inżynier oprogramowania może być 10-krotnie bardziej produktywny, tworzyć więcej i przynosić korzyści światu.

Wyzwania techniczne i zarządcze

Pomimo obiecującego potencjału AGI, należy rozwiązać wyzwania. Potrzebne są solidne procesy oceny i ramy regulacyjne, aby zrównoważyć innowacje AGI z bezpieczeństwem publicznym.

Adam podkreślił potrzebę gruntownego testowania i izolacji, aby ograniczyć najgorsze scenariusze. „Chcesz mieć jakiś solidny proces oceny… i uzyskać dystrybucję, której testujesz, aby była jak najbliżej rzeczywistego użycia”.

I ja się zgadzam. Wąskim gardłem postępu AGI jest teraz inteligencja ludzka, a nie moc obliczeniowa czy dane. Ekspertyza ludzka jest niezbędna do precyzyjnego dostosowania i personalizacji modeli AI, dlatego Turing koncentruje się na pozyskiwaniu i dopasowywaniu najlepszych specjalistów technicznych, aby zrównoważyć modele z inteligencją ludzką.

Musimy rozwiązać wyzwania AGI, koncentrując się na możliwościach zamiast procesach, ogólności i wydajności, a także potencjale.

Perspektywy na wyzwania: poprawa interakcji między ludźmi a AGI

Niektóre z najlepszych praktyk, aby rozwiązać wyzwania AGI, to:

• Koncentruj się na możliwościach lub „czym AGI może zrobić” zamiast procesach lub „jak to robi”.
• Zrównoważ ogólność i wydajność jako niezbędne składniki AGI.
• Koncentruj się na zadaniach kognitywnych/metakognitywnych i zdolnościach uczenia się zamiast zadań fizycznych/wyjść.
• Mierzą AGI według jej potencjału i możliwości.
• Koncentruj się na ważności ekologicznej, dopasowując punkty odniesienia do zadań w świecie rzeczywistym, które ludzie cenią.
• Pamiętaj, że droga do AGI nie jest jednym punktem końcowym, ale procesem iteracyjnym.

Dodając do tych najlepszych praktyk, Adam i ja podkreśliliśmy wagę poprawy interakcji między ludźmi a AGI. Adam podkreślił wartość nauki, jak i kiedy używać tych modeli, traktując je jako potężne narzędzia do nauki, które mogą szybko nauczyć każdej subdomeny programowania, podkreślając wagę zrozumienia podstaw.

Podobnie ja sugeruję, że uczynienie każdego człowieka użytkownikiem LLM może znacznie poprawić produktywność i zrozumienie w różnych dziedzinach. LLM mogą uczynić złożoną informację dostępną dla wszystkich, poprawiając produktywność w różnych dziedzinach. Ale wymaga to stopniowego, iteracyjnego podejścia: zaczynając od AI-kopilotów asystujących ludziom, przechodząc do agentów z nadzorem ludzkim, a ostatecznie osiągając w pełni autonomiczne agenty w dobrze ocenianych zadaniach.

Z tym, różnicowanie po szkoleniu jest krytyczne, obejmując nadzorowane precyzyjne szkolenie (SFT) i wykorzystując inteligencję ludzką, aby tworzyć niestandardowe modele. Firmy, które mogą pozyskać i dopasować trenerów, inżynierów i innych, przyspieszą swoje możliwości precyzyjnego szkolenia i inżynierii niestandardowej. Współpraca z wiodącymi firmami, takimi jak OpenAI i Anthropic, jest również kluczowa do stosowania tych modeli w różnych branżach.

Zasady odpowiedzialnego rozwoju AGI

„Rozwój AGI musi być odpowiedzialny i etyczny, zapewniając bezpieczeństwo i przejrzystość, jednocześnie promując innowacje”. – Adam D’Angelo

Odpowiedzialny rozwój AGI wymaga przestrzegania kilku podstawowych zasad:

• Bezpieczeństwo i ochrona: Zapewnienie, że systemy AGI są niezawodne i odporne na nadużycia, zwłaszcza gdy modele są skalowane, aby pomieścić nowe dane wejściowe lub algorytmy.
• Przejrzystość: Bycie realistycznym co do możliwości, ograniczeń i „jak to działa” AGI.
• Uwzględnienie etyczne: Rozwiązywanie problemów związanych ze sprawiedliwością, uprzedzeniami i wpływem AGI na zatrudnienie i inne czynniki społeczno-ekonomiczne.
• Regulacja: Współpraca z rządami i innymi organizacjami, aby opracować ramy, które zrównoważą postęp z bezpieczeństwem publicznym.
• Ocena: Przyszłe oceny muszą ilościowo mierzyć zachowanie i możliwości AGI w odniesieniu do uwzględnienia etycznego i poziomów taksonomicznych.

Podsumowanie: Skoncentruj się na drodze do AGI, a nie na jednym punkcie końcowym

Droga do AGI jest złożona, ale każdy przystanek po drodze jest ważny dla podróży. Zrozumienie iteracyjnych ulepszeń AGI, wraz z ich implikacjami, pozwoli ludziom i firmom na odpowiedzialne przyjęcie tej ewoluującej technologii. To jest sedno odpowiedzialnego rozwoju AGI, gdzie interakcja w świecie rzeczywistym informuje, jak nawigujemy tę nową granicę.