Nawigacja po drodze do sztucznej inteligencji ogólnej (AGI) razem: Zbalansowany podejście

Podczas gdy sztuczna inteligencja ogólna (AGI) szybko postępuje, dyskusja przechodzi od debaty filozoficznej do dyskusji o praktycznym znaczeniu, z ogromną możliwością przekształcenia globalnych firm i ludzkiego potencjału.

Seria wydarzeń AGI Icons organizowana przez Turinga łączy innowatorów AI, aby omówić praktyczne i odpowiedzialne postępy w rozwoju rozwiązań AGI. 24 lipca Turing zorganizował swoje drugie wydarzenie AGI Icons w SHACK15, ekskluzywnym centrum dla przedsiębiorców i innowatorów technologicznych w San Francisco. Moderowanym przez Anitę Ramaswamy, felietonistkę finansową w The Information, rozmawiałem z Adamem D’Angelo, dyrektorem generalnym Quory, aby omówić drogę do AGI i podzielić się wglądami w harmonogramy rozwoju, aplikacje w świecie rzeczywistym i zasady odpowiedzialnego wdrożenia.

Droga od AI do AGI

„Gwiazda północy”, która napędza badania AI, jest dążeniem do ludzkiego poziomu „inteligencji”. To, co odróżnia AGI od standardowego AI, to jego postęp poza wąską funkcjonalność w kierunku większej ogólności (szerokości) i wydajności (głębokości), nawet przewyższając ludzkie możliwości.

To „droga do AGI”, gdzie AI rozwija się w kierunku bardziej autonomicznych systemów, lepszych rozumu, udoskonalonych możliwości i poprawionej funkcjonalności. Postępy te są podzielone na pięć poziomów taksonomicznych:

• Poziom 0: Brak AI – Proste narzędzia, takie jak kalkulatory
• Poziom 1: Wprowadzenie AGI – Bieżące LLM, takie jak ChatGPT
• Poziom 2: Kompetentna AGI – Systemy AI, które dorównują doświadczonym dorosłym w określonych zadaniach
• Poziom 3: Ekspert AGI – Systemy AI na 90. percentylu doświadczonych dorosłych
• Poziom 4: Wirtuoz AGI – Systemy AI na 99. percentylu
• Poziom 5: Nadludzka AGI – Systemy AI, które przewyższają wszystkich ludzi

Źródło

Podczas naszej dyskusji Adam zdefiniował pojęcie AGI jako „oprogramowanie, które może zrobić wszystko, co może zrobić człowiek”. Wyobraża sobie przyszłość, w której AI poprawia się, ostatecznie przejmując skomplikowane zadania ludzkie obsługiwane przez badaczy uczenia maszynowego.

Przechodząc o krok dalej, porównałem moje poglądy na AGI do „sztucznego mózgu” zdolnego do różnorodnych zadań, takich jak „tłumaczenie maszynowe, złożone zapytania i kodowanie”. To jest różnica między AGI a bardziej przewidywalnym AI i wąskimi formami ML, które pojawiły się wcześniej. Wydaje się, że jest to zachowanie emergentne.

Realistyczne harmonogramy rozwoju na drodze do AGI

Jak na wycieczce samochodowej, najważniejsze pytanie o AGI brzmi: „Czy już tam jesteśmy?” Krótka odpowiedź to nie, ale ponieważ badania AI przyspieszają, odpowiednie pytanie brzmi: „Jak możemy zbalansować ambicje AGI z realistycznymi oczekiwaniami?”

Adam podkreślił, że zwiększona automatyzacja dzięki AGI spowoduje przesunięcie ról ludzkich, a nie ich likwidację, prowadząc do szybszego wzrostu gospodarczego i bardziej wydajnej produktywności. „Gdy ta technologia staje się coraz potężniejsza, dojdziemy do punktu, w którym 90% tego, co ludzie robią dzisiaj, zostanie zautomatyzowane, ale wszyscy będą się przestawiali na inne rzeczy”.

Obecnie duża część światowej gospodarki jest ograniczona przez liczbę dostępnych osób do pracy. Gdy osiągniemy AGI, będziemy mogli rozwijać gospodarkę w znacznie szybszym tempie niż jest to możliwe dzisiaj.

Nie możemy podać ostatecznego harmonogramu, kiedy zostanie zrealizowana prawdziwa AGI, ale Adam i ja cytowaliśmy kilka przypadków postępów AI, które umożliwiają przyszłe postępy AGI. Na przykład eksperymenty Turinga z narzędziami dla deweloperów AI wykazały 33% wzrost produktywności deweloperów, co wskazuje na jeszcze większy potencjał.

Realne aplikacje i efekty

Jedną z najbardziej obiecujących aplikacji AGI jest dziedzina rozwoju oprogramowania. Duże modele językowe (LLM), prekursor AGI, są już wykorzystywane do poprawy rozwoju oprogramowania i polepszania jakości kodu. Widzę tę erę AI jako bliższą biologii niż fizyce, gdzie wszystkie rodzaje pracy z wiedzą będą ulepszane. Będzie tak wiele więcej produktywności odblokowanej dla i od ludzkości.

Mój punkt widzenia wynika z doświadczenia, gdzie zaobserwowałem 10-krotny wzrost produktywności osobistej podczas korzystania z LLM i narzędzi deweloperskich AI. Używamy również AI w Turingu do oceny talentów technicznych i dopasowywania odpowiednich inżynierów oprogramowania i ekspertów z dziedziny do odpowiednich prac.

Co widzę w przestrzeni szkolenia LLM, to na przykład trenerzy wykorzystują te modele, aby poprawić produktywność deweloperów i przyspieszyć terminy projektów. Automatyzując rutynowe zadania programistyczne i zapewniając inteligentne sugestie kodu, LLM pozwalają deweloperom skupić się na bardziej strategicznych i kreatywnych aspektach swojej pracy.

Adam zakończył, „LLM nie napiszą wszystkiego kodu, ale zrozumienie podstaw oprogramowania pozostaje kluczowe. Kalkulatory nie wyeliminowały potrzeby nauki arytmetyki”. Dodał, „Deweloperzy stają się bardziej wartościowi, gdy używają tych modeli. Obecność LLM jest pozytywna dla pracy deweloperów i będzie wiele zysków dla deweloperów”.

Wchodzimy w złoty wiek rozwoju oprogramowania, gdzie jeden inżynier oprogramowania może być 10-krotnie bardziej produktywny, tworzyć więcej i przynosić korzyści światu.

Wyzwania techniczne i zarządcze

Pomimo obiecującego potencjału AGI, należy rozwiązać wyzwania. Konieczne są solidne procesy oceny i ramy regulacyjne, aby zbalansować innowacje AGI z bezpieczeństwem publicznym.

Adam podkreślił potrzebę gruntownego testowania i izolacji, aby ograniczyć najgorsze scenariusze. „Chcesz mieć jakiś solidny proces oceny… i uzyskać dystrybucję, przeciwko której testujesz, aby była jak najbliższa rzeczywistemu użyciu”.

I ja się zgadzam. Wąskim gardłem postępów AGI jest teraz inteligencja ludzka, a nie moc obliczeniowa czy dane. Ekspertyza ludzka jest niezwykle ważna do fine-tuningowania i dostosowywania modeli AI, dlatego Turing koncentruje się na pozyskiwaniu i dopasowywaniu najlepszych specjalistów technicznych, aby zbalansować modele z inteligencją ludzką.

Musimy rozwiązać wyzwania AGI frontalnie, koncentrując się na możliwościach zamiast procesach, ogólności i wydajności, oraz potencjale.

Perspektywy na wyzwania: Poprawa interakcji człowiek-AGI

Niektóre z najlepszych praktyk, aby rozwiązać wyzwania AGI, to:

• Skoncentruj się na możliwościach lub „czym AGI może zrobić” zamiast procesach lub „jak to robi”.
• Zbalansuj ogólność i wydajność jako niezbędne składniki AGI.
• Skoncentruj się na zadaniach kognitywnych/metakognitywnych i zdolnościach do uczenia się zamiast zadań fizycznych/wyjść.
• Pomierz AGI według jej potencjału i możliwości.
• Skoncentruj się na ważności ekologicznej, dopasowując benchmarki do zadań rzeczywistych, których ludzie cenią.
• Pamiętaj, że droga do AGI nie jest jednym punktem końcowym, ale procesem iteracyjnym.

Dodając do tych najlepszych praktyk, Adam i ja podkreśliliśmy wagę poprawy interakcji człowiek-AGI. Adam podkreślił wartość nauki, jak i kiedy używać tych modeli, traktując je jako potężne narzędzia do nauki, które mogą szybko nauczyć każdej poddziedziny programowania, podkreślając wagę zrozumienia podstaw.

Podobnie ja sugeruję, że uczynienie każdego człowieka użytkownikiem LLM może znacznie poprawić produktywność i zrozumienie w różnych dziedzinach. LLM mogą uczynić złożoną wiedzę dostępną dla wszystkich, poprawiając produktywność w różnych dziedzinach. Ale wymaga to fazowego, iteracyjnego podejścia: zaczynając od AI-kopilotów asystujących ludziom, a następnie przechodząc do agentów z nadzorem ludzkim, a ostatecznie osiągając w pełni autonomiczne agenty w dobrze ocenianych zadaniach.

Z tym, że różnicowanie post-treningowe jest kluczowe, obejmując nadzorowane fine-tuning (SFT) i wykorzystywanie inteligencji ludzkiej do tworzenia niestandardowych modeli. Firmy, które mogą pozyskać i dopasować trenerów, inżynierów i innych, przyspieszą swoje możliwości fine-tuningowania i inżynierii niestandardowej. Współpraca z wiodącymi firmami, takimi jak OpenAI i Anthropic, jest również kluczowa do stosowania tych modeli w różnych branżach.

Zasady odpowiedzialnego rozwoju AGI

„Rozwój AGI musi być odpowiedzialny i etyczny, zapewniając bezpieczeństwo i przejrzystość, jednocześnie wspierając innowacje”. – Adam D’Angelo

Odpowiedzialny rozwój AGI wymaga przestrzegania kilku podstawowych zasad:

• Bezpieczeństwo i ochrona: Zapewnienie, że systemy AGI są niezawodne i odporne na nadużycia, zwłaszcza gdy modele są skalowane, aby uwzględnić nowe dane wejściowe lub algorytmy.
• Przejrzystość: Bycie realistycznym co do możliwości AGI, ograniczeń i „jak to działa”.
• Uwzględnienia etyczne: Rozwiązywanie problemów sprawiedliwości, uprzedzeń i wpływu AGI na zatrudnienie i inne czynniki społeczno-ekonomiczne.
• Regulacja: Współpraca z rządami i innymi organizacjami w celu opracowania ram, które balansują postęp z bezpieczeństwem publicznym.
• Benchmarking: Przyszłe benchmarki muszą ilościowo mierzyć zachowanie i możliwości AGI w odniesieniu do uwzględnienia etycznego i poziomów taksonomicznych.

Podsumowanie: Skoncentruj się na drodze do AGI, a nie na jednym punkcie końcowym

Droga do AGI jest złożona, ale każdy przystanek po drodze jest ważny dla podróży. Zrozumiawszy iteracyjne ulepszenia AGI – wraz z ich implikacjami – ludzie i firmy będą mogli odpowiedzialnie przyjmować tę ewoluującą technologię. To jest istota odpowiedzialnego rozwoju AGI, gdzie interakcja ze światem rzeczywistym informuje, jak nawigujemy ten nowy obszar.