AGI
Navigace po cestě k umělým obecným inteligencím (AGI) společně: vyvážený přístup
Jak se umělé obecné inteligence (AGI) rychle vyvíjí, debata se přesouvá z filozofických diskusí k praktické relevanci, s enormní příležitostí transformovat globální podniky a lidský potenciál.
Turingova série akcí AGI Icons spojuje inovátory v oblasti AI, aby diskutovali o praktických a zodpovědných pokrocích řešení AGI. Dne 24. července hostil Turing naše druhé setkání AGI Icons v SHACK15, exkluzivním centru pro podnikatele a technologické inovátory v San Francisku. Moderátor Anita Ramaswamy, finanční komentátorka v The Information, usedla se mnou s generálním ředitelem Quory, Adamem D’Angelo, abychom diskutovali o cestě k AGI a sdíleli přehledy o časových rámcích vývoje, reálných aplikacích a zásadách pro zodpovědné nasazení.
Cesta z AI na AGI
“Hvězda severu”, která pohání výzkum AI, je snaha o lidskou inteligenci. To, co odlišuje AGI od standardní AI, je její pokrok za úzkou funkčnost směrem k větší obecnosti (šíři) a výkonu (hloubce), dokonce i za hranice lidských schopností.
Toto je “cesta k AGI”, kde se AI vyvíjí do více autonomních systémů, lepšího uvažování, vylepšených schopností a zlepšené funkčnosti. Tyto pokroky jsou rozděleny do pěti taxonomických úrovní:
- Úroveň 0: Žádná AI – Jednoduché nástroje, jako jsou kalkulačky
- Úroveň 1: Vyvíjející se AGI – Současné LLM, jako je ChatGPT
- Úroveň 2: Schopná AGI – Systémy AI, které odpovídají dovedným dospělým na konkrétní úkoly
- Úroveň 3: Odborná AGI – Systémy AI na 90. percentilu dovedných dospělých
- Úroveň 4: Virtuózní AGI – Systémy AI na 99. percentilu
- Úroveň 5: Nadlidská AGI – Systémy AI, které překonávají všechny lidi
Během naší diskuse Adam definoval koncept AGI jako “software, který může dělat vše, co může udělat člověk”. Představuje si budoucnost, kde se AI zlepšuje, nakonec přebírá komplexní úkoly zpracované výzkumníky strojového učení.
Já jsem své názory na AGI srovnal s “umělým mozkem” schopným různých úkolů, jako je “strojový překlad, komplexní dotazy a kódování”. To je rozdíl mezi AGI a předchozími předpovědními AI a úzkými formami ML. Zdá se to jako emergentní chování.
Reálné časové rámce vývoje na cestě k AGI
Stejně jako na cestě je nejčastější otázka o AGI “Jsme už tam?” Krátká odpověď je ne, ale jak se výzkum AI zrychluje, správná otázka je, “Jak můžeme vyvážit ambici AGI s realistickými očekáváními?”
Adam zdůraznil, že zvýšená automatizace z AGI přesune lidské role, spíše než je eliminuje, což povede k rychlejšímu ekonomickému růstu a vyšší produktivitě. “Jakmile tato technologie bude dostatečně silná, dostaneme se do bodu, kdy 90 % toho, co lidé dělají dnes, bude automatizováno, ale všichni budou přešli do jiných věcí.”
V současné době je většina světové ekonomiky omezena počtem lidí, kteří jsou k dispozici pro práci. Jakmile dosáhneme AGI, můžeme růst ekonomiky mnohem rychleji, než je možné dnes.
Nemůžeme poskytnout definitivní časový rámec, kdy bude skutečná AGI realizována, ale Adam a já uvedli několik příkladů pokroků AI, které umožňují budoucí pokroky AGI. Například Turingovy experimenty s nástroji pro vývojáře AI ukázaly 33% nárůst produktivity vývojářů, naznačující ještě větší potenciál.
Reálné aplikace a účinky
Jedna z nejvýznamnějších aplikací AGI leží v oblasti softwarového vývoje. Velké jazykové modely (LLM), předchůdce AGI, jsou již používány ke zlepšení softwarového vývoje a zlepšení kvality kódu. Vidím tuto éru AI jako bližší biologii než fyzice, kde se všechny druhy znalostí zlepšují. Bude tam tolik více produktivity odemknuté pro a z lidstva.
Můj pohled pochází z experiencia, kde jsem svědkem 10násobného nárůstu osobní produktivity, když používám LLM a nástroje pro vývojáře AI. Používáme také AI v Turingu k vyhodnocení technického talentu a přiřazování správných softwarových inženýrů a odborníků s titulem PhD k správným úkolu.
Co vidím v prostoru školení LLM, je to, že trenéři využívají tyto modely ke zlepšení produktivity vývojářů a urychlení projektových časových rámců. Automatizací rutinních úkolů kódování a poskytováním inteligentních návrhů kódu LLM uvolňují vývojáře, aby se soustředili na strategičtější a kreativnější aspekty své práce.
Adam uzavřel, “”LLM nebude psát všechen kód, ale pochopení softwarových základů zůstává zásadní. Kalkulačky neeliminovaly potřebu učit se aritmetice.” Přidal, “Vývojáři se stávají více cennými, když používají tyto modely. Přítomnost LLM je pozitivní pro pracovní místa vývojářů a bude tam mnoho zisků pro vývojáře.”
Vstupujeme do zlatého věku softwarového vývoje, kde jeden softwarový inženýr může být 10krát více produktivní, vytvořit více a prospět světu.
Technické a vládní výzvy
Navzdory slibnému potenciálu AGI je třeba řešit výzvy. Robustní procesy hodnocení a regulační rámce jsou nezbytné pro vyvážení inovací AGI s veřejnou bezpečností.
Adam zdůraznil potřebu důkladného testování a sandboxingu, aby se omezily nejhorší scénáře. “Chcete mít somekind robustní proces hodnocení… a získat distribuci, kterou testujete, aby byla co nejblíže skutečnému použití.”
A já souhlasím. Úzkým místem pro pokrok AGI je nyní lidská inteligence, spíše než výpočetní síla nebo data. Lidská odbornost je zásadní pro jemné ladění a přizpůsobování modelů AI, což je důvod, proč se Turing soustředí na zdroje a přiřazování špičkových technických odborníků, aby vyvážil modely s lidskou inteligencí.
Musíme řešit výzvy AGI přímo, soustředěním se na schopnosti spíše než procesy, obecnost a výkon a potenciál.
Pohledy na výzvy: zlepšení interakcí mezi lidmi a AGI
Některé z nejlepších postupů pro řešení výzev AGI zahrnují:
- Soustředit se na schopnosti nebo “co může AGI udělat” spíše než procesy nebo “jak to dělá”.
- Vyvážit obecnost a výkon jako základní součásti AGI.
- Soustředit se na kognitivní/metakognitivní úkoly a učení spíše než fyzické úkoly/výstupy.
- Měřit AGI podle jeho potenciálu a schopností.
- Soustředit se na ekologickou platnost, aby se benchmarky shodovaly se skutečnými úkoly, které lidé hodnotí.
- Pamatovat si, že cesta k AGI není jediný bod, je to iterativní proces.
Přidáváním k těmto postupům Adam a já zdůraznili důležitost zlepšení interakcí mezi lidmi a AGI. Adam zdůraznil hodnotu učení, jak a kdy používat tyto modely, považuje je za silné nástroje učení, které mohou rychle naučit jakoukoli subdoménu programování, zatímco zdůrazňuje důležitost pochopení základů.
Podobně jsem navrhl, že učinění každého člověka silným uživatelem LLM by mohlo výrazně zlepšit produktivitu a porozumění v různých oblastech. LLM mohou učinit komplexní informace přístupné všem, zlepšují produktivitu v různých oblastech. Ale vyžaduje to fázový, iterativní přístup: začínající s AI kopiloty, které pomáhají lidem, pak přecházející na agenty s lidským dohledem a nakonec dosahující plně autonomních agentů v pečlivě vyhodnocených úkolech.
S tím je kriticky důležité rozlišení po školení, zahrnující dohledované jemné ladění (SFT) a využití lidské inteligence pro stavbu přizpůsobených modelů. Společnosti, které mohou zdrojovat a přiřazovat trenéry, inženýry a další, budou urychlovat své schopnosti jemného ladění a přizpůsobování. Spolupráce s předními společnostmi, jako je OpenAI a Anthropic, jsou také klíčové pro aplikaci těchto modelů v různých odvětvích.
Zásady zodpovědného vývoje AGI
“Vývoj AGI musí být zodpovědný a etický, zajišťující bezpečnost a transparentnost, zatímco podporuje inovace.” – Adam D’Angelo
Zodpovědný vývoj AGI vyžaduje dodržování několika základních zásad:
- Bezpečnost a zabezpečení: Zajištění, že systémy AGI jsou spolehlivé a odolné proti zneužití, zejména když se modely škálovají, aby zahrnovaly nové datové vstupy nebo algoritmy.
- Přehlednost: Být realistický o schopnostech AGI, omezeních a “jak to funguje”.
- Etické úvahy: Řešení otázek spravedlnosti, zkreslení a toho, jak AGI ovlivní zaměstnanost a další socioekonomické faktory.
- Regulace: Práce s vládami a jinými organizacemi na vývoji rámců, které vyvažují pokrok s veřejnou bezpečností.
- Benchmarking: Budoucí benchmarky musí kvantifikovat chování a schopnosti AGI proti etickým úvahám a taxonomickým úrovním.
Závěr: Soustředit se na cestu k AGI, ne na jeden bod
Cesta k AGI je komplexní, ale každá zastávka na této cestě je důležitá pro cestu. Pochopením iterativních zlepšení AGI – spolu s jeho implikacemi – lidé a podniky budou moci zodpovědně přijmout tuto vyvíjející se technologii. To je jádro zodpovědného vývoje AGI, kde interakce se skutečným světem informuje, jak navigujeme tuto novou hranici.
