Navigace po cestě k umělé všeobecné inteligenci (AGI) společně: vyvážený přístup

Jako se umělá všeobecná inteligence (AGI) rychle rozvíjí, debata se mění z filozofické diskuse na praktickou relevanci, s obrovskou příležitostí transformovat globální podniky a lidský potenciál.

Série akcí AGI Icons od Turingu spojuje inovátory v oblasti AI, aby diskutovali o praktických a zodpovědných pokrocích řešení AGI. Dne 24. července hostil Turing naše druhé setkání AGI Icons v SHACK15, exkluzivním centru pro podnikatele a technologické inovátory v San Francisku. Moderátor Anita Ramaswamy, finanční publicistka z The Information, usedla se mnou a s generálním ředitelem Quory, Adamem D’Angelo, abychom diskutovali o cestě k AGI a sdíleli poznatky o časových rámcích vývoje, reálných aplikacích a zásadách pro zodpovědné nasazení.

Cesta od AI k AGI

“Severní hvězda”, která pohání výzkum AI, je snaha o lidskou inteligenci. To, co odlišuje AGI od standardního AI, je jeho postup od úzké funkcionality k větší obecnosti (šíři) a výkonu (hloubce), dokonce i překračující lidské schopnosti.

Toto je “cesta k AGI”, kde AI postupuje k více autonomním systémům, lepšímu rozumu, vylepšeným schopnostem a zlepšené funkčnosti. Tyto postupy se dělí do pěti taxonomických úrovní:

• Úroveň 0: Žádné AI – Jednoduché nástroje, jako jsou kalkulačky
• Úroveň 1: Vznikající AGI – Současné LLM, jako je ChatGPT
• Úroveň 2: Schopná AGI – Systémy AI, které odpovídají dovedným dospělým na konkrétní úkoly
• Úroveň 3: Odborná AGI – Systémy AI, které jsou na 90. percentilu dovedných dospělých
• Úroveň 4: Virtuózní AGI – Systémy AI, které jsou na 99. percentilu
• Úroveň 5: Nadlidská AGI – Systémy AI, které překračují všechny lidi

Zdroj

Během naší diskuse Adam definoval koncept AGI jako “software, který může dělat všechno, co může dělat člověk”. Představuje si budoucnost, kde se AI zlepšuje samo, nakonec přebírá složitou lidskou práci zpracovávanou výzkumníky strojového učení.

Přejdu-li dále, porovnávám své názory na AGI s “uměným mozkem” schopným různých úkolů, jako je “strojový překlad, komplexní dotazy a kódování”. To je rozdíl mezi AGI a předchozími předpovědními AI a úzkými formami ML. Zdá se to jako emergentní chování.

Reálné časové rámce vývoje na cestě k AGI

Stejně jako na cestě je otázka, “Jsme už tam?”, je krátká odpověď ne, ale jak se výzkum AI urychluje, je správná otázka, “Jak můžeme vyvážit ambice AGI s realistickými očekáváními?”

Adam zdůraznil, že zvýšená automatizace z AGI změní lidské role, spíše než je eliminuje, což povede k rychlejšímu ekonomickému růstu a vyšší produktivitě. “Jakmile tato technologie bude dostatečně silná, dostaneme se do bodu, kdy 90 % toho, co lidé dělají dnes, bude automatizováno, ale všichni se přesunou do jiných věcí.”

V současné době je většina světové ekonomiky omezena počtem dostupných pracovníků. Jakmile dosáhneme AGI, budeme moci růst ekonomiky mnohem rychleji, než je možné dnes.

Nemůžeme poskytnout definitivní časový rámec, kdy bude skutečná AGI realizována, ale Adam a já uvedli několik příkladů pokroků AI, které vytvářejí cestu pro budoucí postupy AGI. Například experimenty Turingu s nástroji pro vývojáře AI ukázaly 33% nárůst produktivity vývojářů, naznačující ještě větší potenciál.

Reálné aplikace a účinky

Jedním z nejperspektivnějších uplatnění AGI je v oblasti softwarového vývoje. Velké jazykové modely (LLM), předchůdce AGI, jsou již používány ke zlepšení softwarového vývoje a zvýšení kvality kódu. Vidím tuto éru AI jako bližší biologii než fyzice, kde všechny typy znalostí budou zlepšeny. Bude zde tolik více odemknuté produktivity pro a z lidstva.

Můj pohled vychází z zkušeností, kde jsem osobně viděl 10násobný nárůst produktivity, když jsem používal LLM a nástroje pro vývojáře AI. Používáme také AI v Turingu k hodnocení technických talentů a přiřazování správných softwarových inženýrů a expertů s titulem PhD k správným pracovním místům.

Co vidím v prostoru školení LLM, je to, že trenéři využívají tyto modely ke zlepšení produktivity vývojářů a urychlení projektových časových rámců. Automatizací rutinních úkolů kódování a poskytováním inteligentních návrhů kódu LLM uvolňují vývojáře, aby se mohli soustředit na strategičtější a kreativnější aspekty své práce.

Adam uzavřel, “”LLM nebude psát veškerý kód, ale pochopení softwarových základů zůstává zásadní. Kalkulačky neeliminovaly potřebu učit se aritmetice.” Přidal, “Vývojáři se stávají více cennými, když používají tyto modely. Přítomnost LLM je pozitivní pro pracovní místa vývojářů a bude zde mnoho zisků pro vývojáře.”

Vstupujeme do zlaté éry softwarového vývoje, kde jeden softwarový inženýr může být 10krát více produktivní, vytvářet více a prospívat světu.

Technické a vládní výzvy

Navzdory slibnému potenciálu AGI je třeba řešit výzvy. Robustní procesy hodnocení a regulační rámce jsou nezbytné pro vyvážení inovací AGI s veřejnou bezpečností.

Adam zdůraznil potřebu důkladného testování a sandboxingu, aby se omezily nejhorší scénáře. “Chcete mít robustní proces hodnocení… a získat distribuci, proti které testujete, aby byla co nejblíže skutečnému použití.”

A souhlasím. Závazkem pro pokrok AGI je nyní lidská inteligence, spíše než výpočetní síla nebo data. Lidská odbornost je zásadní pro jemné ladění a přizpůsobování modelů AI, což je důvod, proč se Turing zaměřuje na zdroje a přiřazování špičkových technických odborníků, aby vyvážil modely s lidskou inteligencí.

Musíme řešit výzvy AGI přímo, zaměřením se na schopnosti nad procesy, obecnost a výkon a potenciál.

Perspektivy na výzvy: Zlepšování interakcí mezi lidmi a AGI

Některé z nejlepších postupů pro řešení výzev AGI zahrnují:

• Zaměřte se na schopnosti nebo “co může AGI dělat” spíše než procesy nebo “jak to dělá”.
• Vyvážte obecnost a výkon jako základní součásti AGI.
• Zaměřte se na kognitivní/metakognitivní úkoly a učení nad fyzickými úkoly/výstupy.
• Měřte AGI podle potenciálu a schopností.
• Zaměřte se na ekologickou validitu, aby byly benchmarky sladěny s úkoly, které lidé hodnotí.
• Pamatujte, že cesta k AGI není jednorázový cíl, je to iterativní proces.

Přidávám k těmto postupům, Adam a já zdůraznili důležitost zlepšování interakcí mezi lidmi a AGI. Adam zdůraznil hodnotu učení, jak a kdy používat tyto modely, považuje je za silné nástroje učení, které mohou rychle naučit jakoukoli subdoménu programování, zatímco zdůrazňuje důležitost pochopení základů.

Podobně navrhuji, že učinění každého člověka silným uživatelem LLM by mohlo výrazně zlepšit produktivitu a porozumění v různých oblastech. LLM mohou učinit komplexní informace dostupné všem, zlepšit produktivitu v různých oblastech. To však vyžaduje fázový, iterativní přístup: začínající s AI kopiloty, které pomáhají lidem, poté se pohybující k agentům s lidským dohledem a nakonec dosahující plně autonomních agentů ve vyhodnocených úkolech.

S tím je kriticky důležitá diferenciace po školení, zahrnující dohledované jemné ladění (SFT) a využívání lidské inteligence k vytváření vlastních modelů. Společnosti, které mohou zdrojovat a přiřazovat trenéry, inženýry a další, budou urychlovat své schopnosti jemného ladění a přizpůsobování. Spolupráce s předními společnostmi, jako je OpenAI a Anthropic, je také klíčová pro aplikaci těchto modelů v různých odvětvích.

Zásady zodpovědného vývoje AGI

“Vývoj AGI musí být zodpovědný a etický, zajišťující bezpečnost a transparentnost, zatímco podporuje inovace.” – Adam D’Angelo

Zodpovědný vývoj AGI vyžaduje dodržování několika základních zásad:

• Bezpečnost a zabezpečení: Zajištění, že systémy AGI jsou spolehlivé a odolné proti zneužití, zejména když se modely škálovají, aby akomodovaly nové datové vstupy nebo algoritmy.
• Transparentnost: Být realistický o schopnostech AGI, omezeních a “jak to funguje”.
• Etické úvahy: Řešení spravedlnosti, zkreslení a toho, jak AGI ovlivní zaměstnanost a další socioekonomické faktory.
• Regulace: Práce s vládami a jinými organizacemi na vývoji rámců, které vyváží pokrok s veřejnou bezpečností.
• Benchmarking: Budoucí benchmarky musí kvantifikovat chování a schopnosti AGI proti etickým úvahám a taxonomickým úrovním.

Závěr: Zaměřte se na cestu k AGI, ne na jediný cíl

Cesta k AGI je komplexní, ale každá zastávka na této cestě je důležitá pro cestu. Pochopením iterativních zlepšení AGI a jejich dopadů budou lidé a podniky moci zodpovědně přijmout tuto vyvíjející se technologii. To je jádro zodpovědného vývoje AGI, kde interakce se skutečným světem informuje, jak navigujeme tuto novou hranici. po cestě je důležité pro cestu. Pochopením iterativních zlepšení AGI a jejich dopadů budou lidé a podniky moci zodpovědně přijmout tuto vyvíjející se technologii. To je jádro zodpovědného vývoje AGI, kde interakce se skutečným světem informuje, jak navigujeme tuto novou hranici.