Ass GPT-4 e Sprong no vir fir AGI z'erreechen?

Microsoft huet viru kuerzem e Fuerschungspabeier verëffentlecht mam Titel: Sparks of Artificial General Intelligence: Fréi Experimenter mat GPT-4. Wéi vu Microsoft beschriwwen:

Dëse Pabeier Rapporten iwwer eis Enquête vun enger fréi Versioun vum GPT-4, wann et nach an der aktiver Entwécklung vun OpenAI war. Mir streiden datt (dës fréi Versioun vum) GPT-4 Deel vun enger neier Kohort vun LLMs ass (zesumme mam ChatGPT a Google's PaLM zum Beispill) déi méi allgemeng Intelligenz weisen wéi fréier AI Modeller.

An dësem Pabeier gëtt et schlussendlech Beweiser, déi weisen datt GPT-4 wäit iwwer d'Memoriséierung geet, an datt et en déif a flexibel Verständnis vu Konzepter, Fäegkeeten an Domänen huet. Tatsächlech ass et d'Fäegkeet ze generaliséieren wäit iwwer déi vun all Mënsch lieweg haut.

Wärend mir virdru diskutéiert hunn Virdeeler vun AGI, Mir solle séier den allgemenge Konsens zesummefaassen wat en AGI System ass. Am Wesentlechen ass en AGI eng Aart vu fortgeschratt AI déi iwwer verschidde Domainen generaliséiere kann an net schmuel am Ëmfang ass. Beispiller vu schmuele AI enthalen en autonomt Gefier, e Chatbot, e Schachbot oder all aner AI déi fir een eenzegen Zweck entworf ass.

En AGI am Verglach kéint flexibel tëscht engem vun den uewe genannten oder all aner Expertisefeld alternéieren. Et ass en AI dee vun nascent Algorithmen wéi z transferéieren Léieren, an evolutiv Léieren, wärend och Legacy Algorithmen auszenotzen wéi z déif Verstäerkung Léieren.

Déi uewe genannte Beschreiwung vun AGI entsprécht meng perséinlech Erfahrung mam GPT-4 ze benotzen, souwéi d'Beweiser, déi am Fuerschungspabeier gedeelt goufen, dee vu Microsoft verëffentlecht gouf.

Ee vun den Ufroen, déi am Pabeier skizzéiert sinn, ass fir GPT-4 e Beweis vun der Onendlechkeet vu Primen a Form vun engem Gedicht ze schreiwen.

Wa mir d'Ufuerderunge analyséieren fir sou e Gedicht ze kreéieren, mierken mir datt et mathematesch Begrënnung, poetesch Ausdrock an natierlech Sproochgeneratioun erfuerdert. Dëst ass eng Erausfuerderung déi d'Duerchschnëttsfäegkeet vun de meeschte Mënschen iwwerschreiden.

De Pabeier wollt verstoen ob GPT-4 einfach Inhalt produzéiert baséiert op allgemeng Memoriséierung versus de Kontext ze verstoen a fäeg ze sinn. Wann gefrot, e Gedicht am Stil vum Shakespeare ze kreéieren, konnt et dat maachen. Dëst erfuerdert e villsäitege Verständnisniveau deen d'Fäegkeet vun der allgemenger Bevëlkerung wäit iwwerschreift an d'Theorie vum Geescht a mathematesche Genie enthält.

Wéi Berechent GPT-4 Intelligenz?

D'Fro stellt sech dann, wéi kënne mir d'Intelligenz vun engem LLM moossen? A weist de GPT-4 Verhalen vu richtege Léieren oder einfach Erënnerung?

Den aktuelle Wee fir en AI System ze testen ass andeems Dir de System op enger Rei vu Standard Benchmark Datesätz evaluéiert, a fir sécherzestellen datt se onofhängeg vun den Trainingsdaten sinn an datt se eng Rei vun Aufgaben an Domainen ofdecken. Dës Zort vun Tester ass bal onméiglech wéinst der bal onlimitéierter Quantitéit vun Daten op déi GPT-4 trainéiert gouf.

De Pabeier diskutéiert d'Generatioun vun neien a schwieregen Aufgaben / Froen déi iwwerzeegend beweisen datt GPT-4 wäit iwwer d'Memoriséierung geet, an datt et en déif a flexibel Verständnis vu Konzepter, Fäegkeeten an Domänen huet.

Wann et ëm Intelligenz kënnt, kann GPT-4 Kuerzgeschichten generéieren, Dréibicher, an et kann déi komplizéiert Formelen berechnen.

GPT-4 ass och fäeg op engem ganz héijen Niveau ze codéieren, souwuel wat de Code aus Instruktiounen schreiwen an de existente Code verstoen. GPT-4 kann eng breet Palette vun coding Aufgaben verschaffen, vun
codéieren Erausfuerderunge fir real Welt Uwendungen, aus niddereg-Niveau Assemblée zu héich-Niveau Kaderen, vun einfachen Date Strukturen ze komplex Programmer wéi Spiller. GPT-4 kann och iwwer d'Code-Ausféierung redenéieren, d'Effekter vun den Instruktiounen simuléieren an d'Resultater an der natierlecher Sprooch erklären. GPT-4 ka souguer Pseudocode ausféieren,

GPT-4 ka rational Äntwerten op bal all Ufro ubidden. Tatsächlech ass d'Intelligenz bal oniwwersiichtbar a senger Komplexitéit.

GPT-4 Aschränkungen

De Pabeier setzt dann weider ze beschreiwen wéi se dem GPT-4 seng Äntwerten a Verhalen gepréift hunn, seng Konsistenz, Kohärenz a Richtegkeet z'iwwerpréiwen, a seng Aschränkungen a Biases z'entdecken.

Déi offensichtlechst Limitatioun ass seng Tendenz zu halluzinéieren. Hei ass e Beispill vun enger Halluzinatioun déi am Pabeier uginn ass wou GPT-4 zouversiichtlech war a senger Äntwert déi komplett falsch war.

Et schéngt, datt souguer GPT-4 dës aktuell Limitatioun mat Halluzinatioune versteet, well dëst d'Äntwert war, déi et ginn huet wéi ech et gefrot hunn, wat eng GPT Halluzinatioun ass:

Eng GPT Halluzinatioun bezitt sech op e Phänomen wou e Generative Pre-trained Transformer (GPT) Modell, wéi dee mat deem Dir am Moment interagéiert, eng Äntwert produzéiert déi net op sachlech Informatioun baséiert oder net kohärent mam Kontext ass. Dës Halluzinatioune geschéien wann de Modell Text generéiert déi plausibel schéngen kann, mä eigentlech falsch ass, irreführend, oder nonsensical.

An anere Wierder, wann Dir en LLM AI op d'Weltdaten trainéiert, wéi vermeit Dir datt e System falsch Daten léiert? E grousse Sproochemodell léieren a regurgitéierend falsch Informatioun, a Verschwörungstheorien kéinten tatsächlech ee vun de gréisste Falen a Gefore sinn, déi d'Mënschheet mat grousser Skala Adoptioun vu LLMs konfrontéiert ass. Dëst kéint tatsächlech eng vun de gréissere Gefore vun AGI sinn, eng déi iwwerraschend verpasst gëtt wann Dir iwwer d'Gefore vun AGI diskutéiert.

GPT-4 Beweiser vun Intelligenz

D'Pabeier illustréiert datt et egal ass wéi eng Zort komplex Uweisunge dorop geriicht goufen, GPT-4 géif d'Erwaardungen iwwerschreiden. Wéi et am Pabeier steet:

Seng oniwwertraff Meeschterleeschtung vun der natierlecher Sprooch. Et kann net nëmme fléissend a kohärent Text generéieren, awer och op verschidde Manéiere verstoen a manipuléieren, wéi zum Beispill eng extrem breet Palette vu Froen ze resuméieren, iwwersetzen oder ze beäntweren. Desweideren, mat Iwwersetzung mengen mir net nëmmen tëscht verschiddenen natierleche Sproochen, mee och Iwwersetzungen am Tonalitéit an Stil, wéi och iwwer Beräicher wéi Medezin, Gesetz, Comptablesmethod, Computer Programméiere, Musek, a méi.

Mock technesch Rezensiounen goufen dem GPT-4 kritt, et huet an dësem Kontext liicht Sënn gemaach wann dëst e Mënsch um aneren Enn wier datt se direkt als Software Ingenieur agestallt ginn. En ähnlechen virleefegen Test vun der GPT-4 Kompetenz um Multistate Bar Examen huet eng Genauegkeet iwwer 70% gewisen. Dat heescht, datt mir an Zukunft vill vun den Aufgaben, déi den Affekote ginn, automatiséieren. Tatsächlech ginn et e puer Startups déi elo schaffen fir Roboter Affekoten ze kreéieren benotzt GPT-4.

Produzéiere neie Wëssen

Ee vun den Argumenter am Pabeier ass datt dat eenzegt wat fir GPT-4 bleift fir richteg Verständnisniveauen ze beweisen ass fir nei Wëssen ze produzéieren, sou wéi nei mathematesch Theorem ze beweisen, e Feat deen de Moment ausserhalb vun der LLM bleift.

Dann ass dëst den Hellege Graal vun enger AGI. Wärend et Gefore sinn mat engem AGI, deen an de falschen Hänn kontrolléiert gëtt, sinn d'Virdeeler vun engem AGI séier all historesch Donnéeën ze analyséieren fir nei Theorem, Kuren a Behandlungen ze entdecken ass bal onendlech.

En AGI kéint de vermësste Link sinn fir Kuren ze fannen fir selten genetesch Krankheeten déi momentan privat Industriefinanzéierung feelen, fir Kriibs eemol a fir all ze heelen an d'Effizienz vun erneierbarer Kraaft ze maximéieren fir eis Ofhängegkeet vun onnohalteger Energie ze läschen. Tatsächlech kéint et all Konsequenzproblem léisen deen an den AGI System gefüttert gëtt. Dëst ass wat de Sam Altman an d'Team op OpenAI verstinn, an AGI ass wierklech déi lescht Erfindung dat ass gebraucht fir déi meescht Problemer ze léisen an d'Mënschheet ze profitéieren.

Natierlech léist dat net den Nuklearknäppchenproblem vu wien den AGI kontrolléiert, a wat hir Intentiounen sinn. Egal dëst Pabeier mécht eng phenomenal Aarbecht mat der Argumentatioun datt GPT-4 e Sprong no vir ass fir den Dram z'erreechen déi AI Fuerscher haten zënter 1956, wann den initialen Dartmouth Summer Research Project iwwer Kënschtlech Intelligenz Summer Workshop fir d'éischt gestart gouf.

Och wann et diskutabel ass ob GPT-4 en AGI ass, kéint et einfach argumentéiert ginn datt et fir d'éischte Kéier an der mënschlecher Geschicht en AI System ass deen d'Kand passéiere kann. Turing Test.