Der Weg zur künstlichen allgemeinen Intelligenz (AGI) gemeinsam: Ein ausgewogener Ansatz

Da die künstliche allgemeine Intelligenz (AGI) rasant voranschreitet, verschiebt sich die Diskussion von philosophischen Debatten zu praktischer Relevanz, mit enormen Chancen, globale Unternehmen und das menschliche Potenzial zu transformieren.

Turing’s AGI-Icons-Eventreihe bringt AI-Innovatoren zusammen, um praktische und verantwortungsvolle Fortschritte bei AGI-Lösungen zu diskutieren. Am 24. Juli veranstaltete Turing unser zweites AGI-Icons-Event im SHACK15, San Franciscos exklusivem Hub für Unternehmer und Tech-Innovatoren. Moderiert von Anita Ramaswamy, Finanzkolumnistin bei The Information, saß ich mit Quora-CEO Adam D’Angelo zusammen, um den Weg zur AGI zu diskutieren und Einblicke in Entwicklungszeiträume, realweltliche Anwendungen und Prinzipien für eine verantwortungsvolle Einsetzung zu teilen.

Der Weg von AI zu AGI

Der “Nordstern”, der die AI-Forschung antreibt, ist die Verfolgung von menschlicher “Intelligenz”. Was AGI von Standard-AI unterscheidet, ist ihre Fortschritte über die enge Funktionalität hinaus in Richtung größerer Allgemeingültigkeit (Breite) und Leistung (Tiefe), sogar über die menschlichen Fähigkeiten hinaus.

Dies ist “der Weg zur AGI”, auf dem AI zu autonomen Systemen, überlegener Argumentation, verbesserter Fähigkeiten und verbesserter Funktionalität fortschreitet. Diese Fortschritte sind in fünf taxonomische Ebenen unterteilt:

• Stufe 0: Keine AI – Einfache Werkzeuge wie Taschenrechner
• Stufe 1: Aufkommende AGI – Aktuelle LLMs wie ChatGPT
• Stufe 2: Kompetente AGI – AI-Systeme, die mit geschickten Erwachsenen auf bestimmten Aufgaben mithalten
• Stufe 3: Experten-AGI – AI-Systeme auf dem 90. Perzentil von geschickten Erwachsenen
• Stufe 4: Virtuosen-AGI – AI-Systeme auf dem 99. Perzentil
• Stufe 5: Übermenschliche AGI – AI-Systeme, die alle Menschen überbieten

Quelle

Während unserer Diskussion definierte Adam das Konzept von AGI als “Software, die alles tun kann, was ein Mensch tun kann”. Er stellt sich eine Zukunft vor, in der AI sich selbst verbessert und schließlich komplexe menschliche Aufgaben übernimmt, die von Maschinelles-Lernen-Forschern bearbeitet werden.

Ich verglich meine Ansichten über AGI mit denen eines “künstlichen Gehirns”, das diverse Aufgaben wie “Maschinenübersetzung, komplexe Abfragen und Codierung” ausführen kann. Das ist der Unterschied zwischen AGI und vorherigen, vorhersehbaren und engen Formen von ML. Es fühlt sich wie emergentes Verhalten an.

Realistische Entwicklungszeiträume auf dem Weg zur AGI

Genauso wie auf einer Reise ist die Frage nach AGI “Sind wir schon da?” Die kurze Antwort ist nein, aber da die AI-Forschung beschleunigt, ist die richtige Frage, “Wie können wir AGI-Ambitionen mit realistischen Erwartungen ausbalancieren?”

Adam betonte, dass die zunehmende Automatisierung durch AGI menschliche Rollen verschieben wird, anstatt sie zu eliminieren, was zu einem schnelleren Wirtschaftswachstum und einer effizienteren Produktivität führen wird. “Wenn diese Technologie leistungsfähiger wird, werden wir einen Punkt erreichen, an dem 90% dessen, was die Menschen heute tun, automatisiert sind, aber jeder wird in andere Dinge umgestiegen sein.”

Aktuell ist ein großer Teil der Weltwirtschaft durch die Anzahl der verfügbaren Arbeitskräfte eingeschränkt. Sobald wir AGI erreichen, können wir die Wirtschaft mit einer viel höheren Rate wachsen lassen als heute möglich ist.

Wir können keinen definitiven Zeitplan für die Verwirklichung von echter AGI angeben, aber Adam und ich nannten mehrere Beispiele für AI-Fortschritte, die den Weg für zukünftige AGI-Fortschritte ebnen. Zum Beispiel zeigten Turings Experimente mit AI-Entwickler-Tools eine 33-prozentige Steigerung der Entwickler-Produktivität, was auf ein noch größeres Potenzial hindeutet.

Realweltliche Anwendungen und Auswirkungen

Eine der vielversprechendsten Anwendungen von AGI liegt im Bereich der Software-Entwicklung. Große Sprachmodelle (LLMs), ein Vorläufer von AGI, werden bereits verwendet, um die Software-Entwicklung zu verbessern und die Code-Qualität zu erhöhen. Ich sehe diese Ära von AI als näher an der Biologie als an der Physik, wo alle Arten von Wissensarbeit verbessert werden. Es wird so viel mehr Produktivität für und von der Menschheit entfesselt.

Meine Perspektive kommt aus Erfahrung, wo ich eine 10-fache Steigerung der persönlichen Produktivität bei der Verwendung von LLMs und AI-Entwickler-Tools erlebt habe. Wir verwenden auch AI bei Turing, um technisches Talent zu bewerten und die richtigen Software-Entwickler und PhD-Experten auf dem richtigen Gebiet mit den richtigen Jobs zu verbinden.

Was ich im LLM-Trainingsbereich sehe, ist, dass Trainer diese Modelle nutzen, um die Entwickler-Produktivität zu steigern und Projektzeiträume zu beschleunigen. Durch die Automatisierung von Routine-Coding-Aufgaben und die Bereitstellung intelligenter Code-Vorschläge befreien LLMs die Entwickler, um sich auf strategischere und kreativere Aspekte ihrer Arbeit zu konzentrieren.

Adam schloss ab: “LLMs werden nicht alle Codes schreiben, aber das Verständnis von Software-Grundlagen bleibt entscheidend. Taschenrechner haben nicht die Notwendigkeit, Arithmetik zu lernen, eliminiert.” Er fügte hinzu: “Entwickler werden wertvoller, wenn sie diese Modelle verwenden. Die Anwesenheit von LLMs ist ein Plus für Entwickler-Jobs und es wird viele Gewinne für Entwickler geben.”

Wir betreten eine goldene Ära der Software-Entwicklung, in der ein Software-Entwickler 10-mal produktiver sein kann, mehr schaffen kann und der Welt zugute kommen kann.

Technische und Governance-Herausforderungen

Trotz des vielversprechenden Potenzials von AGI müssen Herausforderungen angegangen werden. Robuste Bewertungsprozesse und regulatorische Rahmenbedingungen sind notwendig, um AGI-Innovation mit öffentlicher Sicherheit in Einklang zu bringen.

Adam betonte die Notwendigkeit von gründlichen Tests und Sandbox-Umgebungen, um Worst-Case-Szenarien zu begrenzen. “Man will einen robusten Bewertungsprozess haben… und diese Verteilung, gegen die man testet, so nah wie möglich an der realen Weltanwendung bringen.”

Und ich stimme zu. Der Flaschenhals für AGI-Fortschritte ist jetzt die menschliche Intelligenz und nicht die Rechenleistung oder Daten. Die menschliche Expertise ist entscheidend für die Feinabstimmung und Anpassung von AI-Modellen, weshalb Turing sich auf die Beschaffung und Verbindung von Top-Tech-Experten konzentriert, um Modelle mit menschlicher Intelligenz auszugleichen.

Wir müssen AGI-Herausforderungen direkt angehen, indem wir uns auf Fähigkeiten konzentrieren, Prozesse, Allgemeingültigkeit und Leistung sowie Potenzial.

Perspektiven auf Herausforderungen: Verbesserung der Mensch-AGI-Interaktionen

Einige der besten Praktiken, um AGI-Herausforderungen anzugehen, sind:

• Konzentrieren Sie sich auf Fähigkeiten oder “was AGI kann” anstatt auf Prozesse oder “wie es funktioniert”.
• Balance allgemeine und leistungsfähige Komponenten von AGI.
• Konzentrieren Sie sich auf kognitive/metakognitive Aufgaben und Lernfähigkeiten anstatt auf physische Aufgaben/Ergebnisse.
• Messen Sie AGI an seinem Potenzial und seinen Fähigkeiten.
• Konzentrieren Sie sich auf ökologische Gültigkeit, indem Sie Benchmarks mit realen Aufgaben ausrichten, die Menschen schätzen.
• Denken Sie daran, dass der Weg zur AGI kein einzelner Endpunkt ist, sondern ein iterativer Prozess.

Adam und ich betonten die Bedeutung der Verbesserung von Mensch-AGI-Interaktionen. Adam betonte den Wert des Lernens, wie und wann man diese Modelle verwenden kann, und sah sie als leistungsfähige Lernwerkzeuge, die schnell jedes Subdomain von Programmierung unterrichten können, während er die Bedeutung des Verständnisses von Grundlagen betonte.

Ähnlich schlage ich vor, dass das Machen jedes Menschen zu einem Power-User von LLMs die Produktivität und das Verständnis in verschiedenen Bereichen erheblich steigern kann. LLMs können komplexe Informationen für alle zugänglich machen und die Produktivität in verschiedenen Bereichen steigern. Es erfordert jedoch einen phasenweisen, iterativen Ansatz: Beginnend mit AI-Copiloten, die Menschen unterstützen, dann zu Agenten mit menschlicher Aufsicht und schließlich zu vollständig autonomen Agenten in gut bewerteten Aufgaben.

Mit diesem Ansatz ist die post-training-Differenzierung entscheidend, einschließlich überwachter Feinabstimmung (SFT) und der Nutzung menschlicher Intelligenz, um benutzerdefinierte Modelle zu erstellen. Unternehmen, die Trainer, Ingenieure und andere beschaffen und verbinden können, werden ihre Feinabstimmungs- und Anpassungsfähigkeiten beschleunigen. Die Zusammenarbeit mit führenden Unternehmen wie OpenAI und Anthropic ist auch entscheidend, um diese Modelle in verschiedenen Branchen anzuwenden.

Prinzipien der verantwortungsvollen AGI-Entwicklung

“AGI-Entwicklung muss verantwortungsvoll und ethisch sein, um Sicherheit und Transparenz zu gewährleisten und Innovation zu fördern.” – Adam D’Angelo

Die verantwortungsvolle Entwicklung von AGI erfordert die Einhaltung mehrerer Kernprinzipien:

• Sicherheit und Sicherheit: Stellen Sie sicher, dass AGI-Systeme zuverlässig und resistent gegen Missbrauch sind, insbesondere wenn Modelle skaliert werden, um neue Dateninputs oder Algorithmen zu akkommodieren.
• Transparenz: Seien Sie realistisch über die Fähigkeiten, Grenzen und “wie es funktioniert” von AGI.
• Ethische Überlegungen: Bewältigen Sie Fairness, Voreingenommenheit und wie AGI die Beschäftigung und andere sozioökonomische Faktoren beeinflussen wird.
• Regulierung: Arbeiten Sie mit Regierungen und anderen Organisationen zusammen, um Rahmenbedingungen zu entwickeln, die den Fortschritt mit öffentlicher Sicherheit ausbalancieren.
• Benchmarking: Zukünftige Benchmarks müssen AGI-Verhalten und -Fähigkeiten gegen ethische Überlegungen und Taxonomie-Ebenen quantifizieren.

Schlussfolgerung: Konzentrieren Sie sich auf den Weg zur AGI, nicht auf einen einzelnen Endpunkt

Der Weg zur AGI ist komplex, aber jeder Halt auf dem Weg ist wichtig für die Reise. Durch das Verständnis von AGI-Verbesserungen und deren Auswirkungen können Menschen und Unternehmen diese sich entwickelnde Technologie verantwortungsvoll einsetzen. Dies ist der Kern der verantwortungsvollen AGI-Entwicklung, wo die realweltliche Interaktivität uns zeigt, wie wir diese neue Grenze navigieren.