Die Straße zur künstlichen allgemeinen Intelligenz (AGI) gemeinsam bewältigen: Ein ausgewogener Ansatz

Da die künstliche allgemeine Intelligenz (AGI) rasch voranschreitet, verschiebt sich die Diskussion von philosophischen Debatten zu praktischer Relevanz, mit enormen Chancen, globale Unternehmen und das menschliche Potenzial zu transformieren.

Turing’s AGI-Icons-Veranstaltungsreihe bringt AI-Innovatoren zusammen, um praktische und verantwortungsvolle Fortschritte bei AGI-Lösungen zu diskutieren. Am 24. Juli veranstaltete Turing unsere zweite AGI-Icons-Veranstaltung im SHACK15, dem exklusiven Hub für Unternehmer und Technologie-Innovatoren in San Francisco. Moderiert von Anita Ramaswamy, Finanzkolumnistin bei The Information, saß ich mit Quora-CEO Adam D’Angelo zusammen, um über den Weg zur AGI und Einblicke in Entwicklungszeiträume, realweltliche Anwendungen und Grundsätze für eine verantwortungsvolle Einsetzung zu sprechen.

Der Weg von AI zu AGI

Der “Nordstern”, der die AI-Forschung antreibt, ist die Verfolgung von menschlicher “Intelligenz”. Was AGI von Standard-AI unterscheidet, ist sein Fortschritt über eine enge Funktionalität hinaus in Richtung einer größeren Allgemeingültigkeit (Breite) und Leistung (Tiefe), sogar über menschliche Fähigkeiten hinaus.

Dies ist “der Weg zur AGI”, auf dem AI zu autonomeren Systemen, überlegenerem Denken, erweiterten Fähigkeiten und verbesserter Funktionalität fortschreitet. Diese Fortschritte sind in fünf taxonomische Ebenen unterteilt:

• Stufe 0: Keine AI – Einfache Werkzeuge wie Taschenrechner
• Stufe 1: Aufkommende AGI – Aktuelle LLMs wie ChatGPT
• Stufe 2: Kompetente AGI – AI-Systeme, die mit geschickten Erwachsenen auf bestimmten Aufgaben mithalten
• Stufe 3: Experten-AGI – AI-Systeme auf dem 90. Perzentil von geschickten Erwachsenen
• Stufe 4: Virtuosen-AGI – AI-Systeme auf dem 99. Perzentil
• Stufe 5: Übermenschliche AGI – AI-Systeme, die alle Menschen übertreffen

Quelle

Während unseres Gesprächs definierte Adam das Konzept der AGI als “Software, die alles tun kann, was ein Mensch tun kann”. Er stellt sich eine Zukunft vor, in der AI sich selbst verbessert und letztendlich komplexe menschliche Aufgaben übernimmt, die von Maschinenlern-Experten gehandhabt werden.

Ich verglich meine Ansichten über AGI mit denen eines “künstlichen Gehirns”, das diverse Aufgaben wie “Maschinentranslation, komplexe Abfragen und Codierung” ausführen kann. Das ist der Unterschied zwischen AGI und vorherigen predictiven AI- und engen Formen von ML. Es fühlt sich wie emergentes Verhalten an.

Realistische Entwicklungszeiträume auf dem Weg zur AGI

Genau wie auf einer Straßenreise ist die wichtigste Frage über AGI: “Sind wir schon da?” Die kurze Antwort ist nein, aber da die AI-Forschung beschleunigt, ist die richtige Frage, die man stellen sollte: “Wie können wir AGI-Ambitionen mit realistischen Erwartungen ausgleichen?”

Adam betonte, dass eine erhöhte Automatisierung durch AGI menschliche Rollen verschieben und nicht eliminieren wird, was zu einem schnelleren Wirtschaftswachstum und einer effizienteren Produktivität führt. “Wenn diese Technologie leistungsfähiger wird, werden wir einen Punkt erreichen, an dem 90 % dessen, was die Menschen heute tun, automatisiert sind, aber jeder wird sich in andere Dinge verschoben haben.”

Derzeit ist ein großer Teil der Weltwirtschaft durch die Anzahl der verfügbaren Arbeitskräfte eingeschränkt. Sobald wir AGI erreichen, können wir die Wirtschaft mit einer viel höheren Rate wachsen lassen, als es heute möglich ist.

Wir können keinen festen Zeitplan für die Realisierung von true AGI angeben, aber Adam und ich nannten mehrere Beispiele für AI-Fortschritte, die den Weg für zukünftige AGI-Fortschritte ebnen. Zum Beispiel zeigten Turings Experimente mit AI-Entwickler-Tools eine 33-prozentige Steigerung der Produktivität der Entwickler, was auf ein noch größeres Potenzial hindeutet.

Realweltliche Anwendungen und Auswirkungen

Eine der vielversprechendsten Anwendungen von AGI liegt im Bereich der Software-Entwicklung. Große Sprachmodelle (LLMs), ein Vorläufer von AGI, werden bereits verwendet, um die Software-Entwicklung zu verbessern und die Code-Qualität zu erhöhen. Ich sehe diese Ära von AI als näher an Biologie als Physik, wo alle Arten von Wissensarbeit verbessert werden. Es wird so viel mehr Produktivität für und von der Menschheit entfesselt.

Meine Perspektive kommt aus Erfahrung, wo ich eine 10-fache Steigerung meiner persönlichen Produktivität bei der Verwendung von LLMs und AI-Entwickler-Tools erlebt habe. Wir verwenden AI bei Turing, um technisches Talent zu bewerten und die richtigen Software-Ingenieure und PhD-Experten auf dem richtigen Gebiet mit den richtigen Jobs zu verbinden.

Was ich im LLM-Trainingsbereich sehe, ist, dass Trainer diese Modelle nutzen, um die Produktivität der Entwickler zu steigern und Projektzeiträume zu beschleunigen. Durch die Automatisierung von Routine-Coding-Aufgaben und die Bereitstellung intelligenter Code-Vorschläge befreien LLMs die Entwickler, um sich auf strategischere und kreativere Aspekte ihrer Arbeit zu konzentrieren.

Adam schloss ab: “LLMs werden nicht all den Code schreiben, aber das Verständnis von Software-Grundlagen bleibt entscheidend. Taschenrechner haben nicht die Notwendigkeit, Arithmetik zu lernen, eliminiert.” Er fügte hinzu: “Entwickler werden wertvoller, wenn sie diese Modelle verwenden. Die Anwesenheit von LLMs ist ein Positivum für Entwickler-Jobs und es wird viele Gewinne für Entwickler geben.”

Wir betreten eine goldene Ära der Software-Entwicklung, in der ein Software-Ingenieur 10-mal produktiver sein kann, mehr schaffen und der Welt zugutekommen kann.

Technische und Regulierungs-Herausforderungen

Trotz des vielversprechenden Potenzials von AGI müssen Herausforderungen angegangen werden. Robuste Bewertungsprozesse und Regulierungsrahmen sind notwendig, um AGI-Innovation mit öffentlicher Sicherheit auszugleichen.

Adam betonte die Notwendigkeit umfassender Tests und Sandbox-Umgebungen, um Worst-Case-Szenarien zu begrenzen. “Man will einen robusten Bewertungsprozess haben… und die Verteilung, gegen die man testet, so nah wie möglich an der realen Weltanwendung bringen.”

Und ich stimme zu. Der Flaschenhals für AGI-Fortschritte ist jetzt menschliche Intelligenz und nicht Rechenleistung oder Daten. Menschliche Expertise ist entscheidend für die Feinabstimmung und Anpassung von AI-Modellen, weshalb Turing sich auf die Suche und Verbindung von Top-Tech-Experten konzentriert, um Modelle mit menschlicher Intelligenz auszugleichen.

Wir müssen AGI-Herausforderungen direkt angehen, indem wir uns auf Fähigkeiten konzentrieren, anstatt auf Prozesse, Allgemeingültigkeit und Leistung sowie Potenzial.

Perspektiven auf Herausforderungen: Verbesserung der Mensch-AGI-Interaktion

Einige der besten Praktiken, um AGI-Herausforderungen anzugehen, sind:

• Konzentrieren Sie sich auf Fähigkeiten oder “was AGI kann” anstatt auf Prozesse oder “wie es das tut”.
• Balance Allgemeingültigkeit und Leistung als wesentliche Komponenten von AGI.
• Konzentrieren Sie sich auf kognitive/metakognitive Aufgaben und Lernfähigkeiten anstatt auf physische Aufgaben/Outputs.
• Messen Sie AGI an seinem Potenzial und seinen Fähigkeiten.
• Konzentrieren Sie sich auf ökologische Gültigkeit, indem Sie Benchmarks mit realen Aufgaben ausrichten, die Menschen schätzen.
• Denken Sie daran, dass der Weg zur AGI kein einzelner Endpunkt ist, sondern ein iterativer Prozess.

Adam und ich betonten die Wichtigkeit, menschliche AGI-Interaktionen zu verbessern. Adam betonte den Wert des Lernens, wie und wann man diese Modelle verwenden kann, und sah sie als leistungsfähige Lernwerkzeuge, die schnell jede Subdomäne der Programmierung lehren können, während er die Wichtigkeit des Verständnisses von Grundlagen betonte.

Ähnlich schlage ich vor, dass das Machen jedes Menschen zu einem Power-User von LLMs die Produktivität und das Verständnis in verschiedenen Bereichen erheblich steigern kann. LLMs können komplexe Informationen für alle zugänglich machen und die Produktivität in verschiedenen Bereichen steigern. Es erfordert jedoch einen phasenweisen, iterativen Ansatz: Beginnend mit AI-Copiloten, die Menschen unterstützen, dann zu Agenten mit menschlicher Aufsicht und schließlich zu vollständig autonomen Agenten in gut bewerteten Aufgaben.

Mit diesem Ansatz ist die post-Trainings-Differenzierung entscheidend, einschließlich überwachter Feinabstimmung (SFT) und der Nutzung menschlicher Intelligenz, um benutzerdefinierte Modelle zu erstellen. Unternehmen, die Trainer, Ingenieure und andere verbinden können, werden ihre Fähigkeiten zur Feinabstimmung und benutzerdefinierten Ingenieurwesen beschleunigen. Die Zusammenarbeit mit führenden Unternehmen wie OpenAI und Anthropic ist ebenfalls entscheidend, um diese Modelle in verschiedenen Branchen anzuwenden.

Grundsätze für verantwortungsvolle AGI-Entwicklung

“AGI-Entwicklung muss verantwortungsvoll und ethisch sein, Sicherheit und Transparenz gewährleisten und Innovation fördern.” – Adam D’Angelo

Verantwortungsvolle Entwicklung von AGI erfordert die Einhaltung mehrerer Kernprinzipien:

• Sicherheit und Sicherheit: Stellen Sie sicher, dass AGI-Systeme zuverlässig und resistent gegen Missbrauch sind, insbesondere wenn Modelle skaliert werden, um neue Daten-Eingaben oder Algorithmen zu akkommodieren.
• Transparenz: Seien Sie realistisch über AGI-Fähigkeiten, Grenzen und “wie es funktioniert”.
• Ethische Überlegungen: Bekämpfen Sie Fairness, Voreingenommenheit und wie AGI Beschäftigung und andere sozioökonomische Faktoren beeinflussen wird.
• Regulierung: Arbeiten Sie mit Regierungen und anderen Organisationen zusammen, um Rahmenbedingungen zu entwickeln, die Fortschritt mit öffentlicher Sicherheit ausgleichen.
• Benchmarking: Zukünftige Benchmarks müssen AGI-Verhalten und Fähigkeiten gegen ethische Überlegungen und Taxonomie-Ebenen quantifizieren.

Zusammenfassung: Konzentrieren Sie sich auf den Weg zur AGI, nicht auf einen einzelnen Endpunkt

Der Weg zur AGI ist komplex, aber jeder Halt auf dem Weg ist wichtig für die Reise. Durch das Verständnis von AGI-Fortschritten und deren Auswirkungen können Menschen und Unternehmen diese sich entwickelnde Technologie verantwortungsvoll annehmen. Dies ist der Kern der verantwortungsvollen AGI-Entwicklung, wo realweltliche Interaktion darüber informiert, wie wir diese neue Grenze bewältigen.