AGI und Zukunft der KI
AGI-22-Highlights der Fortschritte bei der Entwicklung künstlicher allgemeiner Intelligenz
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Ich habe kürzlich die 15. jährliche Konferenz über künstliche allgemeine Intelligenz (AGI-22) in Seattle im August besucht, um mich mit neuen Entwicklungen vertraut zu machen, die zur eventuellen Schaffung einer künstlichen allgemeinen Intelligenz (AGI) führen könnten.
Eine AGI ist eine Art fortschrittlicher KI, die über mehrere Domänen generalisieren und nicht auf einen bestimmten Zweck beschränkt ist. Beispiele für enge KI sind ein autonomes Fahrzeug, ein Chatbot, ein Schachbot oder jede andere KI, die für einen einzigen Zweck entwickelt wurde. Eine AGI im Vergleich dazu könnte flexibel zwischen all diesen oder anderen Fachgebieten wechseln. Sie besteht aus einer spekulativen Art von KI, die nascente Algorithmen wie Transfer-Lernen und evolutionäres Lernen nutzen und gleichzeitig legacy-Algorithmen wie tiefes Verstärkungslernen ausnutzen würde.
Während der Eröffnungskeynote sprach Ben Goertzel, ein KI-Forscher, CEO und Gründer von SingularityNET und Leiter der OpenCog Foundation, über den Stand der Branche. Er schien enthusiastisch über die zukünftige Richtung von AGI zu sein und sagte: “Wir sind Jahre entfernt, nicht Jahrzehnte.” Dies würde die eventuelle Einführung einer AGI auf etwa 2029 legen, das gleiche Jahr, in dem Ray Kurzweil, einer der weltweit führenden Erfinder, Denker und Futuristen, die Entstehung einer KI vorhersagte, die die menschliche Intelligenz erreicht.
Die Theorie besagt, dass sobald diese Art von Intelligenz erreicht ist, die KI sich sofort und kontinuierlich selbst verbessern würde, um die menschliche Intelligenz in dem, was als Superintelligenz bekannt ist, schnell zu übertreffen.
Ein weiterer Sprecher, Charles J. Simon, Gründer und CEO von Future AI, sagte in einer separaten Sitzung: “Die Entstehung von AGI wird allmählich sein” und “AGI ist unvermeidlich und wird früher eintreten, als die meisten Menschen denken, es könnte in ein paar Jahren sein.”
Trotz dieser bullischen Stimmung gibt es erhebliche Hindernisse. Ben Goertzel erkannte auch an, dass zur Erreichung von AGI “wir eine Infusion neuer Ideen benötigen, nicht nur die Skalierung von neuronalen Netzen”. Dies ist ein Gefühl, das von Gary Marcus geteilt wird, der bekannt dafür ist, dass “tiefes Lernen an eine Wand gestoßen ist”.
Einige der Kernherausforderungen bei der Schaffung einer AGI sind die Entwicklung eines Belohnungssystems, das Intelligenz auf eine maximally informierte Weise skalieren kann. Moravecs Paradox spiegelt das aktuelle Problem bei der Erreichung von AGI mit unserer aktuellen Technologie wider. Dieser Paradox besagt, dass Anpassungen, die für ein einjähriges Kind intuitiv sind, wie das Lernen, wie man geht, und die Simulation von Realität, viel schwieriger in einer KI zu programmieren sind als das, was Menschen als schwierig wahrnehmen.
Für Menschen ist es das Gegenteil, das Beherrschen von Schach oder die Ausführung komplexer mathematischer Formeln kann ein Leben lang dauern, doch dies sind zwei relativ einfache Aufgaben für enge KI.
Eine der Lösungen für diesen Paradox könnte evolutionäres Lernen, auch bekannt als evolutionäre Algorithmen, sein. Dies ermöglicht es einer KI, komplexe Lösungen zu finden, indem sie den Prozess der biologischen Evolution nachahmt.
In einer separaten Frage-und-Antwort-Sitzung sagte Ben Goertzel: “AGI ist nicht unvermeidlich, aber es ist sehr wahrscheinlich.” Dies ist die gleiche Schlussfolgerung, die ich erreicht habe, aber die Grenze zwischen Unvermeidlichkeit und Wahrscheinlichkeit ist verschwommen.
Während der Konferenz wurden viele Papiere präsentiert, eines der bemerkenswerten Papiere, das diskutiert wurde, war Polynom-Funktionen: Eine allgemeine Theorie der Interaktion von David Spivak vom Topos-Institut in Berkeley, CA und Nelson Niu von der University of Washington, in Seattle, WA. Dieses Papier diskutiert eine mathematische Kategorie namens Poly, die die zukünftige Richtung von KI bei der Interaktion mit dynamischen Prozessen, Entscheidungsfindung und Speicherung und Transformation von Daten beeinflussen könnte. Es bleibt abzuwarten, wie dies die AGI-Forschung beeinflussen wird, aber es könnte eines der fehlenden Komponenten sein, die uns zu AGI führen könnten.
Es gab natürlich auch andere Papiere, die spekulativer waren, wie der Versatility-Efficiency-Index (VEI): Ein umfassender IQ-Test für AGI-Agenten von Mohammadreza Alidoust. Die Idee ist, eine alternative Methode zur Messung des Intelligenzniveaus intelligenter Systeme zu entwickeln, eine Art IQ-Test, um AGI-Agenten auf eine computergestützte Weise zu messen.
Zwei bemerkenswerte Unternehmen, die möglicherweise Durchbrüche in dieser zugrunde liegenden Technologie erzielen könnten, sind OpenAI und DeepMind, die beide auffallend abwesend waren. Es könnte sein, dass AGI nicht ernst genommen wird, aber sie sind die beiden Unternehmen, die am ehesten einen Durchbruch in diesem Bereich erzielen könnten. Dies ist besonders wahr, da OpenAIs Mission darin besteht, grundlegende, langfristige Forschung zur Schaffung einer sicheren AGI durchzuführen.
Obwohl es keine großen revolutionären Durchbrüche zu enthüllen gab, ist es klar, dass AGI viele Forscher beschäftigt und dass dies etwas ist, auf das die KI-Gemeinschaft mehr Aufmerksamkeit lenken sollte. Schließlich könnte eine AGI die Lösung für die Lösung der mehrfachen existenziellen Bedrohungen der Menschheit sein.
