OpenAI gründet Sicherheitsrat, trainiert neues KI-Modell trotz Kontroversen

OpenAI hat bedeutende Fortschritte bei der Entwicklung von künstlicher Intelligenz gemacht, mit seinem jüngsten Erfolg, dem GPT-4o-System, das den beliebten ChatGPT-Chatbot antreibt. Heute hat OpenAI bekannt gegeben, dass es einen neuen Sicherheitsrat, den OpenAI-Sicherheitsrat, gegründet hat und dass es mit der Ausbildung eines neuen KI-Modells begonnen hat.

Wer ist im OpenAI-Sicherheitsrat?

Der neu gegründete OpenAI-Sicherheitsrat zielt darauf ab, Anleitung und Aufsicht bei kritischen Sicherheits- und Sicherheitsentscheidungen in Bezug auf die Projekte und Betriebe des Unternehmens zu bieten. Das Hauptziel des Sicherheitsrats ist es, sicherzustellen, dass OpenAIs KI-Entwicklungspraktiken der Sicherheit Priorität einräumen und mit ethischen Grundsätzen übereinstimmen. Der Sicherheitsrat besteht aus einer vielfältigen Gruppe von Personen, darunter OpenAI-Führungskräfte, Vorstandsmitglieder und technische und politische Experten.

Bekannte Mitglieder des OpenAI-Sicherheitsrats sind:

• Sam Altman, CEO von OpenAI
• Bret Taylor, Vorsitzender von OpenAI
• Adam D’Angelo, CEO von Quora und OpenAI-Vorstandsmitglied
• Nicole Seligman, ehemalige Sony-Justiziarin und OpenAI-Vorstandsmitglied

In seiner initialen Phase wird der neue Sicherheits- und Sicherheitsausschuss sich auf die Bewertung und Stärkung der bestehenden Sicherheitsprozesse und -sicherungen von OpenAI konzentrieren. Der OpenAI-Sicherheitsrat hat eine Frist von 90 Tagen gesetzt, um Empfehlungen an den Vorstand zu geben, wie die KI-Entwicklungspraktiken und Sicherheitssysteme des Unternehmens verbessert werden können. Sobald die Empfehlungen angenommen werden, plant OpenAI, sie in einer Weise zu veröffentlichen, die mit Sicherheits- und Sicherheitsüberlegungen vereinbar ist.

Ausbildung des neuen KI-Modells

Parallel zur Gründung des OpenAI-Sicherheitsrats hat OpenAI bekannt gegeben, dass es mit der Ausbildung seines nächsten KI-Modells begonnen hat. Dieses neueste KI-Modell soll die Fähigkeiten des aktuellen GPT-4-Systems übertreffen, das den ChatGPT-Chatbot antreibt. Obwohl Details über das neue KI-Modell rar sind, hat OpenAI gesagt, dass es die Branche in Bezug auf Fähigkeiten und Sicherheit anführen wird.

Die Entwicklung dieses neuen KI-Modells unterstreicht das schnelle Tempo der Innovation im Bereich der künstlichen Intelligenz und das Potenzial für künstliche allgemeine Intelligenz (AGI). Da KI-Systeme immer leistungsfähiger und mächtiger werden, ist es wichtig, der Sicherheit Priorität einzuräumen und sicherzustellen, dass diese Technologien verantwortungsvoll entwickelt werden.

OpenAIs jüngste Kontroversen und Abgänge

OpenAIs erneutes Augenmerk auf Sicherheit kommt in einer Zeit innerer Unruhen und öffentlicher Kritik. In den vergangenen Wochen hat das Unternehmen Kritik aus seinen eigenen Reihen erfahren, da der Forscher Jan Leike zurückgetreten ist und Bedenken geäußert hat, dass die Sicherheit gegenüber der Entwicklung von “glänzenden Produkten” zurückgestellt wurde. Leikes Rücktritt wurde vom Abgang von Ilya Sutskever, OpenAIs Mitgründer und Chef-Wissenschaftler, gefolgt.

Die Abgänge von Leike und Sutskever haben Fragen über die Prioritäten des Unternehmens und seinen Ansatz zur KI-Sicherheit aufgeworfen. Die beiden Forscher leiteten gemeinsam das “Superalignment”-Team von OpenAI, das sich mit langfristigen KI-Risiken befasste. Nach ihrem Rücktritt wurde das Superalignment-Team aufgelöst, was die Bedenken über das Engagement des Unternehmens für die Sicherheit weiter schürte.

Darüber hinaus hat OpenAI Vorwürfe wegen der Nachahmung von Stimmen in seinem ChatGPT-Chatbot erhalten. Einige Benutzer haben behauptet, dass die Stimme des Chatbots eine verblüffende Ähnlichkeit mit der von Schauspielerin Scarlett Johansson aufweist. Obwohl OpenAI eine absichtliche Nachahmung von Johansson abgestritten hat, hat der Vorfall eine breitere Diskussion über die ethischen Auswirkungen von KI-generierten Inhalten und das Potenzial für Missbrauch ausgelöst.

Eine breitere Diskussion über KI-Ethik

Da das Feld der künstlichen Intelligenz rasch fortschreitet, ist es für Unternehmen wie OpenAI von entscheidender Bedeutung, in einen kontinuierlichen Dialog und eine Zusammenarbeit mit Forschern, politischen Entscheidungsträgern und der Öffentlichkeit zu treten, um sicherzustellen, dass KI-Technologien verantwortungsvoll und mit robusten Sicherheitsvorkehrungen entwickelt werden. Die Empfehlungen des OpenAI-Sicherheitsrats und OpenAIs Engagement für Transparenz werden zur breiteren Diskussion über KI-Governance beitragen und die Zukunft dieser transformierenden Technologie mitgestalten, aber nur die Zeit wird zeigen, was daraus resultiert.