OpenAI vytváří bezpečnostní radu, trénuje novou generaci modelu AI uprostřed kontroverzí

OpenAI učinila významný pokrok v oblasti umělé inteligence, a to zejména díky svému nejnovějšímu úspěchu, systému GPT-4o, který pohání populárního chatbota ChatGPT. Dnes OpenAI oznámila zřízení nové bezpečnostní rady, OpenAI Safety Council, a odhalila, že začala trénovat nový model AI.

Kdo je v OpenAI Safety Council?

Nově vytvořená OpenAI Safety Council má za cíl poskytnout rady a dohled nad kritickými bezpečnostními a bezpečnostními rozhodnutími souvisejícími s projekty a operacemi společnosti. Hlavním cílem rady je zajistit, aby praktiky vývoje AI společnosti OpenAI měly prioritu bezpečnost a byly v souladu s etickými principy. Bezpečnostní rada se skládá z různých jedinců, včetně výkonných ředitelů OpenAI, členů správní rady a technických a politických odborníků.

Významní členové OpenAI Safety Council zahrnují:

• Sam Altman, CEO OpenAI
• Bret Taylor, Předseda OpenAI
• Adam D’Angelo, CEO Quory a člen správní rady OpenAI
• Nicole Seligman, bývalá generální poradkyně Sony a členka správní rady OpenAI

V počáteční fázi se nová bezpečnostní a bezpečnostní rada zaměří na hodnocení a posílení stávajících bezpečnostních procesů a ochranných opatření OpenAI. OpenAI Safety Council stanovila 90denní časový limit pro poskytnutí doporučení správní radě, jak zlepšit postupy vývoje AI a bezpečnostní systémy společnosti. Jakmile budou doporučení přijata, OpenAI plánuje je zveřejnit způsobem, který je v souladu s bezpečnostními a bezpečnostními úvahami.

Trénink nového modelu AI

Souběžně se zřízením OpenAI Safety Council OpenAI oznámila, že začala trénovat svůj další model. Tento nejnovější umělý inteligentní model se očekává, že překoná schopnosti systému GPT-4, který目前 podporuje ChatGPT. Přes skutečnost, že detaily o novém modelu AI jsou stále vzácné, OpenAI uvedla, že povede průmysl jak v možnostech, tak v bezpečnosti.

Vývoj tohoto nového modelu AI podtrhuje rychlý tempo inovací v oblasti umělé inteligence a potenciál umělé obecné inteligence (AGI). Jak se AI systémy stávají pokročilejšími a silnějšími, je zásadní priorita bezpečnosti a zajištění, že tyto technologie jsou vyvíjeny zodpovědně.

Recentní kontroverze a odchody OpenAI

Nový důraz OpenAI na bezpečnost přichází uprostřed období vnitřních nepokojů a veřejného zkoumání. V posledních týdnech společnost čelila kritice ze strany svých vlastních řad, kdy výzkumník Jan Leike rezignoval a vyjádřil obavy, že bezpečnost byla upozaděna ve prospěch vývoje “lesklých produktů”. Leikeova rezignace byla následována odchodem Ilyi Sutskevera, spoluzakladatele a hlavního vědce OpenAI.

Odchody Leike a Sutskevera vyvolaly otázky o prioritách společnosti a jejím přístupu k bezpečnosti AI. Oba výzkumníci společně vedli “superalignment” tým OpenAI, který se věnoval řešení dlouhodobých rizik AI. Po jejich rezignaci byl superalignment tým rozpuštěn, což dále podpořilo obavy o závazek společnosti k bezpečnosti.

Kromě vnitřních nepokojů společnost OpenAI čelila také obviněním z napodobování hlasu v chatbotu ChatGPT. Někteří uživatelé tvrdili, že hlas chatbota připomíná herečku Scarlett Johansson. Přestože OpenAI popřela úmyslné napodobení Johansson, incident vyvolal širší diskuzi o etických implikacích generovaného obsahu AI a potenciálu zneužití.

Širší konverzace o etice AI

Jak se oblast umělé inteligence rychle vyvíjí, je zásadní, aby společnosti jako OpenAI vedly neustálý dialog a spolupráci s výzkumníky, politiky a veřejností, aby zajistily, že technologie AI jsou vyvíjeny zodpovědně a s robustními bezpečnostními opatřeními. Doporučení předložená OpenAI Safety Council a závazek OpenAI k transparentnosti přispějí ke širší konverzaci o řízení AI a pomohou tvarovat budoucnost této transformační technologie, ale pouze čas ukáže, co z toho vyplyne.