OpenAI bildar säkerhetsråd, utbildar nästa generations AI-modell mitt i kontroverser

OpenAI har gjort betydande framsteg inom utvecklingen av artificiell intelligens, med dess senaste prestation som är GPT-4o-systemet som driver den populära ChatGPT-chattboten. Idag meddelade OpenAI att de etablerat en ny säkerhetskommité, OpenAI Safety Council, och avslöjade att de har börjat utbilda en ny AI-modell.

Vem ingår i OpenAI:s säkerhetsråd?

Den nyligen bildade OpenAI Safety Council syftar till att ge vägledning och tillsyn över kritiska säkerhets- och säkerhetsbeslut som rör företagets projekt och verksamhet. Rådets primära mål är att säkerställa att OpenAI:s AI-utvecklingspraxis prioriterar säkerhet och följer etiska principer. Säkerhetskommitén består av en mångfaldig grupp individer, inklusive OpenAI-chefer, styrelseledamöter och tekniska och politiska experter.

Noterbara medlemmar i OpenAI Safety Council inkluderar:

• Sam Altman, VD för OpenAI
• Bret Taylor, Ordförande för OpenAI
• Adam D’Angelo, VD för Quora och OpenAI-styrelseledamot
• Nicole Seligman, tidigare Sony generalsekreterare och OpenAI-styrelseledamot

I sin initiala fas kommer den nya säkerhets- och säkerhetskommitén att fokusera på att utvärdera och stärka OpenAI:s befintliga säkerhetsprocesser och skydd. OpenAI Safety Council har satt en 90-dagars tidsplan för att ge rekommendationer till styrelsen om hur man kan förbättra företagets AI-utvecklingspraxis och säkerhetssystem. När rekommendationerna antas planerar OpenAI att offentliggöra dem på ett sätt som är förenligt med säkerhets- och säkerhetsöverväganden.

Utbildning av den nya AI-modellen

I samband med etableringen av OpenAI Safety Council har OpenAI meddelat att de har börjat utbilda sin nästa generationsmodell. Denna senaste artificiella intelligensmodell förväntas överträffa förmågan hos GPT-4-systemet som för närvarande används i ChatGPT. Medan detaljer om den nya AI-modellen är knapphändiga, har OpenAI sagt att den kommer att leda branschen i både förmåga och säkerhet.

Utvecklingen av denna nya AI-modell understryker den snabba innovations takten inom artificiell intelligens och potentialen för artificiell allmän intelligens (AGI). När AI-system blir mer avancerade och kraftfulla är det avgörande att prioritera säkerhet och säkerställa att dessa teknologier utvecklas på ett ansvarsfullt sätt.

OpenAI:s senaste kontroverser och avgångar

OpenAI:s förnyade fokus på säkerhet kommer under en period av intern turbulens och offentlig granskning. Under de senaste veckorna har företaget mött kritik från inom dess egna led, med forskaren Jan Leike som avgått och uttryckt oro över att säkerheten fått ta en andra plats till utvecklingen av “blanka produkter”. Leikes avgång följdes av avgången av Ilya Sutskever, OpenAI:s medgrundare och chefsforskare.

Avgångarna från Leike och Sutskever har väckt frågor om företagets prioriteringar och dess tillvägagångssätt för AI-säkerhet. De två forskarna ledde tillsammans OpenAI:s “superalignment”-team, som var dedikerat till att hantera långsiktiga AI-risker. Efter deras avgång upplöstes superalignment-teamet, vilket ytterligare bränsle till oro över företagets engagemang för säkerhet.

Utöver den interna turbulensen har OpenAI också mött anklagelser om röstimitation i sin ChatGPT-chattbot. Vissa användare har hävdat att chattbotens röst påminner starkt om skådespelerskan Scarlett Johansson. Medan OpenAI har förnekat att de avsiktligt imiterat Johansson, har incidenten väckt en bredare diskussion om de etiska implikationerna av AI-genererat innehåll och potentialen för missbruk.

En bredare diskussion om AI-etik

När artificiell intelligens fortsätter att utvecklas snabbt är det avgörande för företag som OpenAI att engagera sig i en pågående dialog och samarbete med forskare, beslutsfattare och allmänheten för att säkerställa att AI-teknologier utvecklas på ett ansvarsfullt sätt och med robusta skydd. Rekommendationerna från OpenAI Safety Council och OpenAI:s åtagande för transparens kommer att bidra till den bredare diskussionen om AI-styrning och hjälpa till att forma framtiden för denna transformerande teknologi, men endast tiden kommer att visa vad som kommer att bli av det.