OpenAI Bildar Säkerhetsråd, Tränar Nästa Generations AI-Modell Mitt I Kontroverser

OpenAI har gjort betydande framsteg i utvecklingen av artificiell intelligens, med dess senaste prestation vara GPT-4o-systemet som driver den populära ChatGPT-chattboten. Idag meddelade OpenAI att de har etablerat en ny säkerhetskommité, OpenAI Säkerhetsrådet, och avslöjade att de har påbörjat utbildningen av en ny AI-modell.

Vem är i OpenAI:s Säkerhetsråd?

Det nyligen bildade OpenAI Säkerhetsrådet syftar till att ge vägledning och tillsyn över kritiska säkerhets- och säkerhetsbeslut relaterade till företagets projekt och verksamhet. Rådets primära mål är att säkerställa att OpenAI:s AI-utvecklingspraxis prioriterar säkerhet och följer etiska principer. Säkerhetskommitén består av en diversifierad grupp individer, inklusive OpenAI-chefer, styrelseledamöter och tekniska och politiska experter.

Noterbara medlemmar i OpenAI Säkerhetsrådet inkluderar:

• Sam Altman, VD för OpenAI
• Bret Taylor, Ordförande för OpenAI
• Adam D’Angelo, VD för Quora och OpenAI-styrelseledamot
• Nicole Seligman, före detta Sony generalkonsul och OpenAI-styrelseledamot

I sin initiala fas kommer den nya säkerhets- och säkerhetskommitén att fokusera på att utvärdera och stärka OpenAI:s befintliga säkerhetsprocesser och skydd. OpenAI Säkerhetsrådet har satt en 90-dagars tidsplan för att ge rekommendationer till styrelsen om hur man kan förbättra företagets AI-utvecklingspraxis och säkerhetssystem. När rekommendationerna antas planerar OpenAI att offentliggöra dem på ett sätt som är förenligt med säkerhets- och säkerhetsaspekter.

Utbildning av den nya AI-modellen

I samband med etableringen av OpenAI Säkerhetsrådet har OpenAI meddelat att de har påbörjat utbildningen av sin nästa generationsmodell. Denna senaste artificiella intelligensmodell förväntas överträffa kapaciteterna hos GPT-4-systemet som för närvarande ligger till grund för ChatGPT. Medan detaljer om den nya AI-modellen är knapphändiga, har OpenAI sagt att den kommer att leda branschen i både kapacitet och säkerhet.

Utvecklingen av denna nya AI-modell understryker den snabba takten i innovationen inom artificiell intelligens och potentialen för artificiell allmän intelligens (AGI). När AI-system blir mer avancerade och kraftfulla är det avgörande att prioritera säkerhet och säkerställa att dessa teknologier utvecklas på ett ansvarsfullt sätt.

OpenAI:s Senaste Kontroverser och Avgångar

OpenAI:s förnyade fokus på säkerhet kommer mitt i en period av intern turbulens och offentlig granskning. Under de senaste veckorna har företaget mött kritik från inom dess egna led, med forskaren Jan Leike som avgick och uttryckte oro över att säkerheten hade hamnat i skymundan för utvecklingen av “blanka produkter”. Leikes avgång följdes av avgången av Ilya Sutskever, OpenAI:s medgrundare och chefsforskare.

Avgångarna av Leike och Sutskever har väckt frågor om företagets prioriteringar och dess tillvägagångssätt för AI-säkerhet. De två forskarna ledde tillsammans OpenAI:s “superalignment”-team, som var dedikerat till att hantera långsiktiga AI-risker. Efter deras avgång upplöstes superalignment-teamet, vilket ytterligare bränsle till oro över företagets engagemang för säkerhet.

Förutom den interna turbulensen har OpenAI också mött anklagelser om röstimitation i sin ChatGPT-chattbot. Vissa användare har hävdat att chattbotens röst påminner starkt om skådespelerskan Scarlett Johansson. Medan OpenAI har förnekat att de medvetet imiterat Johansson, har incidenten väckt en bredare diskussion om de etiska implikationerna av AI-genererat innehåll och potentialen för missbruk.

En Större Diskussion om AI-etik

När fältet för artificiell intelligens fortsätter att utvecklas snabbt är det avgörande för företag som OpenAI att engagera sig i en pågående dialog och samarbete med forskare, beslutsfattare och allmänheten för att säkerställa att AI-teknologier utvecklas på ett ansvarsfullt sätt och med robusta skydd. Rekommendationerna från OpenAI Säkerhetsrådet och OpenAI:s åtagande att vara transparenta kommer att bidra till den bredare diskussionen om AI-styrning och hjälpa till att forma framtiden för denna omvandlande teknologi, men endast tiden kommer att visa vad som kommer ut av det.