OpenAI danner sikkerhedsråd, træner næste generation af AI-modeller midt i kontroverser

OpenAI har gjort betydelige fremskridt i udviklingen af kunstig intelligens-teknologier, med dens seneste præstation være GPT-4o-systemet, der driver den populære ChatGPT-chatbot. I dag annoncerede OpenAI etableringen af en ny sikkerhedsudvalg, OpenAI Safety Council, og afslørede, at det har påbegyndt træningen af en ny AI-model.

Hvem er i OpenAI’s Safety Council?

Det nyligt etablerede OpenAI Safety Council har til formål at give vejledning og tilsyn med kritiske sikkerheds- og sikkerhedsbeslutninger relateret til virksomhedens projekter og operationer. Udvalgets primære mål er at sikre, at OpenAI’s AI-udviklingspraksis prioriterer sikkerhed og er i overensstemmelse med etiske principper. Sikkerhedsudvalget består af en divers gruppe personer, herunder OpenAI’s ledere, bestyrelsesmedlemmer og tekniske og politiske eksperter.

Bemærkelsesværdige medlemmer af OpenAI Safety Council inkluderer:

• Sam Altman, CEO af OpenAI
• Bret Taylor, formand for OpenAI
• Adam D’Angelo, CEO af Quora og OpenAI-bestyrer
• Nicole Seligman, tidligere Sony-advokat og OpenAI-bestyrer

I sin første fase vil den nye sikkerheds- og sikkerhedsudvalg fokusere på at evaluere og styrke OpenAI’s eksisterende sikkerhedsprocesser og -sikkerhedssystemer. OpenAI Safety Council har fastsat en 90-dages tidsramme for at give anbefalinger til bestyrelsen om, hvordan man kan forbedre virksomhedens AI-udviklingspraksis og sikkerhedssystemer. Når anbefalingerne er vedtaget, planlægger OpenAI at offentliggøre dem på en måde, der er i overensstemmelse med sikkerheds- og sikkerhedsbetragtninger.

Træning af den nye AI-model

I parallel med etableringen af OpenAI Safety Council har OpenAI annonceret, at det har påbegyndt træningen af sin næste generation af AI-modeller. Denne seneste kunstige intelligensmodel forventes at overgå kapaciteten af GPT-4-systemet, der i øjeblikket understøtter ChatGPT. Selv om detaljer om den nye AI-model er sparsomme, har OpenAI sagt, at den vil føre industrien i både kapacitet og sikkerhed.

Udviklingen af denne nye AI-model understreger den hurtige innovationsrate i kunstig intelligensfeltet og potentialet for kunstig generel intelligens (AGI). Da AI-systemer bliver mere avancerede og kraftfulde, er det afgørende at prioritere sikkerhed og sikre, at disse teknologier udvikles ansvarligt.

OpenAI’s seneste kontroverser og afgange

OpenAI’s fornyede fokus på sikkerhed kommer midt i en periode med interne problemer og offentlig kritik. I de seneste uger har virksomheden stået over for kritik fra indenfor dens egne rækker, da forskeren Jan Leike frivilligt forlod sin stilling og udtrykte bekymring over, at sikkerheden var blevet sat i skyggen af udviklingen af “shiny produkter”. Leikes afgang blev efterfulgt af afgang af Ilya Sutskever, OpenAI’s medstifter og chefvidenskabsmand.

Afgangene af Leike og Sutskever har rejst spørgsmål om virksomhedens prioriteringer og dens tilgang til AI-sikkerhed. De to forskere ledede sammen OpenAI’s “superalignment”-hold, der var dedikeret til at tackle langsigtede AI-risici. Efter deres afgang blev superalignment-holdet opløst, hvilket yderligere fik kritikere til at tvivle på virksomhedens engagement i sikkerhed.

Ud over de interne problemer har OpenAI også stået over for anklager om stemme-imitation i dens ChatGPT-chatbot. Nogle brugere har hævdet, at chatbotens stemme ligner skuespilleren Scarlett Johanssons stemme. Selv om OpenAI har benægtet at have imiteret Johansson bevidst, har episoden ført til en bredere diskussion om de etiske implikationer af AI-genereret indhold og potentialet for misbrug.

En bredere diskussion om AI-etik

Da kunstig intelligensfeltet fortsætter med at udvikle sig hurtigt, er det afgørende, at virksomheder som OpenAI engagerer sig i en fortsat dialog og samarbejde med forskere, politikere og offentligheden for at sikre, at AI-teknologier udvikles ansvarligt og med robuste sikkerhedssystemer på plads. Anbefalingerne fra OpenAI Safety Council og OpenAI’s engagement i gennemsigtighed vil bidrage til den bredere diskussion om AI-styring og hjælpe med at forme fremtiden for denne transformative teknologi, men kun tiden vil vise, hvad der kommer ud af det.