OpenAI’s nye initiativ: Styring av superintelligent AI i riktig retning

OpenAI, en ledende aktør innen kunstig intelligens, har nylig annonsert opprettelsen av et dedikert team for å håndtere risikoen forbundet med superintelligent AI. Dette skjer på et tidspunkt når regjeringer verden over diskuterer hvordan de skal regulere nye AI-teknologier.

Forståelse av superintelligent AI

Superintelligent AI henviser til hypotetiske AI-modeller som overgår de mest begavede og intelligente menneskene innen flere områder av ekspertise, ikke bare ett enkelt område som noen tidligere generasjonsmodeller. OpenAI forutsier at en slik modell kan oppstå før slutten av årtiet. Organisasjonen tror at superintelligens kan være den mest innflytelsesrike teknologien menneskeheten noensinne har funnet opp, potensielt hjelpe oss med å løse mange av verdens mest presserende problemer. Imidlertid kan den enorme kraften til superintelligens også utgjøre betydelige risiko, inkludert muligheten for å avmystifisere menneskeheten eller til og med menneskeutryddelse.

OpenAI’s Superalignment-team

For å møte disse bekymringene, har OpenAI opprettet et nytt ‘Superalignment‘-team, ledet av OpenAI-sjefsforsker Ilya Sutskever og Jan Leike, forskningslaboratoriets sjef for justering. Teamet vil ha tilgang til 20% av beregningskraften som OpenAI har sikret. Deres mål er å utvikle en automatisert justeringsforsker, et system som kan hjelpe OpenAI med å sikre at en superintelligens er trygg å bruke og i samsvar med menneskelige verdier.

Mens OpenAI innrømmer at dette er et usedvanlig ambisiøst mål og suksess ikke er garantert, forblir organisasjonen optimistisk. Preliminære eksperimenter har vist løfte, og stadig mer nyttige målinger for fremgang er tilgjengelige. I tillegg kan nåværende modeller brukes til å studere mange av disse problemene empirisk.

Behov for regulering

Opprettelsen av Superalignment-teamet skjer mens regjeringer over hele verden vurderer hvordan de skal regulere den unge AI-industrien. OpenAI-sjef Sam Altman, har møtt med minst 100 føderale lovgivere i de siste månedene. Altman har offentlig erklært at AI-regulering er “essensiell”, og at OpenAI er “ivyrende” til å samarbeide med politiske beslutningstakere.

Imidlertid er det viktig å nærme seg slike erklæringer med en viss skepsis. Ved å fokusere offentlighetens oppmerksomhet på hypotetiske risiko som kanskje aldri materialiseres, kan organisasjoner som OpenAI potensielt flytte byrden av regulering til fremtiden, i stedet for å møte nåværende problemer rundt AI og arbeid, misinformasjon og opphavsrett som lovgivere må takle i dag.

OpenAI’s initiativ til å opprette et dedikert team for å håndtere risikoen forbundet med superintelligent AI, er et betydelig skritt i riktig retning. Dette understreker viktigheten av proaktive tiltak for å møte de potensielle utfordringene som fremmet av avansert AI. Mens vi fortsetter å navigere i kompleksiteten av AI-utvikling og regulering, tjener initiativer som denne som en påminnelse om behovet for en balansert tilnærming, en som utnytter potensialet til AI samtidig som den beskytter mot dens risiko.