OpenAIs nye initiativ: Styring av superintelligent AI i riktig retning

OpenAI, en ledende aktør i feltet kunstig intelligens, har nylig annonsert opprettelsen av et dedikert team for å håndtere risikoen forbundet med superintelligent AI. Dette skjer på et tidspunkt når regjeringer over hele verden diskuterer hvordan de skal regulere nye AI-teknologier.

Forståelse av superintelligent AI

Superintelligent AI refererer til hypotetiske AI-modeller som overgår de mest begavede og intelligente menneskene i flere områder, ikke bare ett enkelt område som noen tidligere generasjoner modeller. OpenAI forutser at en slik modell kan dukke opp før slutten av tiåret. Organisasjonen tror at superintelligens kan være den mest innflytelsesrike teknologien menneskeheten noensinne har oppfunnet, potensielt hjelpe oss å løse mange av verdens mest presserende problemer. Imidlertid kan den enorme kraften i superintelligens også utgjøre betydelige risikoer, inkludert muligheten for å avmystifisere menneskeheten eller til og med menneskelig utryddelse.

OpenAIs Superalignment Team

For å møte disse bekymringene, har OpenAI opprettet et nytt ‘Superalignment‘-team, ledet av OpenAIs sjefsforsker Ilya Sutskever og Jan Leike, forskningslaboratoriets sjef for justering. Teamet vil ha tilgang til 20% av beregningskraften som OpenAI har sikret. Deres mål er å utvikle en automatisert justeringsforsker, et system som kan hjelpe OpenAI med å sikre at en superintelligens er trygg å bruke og i samsvar med menneskelige verdier.

Mens OpenAI innrømmer at dette er et usedvanlig ambisiøst mål og at suksess ikke er garantert, forblir organisasjonen optimistisk. Preliminære eksperimenter har vist løfter, og stadig mer nyttige målinger for fremgang er tilgjengelige. I tillegg kan nåværende modeller brukes til å studere mange av disse problemene empirisk.

Behov for regulering

Opprettelsen av Superalignment-teamet skjer samtidig som regjeringer over hele verden vurdere hvordan de skal regulere den nye AI-industrien. OpenAIs CEO, Sam Altman, har møtt minst 100 føderale lovgivere i de siste månedene. Altman har offentlig uttalt at AI-regulering er “essensiell”, og at OpenAI er “ivyrt” til å samarbeide med politiske beslutningstakere.

Likevel er det viktig å nærme seg slike uttalelser med en viss skepsis. Ved å fokusere offentlighetens oppmerksomhet på hypotetiske risikoer som kanskje aldri materialiseres, kan organisasjoner som OpenAI potensielt flytte byrden av regulering til fremtiden, i stedet for å møte nåværende problemer rundt AI og arbeid, desinformasjon og opphavsrett som politiske beslutningstakere må takle i dag.

OpenAIs initiativ til å opprette et dedikert team for å håndtere risikoen forbundet med superintelligent AI er et betydelig skritt i riktig retning. Det understreker viktigheten av proaktive tiltak for å møte de potensielle utfordringene som fremmet AI kan utgjøre. Ettersom vi fortsetter å navigere i kompleksiteten av AI-utvikling og regulering, tjener initiativer som denne som en påminnelse om behovet for en balansert tilnærming, en som både utnytter potensialet i AI og beskytter mot dens risikoer.