OpenAI vormt veiligheidsraad, trainingsprogramma voor nieuw AI-model te midden van controverse

OpenAI heeft belangrijke stappen gezet in de ontwikkeling van kunstmatige intelligentie, met als recente prestatie het GPT-4o-systeem dat de populaire ChatGPT-chatbot aandrijft. Vandaag kondigde OpenAI aan de oprichting van een nieuwe veiligheidscommissie, de OpenAI Safety Council, en onthulde dat het een nieuw AI-model in training heeft genomen.

Wie zit er in de OpenAI Safety Council?

De pas opgerichte OpenAI Safety Council heeft als doel om leiding en toezicht te bieden bij kritieke veiligheids- en beveiligingsbeslissingen met betrekking tot de projecten en activiteiten van het bedrijf. Het primaire doel van de veiligheidscommissie is ervoor te zorgen dat de AI-ontwikkelingspraktijken van OpenAI de veiligheid prioriteren en in overeenstemming zijn met ethische principes. De veiligheidscommissie bestaat uit een diverse groep personen, waaronder OpenAI-bestuurders, raadsleden en technische en beleidsexperts.

Opmerkelijke leden van de OpenAI Safety Council zijn:

• Sam Altman, CEO van OpenAI
• Bret Taylor, voorzitter van OpenAI
• Adam D’Angelo, CEO van Quora en OpenAI-raadslid
• Nicole Seligman, voormalig algemeen directeur van Sony en OpenAI-raadslid

In de eerste fase zal de nieuwe veiligheids- en beveiligingscommissie zich richten op het evalueren en versterken van de bestaande veiligheidsprocessen en -maatregelen van OpenAI. De OpenAI Safety Council heeft een tijdsbestek van 90 dagen om aanbevelingen te doen aan de raad over hoe de AI-ontwikkelingspraktijken en -systemen van het bedrijf kunnen worden verbeterd. Zodra de aanbevelingen zijn overgenomen, plant OpenAI om ze openbaar te maken op een manier die in overeenstemming is met veiligheids- en beveiligingsoverwegingen.

Training van het nieuwe AI-model

Tegelijkertijd met de oprichting van de OpenAI Safety Council, heeft OpenAI aangekondigd dat het een nieuw AI-model in training heeft genomen. Dit laatste kunstmatige intelligentiemodel wordt verwacht de mogelijkheden van het GPT-4-systeem te overtreffen, dat momenteel de basis vormt voor ChatGPT. Hoewel details over het nieuwe AI-model schaars zijn, heeft OpenAI gezegd dat het de industrie zal leiden in zowel capaciteit als veiligheid.

De ontwikkeling van dit nieuwe AI-model benadrukt het snelle tempo van innovatie op het gebied van kunstmatige intelligentie en het potentieel voor artificiële algemene intelligentie (AGI). Aangezien AI-systemen geavanceerder en krachtiger worden, is het cruciaal om de veiligheid te prioriteren en ervoor te zorgen dat deze technologieën op verantwoorde wijze worden ontwikkeld.

Recente controverse en vertrekken bij OpenAI

De hernieuwde focus van OpenAI op veiligheid komt in een periode van interne onrust en openbare kritiek. In de afgelopen weken heeft het bedrijf kritiek gekregen vanuit zijn eigen gelederen, met onderzoeker Jan Leike die ontslag nam en uitdrukte dat de veiligheid op de tweede plaats was gekomen bij de ontwikkeling van “glanzende producten”. Leikes ontslag werd gevolgd door het vertrek van Ilya Sutskever, medeoprichter en hoofdwetenschapper van OpenAI.

De vertrekken van Leike en Sutskever hebben vragen opgeroepen over de prioriteiten van het bedrijf en zijn aanpak van AI-veiligheid. De twee onderzoekers leidden samen het “superalignment”-team van OpenAI, dat zich richtte op het aanpakken van langetermijnrisico’s van AI. Na hun ontslag werd het superalignment-team ontbonden, waardoor de zorgen over de toewijding van het bedrijf aan de veiligheid nog verder toenamen.

Naast de interne onrust heeft OpenAI ook beschuldigingen gekregen van stemvervalsing in zijn ChatGPT-chatbot. Sommige gebruikers claimen dat de stem van de chatbot een opvallende gelijkenis vertoont met die van actrice Scarlett Johansson. Hoewel OpenAI ontkent dat het opzettelijk Johanssons stem heeft nagedaan, heeft het incident een bredere discussie op gang gebracht over de ethische implicaties van AI-gegenereerde inhoud en het potentieel voor misbruik.

Een bredere discussie over AI-ethiek

Aangezien het veld van kunstmatige intelligentie snel evolueert, is het cruciaal dat bedrijven als OpenAI een voortdurend gesprek en samenwerking aangaan met onderzoekers, beleidsmakers en het publiek om ervoor te zorgen dat AI-technologieën op verantwoorde wijze worden ontwikkeld en met robuuste waarborgen worden omgeven. De aanbevelingen van de OpenAI Safety Council en de toewijding van OpenAI aan transparantie zullen bijdragen aan de bredere discussie over AI-governance en helpen vorm te geven aan de toekomst van deze transformatieve technologie, maar alleen de tijd zal leren wat hieruit voortkomt.