OpenAI perustaa turvallisuusneuvoston, kouluttaa seuraavan sukupolven tekoälymallin keskellä kiistaa

OpenAI on tehnyt merkittäviä edistysaskelia kehittäessään tekoälytekniikoita, ja sen uusin saavutus on GPT-4o-järjestelmä, joka mahdollistaa suositun ChatGPT-keskusteluroiden toiminnan. Tänään OpenAI ilmoitti uuden turvallisuuskomitean, OpenAI Turvallisuusneuvoston, perustamisesta ja paljasti, että se on aloittanut uuden tekoälymallin kouluttamisen.

Keitä OpenAI:n Turvallisuusneuvostossa on?

Uusi OpenAI Turvallisuusneuvosto pyrkii tarjoamaan ohjausta ja valvontaa kriittisiin turvallisuuteen ja tietoturvaan liittyviin päätöksiin, jotka liittyvät yhtiön projekteihin ja toimintoihin. Neuvoston ensisijainen tavoite on varmistaa, että OpenAI:n tekoälykehityksen käytännöt priorisoivat turvallisuuden ja noudattavat eettisiä periaatteita. Turvallisuuskomitean muodostaa monipuolinen joukko yksilöitä, mukaan lukien OpenAI:n johtajat, hallituksen jäsenet ja tekniset ja poliittiset asiantuntijat.

OpenAI Turvallisuusneuvoston merkittäviä jäseniä ovat:

• Sam Altman, OpenAI:n toimitusjohtaja
• Bret Taylor, OpenAI:n hallituksen puheenjohtaja
• Adam D’Angelo, Quoran toimitusjohtaja ja OpenAI:n hallituksen jäsen
• Nicole Seligman, entinen Sonyn yleinen asianajaja ja OpenAI:n hallituksen jäsen

Alkuvaiheessaan uusi turvallisuus- ja tietoturvakomitea keskittyy arvioimaan ja vahvistamaan OpenAI:n olemassa olevia turvallisuusprosesseja ja suojausjärjestelmiä. OpenAI Turvallisuusneuvosto on asettanut 90 päivän aikarajan antaa suosituksia hallitukselle siitä, miten yhtiön tekoälykehityksen käytännöt ja turvallisuusjärjestelmät voidaan parantaa. Kun suositukset on hyväksytty, OpenAI aikoo julkaista ne julkisesti turvallisuuden ja tietoturvan huomioon ottaen.

Uuden tekoälymallin koulutus

OpenAI Turvallisuusneuvoston perustamisen rinnalla OpenAI on ilmoittanut, että se on aloittanut seuraavan sukupolven tekoälymallin kouluttamisen. Tämä uusin tekoälymalli odotetaan ylittävän GPT-4-järjestelmän nykyiset kyvyt, jotka tukevat ChatGPT-keskusteluroiden toimintaa. Vaikka uuden tekoälymallin yksityiskohtia ei ole paljastettu, OpenAI on ilmoittanut, että se johtaa teollisuutta sekä kyvyssä että turvallisuudessa.

Tämän uuden tekoälymallin kehitys korostaa tekoälytekniikoiden nopeaa kehitystä ja mahdollisuutta yleisen tekoälyn (AGI) kehittymiseen. Koska tekoälyjärjestelmät kehittyvät yhä edistyneemmiksi ja voimakkaammiksi, on tärkeää priorisoida turvallisuutta ja varmistaa, että nämä teknologiat kehitetään vastuullisesti.

OpenAI:n viimeaikaiset kiistat ja lähdöt

OpenAI:n uudelleen keskittyminen turvallisuuteen tulee aikana, jolloin yhtiö on kokenut sisäistä myllerrystä ja julkista kritiikkiä. Viime viikkojen aikana yhtiö on kokenut kritiikkiä omien työntekijänsä taholta, kun tutkija Jan Leike erosi ja ilmaisi huolensa siitä, että turvallisuus oli jäänyt kehityksen “loistaviin tuotteisiin”. Leiken eroa seurasi Ilya Sutskeverin, OpenAI:n perustajan ja pääteknisen johtajan, lähtö.

Leiken ja Sutskeverin lähdöt ovat herättäneet kysymyksiä yhtiön prioriteeteista ja sen lähestymistavasta tekoälyturvallisuuteen. Kaksi tutkijaa johti yhdessä OpenAI:n “superalignment”-tiimiä, joka keskittyi pitkän aikavälin tekoälyriskeihin. Heidän eroansa seurasi tiimin lakkauttaminen, mikä lisäsi huolia yhtiön sitoutumisesta turvallisuuteen.

Lisäksi sisäinen myllerrys, OpenAI on kokenut syytöksiä äänen matkinnasta ChatGPT-keskusteluroiden äänessä. Jotkut käyttäjät ovat väittäneet, että chatbotin ääni muistuttaa näyttelijä Scarlett Johanssonin ääntä. Vaikka OpenAI on kieltänyt tietoisesti matkineensa Johanssonin ääntä, tapaus on herättänyt laajemman keskustelun tekoälysisällön eettisistä vaikutuksista ja mahdollisista väärinkäytöistä.

Laajempi keskustelu tekoälyeetikasta

Kun tekoälytekniikka jatkaa nopeaa kehitystään, on tärkeää, että yhtiöt kuten OpenAI osallistuvat jatkuvaan vuoropuheluun ja yhteistyöhön tutkijoiden, viranomaisten ja yleisön kanssa varmistamaan, että tekoälytekniikat kehitetään vastuullisesti ja turvallisuuden kannalta vahvoilla suojauksilla. OpenAI Turvallisuusneuvoston esittämät suositukset ja OpenAI:n sitoutuminen avoimuuteen edistävät tekoälyhallinnon laajempaa keskustelua ja auttavat muotoilemaan tulevaisuuden tälle muuntuvalle teknologialle, mutta aika näyttää, mitä siitä seuraa.