Navigating the Road to Artificial General Intelligence (AGI) Together: A Balanced Approach

Kun tekoälyä (AGI) kehittyy nopeasti, keskustelu siirtyy filosofisesta debatista käytännön merkitykseen, ja siinä on valtava mahdollisuus muuttaa globaaleja liiketoimintoja ja ihmisen potentiaalia.

Turingin AGI Icons -tapahtumasarja kokoaa yhteen AI-innovaattorit keskustelemaan käytännön ja vastuullisten AGI-ratkaisujen kehittämisestä. 24. heinäkuuta Turing isännöi toista AGI Icons -tapahtumaamme SHACK15: ssä, San Franciscon eksklusiivisessa keskuksessa yrittäjille ja teknologia-innovaattoreille. Anita Ramaswamyn, The Informationin rahoitustoimittajan, moderoimana istuin Quora CEO Adam D’Angelon kanssa keskustelemassa AGI: n tiestä ja jaan tietoa kehitysaikatauluista, todellisista sovelluksista ja periaatteista vastuullisesta käytöstä.

Tie AI: sta AGI: hen

AI-tutkimuksen “pohjoisen tähti”, joka ohjaa AI-tutkimusta, on ihmisen tason “älymystävällisyys”. Se, mikä erottaa AGI: n standardi-AI: sta, on sen eteneminen kapeasta toiminnallisuudesta suurempaan yleisyyteen (leveyteen) ja suorituskykyyn (syvyyteen), jopa ylittäen ihmisen kyvyt.

Tämä on “tie AGI: hen”, jossa AI kehittyy autonomisempiin järjestelmiin, parempiin päättelykykyihin, paransiin kykyihin ja parannettuihin toimintoihin. Nämä edistysaskeleet on jaettu viiteen taksonomiseen tasoeseen:

• Taso 0: Ei AI – Yksinkertaiset työkalut kuten laskimet
• Taso 1: Nousu AGI – Nykyiset LLM: t kuten ChatGPT
• Taso 2: Osallistuva AGI – AI-järjestelmät, jotka vastaavat taitavia aikuisia tietyissä tehtävissä
• Taso 3: Asiantuntija-AGI – AI-järjestelmät, jotka ovat 90. prosenttipaikassa taitavien aikuisten joukossa
• Taso 4: Virtuoottinen AGI – AI-järjestelmät, jotka ovat 99. prosenttipaikassa
• Taso 5: Yliluonnollinen AGI – AI-järjestelmät, jotka ylittävät kaikki ihmiset

Lähde

Keskustelun aikana Adam määritteli AGI-käsitteen “ohjelmistoksi, joka voi tehdä kaiken, mitä ihminen voi tehdä”. Hän näkee tulevaisuuden, jossa AI parantaa itseään ja lopulta ottaa haltuun monimutkaiset ihmistehtävät, jotka käsitellään koneoppimisen tutkijoiden toimesta.

Ottaen tämän askelen eteenpäin, vertasin näkemyksiäni AGI: stä “tekoälyäksi”, joka on kykenevä moninaisiin tehtäviin, kuten “konekääntämiseen, monimutkaisiin kyselyihin ja koodaukseen”. Se on ero AGI: n ja enemmän prediktio-aiheisen AI: n ja kapeampien ML-muotojen välillä, jotka tulivat sitä ennen. Se tuntuu emergenttilta käyttäytymiseltä.

Realistiset kehitysaikataulut tiellä AGI: hen

Ihan kuin tiellä, AGI: n ylin kysymys on “Olemme jo perillä?” Lyhyt vastaus on ei, mutta koska AI-tutkimus kiihtyy, oikea kysymys on “Miten voimme tasapainottaa AGI: n ambitiota realististen odotusten kanssa”?

Adam korosti, että AGI: n lisääntyvä automaatio siirtäisi ihmisten rooleja sen sijaan, että poistaisi ne, mikä johtaisi nopeampaan talouskasvuun ja tehokkaampaan tuottavuuteen. “Kun tämä teknologia tulee voimakkaammaksi, pääsemme pisteeseen, jossa 90 % siitä, mitä ihmiset tekevät tänään, on automaattista, mutta kaikki ovat siirtyneet muihin asioihin.”

Tällä hetkellä suurin osa maailman taloudesta on rajoitettu ihmisten määrällä, joka on saatavilla työskentelemään. Kun saavutamme AGI: n, voimme kasvattaa taloutta nopeammin kuin mitä on mahdollista tänään.

Emme voi antaa määräaikaa, jolloin todellinen AGI toteutuu, mutta Adam ja minä mainitsimme useita esimerkkejä AI-edistysten avaamisesta tuleville AGI-edistysille. Esimerkiksi Turingin kokeet AI-kehitystyökalujen kanssa osoittivat 33 %: n kasvun kehittäjien tuottavuudessa, joka viittaa vielä suurempiin potentiaaleihin.

Todelliset sovellukset ja vaikutukset

Yksi AGI: n lupaavimmista sovelluksista on ohjelmistokehitys. Suuret kielimallit (LLM), AGI: n edeltäjä, ovat jo käytössä ohjelmistokehityksen parantamiseen ja koodin laadun parantamiseen. Näen tämän AI-aikakauden lähempänä biologiaa kuin fysiikkaa, jossa kaikenlaiset tiedon työt paranevat. On paljon enemmän tuottavuutta, joka vapautuu ihmiskunnalle.

Minun näkemykseni perustuu kokemukseen, jossa olen todistanut 10-kertaisen henkilökohtaisen tuottavuuden kasvun LLM:iden ja AI-kehitystyökalujen käytön aikana. Käytämme myös AI: ta Turingissa arvioidaksemme teknisen kyvykkyyden ja etsimään oikeat ohjelmistokehittäjät ja tohtorin tutkinnon saaneet asiantuntijat oikeisiin työpaikkoihin.

Mitä näen LLM-koulutuksessa, esimerkiksi, on, että kouluttajat hyödyntävät näitä malleja kehittääkseen kehittäjien tuottavuutta ja nopeuttaakseen projekti-aikatauluja. Automaattisesti määrättyjen kooditehtävien ja älykkäiden koodiehdotusten tarjoamisen kautta LLM: t vapauttavat kehittäjät keskittymään strategisempiin ja luovempiin työn osuuksiin.

Adam päätti, “”LLM: t eivät kirjoita kaikkea koodia, mutta ymmärtäminen ohjelmistoperusteista on edelleen tärkeää. Laskimet eivät poistaneet tarvetta oppia aritmetiikkaa.” Hän lisäsi, “Kehittäjät tulevat arvokkaammaksi, kun he käyttävät näitä malleja. LLM:iden läsnäolo on positiivinen kehittäjien työpaikoille, ja siinä on paljon voittoja kehittäjille.”

Menemme ohjelmistokehityksen kultaiseen aikaan, jossa yksi ohjelmistokehittäjä voi olla 10 kertaa tuottavampi, luoda enemmän ja hyödyttää maailmaa.

Tekniset ja hallinnolliset haasteet

Vaikka AGI: llä on lupaava potentiaali, haasteita on ratkaistava. Tarvitaan vahvoja arviointiprosesseja ja sääntöjä, jotka tasapainottavat AGI-innovaatiota ja julkisen turvallisuuden.

Adam korosti perusteellisen testauksen ja hiekkalaatikon tarpeen rajata huonointen skenaarioiden määrää. “Haluat käydä läpi jonkinlainen vankka arviointiprosessi … ja saada jakelu, jota testaat, lähelle mahdollisimman lähellä todellista käyttöä.”

Ja minä olen samaa mieltä. Pullonkaula AGI-edistys on nyt ihmisen äly, eikä laskentateho tai data. Ihmisen asiantuntemus on tärkeää hienosäätöä ja mukauttamista varten, joten Turing keskittyy parhaiden teknisten ammattilaisten lähteeseen ja tasapainottamiseen malleja ihmisen älyllä.

Meidän on ratkaistava AGI-haasteet suoraan keskittymällä kykyihin prosessien sijaan, yleisyyteen ja suorituskykyyn sekä potentiaaliin.

Näkemyksiä haasteista: Parantaminen ihmisen ja AGI: n välisten suhteiden

Jotkut parhaat käytännöt AGI-haasteiden ratkaisemiseksi ovat:

• Keskittyminen kykyihin tai “mitä AGI voi tehdä” sen sijaan, että prosessiin tai “miten se tekee sen”.
• Tasapainottaminen yleisyyttä ja suorituskykyä AGI: n olennaisina komponentteina.
• Keskittyminen kognitiivisiin / metakognitiivisiin tehtäviin ja oppimiskykyihin fyysisten tehtävien / tulosteen sijaan.
• AGI: n mittaaminen sen potentiaalilla ja kyvyillä.
• Keskittyminen ekologiseen validiteettiin lähentämällä benchmarkkeja todellisilla tehtävillä, joita ihmiset arvostavat.
• Muistaminen, että tie AGI: hen ei ole yksittäinen päätepiste, vaan iteratiivinen prosessi.

Lisäksi näihin parhaisiin käytäntöihin Adam ja minä korostimme ihmisen ja AGI: n välisten suhteiden parantamisen tärkeyttä. Adam korosti mallien opettelun ja niiden käytön tärkeyttä, nähdessään ne voimakkaina oppimistyökaluina, jotka voivat opettaa nopeasti minkä tahansa ohjelmoinnin alatieteen korostaen perusteiden ymmärtämisen tärkeyttä.

Samoin minä ehdotan, että tehdessämme jokaisesta ihmistä LLM:iden tehokas käyttäjä, voimme parantaa tuottavuutta ja ymmärrystä eri aloilla. LLM: t voivat tehdä monimutkaisen tiedon kaikille saatavaksi, parantaen tuottavuutta eri aloilla. Se vaatii kuitenkin vaiheittaisen, iteratiivisen lähestymistavan: aloittaen AI-kopioilla, jotka avustavat ihmisiä, sitten siirtymällä agenteille, joilla on ihmisen valvonta, ja lopulta saavuttamalla täysin itsenäiset agentit hyvin arvioiduissa tehtävissä.

Siinä vaiheessa jälkikoulutuksen erottelu on kriittistä, johon sisältyy valvottu hienosäätö (SFT) ja ihmisen älyllinen kyky rakentaa mukautettuja malleja. Yritykset, jotka voivat lähettää ja vastata kouluttajia, insinöörejä ja muita, nopeuttavat hienosäätö- ja mukauttamiskykyjään. Yhteistyö johtavien yritysten, kuten OpenAI: n ja Anthropicin, kanssa on myös avain näiden mallien soveltamiseen eri aloilla.

Vastuullisen AGI-kehityksen periaatteet

“AGI-kehityksen on oltava vastuullista ja eettistä, turvallisuuden ja avoimuuden varmistamiseksi innovaatioiden edistämiseksi.” – Adam D’Angelo

Vastuullinen AGI-kehitys edellyttää useiden ydinkäsitteiden noudattamista:

• Turva ja turvallisuus: Varmistaminen, että AGI-järjestelmät ovat luotettavia ja kestäviä väärinkäytölle, erityisesti kun mallit laajenevat uusien tietojen syöttämiseksi tai algoritmien soveltamiseksi.
• Avoimuus: Olla realistinen AGI: n kyvyistä, rajoituksista ja “miten se toimii”.
• Eettiset kysymykset: Vastata tasapuolisuudesta, puolueettomuudesta ja siitä, miten AGI vaikuttaa työllistymiseen ja muihin sosioekonomisiin tekijöihin.
• Sääntely: Työskenteleminen hallitusten ja muiden organisaatioiden kanssa kehittääkseen kehyksiä, jotka tasapainottavat edistystä julkisen turvallisuuden kanssa.
• Benchmarking: Tulevaisuuden benchmarkit on mitattava AGI-käyttäytymistä ja kyvyistä eettisten kysymysten ja taksonomisen tason suhteen.

Johtopäätös: Keskittyminen tielle AGI: hen, ei yksittäiseen päätepisteeseen

Tie AGI: hen on monimutkainen, mutta jokainen pysäkki tiellä on tärkeä matkalle. Ymmärtäessämme AGI: n iteratiivisia parannuksia – sen vaikutusten kanssa – ihmiset ja yritykset voivat ottaa vastuullisesti tämän kehittyvän teknologian. Tämä on avain vastuulliseen AGI-kehitykseen, jossa todellisen maailman vuorovaikutus kertoo, miten navigoimme tämän uuden rintaman.