Tiellä kohti tekoälyä (AGI): Tasapainoinen lähestymistapa

Kun tekoäly (AGI) kehittyy nopeasti, keskustelu siirtyy filosofisesta debatista käytännön merkityksestä, jossa on valtava mahdollisuus muuttaa globaaleja liiketoimintoja ja ihmisen potentiaalia.

Turingin AGI Icons -tapahtumasarja kokoaa yhteen AI-innovaattorit keskustelemaan käytännön ja vastuullisten AGI-ratkaisujen kehittämisestä. 24. heinäkuuta Turing järjesti toisen AGI Icons -tapahtumamme SHACK15: ssä, San Franciscon eksklusiivisessa keskuksessa yrittäjille ja teknologia-innovaattoreille. Anita Ramaswamyn, The Information -lehden rahoitustoimittajan, johdolla istuin Quora-johtaja Adam D’Angelon kanssa keskustelemassa tiestä AGI: hen ja jaan tietoa kehitysaikatauluista, todellisista sovelluksista ja vastuullisista käyttöönottoperiaatteista.

Tie AI: sta AGI: hen

AI-tutkimuksen “pohjoisen tähti”, joka ohjaa AI-tutkimusta, on ihmisen tason “älymystävällisyys”. Se, mikä erottaa AGI: n standardi-AI: sta, on sen eteneminen kapeasta toiminnallisuudesta laajempaan yleisyyteen (leveys) ja suorituskykyyn (syvyys), jopa ylittäen ihmisen kyvyt.

Tämä on “tie AGI: hen”, jossa AI etenee autonomisempiin järjestelmiin, parempiin päätöksentekijöihin, paransi kykyihin ja paransi toiminnallisuuteen. Nämä edistysaskeleet on jaettu viiteen taksonomiseen tasoiseen:

• Taso 0: Ei AI – Yksinkertaiset työkalut kuten laskimet
• Taso 1: Nousu AGI – Nykyiset LLM: t kuten ChatGPT
• Taso 2: Osallistuva AGI – AI-järjestelmät, jotka vastaavat taitavia aikuisia tiettyjen tehtävien suorittamisessa
• Taso 3: Asiantuntija-AGI – AI-järjestelmät, jotka ovat 90. prosenttipaikassa taitavien aikuisten joukossa
• Taso 4: Virtuoosi-AGI – AI-järjestelmät, jotka ovat 99. prosenttipaikassa
• Taso 5: Yliluonnollinen AGI – AI-järjestelmät, jotka ylittävät kaikki ihmiset

Lähde

Keskustelun aikana Adam määritteli AGI-käsitteen “ohjelmistoksi, joka voi tehdä kaiken, mitä ihminen voi tehdä.” Hän näkee tulevaisuuden, jossa AI parantaa itseään ja lopulta ottaa haltuun monimutkaiset ihmistehtävät, joita käsitellään koneoppimisen tutkijoiden toimesta.

Tätä ajatusta tarkemmalla tutkimisella vertasin näkemyksiäni AGI: stä “tekoälyäksi”, joka on kykenevä moninaisiin tehtäviin kuten “konekääntämiseen, monimutkaisiin kysymyksiin ja koodaamiseen.” Se on ero AGI: n ja enemmän ennustettavien AI: n ja kapeampien ML: n välillä. Se tuntuu emergenttiltä käyttäytymiseltä.

Realistiset kehitysaikataulut tiellä AGI: hen

Kuten tiellä, AGI: n yhteydessä ensimmäinen asia, joka tulee mieleen, on “Olemme jo perillä?” Lyhyt vastaus on ei, mutta kun AI-tutkimus kiihtyy, oikea kysymys on “Miten voimme tasapainottaa AGI: n tavoitteita realististen odotusten kanssa?”

Adam korosti, että AGI: n lisääntyvä automaatio siirtäisi ihmisten rooleja eikä poistaisi niitä, johtaen nopeampaan talouskasvuun ja tehokkaampaan tuottavuuteen. “Kun tämä teknologia tulee voimakkaammaksi, pääsemme pisteeseen, jossa 90% siitä, mitä ihmiset tekevät tänään, on automaattista, mutta jokainen on siirtynyt muihin asioihin.”

Tällä hetkellä suurin osa maailman taloudesta on rajoitettu ihmisten määrällä, joka on käytettävissä työhön. Kun saavutamme AGI: n, voimme kasvattaa taloutta nopeammin kuin mitä on mahdollista tänään.

Emme voi antaa määräaikaa, jolloin todellinen AGI toteutuu, mutta Adam ja minä mainitsimme useita esimerkkejä AI-edistysten edistämisestä tulevien AGI-edistysten mahdollistamiseksi. Esimerkiksi Turingin kokeilut AI-kehitystyökaluilla osoittivat 33%: n kasvun kehittäjien tuottavuudessa, joka viittaa vielä suurempiin mahdollisuuksiin.

Todelliset sovellukset ja vaikutukset

Yksi AGI: n lupaavimmista sovelluksista on ohjelmistokehitys. Suuret kielen mallit (LLM), AGI: n edeltäjä, ovat jo käytössä parantamaan ohjelmistokehitystä ja parantamaan koodin laatua. Näen tämän AI-aikakauden lähempänä biologiaa kuin fysiikkaa, jossa kaikenlaiset tiedon työt paranevat. On paljon enemmän tuottavuutta, joka on lukittu ja vapautettu ihmiskunnalle.

Oman kokemukseni perusteella olen havainnut 10-kertaisen henkilökohtaisen tuottavuuden kasvun LLM:iden ja AI-kehitystyökalujen käytön aikana. Käytämme myös AI: ta Turingissa arvioimaan teknistä osaamista ja etsimään oikeat ohjelmistokehittäjät ja PhD-tasoiset asiantuntijat oikeisiin tehtäviin.

Mitä näen LLM-koulutuksen alalla, esimerkiksi, on, että kouluttajat hyödyntävät näitä malleja parantamaan kehittäjien tuottavuutta ja nopeuttamaan projekti-aikatauluja. Automaattisesti rutiininomaiset koodaustehtävät ja älykkäät koodiehdotukset vapauttavat kehittäjät keskittymään strategisempiin ja luovempiin työn osa-alueisiin.

Adam päätti, “LLM: t eivät kirjoita kaikkea koodia, mutta ohjelmistoteknisen perustiedon ymmärtäminen on edelleen tärkeää. Laskimet eivät poistaneet tarvetta oppia aritmetiikkaa.” Hän lisäsi, “Kehittäjät tulevat arvokkaammaksi, kun he käyttävät näitä malleja. LLM:iden läsnäolo on myönteinen kehittäjien työlle, ja siitä on hyötyä kehittäjille.”

Siirrymme ohjelmistokehityksen kultaiseen aikaan, jossa yksi ohjelmistokehittäjä voi olla 10-kertaisesti tuottavampi, luoda enemmän ja hyödyttää maailmaa.

Tekniset ja hallinnolliset haasteet

Vaikka AGI: llä on lupaava potentiaali, haasteita on ratkaistava. Tarvitaan kestäviä arviointiprosesseja ja sääntelykehyksiä, jotta AGI-innovaatiota voidaan tasapainottaa julkisen turvallisuuden kanssa.

Adam korosti perusteellisten testien ja hiekkalaatikon tarpeen rajoittamaan huonointen skenaarioiden vaikutuksia. “Haluatellaan jonkinlainen kestävä arviointiprosessi… ja saada se jakelu, jota testaat, lähelle todellista käyttöä mahdollisimman lähelle.”

Ja minä olen samaa mieltä. Pullonkaula AGI: n edistymisessä on nyt ihmisen äly, eikä laskentakapasiteetti tai data. Ihmisen asiantuntemus on tärkeää hienosäätöä ja mukauttamista varten, joten Turing keskittyy parhaiden teknologia-ammattilaisten lähteeseen ja sopimiseen tasapainottamaan mallit ihmisen älyllä.

Meidän on ratkaistava AGI: n haasteet suoraan keskittymällä kykyihin prosessien sijaan, yleisyyteen ja suorituskykyyn sekä potentiaaliin.

Näkemykset haasteista: Parantamalla ihmisen ja AGI: n välistä vuorovaikutusta

Jotkut parhaat käytännöt AGI: n haasteiden ratkaisemiseksi ovat:

• Keskittyminen kykyihin tai “mitä AGI voi tehdä” prosessien sijaan tai “miten se tekee sen”.
• Yleisyyden ja suorituskyvyn tasapainottaminen AGI: n olennaisina komponentteina.
• Keskittyminen kognitiivisiin / metakognitiivisiin tehtäviin ja oppimiskykyihin fyysisten tehtävien / tulosteen sijaan.
• AGI: n mittaaminen potentiaalina ja kykyinä.
• Keskittyminen ekologiseen validiteettiin lähentämällä vertailukohteita todellisiin tehtäviin, joita ihmiset arvostavat.
• Muistaminen, että tie AGI: hen ei ole yksittäinen päätepiste, vaan iteratiivinen prosessi.

Lisäksi näihin parhaisiin käytäntöihin Adam ja minä korostimme ihmisen ja AGI: n välistä vuorovaikutusta. Adam korosti oppimisen arvon siitä, miten ja milloin näitä malleja käytetään, ja näkee ne voimakkaina oppimistyökaluina, jotka voivat opettaa nopeasti minkä tahansa ohjelmointialan ja korostaa perustiedon ymmärtämisen tärkeyttä.

Vastavuoroisesti ehdotan, että jokaisen ihmisen tekeminen LLM:iden voimakkaaksi käyttäjäksi voisi parantaa tuottavuutta ja ymmärrystä eri aloilla. LLM: t voivat tehdä monimutkaisen tiedon kaikille saatavaksi, parantaen tuottavuutta eri aloilla. Se vaatii kuitenkin asteittaisen, iteratiivisen lähestymistavan: aloittaen AI-kopioilla, jotka avustavat ihmisiä, siirtymällä agentteihin, joilla on ihmisen valvonta, ja lopulta saavuttamalla täysin autonomiset agentit hyvin arvioiduissa tehtävissä.

Tämän jälkeen jälkikoulutuksen erottelu on kriittistä, johon sisältyy valvottu hienosäätö (SFT) ja ihmisen älyn hyödyntäminen mukautettujen mallien rakentamiseen. Yritykset, jotka voivat lähettää ja sopia kouluttajia, insinöörejä ja muita, nopeuttavat hienosäätö- ja mukauttamiskykyjään. Yhteistyö johtavien yritysten, kuten OpenAI: n ja Anthropicin, kanssa on myös avain näiden mallien soveltamiseen eri aloilla.

Vastuullisen AGI: n kehityksen periaatteet

“AGI: n kehityksen on oltava vastuullista ja eettistä, turvallisuuden ja avoimuuden varmistamiseksi sekä innovaation edistämiseksi.” – Adam D’Angelo

Vastuullinen AGI: n kehitys edellyttää useita keskeisiä periaatteita:

• Turva ja turvallisuus: Varmistaminen, että AGI-järjestelmät ovat luotettavia ja vastustuskykyisiä väärinkäytölle, erityisesti kun mallit laajenevat uusien tietojen syöttämiseen tai algoritmien soveltamiseen.
• Avoimuus: Realistinen AGI: n kykyjen, rajoitusten ja “miten se toimii” suhteen.
• Eettiset huomioonpanot: Reagointi oikeudenmukaisuuteen, syrjintään ja siihen, miten AGI vaikuttaa työllisyyteen ja muihin sosioekonomisiin tekijöihin.
• Sääntely: Yhteistyö hallitusten ja muiden organisaatioiden kanssa kehittääksesi kehyksiä, jotka tasapainottavat edistystä julkisen turvallisuuden kanssa.
• Vertailu: Tulevaisuuden vertailu on mittaava AGI: n käyttäytymistä ja kykyjä eettisten huomioonpanojen ja taksonomisen tason suhteen.

Johtopäätös: Keskittyminen tielle AGI: hen, ei yksittäiseen päätepisteeseen

Tie AGI: hen on monimutkainen, mutta jokainen pysäkki matkalla on tärkeä matkan varrella. Ymmärtämällä AGI: n iteratiiviset parannukset – yhdessä niiden vaikutusten kanssa – ihmiset ja yritykset voivat vastuullisesti omaksua tämän kehittyvän teknologian. Tämä on vastuullisen AGI: n kehityksen ydin, jossa todellisen maailman vuorovaikutus kertoo, miten navigoimme tässä uudessa eturintamassa. Matkalla on tärkeää matkan varrella. Ymmärtämällä AGI: n iteratiiviset parannukset – yhdessä niiden vaikutusten kanssa – ihmiset ja yritykset voivat vastuullisesti omaksua tämän kehittyvän teknologian. Tämä on vastuullisen AGI: n kehityksen ydin, jossa todellisen maailman vuorovaikutus kertoo, miten navigoimme tässä uudessa eturintamassa.