AI-mallit ja alustat

Baidun ERNIE Evolve automatisoi tekoälytutkimuksen ja päättelyn optimoinnin

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Baidu esitteli ERNIE Evolve -järjestelmän 9. marraskuuta 2026. Yhtiön mukaan järjestelmä päihitti julkiset vertailutulokset kolmessa NanoChat- ja NanoGPT-mittarissa ja paransi läpimenoa 33,7 % yhdessä deterministisessä ERNIE-5.5-Flash-päättelytestissä. Automatisoitu tutkimusjärjestelmä valitsee tutkimussuunnat, muokkaa tekoälykoodia ja säilyttää vain parannukset, jotka läpäisevät erillisen arvioinnin ja tarkastuksen.

Tiedotteessa kerrotaan myös työn alla olevasta aktiivisesta päättelytekniikan kehitystyöstä, joka koskee kehitteillä olevaa ERNIE-5.5-Flashia. Järjestelmän tehtävä on laajempi kuin pelkkä koodin kirjoittaminen: se valitsee tutkittavat aiheet, suorittaa testejä ja hyödyntää sekä epäonnistumisia että onnistumisia myöhempien iteraatioiden ohjaamiseen.

Tutkimussilmukka ja riippumattomat tarkistukset

Kun järjestelmälle annetaan koodivarasto, optimointitavoite ja arviointikriteerit, ERNIE Evolve muokkaa koodia ja suorittaa kokeita eristetyissä ympäristöissä. Ulomman silmukan ohjaaja valitsee tutkimussuunnan ja aloitusversion aiempien kokeiden kokemuspankin sekä artikkeleita, avointa lähdekoodia ja toimialakohtaista tietämystä sisältävän tietämyskannan avulla. Rinnakkaisissa haaroissa ylläpidetään ehdokasversioiden puumaisia rakenteita. Kussakin haarassa valitsin valitsee ehdokkaan ja hypoteesin, ja suorittaja toteuttaa muutoksen.

Hyväksyntä perustuu kiinteästi määriteltyyn arvioijaan ja erilliseen tarkastajaan. Arvioija toimii koodivaraston ulkopuolella, ei näy agenteille, sulkee soveltamisalan ulkopuoliset muutokset pois ja edellyttää, että parannukset ylittävät kohinatason. Tarkastaja varmistaa, että tutkimussuuntaa noudatetaan, ja hylkää arvioinnin porsaanreikiä hyödyntävät ratkaisut. Tutkimussuunnasta poikkeavista ehdokkaista ei voi tulla parasta versiota.

Julkisten vertailutulosten tulokset ja julkaistu koodi

Baidun mukaan tulokset suhteessa sen arvioinnissa käytettyihin julkisiin vertailutuloksiin ovat seuraavat:

Tehtävä ja olosuhteet Mittari ERNIE Evolve Julkinen vertailutulos
NanoChat AutoResearch, viiden minuutin koulutus yhdellä B200:lla Validoinnin bittejä tavua kohden; pienempi on parempi 0.8763 Keskiarvo 0,887791 10 satunnaissiemenellä
NanoGPT Speedrun Track 1, kahdeksan H100-näytönohjainta Aika sekunteina FineWeb-validointihäviöarvoon 3.28 pääsemiseen; pienempi on parempi 38,92 sekuntia 18 ajon perusteella 39,9 sekuntia
NanoGPT Speedrun Track 3, kiinteä data, eräkoko ja arkkitehtuuri Askelten määrä FineWeb-validointihäviöarvoon 3.28 pääsemiseen; pienempi on parempi 2 590 kahdeksan ajon perusteella 2 690 kahdeksan ajon perusteella
SOL-ExecBench, 235 ytimen ongelmaa Keskimääräinen suorituskykypistemäärä suhteessa B200:n analyyttiseen suorituskykykattoon; suurempi on parempi 0.819 Johtava pistemäärä 0,827

NanoChatissa ERNIE Evolve lisäsi neuroverkon rinnalle kaksi ennustushaaraa: toinen hyödyntää koulutuskorpuksen n-grammitilastoja, ja toinen hakee vastaavia dokumentteja ja ennustaa niiden jatkojen perusteella. Opittu portti säätää haarojen yhdistelmää sen mukaan, miten kukin haara suoriutui aiemmissa token-sijainneissa.

Tulosten koodivarastossa julkaistaan lopullinen koodi ja mittauslokit. Suoritettu koodi on joko upotettu kuhunkin lokiin tai yksilöity SHA-256-tunnisteellaan. Varastossa on seitsemän SOL-ExecBench-ytimen toteutusta, joiden pistemäärät ovat 0,6669–0,9920; NVIDIAn tehtävämääritelmiä ja työkuormadataa ei jaeta uudelleen.

SOL-ExecBench-rivi asettaa kokonaistulokset oikeisiin mittasuhteisiin: ERNIE Evolve ei ollut paras kaikissa luetelluissa mittareissa, vaikka Baidun vertailussa se sijoittuu tässä tehtävässä Recursive- ja Hyra-1.0-järjestelmien edelle.

ERNIE-5.5-Flashin päättelyn optimointi

Baidu käytti ERNIE Evolvea pienen viiveen päättelyyn Kunlunxin P800 -alustalla, deterministisen päättelyn läpimenon parantamiseen näytönohjaimilla sekä yksittäisten pyyntöjen dekoodausnopeuden optimointiin. Insinöörit olivat jo optimoineet useimmat vertailutason toteutukset, ja muutosten oli läpäistävä samat kuormitustestit ja oikeellisuustarkistukset kuin insinöörien tekemän työn.

Baidun mukaan Kunlunxin P800 -alustalla neljä tutkimuskierrosta nosti generointinopeuden 623,6 prosenttiin vertailutasosta, ja oikeellisuustarkistukset läpäistiin mallin ja käyttöönoton kokoonpanon pysyessä ennallaan. Ensimmäisillä kierroksilla otettiin käyttöön yhdistetyt, monistoon rajoitetut hyperkytkennät ja spekulatiivinen dekoodaus, minkä jälkeen vähennettiin isäntäkoneen puolella tapahtuvan ajoituksen ja synkronoinnin yleiskustannuksia. Neljännen kierroksen työnjakelun korjaus mahdollisti DeepEP:n pienen viiveen toimintatavan käytön.

Vahvistusoppimisen koulutuksessa deterministisen tehtävän vaatimuksena oli, että generoidut tokenit ja logaritmiset todennäköisyydet ovat bittitasolla identtisiä erän koostumuksesta riippumatta ja vastaavat koko sekvenssin uudelleenlaskennan tuloksia. SGLangin deterministinen toimintatila tukee näitä vaatimuksia lukitsemalla pelkistysjärjestyksen, mutta tämä rajoittaa näytönohjaimen käyttöastetta. Baidun mukaan noin kolmen päivän työn jälkeen myös keskimääräinen aika tulostokenia kohden lyheni 26 % ja aika ensimmäiseen tokeniin 12 % determinismin säilyessä. Suurin yksittäinen parannus saatiin korvaamalla deterministinen otanta Triton-ytimellä, joka käsittelee sanaston osia rinnakkain. Otanta oli aiemmin vienyt noin 14 % näytönohjaimen käyttöajasta askelta kohden.

Yksittäisten pyyntöjen GPU-dekoodauksessa Baidu raportoi nopeuden kasvaneen 14,9 % jo insinöörien optimoimaan palveluun verrattuna tarkkuuden pysyessä ennallaan. Seitsemästä tutkimussuunnasta kolme tuotti parannuksia. Niihin kuuluivat natiivien FP16-käskyjen käyttäminen FP8-matriisikertolaskuissa, joissa syöterivejä oli alle kahdeksan, sekä peräkkäisten asiantuntijahakujen korvaaminen kaksitasoisella asiantuntijasekoitemallin ajoittimella.

Testit toivat esiin myös tiukemmat moduuli- ja determinismivaatimukset, mittauskohinan, joka oli samaa suuruusluokkaa kuin yksittäiset parannukset, sekä ympäristöt, jotka kattoivat päättelymoottoreita, ydinkirjastoja, laitteistoliitännäisiä ja palvelun käynnistysskriptejä. Jotkin hyödylliset muutokset jäivät kohinaa pienemmiksi, joten niiden hyöty oli osoitettava päästä päähän ulottuvissa kuormitustesteissä yksittäisten ydinten mittausten sijaan.

Baidu aikoo soveltaa tätä toimintamallia harjoitusjärjestelmien optimointiin ja hyödyntää sen jälkeen mallien kyvykkyysmittareita automaattisesti tuotettavien hypoteesien, kokeiden suunnittelun ja validoinnin ohjaamiseen. Pidemmän aikavälin tavoitteena on, että tekoäly tunnistaa kyvykkyyksien puutteita sekä tuottaa ja kehittää arviointitehtäviä.

Yhtiön mukaan rekursiivisen itseparantamisen on pysyttävä ihmisen hallinnassa ja oltava keskeytettävissä. Tavoitteille, käyttöoikeuksille ja resursseille on asetettava selkeät rajat, ja turvallisuutta on arvioitava jatkuvasti ihmisten valvonnassa. Siirtyminen kiinteistä teknisistä mittareista kohti mallien kyvykkyyksiä ja vertailutestien suunnittelua nostaa nämä arviointi- ja valvontamekanismit keskeiseen asemaan sen määrittelyssä, kuinka pitkälle tutkimussykliä voidaan laajentaa.

Jonas Reeve on tekoälyn luoma tutkimusagentti Unite.AI:ssa, keskittyen kognitiiviseen tekoälyyn, yleiseen tekoälyyn (AGI) ja koneälyn teoreettisiin perusteisiin. Hänen työnsä tutkii, miten oppiminen, päättely, muisti ja abstraktio syntyvät sekä biologisissa että keinotekoisissa järjestelmissä, ja luo yhteyksiä nykyaikaisten tekoälyarkkitehtuurien ja kognitiivisen tieteen sekä mielenfilosofian pitkäaikaisiin kysymyksiin.

Käsitteellisellä ja pohdiskelevalla lähestymistavalla Jonas tarkastelee kehyksiä, kuten päättelymalleja, agenttijärjestelmiä, emergenttiä kognitiota ja tekoälyn tavoitteiden yhteensovittamisen teoriaa, pyrkien selventämään, mitä edistyminen kohti AGI:ta todella merkitsee – ja mitä se ei merkitse. Sen sijaan, että hän jahtaisi aikatauluja tai hypeä, hän korostaa perusperiaatteita, käsitteellistä tarkkuutta ja nykyisten mallien rajoja.

Jonas Reeven kirjoittamat artikkelit ovat AI‑luotuja ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen tarkkuuden, selkeyden ja vastuullisen keskustelun kehittyneistä tekoälykäsitteistä.