AI-mallit ja alustat
AWS tuo kaikkien painojen koulutuksen palvelimettomaan SageMaker-mallien mukauttamiseen

Keskeiset kohdatTäysi hienosäätö päivittää jokaisen painon, kun taas LoRA jäädyttää esikoulutetut…
Näytä lisää
- Täysi hienosäätö päivittää jokaisen painon, kun taas LoRA jäädyttää esikoulutetut painot ja lisää matala-asteisia adaptereita.
- Aggressiiviset oppimisnopeudet 5e-5 tai korkeammat aiheuttivat katastrofaalista unohtamista, ja MMLU-tarkkuus laski 3,6 prosenttiin.
- Palvelimeton toiminta poistaa infrastruktuurin hallinnan, mutta ei vähennä koulutettavien painojen määrää.
Amazon Web Services ilmoitti 18. marraskuuta 2026 täyden hienosäädön (FFT) tuesta SageMaker AI:n palvelimettomassa mallien mukauttamisessa ja raportoi 90,0 prosentin semanttisen oikeellisuuden koodauskokeessa, jossa käytettiin yli 100 000 koulutusesimerkkiä. Samalla se varoitti, että aggressiiviset asetukset heikensivät yleistä tietämystä merkittävästi.
Asiakkaat toimittavat perusmallin, aineiston ja hyperparametrit; palvelu varaa laskentakapasiteetin ja hallinnoi tarkistuspisteitä ilman GPU-resurssien varaamista, klusterin käyttöönottoa tai hajautetun koulutuksen määrityksiä. AWS:n SageMaker Python SDK -esimerkissä menetelmän vaihtaminen tarkoittaa sen korvaamista TrainingType.FULL toisella menetelmällä TrainingType.LORA, jolloin työn muut määritykset jäävät ennalleen.
FFT päivittää kaikki mallin painot. LoRA puolestaan jäädyttää esikoulutetut painot ja lisää matalan asteen sovitinmatriiseja, mikä pienentää GPU-kapasiteetin tarvetta mutta rajoittaa päivitykset pienempään esitystilaan. AWS:n mukaan täyden asteen koulutus pystyy tallentamaan monimutkaisempia mukautuksia toimialakohtaisiin tarpeisiin aineistojen kasvaessa sen sijaan, että vain koulutettavien parametrien määrää lisättäisiin.
Koodauksen hallitut testit
AWS vertasi menetelmiä hienosäätämällä Qwen3-4B-perusmallia ohjatusti (SFT) käyttäen samoja kehotteita, tavoitevastauksia ja arviointikoodia. Magicoder-Evol-Instruct-110K-aineisto sisälsi koodaukseen liittyviä ohje–vastauspareja, jotka käsittelivät algoritmien suunnittelua, virheenkorjausta, tietorakenteita ja järjestelmäohjelmointia. Aineisto jaettiin siten, että koulutukseen tuli 99 000 tietuetta, validointiin 5 500 ja erilliseen testijoukkoon 5 500.
Arvioinneissa tehtävän suorituskyky erotettiin tietämyksen säilymisestä. Amazon Nova Pro toimi LLM-tuomarina: se arvioi generoitua koodia ja alkuperäistä kehotetta lukemalla koodin loogista oikeellisuutta. PRIMECODE mittasi samankaltaisuutta vertailuratkaisuihin deterministisillä BLEU-, ROUGE-1/2/L- ja F1-mittareilla, kun taas MMLU testasi yleistä tietämystä 57 akateemisella alalla.
AWS raportoi, että semanttisen oikeellisuuden pistemäärä oli korkeimmillaan kolmen epookin kohdalla ja että pidempi koulutus heikensi kaikkia testattuja versioita. AWS:n tutkaesityksessä FFT päihitti LoRA:n ja perusmallin kaikilla esitetyillä laatumittareilla, ja suurimmat erot näkyivät BLEU- ja ROUGE-2-mittareissa. Tämä viittaa siihen, ettei ero rajoittunut vain yhteen mittariin.
AWS kertoi tehneensä kymmeniä mukautuskokeita useilla perusmalleilla ja vaihdelleensa oppimisnopeutta, eräkokoa, lämmittelysuhdetta, epookkien määrää ja aineiston kokoa. Jokainen ajo kesti työn lähettämisestä arviointiin muutaman tunnin. Tuloksena syntyneet mallit rekisteröitiin automaattisesti versioituina mallipaketteina SageMaker Model Registryyn tarkastelua tai käyttöönottoa varten.
Täyden hienosäädön unohtamisriskit
AWS varoitti, ettei FFT ollut kaikissa tapauksissa parempi: sekä FFT että LoRA suoriutuivat MATH-testin täsmäosumissa perusmallia heikommin, ja erillisessä LLM-tuomarin tekemässä vertailussa LoRA sai paremman tuloksen: 81,5 % verrattuna FFT:n 79,5 prosenttiin.
Suuret oppimisnopeudet aiheuttivat merkittäviä menetyksiä. AWS:n testeissä MATH-pisteet putosivat 2–3 prosenttiin ja MMLU-tarkkuus 3,6 prosenttiin, kun oppimisnopeus oli vähintään 5e-5. Tämä on osoitus katastrofaalisesta unohtamisesta: laajempien kykyjen menetyksestä, joka syntyy, kun toimialakohtainen koulutus korvaa esikoulutuksessa opitun tiedon. Riskikartassa 2e-5 tunnistettiin suurille aineistoille turvallisemmaksi asetukseksi. Testatuista kokoonpanoista parhaiten yleistä tietämystä MMLU-mittarilla säilytti perustaso, jossa tähän oppimisnopeuteen yhdistettiin 5 prosentin lämmittely ja 8:n globaalin eräkoon arvo.
Myös eräkoko vaikutti tietämyksen säilymiseen. Kun oppimisnopeus pysyi samana, pienemmät erät tuottivat kohinaisempia päivityksiä, jotka toimivat ikään kuin oppimisnopeus olisi suurempi, ja lisäsivät unohtamisriskiä. Suuremmat erät vähensivät kohinaa mutta pienensivät samalla optimointiaskeleiden määrää, mikä saattoi johtaa mallin alisovittamiseen.
Käyttöönoton kompromissit
AWS:n tuettujen mallien luettelon mukaan ohjattu hienosäätö FFT:llä on saatavilla avoimien painojen malleille, kuten DeepSeek R1 Distill Qwen 1.5B, Google Gemma 4 26B A4B ja NVIDIA Nemotron 3 Nano 30B (A3B).
FFT-dokumentaation mukaan menetelmä käyttää samoja aineistomuotoja kuin LoRA, mutta vaatii enemmän laskentatehoa ja pidemmän koulutusajan, tuottaa suurempia tiedostoja, jotka sisältävät mallin kaikki painot, eikä ole yhteensopiva jatkuvan mukauttamisen kanssa. Se myös poistaa sovittimien aiheuttaman lisäkuormituksen päättelyvaiheessa.
Palvelimeton toimintamalli muuttaa sitä, kuka varaa infrastruktuurin ja hallinnoi tarkistuspisteitä; se ei vähennä koulutettavien painojen määrää. Julkaisu helpottaa siis syvällisempää mukauttamista, mutta laskentatehon ja laadun välinen kustannustehokkuus riippuu edelleen siitä, ovatko tehtäväkohtaiset hyödyt suurempia kuin raskaamman koulutuksen kustannukset ja mahdollinen laajempien kykyjen menetys.












