Together AI Meluncurkan Layanan Together Post-Training untuk Model Kustom

Pada 19 Oktober 2026, Together AI meluncurkan Together Post-Training, layanan untuk membangun model kustom melalui siklus pembelajaran penguatan dan penyempurnaan terbimbing yang ditentukan pengguna, dengan harga perkenalan US$9 per jam penggunaan GPU B200 selama enam minggu pertama.

Model yang Diluncurkan, Harga, dan Akses Awal

Layanan ini dirancang untuk membangun model kustom, baik dari imbalan lingkungan melalui pembelajaran penguatan (RL) maupun dari data supervisi melalui penyempurnaan terbimbing (SFT). Pelanggan menentukan siklus pelatihan, termasuk data, lingkungan, dan kerangka kerja untuk agen, serta dapat menambahkan langkah-langkah seperti pencatatan log atau tolok ukur eksternal. Sementara itu, Together mengoptimalkan bersama sistem dan infrastruktur yang mendasarinya demi kualitas model dan kecepatan pelatihan. Together mengatakan bahwa layanan ini dibuat karena infrastruktur RL semakin kompleks dan banyak perusahaan yang dapat memperoleh manfaat dari pascapelatihan tidak pernah memulainya atau mulai tetapi terhenti akibat beban infrastruktur.

Layanan ini diluncurkan dengan model berbobot terbuka Muse Spark Open, GLM 5.3, Kimi K3, dan Qwen 3.8-27B. Together mengatakan bahwa dalam beberapa minggu mendatang, pilihan model akan diperluas untuk mencakup LLM terdepan maupun model kecil yang efisien. Selama enam minggu pertama, layanan ini ditawarkan dengan harga diskon US$9 per jam penggunaan GPU B200.

Sebelum peluncuran, Together memberikan akses awal kepada sejumlah organisasi terpilih selama beberapa bulan terakhir. Adit Jain, peneliti di Collinear AI, mengatakan bahwa timnya telah bekerja sama dengan perusahaan tersebut sejak beta Post-Training diluncurkan pada April 2026.

Sumber Daya Model Khusus dan Penagihan per Menit Penggunaan GPU

Semua eksperimen berjalan di Sumber Daya Model, istilah yang digunakan Together untuk alokasi GPU khusus bagi satu pelanggan, tanpa harus bersaing dengan permintaan prioritas dari pengguna lain. Setiap Sumber Daya Model dapat menampung satu atau beberapa Sesi Pelatihan, dan setiap sesi mewakili satu eksperimen pada model dasar yang sama, misalnya satu set adaptor LoRA. Together mengatakan bahwa alokasi khusus ini juga memungkinkan penyempurnaan seluruh bobot, bukan hanya LoRA, saat mengadaptasi model untuk tugas berskala besar yang sarat pengetahuan.

Setiap sesi mencakup instans Trainer yang bertanggung jawab atas langkah maju dan mundur serta pembaruan bobot, bersama instans Generator yang menjalankan rollout dari kebijakan. Untuk penyempurnaan terbimbing, Sumber Daya Model dapat dimulai tanpa generator agar biaya lebih hemat. Pengguna menentukan kapan parameter Trainer dikirim ke Generator, dan RL asinkron didukung agar penggunaan GPU pada kedua komponen tetap tinggi, terutama selama proses rollout agen yang panjang.

Pengguna dapat menjalankan pelatihan LoRA, termasuk menggunakan beberapa adaptor LoRA secara bersamaan pada kapasitas GPU yang sama, serta melakukan eksperimen dengan seluruh bobot untuk model tertentu. Layanan ini mendukung fungsi kerugian standar, termasuk cross-entropy, GRPO, CISPO, dan DPPO. Pengguna juga dapat menghitung sasaran pelatihan khusus secara lokal dan mengirim gradiennya ke Trainer.

Menurut dokumentasi pascapelatihan, antarmuka utama SDK terdiri atas metode create, yang menyediakan Sumber Daya Model (unit penagihan), dan metode create_session, yang mengaitkan sesi pelatihan dengannya. Setelah itu, tersedia pemanggilan untuk setiap langkah: sample_batch untuk menghasilkan keluaran yang akan dinilai, forward_backward untuk menghitung kerugian dan melakukan propagasi balik gradien, optim_step untuk memperbarui bobot, serta weights_sync untuk menerbitkan bobot baru ke replika Generator. SFT dan DPO melewati sample_batch dan weights_sync karena keduanya tidak mengambil sampel keluaran.

Sumber Daya Model ditagih per menit penggunaan GPU. Together mengatakan bahwa begitu eksperimen ditingkatkan skalanya, biaya pelatihan keseluruhan menjadi lebih rendah daripada tarif berbasis token. Dokumentasi membandingkan model penagihan ini dengan layanan penyempurnaan standar perusahaan, yang mengenakan biaya per token yang diproses dan berjalan sebagai tugas hingga selesai tanpa kendali di tengah proses. Pengguna pascapelatihan dapat memeriksa metrik tiap langkah, mengubah laju pembelajaran, mengacak ulang data, atau menghentikan proses berdasarkan logika mereka sendiri.

Stabilitas Pelatihan dan Jalur Menuju Penerapan

Together mengatakan bahwa layanan ini menghilangkan banyak sumber pergeseran kebijakan antara mesin pelatihan dan inferensi. Ketidakcocokan numerik kecil pada bobot yang sama dapat menyebabkan proses RL berkinerja buruk atau gagal. Untuk mengatasinya, layanan ini menggunakan teknik standar seperti Rollout Routing Replay, bersama optimasi yang diambil dari riset stabilitas pelatihan Together. Perusahaan tersebut mengatakan bahwa mesin rollout-nya memanfaatkan optimasi yang sama dengan tumpukan penyajian modelnya, dengan pengakselerasian SFT dan RL melalui penyimpanan tembolok cerdas dan perutean untuk agen multi-giliran, serta paralelisme dan pengemasan urutan yang dioptimalkan.

Setelah pelatihan, perusahaan kini mendukung penyajian adaptor multi-LoRA di Dedicated Model Inference, sehingga pengguna dapat mengganti adaptor dalam satu penerapan GPU alih-alih memulai penerapan produksi terpisah untuk setiap proses. Together mengatakan bahwa setiap checkpoint pelatihan tetap mempertahankan kualitasnya saat disajikan, bahkan setelah beralih dari pengambilan sampel multi-LoRA ke inferensi gabungan dengan presisi FP4.

Dokumentasi menguraikan alur kerja pelatihan, evaluasi, dan penerapan ke produksi: latih beberapa adaptor dengan satu model dasar beku, lampirkan kandidat-kandidat tersebut ke satu penerapan multi-LoRA dan bandingkan dengan menyebutkan adaptor yang berbeda di setiap permintaan, lalu terapkan kandidat terbaik dalam mode gabungan pada penerapannya sendiri. Untuk GLM-5.3 dan Kimi-K3, adaptor harus terlebih dahulu melalui tahap persiapan untuk inferensi FP4.

Orientasi, Migrasi Tinker, dan Pengguna Awal

Untuk memulai, diperlukan Together SDK versi terbaru dan dokumentasi. Together menerbitkan buku panduan di repositori post-training-cookbook di GitHub, yang mencakup pelatihan GRPO pada tolok ukur GSM8K, DPO yang diterapkan sebagai fungsi loss khusus, serta pelatihan beberapa adapter LoRA dalam sumber daya model yang sama; dokumentasi menjelaskan bahwa buku panduan tersebut merupakan pustaka Python berisi loop siap pakai, dengan notebook yang memandu pengguna menjalankan GRPO, SFT, dan pelatihan multi-adapter pada satu sumber daya model menggunakan pemanggilan asinkron SDK. Bagi tim yang sudah menggunakan Tinker API, jalur migrasi mengganti satu baris impor dengan import together.post_training.tinker as tinker, yang dijelaskan secara terperinci dalam panduan migrasi.

Di antara pengguna akses awal, Anthony Li, wakil direktur ilmu data di Deel, mengatakan bahwa kendali dan fleksibilitas platform memungkinkan timnya mulai menjalankan eksperimen RL nyata dalam waktu sekitar dua jam dan menjalankan hingga lima eksperimen RL secara bersamaan dengan kapasitas GPU yang sama. Oliver Normand, insinyur pendiri di Jack & Jill, mengatakan bahwa timnya melatih lebih lanjut sebuah model untuk memprediksi kandidat yang ingin ditemui oleh manajer perekrutan—langkah inti dalam pencarian yang dilakukan oleh agen perekrutan Jill milik perusahaan tersebut—dan menyamai kualitas model sumber tertutup dalam evaluasi luring dengan menggunakan model sumber terbuka yang biaya penyajiannya jauh lebih rendah; ia mengatakan bahwa para insinyur Together yang ditempatkan langsung membantu pelanggan menulis skrip yang menghasilkan capaian pertama timnya.

Jain dari Collinear AI mengatakan bahwa proses orientasi mandiri yang lancar memudahkan peluncuran eksperimen RL agentik skala penuh. Para insinyur Together yang ditempatkan langsung membantu pelanggan sepanjang siklus pascapelatihan, mulai dari memilih model terbuka dan kerangka kerja agen hingga menyiapkan data dan lingkungan pelatihan, melakukan evaluasi, serta merilis titik akhir yang telah dioptimalkan.