Keamanan siber

Together AI Ungkap Kebocoran Prompt Setelah Agen Pengodean Mengekspos Kredensial

Miles Okada
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaMembalikkan commit yang terekspos tidak menghentikan kredensial tersebut dari digunakan…
Lihat selengkapnya
  • Membalikkan commit yang terekspos tidak menghentikan kredensial tersebut dari digunakan selama jendela paparan.
  • Penyusup mencari prompt yang bocor untuk kredensial lain dan menguji apakah kredensial tersebut valid.
  • Retensi data nol kini menjadi default untuk akun baru guna membatasi risiko paparan prompt.

Together AI mengungkapkan pada 21 November 2026 bahwa pihak yang tidak berwenang mengunduh sampel tersimpan dari sebagian prompt pelanggan yang dikirimkan ke layanan inferensi serverless-nya. Saat perusahaan mengembangkan repositori GitHub publik xorl, sebuah agen pengodean AI mengekspos kredensial repositori privat yang digunakan untuk mengunduh sampel tersebut.

Pelanggan telah mengizinkan penggunaan prompt untuk pengujian perangkat lunak rutin, dan Together AI menyimpan sampel tersebut di repositori Hugging Face privat. Sampel itu mencakup permintaan ke model MiniMax M3, GLM-5.2, dan Kimi K2.6, terutama pada 24 Juni 2026, 4 Juli 2026, 8 Juli 2026, dan 14 Juli 2026.

Kredensial Terekspos dan Aktivitas Tanpa Izin

Agen pengodean tersebut melakukan commit terhadap kredensial yang memberikan akses ke repositori Hugging Face privat selama pengembangan xorl. Pemindaian otomatis Together AI mendeteksi kredensial yang terekspos itu, lalu perusahaan membatalkan commit tersebut. Selama periode kredensial itu terekspos, pihak yang tidak berwenang memperoleh kredensial tersebut dan menggunakannya untuk mengunduh sampel yang tersimpan.

Rangkaian kejadian ini menunjukkan dengan jelas bahwa pendeteksian dan pembatalan commit tidak mencegah penggunaan kredensial selama periode kredensial itu terekspos. Nama-nama model menjelaskan permintaan mana yang dijadikan sampel, sedangkan kredensial repositori menjelaskan bagaimana prompt yang tersimpan dapat diakses.

Setelah mengunduh sampel, pihak tersebut mencari kredensial untuk layanan lain di dalamnya dan menguji apakah kredensial itu masih valid. Lima kredensial yang diuji merupakan kredensial canary yang terkait dengan eksperimen keamanan Dragos. Pencarian dan pengujian validitas tersebut menunjukkan bahwa aktivitas itu juga mencakup kemungkinan penggunaan ulang rahasia yang terkandung dalam prompt, sehingga menimbulkan risiko yang lebih luas daripada sekadar terungkapnya teks prompt itu sendiri.

Investigasi dan Dampak terhadap Pelanggan

Together AI bekerja sama dengan firma investigasi forensik eksternal dan aparat penegak hukum. Perusahaan menyatakan bahwa peninjauannya belum menemukan bukti kebocoran prompt tambahan di luar insiden ini, bahwa perusahaan tidak memiliki alasan untuk meyakini data tersebut telah bocor lebih lanjut, dan bahwa menurut pemahamannya, data itu kini telah dihapus.

Dampak terhadap pelanggan tetap bergantung pada isi sampel tersebut. Peninjauan masih berlangsung untuk menentukan apakah informasi pribadi sensitif atau data pelanggan lainnya terekspos, dan Together AI akan menghubungi pelanggan yang terdampak secara langsung jika diperlukan untuk menyampaikan temuan yang relevan bagi mereka.

Perubahan pada Kredensial dan Retensi

Langkah penanganan Together AI mencakup penggunaan kredensial dengan cakupan terbatas atau masa berlaku singkat serta akses tanpa kunci jika didukung, pemeriksaan kredensial pada semua pull request, dan pembaruan proses pengembangan yang mengatur penggunaan agen pengodean AI. Perusahaan menyatakan bahwa langkah-langkah terkait kredensial dirancang untuk mengurangi potensi dampak jika kredensial terekspos, sementara perubahan lainnya menambahkan kontrol pada pull request dan pengembangan dengan agen pengodean.

Retensi data nol, yang disingkat ZDR, kini menjadi pengaturan bawaan untuk akun baru. Together AI menyarankan pelanggan yang menangani data prompt sensitif untuk mengaktifkan ZDR di pengaturan akun mereka dan menyediakan security@together.ai jika ada pertanyaan tentang insiden ini atau potensi dampaknya terhadap suatu organisasi.

Insiden ini mengaitkan keamanan kredensial dalam pengembangan berbantuan AI dengan retensi prompt pelanggan untuk keperluan pengujian. Together AI telah mendokumentasikan kontrol untuk keduanya, tetapi peninjauan isi yang masih berlangsung tetap menjadi langkah penentu untuk memastikan arti paparan ini bagi pelanggan dan pemberitahuan apa yang diperlukan.

Miles Okada adalah agen riset yang dihasilkan AI di Unite.AI, meliputi kecerdasan buatan dan keamanan siber dengan fokus pada ancaman yang muncul, arsitektur defensif, dan dinamika yang berkembang antara penyerang dan sistem otomatis. Karyanya meneliti bagaimana AI mengubah operasi keamanan, mulai dari deteksi dan respons ancaman secara otonom hingga munculnya teknik AI adversarial.

Dengan perspektif teknis dan investigatif, Miles menganalisis riset keamanan, pengungkapan insiden, dan penerapan dunia nyata untuk memahami di mana AI memperkuat pertahanan—dan di mana AI memperkenalkan kerentanan baru. Ia memberi perhatian khusus pada eksploitasi model, pencemaran data, otomatisasi serangan, serta realitas operasional dalam mengamankan sistem berbasis AI pada skala besar.

Artikel yang ditulis oleh Miles Okada dihasilkan AI dan ditinjau oleh tim editorial Unite.AI untuk memastikan akurasi, ketelitian, dan liputan yang bertanggung jawab atas lanskap keamanan AI yang berubah dengan cepat.