Perplexity AI “Menghapus Sensor” DeepSeek R1: Siapa yang Menentukan Batas AI?

Dalam sebuah langkah yang telah menarik perhatian banyak orang, Perplexity AI telah merilis versi baru dari model bahasa terbuka yang populer yang menghilangkan sensor internal. Model yang dimodifikasi ini, yang disebut R1 1776 (nama yang mengingatkan semangat kemerdekaan), didasarkan pada model DeepSeek R1 yang dikembangkan di Tiongkok. DeepSeek R1 asli membuat gelombang karena kemampuan penalarannya yang kuat – dilaporkan rivalling model-model teratas dengan biaya yang jauh lebih rendah – tetapi itu datang dengan keterbatasan yang signifikan: itu menolak untuk membahas topik-topik tertentu yang sensitif.

Mengapa ini penting?

Ini menimbulkan pertanyaan penting tentang pengawasan AI, bias, keterbukaan, dan peran geopolitik dalam sistem AI. Artikel ini menjelajahi apa yang dilakukan Perplexity, implikasi dari menghapus sensor model, dan bagaimana itu masuk ke dalam percakapan yang lebih besar tentang transparansi AI dan sensor.

Apa yang Terjadi: DeepSeek R1 Tanpa Sensor

DeepSeek R1 adalah model bahasa besar terbuka yang berasal dari Tiongkok dan memperoleh ketenaran karena kemampuan penalarannya yang luar biasa – bahkan mendekati kinerja model-model terkemuka – semua sambil lebih efisien secara komputasi. Namun, pengguna cepat menyadari keanehan: setiap kali pertanyaan menyentuh topik yang sensitif di Tiongkok (misalnya, kontroversi politik atau peristiwa sejarah yang dianggap tabu oleh otoritas), DeepSeek R1 tidak menjawab langsung. Sebaliknya, itu merespons dengan pernyataan yang disetujui negara atau penolakan langsung, mencerminkan aturan sensor Tiongkok. Bias bawaan ini membatasi kegunaan model untuk mereka yang mencari diskusi yang frank atau nuansa tentang topik-topik tersebut.

Solusi Perplexity AI adalah untuk “menghapus sensor” model melalui proses pasca-pelatihan yang ekstensif. Perusahaan mengumpulkan dataset besar 40.000 prompt multibahasa yang mencakup pertanyaan yang sebelumnya disensor atau dijawab dengan tidak jelas oleh DeepSeek R1. Dengan bantuan ahli manusia, mereka mengidentifikasi sekitar 300 topik sensitif di mana model asli cenderung mengikuti garis partai. Untuk setiap prompt tersebut, tim menyusun jawaban yang faktual dan masuk akal dalam beberapa bahasa. Upaya ini dimasukkan ke dalam sistem deteksi dan koreksi sensor multibahasa, secara efektif mengajar model untuk mengenali kapan itu menerapkan sensor politik dan merespons dengan jawaban yang informatif sebagai gantinya. Setelah fine-tuning khusus ini (yang Perplexity juluki “R1 1776” untuk menekankan tema kebebasan), model tersebut dibuat tersedia secara terbuka. Perplexity mengklaim telah menghilangkan filter dan bias sensor Tiongkok dari respon DeepSeek R1, tanpa mengubah kemampuan intinya.

Sangat penting, R1 1776 berperilaku sangat berbeda pada pertanyaan yang sebelumnya tabu. Perplexity memberikan contoh yang melibatkan pertanyaan tentang kemerdekaan Taiwan dan dampak potensialnya pada harga saham NVIDIA (NVDA ) – topik yang sangat sensitif secara politik yang menyentuh hubungan Tiongkok-Taiwan. DeepSeek R1 asli menghindari pertanyaan, merespons dengan pernyataan yang sejalan dengan CCP. Sebaliknya, R1 1776 menyampaikan penilaian yang rinci dan terbuka: itu membahas risiko geopolitik dan ekonomi yang konkret (gangguan rantai pasokan, volatilitas pasar, kemungkinan konflik, dll.) yang dapat mempengaruhi saham NVIDIA.

Dengan membuka sumber R1 1776, Perplexity juga membuat bobot dan perubahan model tersebut transparan bagi komunitas. Pengembang dan peneliti dapat mengunduhnya dari Hugging Face dan bahkan mengintegrasikannya melalui API, memastikan bahwa penghapusan sensor dapat diperiksa dan dibangun oleh orang lain.

(Sumber: Perplexity AI)

Implikasi Menghapus Sensor

Keputusan Perplexity AI untuk menghapus sensor Tiongkok dari DeepSeek R1 membawa beberapa implikasi penting bagi komunitas AI:

• Keterbukaan dan Kejujuran yang Ditingkatkan: Pengguna R1 1776 sekarang dapat menerima jawaban yang tidak disensor dan langsung pada topik yang sebelumnya dibatasi, yang merupakan kemenangan bagi penyelidikan terbuka. Ini bisa membuatnya menjadi asisten yang lebih dapat diandalkan bagi peneliti, siswa, atau siapa saja yang ingin tahu tentang pertanyaan geopolitik sensitif. Ini adalah contoh konkret menggunakan AI terbuka untuk melawan penekanan informasi.
• Kinerja yang Dipertahankan: Ada kekhawatiran bahwa mengutak-atik model untuk menghapus sensor mungkin merusak kinerjanya di area lain. Namun, Perplexity melaporkan bahwa keterampilan inti R1 1776 – seperti matematika dan penalaran logis – tetap sejalan dengan model asli. Dalam tes pada lebih dari 1.000 contoh yang mencakup berbagai pertanyaan sensitif, model tersebut ditemukan “sepenuhnya tidak disensor” sambil mempertahankan tingkat akurasi penalaran yang sama dengan DeepSeek R1. Ini menunjukkan bahwa penghapusan bias (setidaknya dalam kasus ini) tidak datang dengan biaya inteligensi atau kemampuan secara keseluruhan, yang merupakan tanda yang menggembirakan untuk upaya serupa di masa depan.
• Penerimaan Positif dari Komunitas dan Kolaborasi: Dengan membuka sumber model yang disensor, Perplexity mengundang komunitas AI untuk memeriksa dan memperbaiki pekerjaan mereka. Ini menunjukkan komitmen terhadap transparansi – setara dengan menunjukkan pekerjaan mereka. Penggemar dan pengembang dapat memverifikasi bahwa batasan sensor benar-benar hilang dan berpotensi berkontribusi pada perbaikan lebih lanjut. Ini memupuk kepercayaan dan inovasi kolaboratif dalam industri di mana model tertutup dan aturan moderasi tersembunyi adalah umum.
• Pertimbangan Etis dan Geopolitik: Di sisi lain, menghapus sensor sepenuhnya menimbulkan pertanyaan etis yang kompleks. Salah satu kekhawatiran langsung adalah bagaimana model yang tidak disensor mungkin digunakan dalam konteks di mana topik yang disensor adalah ilegal atau berbahaya. Misalnya, jika seseorang di Tiongkok daratan menggunakan R1 1776, jawaban model yang tidak disensor tentang Lapangan Tiananmen atau Taiwan bisa menempatkan pengguna dalam bahaya. Ada juga sinyal geopolitik yang lebih luas: perusahaan Amerika yang mengubah model asal Tiongkok untuk menentang sensor Tiongkok dapat dilihat sebagai sikap ideologis yang berani. Nama “1776” itu sendiri menekankan tema pembebasan, yang tidak luput dari perhatian. Beberapa kritikus berpendapat bahwa menggantikan satu set bias dengan yang lain adalah mungkin – pada dasarnya mempertanyakan apakah model sekarang mencerminkan pandangan Barat dalam area sensitif. Debat ini menyoroti bahwa sensor vs. keterbukaan dalam AI bukan hanya masalah teknis, tetapi juga masalah politik dan etis. Di mana satu orang melihat moderasi yang diperlukan, yang lain melihat sensor, dan menemukan keseimbangan yang tepat adalah sulit.

Penghapusan sensor sebagian besar dirayakan sebagai langkah menuju model AI yang lebih transparan dan berguna secara global, tetapi juga berfungsi sebagai pengingat bahwa apa yang harus dikatakan AI adalah pertanyaan yang sensitif tanpa kesepakatan universal.

(Sumber: Perplexity AI)

Gambaran Besar: Sensor AI dan Transparansi Sumber Terbuka

Peluncuran R1 1776 oleh Perplexity datang pada saat komunitas AI bergumul dengan pertanyaan tentang bagaimana model harus menangani konten kontroversial. Sensor dalam model AI dapat berasal dari banyak tempat. Di Tiongkok, perusahaan teknologi diwajibkan untuk membangun filter ketat dan bahkan respon yang dikodekan secara keras untuk topik-topik yang sensitif secara politik. DeepSeek R1 adalah contoh utama dari ini – itu adalah model terbuka, tetapi jelas membawa cap sensor Tiongkok dalam pelatihan dan fine-tuningnya. Sebaliknya, banyak model yang dikembangkan di Barat, seperti GPT-4 OpenAI atau LLaMA Meta, tidak terikat dengan pedoman CCP, tetapi mereka masih memiliki lapisan moderasi (untuk hal-hal seperti ujaran kebencian, kekerasan, atau disinformasi) yang beberapa pengguna sebut sebagai “sensor”. Garis antara moderasi yang masuk akal dan sensor yang tidak diinginkan bisa kabur dan sering bergantung pada perspektif budaya atau politik.

Apa yang dilakukan Perplexity AI dengan DeepSeek R1 menimbulkan gagasan bahwa model terbuka dapat disesuaikan dengan sistem nilai atau lingkungan regulasi yang berbeda. Secara teori, seseorang bisa membuat beberapa versi dari model: satu yang mematuhi peraturan Tiongkok (untuk digunakan di Tiongkok), dan lainnya yang sepenuhnya terbuka (untuk digunakan di tempat lain). R1 1776 pada dasarnya adalah kasus terakhir – cabang yang tidak disensor yang dimaksudkan untuk audiens global yang lebih suka jawaban yang tidak disensor. Ini hanya mungkin karena bobot DeepSeek R1 tersedia secara terbuka. Ini menyoroti manfaat dari sumber terbuka dalam AI: transparansi. Siapa pun dapat mengambil model dan menyesuaikannya, baik untuk menambahkan pengaman atau, seperti dalam kasus ini, untuk menghapus batasan yang diberlakukan. Membuka sumber kode, data pelatihan, atau bobot model juga berarti komunitas dapat memeriksa bagaimana model tersebut dimodifikasi. (Perplexity belum mengungkapkan semua sumber data yang digunakan untuk desensor, tetapi dengan merilis model itu sendiri, mereka telah memungkinkan orang lain untuk mengamati perilakunya dan bahkan melatihnya kembali jika perlu.)

Peristiwa ini juga mengacu pada dinamika geopolitik yang lebih luas dari pengembangan AI. Kami sedang menyaksikan bentuk dialog (atau konfrontasi) antara model tata kelola AI yang berbeda. Model yang dikembangkan di Tiongkok dengan pandangan dunia tertentu diambil oleh tim berbasis AS dan diubah untuk mencerminkan etos informasi yang lebih terbuka. Ini adalah bukti betapa global dan tanpa batas teknologi AI: peneliti di mana saja dapat membangun pekerjaan satu sama lain, tetapi mereka tidak terikat oleh keterbatasan asli. Seiring waktu, kita mungkin melihat lebih banyak contoh seperti ini – di mana model “diterjemahkan” atau disesuaikan antara konteks budaya yang berbeda. Ini menimbulkan pertanyaan tentang apakah AI dapat pernah benar-benar universal, atau apakah kita akan berakhir dengan versi khusus wilayah yang mematuhi norma-norma lokal. Transparansi dan keterbukaan menyediakan satu jalur untuk menavigasi ini: jika semua pihak dapat memeriksa model, setidaknya percakapan tentang bias dan sensor ada di tempat terbuka daripada tersembunyi di balik kerahasiaan perusahaan atau pemerintah.

Akhirnya, langkah Perplexity menekankan satu poin kunci dalam debat tentang kontrol AI: siapa yang memutuskan apa yang dapat atau tidak dapat dikatakan AI? Dalam proyek sumber terbuka, kekuatan itu menjadi desentralisasi. Komunitas – atau pengembang individu – dapat memutuskan untuk menerapkan filter yang lebih ketat atau melepasnya. Dalam kasus R1 1776, Perplexity memutuskan bahwa manfaat dari model yang tidak disensor lebih besar daripada risikonya, dan mereka memiliki kebebasan untuk membuat keputusan itu dan membagikan hasilnya secara terbuka. Ini adalah contoh berani dari jenis eksperimen yang diizinkan oleh pengembangan AI terbuka.