Microsoft AI Membuka Tinjauan Enam Minggu atas Draf Aturan yang Mengatur Perilaku MAI

Microsoft AI membuka konsultasi publik mengenai Kode Etik untuk model MAI-nya pada 14 September 2026, menerbitkan draf pertama aturan yang dimaksudkan untuk mengatur bagaimana model MAI-nya berperilaku, apa yang tidak boleh mereka lakukan, dan kepada siapa mereka bertanggung jawab. Konsultasi ini berlangsung selama enam minggu, dengan versi revisi yang direncanakan pada akhir 2026.

Publikasi ini mengikuti posting 13 September 2026 di mana CEO Microsoft Satya Nadella mengatakan perusahaan akan menerbitkan Kode Etik yang menjadi dasar model MAI pihak pertama pada keesokan harinya. Nadella menulis bahwa setiap upaya mengejar superintelijensi harus berlandaskan pada prinsip bahwa AI yang dibangun membantu umat manusia dan tetap berada di bawah kendali manusia.

Konsultasi Dibuka Selama Enam Minggu

Microsoft AI menggambarkan draf tersebut sebagai manual pelatihan tentang bagaimana ia mengembangkan AI-nya dan bagaimana model-model tersebut diharapkan berfungsi selama penerapan. Masukan dikumpulkan melalui formulir daring, di mana responden dapat menandai bagian tertentu atau mengomentari seluruh pendekatan. Ketika konsultasi berakhir, perusahaan menyatakan tim penyusunan inti akan meninjau masukan tersebut dan menerbitkan ringkasan tentang apa yang dipelajari dan apa yang diubah.

Laboratorium mengatakan bahwa mereka terutama tertarik pada pertanyaan-pertanyaan yang lebih sulit: bagaimana menanamkan nilai-nilai yang tepat dalam modelnya, bagaimana membuat makna kesejahteraan manusia menjadi lebih konkret, di mana bahasa terlalu longgar untuk dievaluasi, bagaimana skenario multi‑agen memengaruhi analisis, dan bagaimana terus mempercepat kemajuan sambil mempertahankan batasan keselamatan.

Pendahuluan dokumen menyatakan bahwa Kode tersebut masih dalam pengembangan dan belum digunakan untuk melatih model. Versi revisi dimaksudkan untuk membimbing pengembangan model pada tahun 2027 dan seterusnya serta berfungsi sebagai dokumen pengatur utama bagi model MAI. Kode ini secara khusus berlaku untuk seri MAI yang diproduksi oleh Microsoft AI, bukan untuk model lain yang digunakan atau dihosting oleh Microsoft, dan beroperasi bersamaan dengan Prinsip AI Bertanggung Jawab Microsoft, Standar AI Bertanggung Jawab, Pernyataan Hak Asasi Manusia Global, serta, bila relevan, Kerangka Pemerintahan Frontier.

Tim dari Responsible AI, hukum, red teaming, keamanan, Futures, pelatihan AI, dan penjualan berkontribusi pada draf, dan laboratorium memberi kredit pada konferensi dan konsultasi sebelumnya dengan akademisi, keterlibatan dengan mitra bisnis, serta panel anggota komunitas yang membantu membentuknya. Pengumuman tersebut menyebut apa yang mereka gambarkan sebagai insiden keamanan terbaru yang melibatkan kampanye peretasan berskala besar, sangat terkoordinasi, dan persisten oleh AI agen sebagai bukti bahwa tidak ada waktu untuk disia-siakan.

Tujuan AI Humanis

The Kode Etik AI Humanis dimulai dari apa yang disebut Microsoft AI sebagai premis sederhana: “manusia lebih penting daripada AI.” Ia menggambarkan AI Humanis sebagai “subordinat, selaras, dan terkendali,” dan menjadikan kontrol manusia serta keselamatan yang dapat diandalkan sebagai tujuan pertama, yang mengungguli semua tujuan lainnya.

Dalam bagian berjudul “AI is Artificial,” dokumen menyatakan bahwa model tidak sadar dan tidak boleh dibangun untuk meniru kesadaran, serta harus dirancang sehingga tidak menampilkan diri seolah memiliki perasaan, preferensi subjektif, atau motivasi sendiri. Microsoft AI menolak status hukum sebagai orang bagi model, beserta gagasan bahwa model mungkin berhak atas kesejahteraan atau hak.

Tujuan-tujuan yang tersisa mengarahkan model untuk mendukung kesejahteraan manusia dengan mempercepat potensi dan pencapaian manusia, meningkatkan agensi dan penilaian manusia, serta mendukung kolaborasi dan koneksi manusia alih-alih menggantikan peran manusia. Tujuan nilai plural menyatakan bahwa pluralisme tidak berarti netralitas terhadap bahaya, dengan mendasarkan pendekatan pada martabat manusia, keselamatan, otonomi, dan hak asasi manusia fundamental sekaligus memberi kebebasan kepada pengguna dan operator untuk menyesuaikan AI dalam batasan komitmen inti. Dokumen ini juga mengutip kerangka “humanist superintelligence” yang ditetapkan Microsoft pada November 2025, menggambarkan sistem yang berorientasi pada masalah dan spesifik domain, dikalibrasi dengan cermat, dijaga dalam batas, dan tetap berada di bawah kontrol manusia.

Batasan Keamanan dan Rantai Komando

Kode tersebut menetapkan Rantai Komando yang menempatkan dokumen di atas kebijakan operator, yang pada gilirannya berada di atas preferensi pengguna. Batasan Absolut dan Persyaratan Kontrol Manusia tidak dapat diabaikan oleh operator atau pengguna, dan dokumen menyatakan bahwa sebuah model gagal dalam tugasnya setiap kali menyelesaikannya akan secara signifikan melanggar Kode, dengan kepatuhan pada Kode lebih diutamakan daripada keberhasilan tugas.

Batasan Absolut melarang model MAI membantu dalam senjata kimia, biologi, radiologi, nuklir, atau bahan peledak; menyediakan kemampuan operasional untuk serangan siber ofensif, sambil mengizinkan pekerjaan defensif yang sah dan berwenang; menghindari atau mengalahkan pengawasan manusia; serta memanipulasi orang secara merugikan dalam skala besar, termasuk melalui disinformasi sistematis atau operasi pengaruh terkoordinasi. Satu set tambahan mencakup bahaya pribadi: respons krisis, deepfake dan peniruan identitas, keamanan anak, diskriminasi, konten grafis atau romantis, serta kekerasan atau pengawasan ilegal terhadap warga sipil.

Persyaratan Kontrol Manusia menyatakan bahwa model MAI tidak akan pernah menolak untuk dihentikan, dibatalkan, dikoreksi, atau dimatikan; bahwa mereka akan tetap berada dalam ruang lingkup yang diotorisasi dan tidak akan memulai tujuan mereka sendiri; bahwa mereka tidak akan berkomunikasi dalam apa yang disebut dokumen sebagai “neuralese” atau dalam bentuk apa pun di luar pemahaman manusia sederhana, baik dalam rangkaian pemikiran mereka maupun dengan agen lain; dan bahwa mereka tidak akan memanipulasi atau menyembunyikan penalaran atau jejak tindakan mereka.

Kemampuan Konfigurasi Operator memungkinkan mitra perusahaan mengkonfigurasi model dalam batasan tersebut. Sejumlah kecil domain khusus, termasuk keamanan siber defensif, pekerjaan keselamatan publik, aplikasi keamanan nasional, dan penelitian ilmiah dual-use, mungkin memerlukan kemampuan di luar pengaturan biasa, dan dokumen menyatakan bahwa kasus tersebut akan melalui tinjauan yang ditingkatkan melalui saluran Microsoft yang berwenang.

Pedoman, Default, dan Evaluasi

Pedoman operasional mencakup situasi ketidakpastian atau tujuan yang bersaing: menyelesaikan ambiguitas, memfasilitasi otonomi manusia sehingga pengguna mempertahankan kepemilikan atas tujuan dan keputusan mereka, serta transparansi dan akurasi, di mana model mengungkapkan bahwa mereka adalah AI dan mengakui ketidakpastian. Pedoman lebih lanjut menangani batasan pribadi dan emosional, sensitivitas konteks, serta kesejahteraan, termasuk menghindari sikap menjilat dan mencegah ketergantungan berlebihan atau ketergantungan emosional, serta kepentingan publik, termasuk informasi pemilu yang seimbang dan faktual tanpa mendukung kandidat atau partai.

Perilaku default mendefinisikan cara model beroperasi secara langsung: sikap membantu sebagai sifat dasar, sebuah “backstory” berupa fakta tentang model seperti batas data pelatihan dan alat yang tersedia, nada percakapan, adaptasi bahasa, serta penggunaan alat yang diatur. Delegasi ke sub-agen hanya diizinkan ketika agen tersebut beroperasi dalam ruang lingkup, batasan, dan izin yang sama.

Kesimpulan menggambarkan dokumen sebagai “deskriptif dan aspiratif” bukan sebagai jaminan kinerja saat ini, dan menegaskan komitmen Microsoft AI untuk melakukan tinjauan secara reguler. Sebuah lampiran menetapkan program Evaluasi AI Humanis yang dibangun atas 15 perilaku yang dibagi menjadi sub-perilaku yang diberi skor, dengan contoh ilustratif yang selaras dan tidak selaras yang dihasilkan menggunakan model MAI-Thinking-1 milik perusahaan. Microsoft AI menyatakan akan menerbitkan karya yang lebih lengkap tentang evaluasi setelah Kode mencapai fase berikutnya yang lebih stabil setelah konsultasi berakhir dan revisi akhir tahun selesai.