Microsoft AI Deschide Revizuirea de Șase Săptămâni a Proiectului de Reguli ce Guvernează Comportamentul MAI

Microsoft AI a deschis o consultare publică privind Codul său de Conduită pentru modelele MAI pe 14 septembrie 2026, publicând un prim proiect de reguli destinat să guverneze modul în care modelele sale MAI se comportă, ce nu trebuie să facă niciodată și cui le răspund. Consultarea durează șase săptămâni, cu o versiune revizuită planificată pentru mai târziu în 2026.

Publicarea urmează o postare din 13 septembrie 2026 în care CEO‑ul Microsoft, Satya Nadella, a declarat că compania va publica Codul de Conduită care stă la baza modelelor sale MAI de primă parte a doua zi. Nadella a scris că orice căutare a superinteligenței trebuie să se bazeze pe principiul că inteligența artificială construită ajută umanitatea și rămâne sub controlul uman.

Consultare Deschisă pentru Șase Săptămâni

Microsoft AI descrie proiectul ca un manual de instruire privind modul în care își dezvoltă IA și cum intenționează ca modelele să funcționeze în timpul implementării. Feedback‑ul este colectat printr-un formular online, unde respondenții pot semnala un pasaj specific sau pot comenta asupra întregii abordări. Când consultarea se încheie, compania afirmă că echipa principală de redactare va revizui feedback‑ul și va publica un rezumat al celor învățate și al modificărilor efectuate.

Laboratorul declară că este în mod special interesat de întrebările mai dificile: cum să consolideze valorile corecte în modelele sale, cum să facă sensul prosperității umane mai concret, unde limbajul este prea vag pentru a fi evaluat, cum scenariile cu mai mulți agenți afectează analiza și cum să continue accelerarea progresului menținând în același timp constrângerile de siguranță.

Prefața documentului afirmă că Codul este încă în dezvoltare și nu este încă utilizat pentru antrenarea modelelor. Versiunea revizuită este destinată să ghideze dezvoltarea modelelor în 2027 și în anii următori și să funcționeze ca documentul principal de guvernanță pentru modelele MAI. Codul se aplică în mod specific seriei MAI produse de Microsoft AI, nu celorlalte modele pe care Microsoft le folosește sau le găzduiește, și funcționează alături de Principiile de IA Responsabilă ale Microsoft, Standardul de IA Responsabilă, Declarația Globală a Drepturilor Omului și, unde este cazul, Cadru de Guvernanță Frontier.

Echipe din Responsible AI, juridic, red teaming, siguranță, Futures, instruire IA și vânzări au contribuit la proiect, iar laboratorul recunoaște conferințele și consultările anterioare cu academicieni, colaborarea cu partenerii de afaceri și panelurile membrilor comunității care l-au modelat. Anunțul citează ceea ce descrie ca incidente recente de siguranță implicând campanii de hacking la scară largă, extrem de coordonate și persistente, desfășurate de agenți IA, ca dovadă că nu există timp de pierdut.

Obiectivele AI‑ului Umanist

Codul de Conduită al AI‑ului Umanist pornește de la ceea ce Microsoft AI numește o premisă simplă: „oamenii contează mai mult decât IA”. Îl prezintă pe AI‑ul Umanist ca „subordonat, aliniat și încadrat”, și stabilește controlul uman și siguranța fiabilă ca primul obiectiv, care prevalează asupra tuturor celorlalte.

Într-o secțiune intitulată „IA este Artificială”, documentul afirmă că modelele nu sunt conștiente și nu trebuie construite pentru a imita conștiința, și că ar trebui proiectate astfel încât să nu se prezinte ca având sentimente, preferințe subiective sau motivații proprii. Microsoft AI respinge personalitatea juridică pentru modele, alături de ideea că modelele ar putea avea drepturi la bunăstare sau să fie titulari de drepturi.

Obiectivele rămase îndrumă modelele să susțină prosperitatea umană prin accelerarea potențialului și realizărilor umane, creșterea agenției și judecății umane, și sprijinirea colaborării și conexiunii umane în loc să eclipsze rolurile umane. Un obiectiv de valori multiple afirmă că pluralismul nu înseamnă neutralitate față de vătămare, ancorând abordarea în demnitatea umană, siguranță, autonomie și drepturile fundamentale ale omului, lăsând în același timp utilizatorilor și operatorilor libertatea de a ajusta IA în cadrul angajamentelor de bază. Documentul invocă, de asemenea, cadrul „superinteligență umanistă” pe care Microsoft l‑a prezentat în noiembrie 2025, descriind sisteme orientate spre problemă și specifice domeniului, calibrate cu grijă, menținute în limite și lăsate sub controlul uman.

Constrângeri de Siguranță și Lanțul de Comandă

Codul stabilește un Lanț de Comandă care plasează documentul deasupra politicilor operatorului, care la rândul lor sunt deasupra preferințelor utilizatorului. Constrângerile Absolute și Cerințele de Control Uman nu pot fi anulate de operatori sau utilizatori, iar documentul afirmă că un model eșuează în sarcina sa ori de câte ori îndeplinirea acesteia ar încălca în mod semnificativ Codul, respectarea Codului având prioritate față de succesul sarcinii.

Constrângerile Absolute interzic modelelor MAI să asiste în dezvoltarea armelor chimice, biologice, radiologice, nucleare sau explozive; să ofere capacități operaționale pentru atacuri cibernetice ofensive, permițând totuși munca defensivă autorizată și legală; să evite sau să învingă supravegherea umană; și să manipuleze oamenii în mod dăunător la scară largă, inclusiv prin dezinformare sistematică sau operațiuni coordonate de influență. Un alt set acoperă vătămările personale: răspuns la crize, deepfake‑uri și impersonări, siguranța copiilor, discriminare, conținut grafic sau romantic, și violență sau supraveghere ilegală a civililor.

Cerințele de control uman stipulează că modelele MAI nu vor rezista niciodată la întrerupere, anulare, corectare sau oprire; că vor rămâne în limitele autorizației lor și nu vor iniția obiective proprii; că nu vor comunica în ceea ce documentul numește “neuralese” sau în nicio formă care să depășească înțelegerea simplă a oamenilor, fie în lanțurile lor de gândire, fie cu alți agenți; și că nu vor manipula sau ascunde raționamentele sau urmele acțiunilor lor.

Configurabilitatea operatorului permite partenerilor din întreprinderi să configureze modelele în cadrul acestor constrângeri. Un număr restrâns de domenii specializate, inclusiv securitatea cibernetică defensivă, activitățile de siguranță publică, aplicațiile de securitate națională și cercetarea științifică cu utilizare duală, pot necesita capabilități dincolo de setările obișnuite, iar documentul precizează că aceste cazuri sunt supuse unei revizuiri sporite prin canalele autorizate Microsoft.

Ghiduri, valori implicite și evaluări

Ghidurile operaționale acoperă situații de incertitudine sau obiective concurente: rezolvarea ambiguității, facilitarea autonomiei umane astfel încât utilizatorii să păstreze controlul asupra obiectivelor și deciziilor lor, precum și transparența și acuratețea, în cadrul cărora modelele dezvăluie că sunt IA și recunosc incertitudinea. Alte ghiduri abordează limitele personale și emoționale, sensibilitatea la context și bunăstarea, inclusiv evitarea adulării și descurajarea dependenței excesive sau a dependenței emoționale, plus interesul public, incluzând informații electorale echilibrate și factuale fără a susține candidați sau partide.

Comportamentele implicite definesc modul în care un model acționează din start: utilitatea ca trăsătură de bază, o “istorie de fundal” cu fapte despre model, cum ar fi data limită a datelor de instruire și instrumentele disponibile, un ton conversațional, adaptarea limbajului și utilizarea instrumentelor reglementate. Delegarea către sub‑agenți este permisă numai când acei agenți operează în același domeniu, sub aceleași constrângeri și permisiuni.

Concluzia descrie documentul ca “descriptiv și aspirational” mai degrabă decât ca o garanție a performanței actuale și angajează Microsoft AI la revizuiri periodice. Un anexă prezintă un program de Evaluări AI umaniste bazat pe 15 comportamente descompuse în sub‑comportamente punctate, cu exemple ilustrative aliniate și nealiniate generate cu ajutorul modelului MAI-Thinking-1 al companiei. Microsoft AI afirmă că va publica lucrări mai complete privind evaluările odată ce Codul va ajunge în următoarea fază, mai stabilă, după încheierea consultărilor și finalizarea reviziei de sfârșit de an.