Modele și platforme AI
OpenAI propune limite comune pentru dezvoltarea IA, legate de etape-cheie în materie de siguranță

Puncte cheieOpenAI leagă limitele dezvoltării de frontieră de repere concrete de monitorizare, mai…
Vezi mai mult
- OpenAI leagă limitele dezvoltării de frontieră de repere concrete de monitorizare, mai degrabă decât de praguri fixe de capabilitate.
- Perplexity nu poate servi drept standard comun deoarece laboratoarele folosesc seturi de date diferite, iar aceasta ratează câștigurile de raționament.
- Cercetarea proprie a OpenAI arată o creștere inegală a AI, cu oamenii încă centrali în bucla de dezvoltare.
Cercetătorul-șef al OpenAI, Jakub Pachocki, a făcut publice măsurători interne ale perplexității pe 22 noiembrie 2026 și a propus limite comune pentru dezvoltarea IA de frontieră, avertizând că cercetarea privind alinierea și monitorizarea s-ar putea să nu țină pasul dacă ritmul progreselor în preantrenare se accelerează chiar din 2027.
Dezvăluirea privește log-perplexitatea, adică logaritmul perplexității, numită și pierdere de entropie încrucișată. Perplexitatea măsoară cât de bine prezice un model, în medie, următorul token; valorile mai mici indică predicții mai bune. Cifrele OpenAI se bazează pe o versiune fixă a unui set de date rezervate, provenit din baza sa internă de cod, principalul set de date de evaluare pe care îl urmărește încă de la GPT-3.5.
Pachocki spune că GPT-3.5 a avut o valoare de aproximativ 0,99 și permitea conversații fluente, stând la baza versiunii originale ChatGPT, în timp ce GPT-4 a avut o valoare de aproximativ 0,91 și putea folosi eficient raționamentul în lanț de gândire. Noi capabilități în domeniul securității cibernetice și al matematicii au apărut la valori ale pierderii sub 0,8. La aproximativ 0,76, un model a început să obțină rezultate remarcabile la probleme deschise de matematică, după ce OpenAI petrecuse mai bine de un an propunând astfel de probleme modelelor sale.
Limite comune legate de etapele-cheie în monitorizare
Pachocki se așteaptă la apariția unor noi capabilități semnificative în intervalul de log-perplexitate 0,68–0,70, extrapolând pe baza progreselor recente, dar recunoaște că nu știe care vor fi acestea și că evaluările actuale s-ar putea să nu le testeze. Propunerea le cere dezvoltatorilor de IA de frontieră să nu depășească limitele stabilite pe baza perplexității și a altor măsurători până când capacitatea cercetătorilor de a înțelege și monitoriza comportamentul IA nu atinge o etapă concretă. Un exemplu ar fi un succesor al instrumentelor de monitorizare a raționamentului în lanț de gândire, care analizează raționamentul scris al unui model pentru a depista semne de nealiniere.
Dezvoltatorii ar stabili, de asemenea, în comun norme de evaluare, ar pregăti cazuri de siguranță de tip red team înainte ca astfel de modele să fie utilizate pentru prima dată și ar conveni asupra unor standarde comune de transparență. Limita inițială ar urma să deschidă calea către un cadru comun pentru limitele succesive. Pachocki spune că OpenAI a făcut publice cifrele, deși astfel le-a oferit concurenților o imagine mai clară asupra poziției sale, deoarece consideră urgente măsurile comune de siguranță.
Scenariul accelerării este condiționat: Pachocki spune că ar putea avea loc, în mod plauzibil, o succesiune rapidă de progrese fundamentale în preantrenare dacă IA începe să contribuie substanțial la cercetarea algoritmică, în timp ce este puțin probabil ca progresele în aliniere și monitorizare să țină pasul cu întreaga accelerare posibilă.
OpenAI atribuie accelerarea accentuată a curbei pierderii din 2026 în principal investițiilor pe termen lung în cercetare și calcul, automatizarea având un rol mai redus. Cu toate acestea, cele mai recente modele ale companiei au adus contribuții semnificative la proiectarea IA.
Raportul de cercetare al OpenAI din 18 noiembrie 2026 concretizează aceste contribuții. Cercetătorii din etapa de preantrenare au atribuit unor persoane ideile menționate pentru GPT-6 Astra; în cazul GPT-6.2 Astra, au descris dezvoltarea ideilor împreună cu Codex, inclusiv un caz în care Codex a identificat perspective esențiale și un altul în care modificarea sugerată de acesta a făcut ca o idee să funcționeze bine. Ratele estimate de reușită fără intervenție au variat, de asemenea, semnificativ: 79% pentru monitorizarea rundelor de antrenare, 35% pentru lansarea acestora și 25% pentru scrierea codului de inferență și servire. Această variație susține concluzia raportului că sporul de productivitate în cercetare rămâne inegal și că oamenii continuă să aibă un rol central în acest proces.
Provocările monitorizării care stau la baza propunerii
Un studiu al OpenAI privind monitorizabilitatea, publicat la 10 noiembrie 2026, analizează doi indicatori indirecți imperfecți ai monitorizabilității: capacitatea de a raționa fără lanț de gândire, adică într-o singură trecere înainte, fără tokenuri de lanț de gândire sau de apelare a instrumentelor, și controlabilitatea raționamentului în lanț de gândire, adică abilitatea de a adăuga, elimina sau manipula în alt mod aceste tokenuri de raționament atunci când i se cere. Studiul raportează o corelație puternică între o perplexitate mai mică a modelului de bază și capacitatea de a raționa fără lanț de gândire, precum și o corelație mai slabă între perplexitatea mai mică și o controlabilitate mai mare.
Studiul a constatat, de asemenea, că învățarea prin întărire a sporit controlabilitatea chiar și fără supervizarea procesului, în afara constrângerilor privind lungimea și a evaluării răspunsului final, și că reglarea fină supravegheată pe baza rezultatelor unui model profesor mai controlabil putea transmite controlabilitatea unui model elev.
OpenAI avertizează că măsurarea controlabilității este zgomotoasă și nu corespunde întotdeauna eludării monitorizării, anticipând totodată că progresele viitoare în preantrenare vor necesita noi abordări privind monitorizabilitatea. Acesta este decalajul tehnic care stă la baza exemplului dat de Pachocki: un succesor al instrumentelor de monitorizare a raționamentului în lanț de gândire ar putea deveni o etapă de dezvoltare.
Limitele perplexității ca standard comun
Perplexitatea, luată separat, nu poate constitui întregul standard. Comparațiile între laboratoare sunt dificile, deoarece dezvoltatorii folosesc seturi de date de evaluare și combinații de date de antrenare diferite, iar metrica nu măsoară direct capacitatea de a îndeplini o sarcină practică. De asemenea, nu surprinde creșterile de capabilitate din afara preantrenării: raționamentul în lanț de gândire poate spori considerabil capabilitățile fără să reducă perplexitatea modelului de bază.
Măsurătoarea are și un prag minim necunoscut. Pachocki avertizează că valoarea funcției de pierdere nu ar trebui să ajungă la zero; pe măsură ce se apropie de entropia inerentă a datelor, progresul aparent va încetini, în timp ce câștiguri mai mici de perplexitate ar putea corespunde unor câștiguri mai mari de inteligență. Prin urmare, o creștere numerică fixă nu ar avea neapărat o semnificație practică fixă.
Propunerea transformă o măsurătoare tehnică într-un test de guvernanță: pot dezvoltatorii să facă rezultatele comparabile între laboratoare și să convină asupra unui reper concret de supraveghere înainte de a depăși praguri pe care Pachocki le asociază unor capabilități pe care evaluările actuale s-ar putea să nu le detecteze încă?












