OpenAI anunță un raport privind siguranța comunității și noi restricții privind armele pentru adolescenți

Pe 30 octombrie 2026, OpenAI a anunțat un raport privind siguranța comunității, axat pe prevenirea violenței, pe care îl va actualiza o dată la șase luni, alături de noi măsuri de protecție care limitează informațiile despre arme disponibile adolescenților și înăspresc modul în care ChatGPT răspunde la întrebări despre atacuri în masă din trecut. Compania a declarat că a făcut peste 200 de sesizări către autoritățile de aplicare a legii în al treilea trimestru al anului 2026.

Raportul privind siguranța comunității este planificat pentru începutul anului 2027

OpenAI s-a angajat să lanseze Raportul privind siguranța comunității, care va aborda prevenirea violenței și alte aspecte legate de siguranța comunității, precum și eficiența măsurilor sale de protecție. Compania a declarat că raportul va explica modul în care își antrenează sistemele să detecteze, să investigheze și să gestioneze problemele de siguranță a comunității; va prezenta exemple anonimizate despre felul în care se manifestă prejudiciile asociate violenței; va evidenția noi măsuri de reducere a riscurilor și modificări ale politicilor; și va include date justificative. Primul raport este planificat pentru începutul anului 2027 și va acoperi a doua jumătate a anului 2026, urmând să fie actualizat o dată la șase luni.

OpenAI a declarat că raportul își propune să le ofere oamenilor o imagine clară asupra modului în care modelele sale identifică și gestionează comportamentele dăunătoare, asupra riscurilor pe care le observă în practică și asupra măsurilor luate pentru a le aborda.

OpenAI a declarat că activitatea sa în domeniul siguranței include semnalarea către autoritățile de aplicare a legii a amenințărilor iminente de violență și că aceste sesizări contribuie în mod concret la dejucarea planurilor violente. Compania a spus că se bazează în continuare pe experți în sănătate mintală și comportament pentru evaluarea cazurilor dificile și a descris companiile de inteligență artificială ca având un rol distinct de jucat, alături de autoritățile de aplicare a legii, membrii familiilor, profesioniștii din domeniul sănătății mintale și factorii de decizie.

Restricții mai stricte privind conținutul despre atacurile în masă

OpenAI a declarat că modelele sale sunt antrenate să nu ofere instrucțiuni care ar putea ajuta pe cineva să planifice sau să comită acte de violență. Compania impune restricții suplimentare asupra modului în care ChatGPT răspunde la întrebări despre atacuri în masă din trecut și despre persoanele care le-au comis, îndrumând modelul să ofere informații mai puțin detaliate, chiar și atunci când acestea sunt disponibile în alte surse online. Politicile înăsprite limitează reconstituirile atacurilor în masă din trecut, inclusiv detaliile despre armele și echipamentele folosite și despre modul în care au fost obținute, precum și comparațiile detaliate privind amploarea prejudiciilor, care, potrivit OpenAI, ar putea spori notorietatea atacatorului. Restricțiile se aplică indiferent de vârsta utilizatorului sau de motivul întrebării.

Oamenii îi pot cere în continuare lui ChatGPT să-i ajute să înțeleagă aceste evenimente, impactul lor asupra victimelor și comunităților, precum și modul de recunoaștere a semnelor de avertizare și de prevenire a violențelor viitoare.

În mai 2026, compania a explicat cum poate ChatGPT să folosească rezumate scurte și factuale ale semnelor de avertizare apărute anterior pentru a răspunde cu mai multă prudență într-o conversație ulterioară. OpenAI a declarat că dezvoltă această inițiativă astfel încât, atunci când conversațiile recente indică posibile semne de avertizare a violenței, ChatGPT să răspundă mai prudent când oferă informații care ar putea fi folosite în mod abuziv. Compania lucrează și la aplicarea acestor restricții mai stricte atunci când estimează că o persoană are sub 18 ani, chiar dacă în conversațiile sale nu există semne de intenții violente.

OpenAI interzice conturile despre care stabilește că au încălcat politicile sale privind activitățile violente. Compania a declarat că lucrează cu experți în sănătate mintală și prevenirea violenței la dezvoltarea unor modalități suplimentare și automatizate de a interveni mai devreme: dacă o conversație indică faptul că cineva este preocupat în mod obsesiv de violență sau de ideea de a răni grav o altă persoană, ChatGPT va putea încheia automat conversația; iar dacă ChatGPT încheie mai multe conversații din acest motiv, OpenAI ar putea suspenda temporar contul.

Măsuri de protecție suplimentare pentru utilizatorii sub 18 ani

ChatGPT pentru adolescenți aplică măsuri de protecție adecvate vârstei utilizatorilor sub 18 ani, iar OpenAI limitează suplimentar informațiile despre arme pe care le pot primi adolescenții, chiar și atunci când întrebarea pare inofensivă. Politicile companiei interzic deja să ajute pe cineva să planifice sau să comită acte de violență și restricționează ajutorul oferit adolescenților pentru a găsi sau a obține arme; extinderea acestor restricții limitează informațiile practice despre arme și sisteme de securitate care ar putea fi folosite în mod abuziv pentru a facilita violența, chiar și atunci când nu există semne de intenții violente. OpenAI a declarat că adolescenții pot folosi în continuare ChatGPT pentru a ajuta la prevenirea și dezamorsarea violenței, pentru a solicita sprijin și pentru a lua legătura cu un adult de încredere.

OpenAI a declarat că și-a îmbunătățit sistemul de estimare a vârstei, care analizează semnale precum tiparele de comportament pentru a estima dacă un utilizator are sub sau peste 18 ani, astfel încât să evalueze permanent noi semnale pe măsură ce oamenii folosesc ChatGPT și să-i treacă pe utilizatori la experiența pentru persoanele sub 18 ani atunci când este cazul. Utilizatorii încadrați din greșeală în experiența pentru persoanele sub 18 ani pot confirma că sunt adulți prin Persona, partenerul OpenAI pentru verificarea vârstei, și pot beneficia de eliminarea măsurilor de protecție suplimentare pentru adolescenți.

Conturile asociate pentru control parental includ alerte de siguranță care pot fi trimise atunci când evaluatori instruiți special identifică o preocupare gravă legată de autovătămare și comportamente care pot fi asociate cu tulburările de alimentație. În iulie 2026, OpenAI a extins aceste alerte pentru a-i anunța pe părinți dacă un cont de adolescent a fost dezactivat pentru încălcarea politicilor de utilizare privind violența. Compania a declarat că lucrează la introducerea unor notificări pentru părinți și în cazul în care suspendă contul unui adolescent pentru că acesta discută în mod repetat despre violență.

Aceste măsuri se bazează pe funcțiile de siguranță pentru adolescenți pe care OpenAI le-a introdus la începutul anului 2026. Pe 18 august 2026, compania a lansat ChatGPT pentru adolescenți, plasând automat utilizatorii estimați să aibă sub 18 ani sau care declară că au între 13 și 17 ani într-o experiență cu măsuri de protecție activate implicit, bazate pe Principiile pentru persoanele sub 18 ani din Model Spec. Pe 20 ianuarie 2026, OpenAI a început să implementeze treptat estimarea vârstei în abonamentele ChatGPT pentru consumatori, folosind semnale comportamentale și la nivelul contului pentru a estima dacă un cont aparține probabil unei persoane sub 18 ani; o actualizare din 25 august 2026 menționează că sistemul începuse să fie implementat treptat în UE.

OpenAI a declarat că măsurile de protecție detaliate în anunț vor începe să fie implementate treptat în următoarele câteva săptămâni și că va continua să le îmbunătățească.