Detectarea ideilor AI, nu a textului AI

Ce-ar fi dacă ar exista un detector de text AI care ar putea recunoaște că ai scris ceva bazat pe o idee pe care AI ți-a oferit-o – chiar dacă toată scrierea efectivă (adică textul) era lucrarea ta originală?

Știm cu toții despre detectoarele de text AI care au pus în dificultate celebrități și politicieni, printre alții – algoritmi care au studiat caracteristicile textului generat de AI și pot discernă acele tipare când apar.

Aceste cazuri reprezintă o delegare simplă a unei sarcini de comunicare, în care modele de limbaj precum ChatGPT și Google Gemini prevăd următorul token cel mai probabil într-un răspuns la solicitarea utilizatorului – nu prin a face un pas înapoi și a privi tabloul larg al problemei sau al propunerii mai întâi, ci doar prin a ghici cuvântul următor cel mai probabil.

Totuși, această pătură de predicții produce în cele din urmă o structură de bază, conform cercetărilor recente: necesitatea ca secțiunile de text adiacente să fie coerente și relevante una față de alta determină dezvoltarea unei semnături unice în „schiță” sau în dimensiunea superioară a lucrării – unul care poate discerne mâna AI chiar și atunci când textul este rescris extensiv pentru a-l „umaniza”:

Forma distinctă în dimensiuni superioare a scrierii sub diferite LLM-uri, și – la stânga – scriere pur umană. Sursă

Ideare AI țintită

O nouă colaborare academică condusă de University of Maryland merge un pas mai departe, oferind o metodologie care poate detecta dacă ideile în sine au fost generate de AI, indiferent de cine a scris în final cuvintele.

Abordarea, denumită IdeaLens și antrenată pe un milion de schițe extrase din documente web, se concentrează pe reducerea fiecărui document la o schiță care păstrează ideile sale în timp ce elimină formularea – și vine cu un demo online:

În stânga, unul dintre propriile mele articole este recunoscut ca uman în demo-ul online, în timp ce un alt articol pe care l-am trimis (scris de un alt autor) pare să fi avut o contribuție semnificativă de AI. Sursă

După cum se vede în rezultatele demo-ului de mai sus, metodele de detectare utilizate pot distinge între ideile umane și proza umană, și ideile AI și proza AI, și le evaluează într-un mod granular și distinct – chiar dacă cei doi detectori au fost antrenați pe aceleași documente, etichete și arhitectură de model de bază, fiind concepuți să detecteze în esență lucruri opuse: proveniența ideilor și proveniența prozei.

Acest tip de detectare, se suspectează, ar putea să înspăimânte mai multe categorii de scriitori, de la scriitori de discursuri politice până la romancieri și columniști, pe lângă alții care, până în prezent, și-au prețuit propriul stil de scriere, dar au permis AI să alimenteze subiectele lor.

Un motiv pentru care LLM-urile sunt susceptibile să producă idei recognoscibile (și, prin urmare, urmărite) nu este doar că anumite concepte și texte au dominat statistic datele de antrenament subcurate ale modelului, făcându-le mai susceptibile să apară într-o gamă mai largă de cereri; ci și pentru că LLM-urile au obsesii misterioase și repetitive care nu par să se lege de datele de antrenament specifice, și totuși apar adesea neinvitate.

Autorii afirmă*:

‘În timp ce detectoarele moderne AI identifică cine a scris cuvintele, politicile emergente privind utilizarea AI depind din ce în ce mai mult de o altă întrebare: cine a conceput ideile? Introducem IdeaLens, un detector care identifică dacă ideile unui document au provenit de la un om sau de la AI (proveniența ideilor), indiferent de cine a scris cuvintele.’

‘Pentru a concentra IdeaLens pe idei mai degrabă decât pe proză, reprezentăm documentele ca schițe: liste de elemente care asociază fiecărui rol discursiv o descriere scurtă, parafrazată a conținutului, minimizând suprapunerea la nivel de cuvinte cu textul brut.’

Date și Metode

Lucrarea susține că noua metodă poate identifica ideile umane în documente generate de AI (adică, cineva a spus unui AI ‘Scrie-mi un eseu pe această temă‘); și poate, de asemenea, să identifice ideile AI în scrierea umană (adică, cineva a spus unui AI Sugerează-mi ceva despre care să scriu).

Rezultatele testelor pentru patru combinații de idei și proză umane și AI. Toți cei patru detectori funcționează puternic când ideile și proza au aceeași origine, dar se diferențiază puternic când proveniența este mixtă: IdeaLens recunoaște corect 94,7% din documentele scrise de AI bazate pe idei umane ca având origine umană și identifică idei AI în 68% din poveștile scrise de oameni, comparativ cu doar 8% pentru Pangram 4 și 0% pentru ProseLens și EditLens-3B. Sursă

Detectarea este cea mai ușoară când proveniența este clară – de exemplu, când o lucrare scrisă de om se bazează pe idei generate de AI, sau când un rezultat generat de AI provine dintr-o idee umană. Când aceste forțe de proveniență variază, detectarea devine mai dificilă.

Cercetătorii au testat această distincție modificând treptat cât de mult din planul de bază al unui document provine de la o persoană. Într-un experiment, modele AI au primit planuri umane din ce în ce mai detaliate, de la puțin mai mult decât un subiect, până la un contur complet.

Pe măsură ce contribuția umană a crescut, rata de semnalare AI a IdeaLens a scăzut de la 94,9% la 6,8%; iar detectorii convenționali de proză au continuat să identifice în mod copleșitor textul rezultat ca AI:

Rezultatele testelor care arată ce se întâmplă pe măsură ce o parte din ce în ce mai mare a planului de bază al unui document scris de AI este furnizată de un om. IdeaLens recunoaște din ce în ce mai mult originea umană a ideilor, cu rata sa de semnalare AI scăzând de la 94,9% pentru un prompt doar cu subiect la 6,8% pentru un contur uman complet; detectorii convenționali de text ProseLens și Pangram clasifică în continuare majoritatea scrierii rezultate ca AI.

Deoarece ideile trebuie separate de limbajul folosit pentru a le exprima, și nu există un set de date mare care să înregistreze cine a generat efectiv ideile dintr-un document, cercetătorii au antrenat IdeaLens pe etichete de scriere AI – dar au eliminat cea mai mare parte a textului propriu-zis:

Cum IdeaLens separă ideile de proză în timpul antrenamentului și testării, comparativ cu detectorul convențional de text ProseLens. Un articol de opinie de 1.321 de cuvinte este redus la un contur etichetat pe roluri, cu puncte categorisite după funcția lor, cum ar fi relatarea unui eveniment sau evaluarea. În timpul antrenamentului, aceste contururi au fost suplimentar parafrazate pentru a elimina formulările moștenite din documentele sursă înainte ca IdeaLens să învețe din etichetele AI existente ale Pangram. Pentru documente noi, conturul extras poate fi apoi transmis direct lui IdeaLens pentru a estima probabilitatea ca ideile să fie de origine AI. Partea inferioară a figurii arată un al doilea detector – „ProseLens” – folosit de cercetători pentru comparație, care în schimb primește textul complet și estimează dacă proza însăși este generată de AI.

După cum s-a arătat mai sus, fiecare document a fost redus la un contur care descrie ce se spune și rolul fiecărui punct în document. În timpul antrenamentului, acele contururi au fost parafrazate pentru a elimina în continuare urmele formulării originale ale autorilor. IdeaLens poate astfel să-și facă predicțiile în mare parte din ideile care rămân, mai degrabă decât din caracteristici revelatoare ale prozei.

Trei seturi de date au fost create pentru proiect: IdeaShift; IdeaShift-X; și TwiceTold. IdeaShift a fost creat din 500 de documente semănate scrise de oameni și generate de IA, prelevate din corpusul de testare existent al cercetătorilor. GPT-5.6 Sol pentru a transforma fiecare în solicitări din ce în ce mai detaliate, de la „topic-only”, la un plan complet. GPT-5.6 a fost apoi folosit pentru a genera documente noi.

IdeaShift-X, în schimb, a folosit 10.000 de documente redactate de oameni din FineWeb2 în 24 de limbi, aplicând protocolul IdeaShift menționat anterior pentru a genera versiuni AI în fiecare limbă.

Al treilea set de date, TwiceTold, a fost scris de studenți academici sub supravegherea autorilor, pentru a evita posibila utilizare a AI inherent în colectarea în masă a unor astfel de date. Cinci zeci de povești au fost scrise de la zero, dar utilizând un contur de 500 de cuvinte furnizat de ChatGPT-5.6 Sol.

Teste

Detectoarele proprii ale cercetătorilor au inclus IdeaLens în formă de schiță și document; ProseLens menționat anterior; versiunile ModernBERT-L ale ambelor sisteme; versiunile Qwen3.5-9B ale IdeaLens; și o variantă IdeaLens logistic-classifier.

Acestea au fost comparate cu Pangram 4; EditLens-Llama-3B; Binoculars; EditLens-RoBERTa; MELD; Desklib-academic; Desklib; Entropy; Fast-DetectGPT; Likelihood; Log-rank; LRR; MAGE; OpenAI-RoBERTa-base; OpenAI-RoBERTa-large; RADAR; și Rank.

Pentru teste, Precizia a fost măsurată prin faptul dacă eticheta AI sau umană prezisă a corespuns sursei ideilor. IdeaLens, ProseLens și EditLens au utilizat un prag global de 1 % FPR; etichetele AI, asistate de AI și umane ale lui Pangram 4 au fost binarizate; iar Fast-DetectGPT, Binoculars, MELD și Desklib au folosit pragurile implicite.

Evaluarea mai amplă a folosit 19 benchmark-uri externe, inclusiv 14 care acoperă materiale complet umane sau complet AI și 10 care conțin texte umane ulterior editate de AI. În plus, au fost testate 50 000 de documente din domeniu, în timp ce 10 000 de documente pre-ChatGPT C4 au fost utilizate pentru a evalua fals‑pozitivele:

Rezultatele testelor compară acuratețea detectorului când ideile și proza au aceeași sau diferite origini. IdeaLens menține o acuratețe ridicată în ambele situații, la 95,3 % pentru proveniență comună și 81,3 % pentru proveniență mixtă; detectorii concurenți au performanțe mult mai slabe când sursa ideilor diferă de sursa prozei.

În cele 51 de teste extrase din 22 de benchmark-uri, IdeaLens a fost singurul detector care a obținut rezultate puternice când ideile și proza proveneau fie din aceeași, fie din surse diferite, obținând 95,3 % și respectiv 81,3 %.

Prin comparație, ProseLens și Pangram 4 au obținut peste 98 % când ideile și proza aveau aceeași sursă, dar au scăzut la aproximativ 25 % când nu era cazul.

Autorii afirmă despre aceste rezultate*:

‘Deoarece ProseLens are aceeași structură de bază, documente de antrenament și etichete de antrenament ca IdeaLens, acest lucru evidențiază impactul reprezentării noastre de schiță, pe care o pereche bazată pe ModernBERT o replică cu o structură de bază diferită.’

‘IdeaLens se transferă, de asemenea, surprinzător de bine la intrări de text brut în timpul testării, afișând o acuratețe ridicată pentru proveniență comună și o acuratețe semnificativ mai mare pentru proveniență mixtă decât ProseLens.’

Toți cei trei detectori au identificat cu succes aproape toate poveștile originale scrise de AI. În TwiceTold, IdeaLens a identificat idei de origine AI în 68 % din poveștile scrise de oameni, comparativ cu 0 % pentru ProseLens și 8 % pentru Pangram 4:

IdeaLens atribuie probabilități AI similare poveștilor originale scrise de AI și versiunilor TwiceTold scrise de oameni, bazate pe aceleași schițe generate de AI, în timp ce probabilitățile AI ale lui ProseLens scad brusc odată ce proza este rescrisă de oameni.

În ciuda faptului că a fost antrenat în limba engleză, IdeaLens s-a generalizat pe cele 24 de limbi ale IdeaShift‑X, semnalând 95,3 % din documente pe baza ideilor AI – dar doar 0,7 % când un plan detaliat uman a furnizat ideile. În 10 000 de documente umane pre‑ChatGPT din aceleași limbi, rata fals‑pozitive a fost de doar 0,1 %.

Autorii recunosc că un set de date mai mare ar fi de dorit în lucrări viitoare și că zgomotul etichetelor din setul de date ar putea necesita corecție. Cu toate acestea, cei care doresc să continue pe baza acestei inițiale interesante pot recurge la depozitul GitHub pe care autorii lucrării l-au pus la dispoziție; iar cei curioși pot insera teste „suspecte” în site demo al proiectului și pot evalua singuri dacă metoda se potrivește cu propriile estimări sau cu cele ale altor abordări.

Concluzie

Dacă o metodă de detectare de acest tip contează sau nu depinde de modul în care acceptarea, integrarea sau respingerea AI se va dezvolta (fără îndoială diferit în diverse sectoare și circumstanțe) în următoarele 6‑12 luni.

Este posibil ca publicul unui politician să fie mai iertător față de utilizarea AI pentru a rafina și prezenta propriile idei originale, decât ar fi față de o prezentare superficială a ideilor generate de un LLM (după toate, statistic, publicul este probabil să fie empatic față de utilizarea AI ca simplu instrument de prezentare).

Totuși, în același timp, ce așteptăm de la AI dacă nu că va genera perspective, idei și alternative pe care noi înșine le-am fi trecut cu vederea sau nu le-am fi luat în considerare; și din acest punct de vedere, este cu adevărat o idee proastă să oferim inteligenței mașinilor șansa de a prelua volanul?

Ei bine, din punct de vedere al percepției, și având în vedere propensiunea faimoasă și tot mai mare a IA pentru erori și – recent – comportament eronat, poate că este încă prea devreme să permitem LLM-urilor să genereze propuneri de politică sau, în general, să devină o forță motrice în generarea de idei.

*Accentele autorilor, nu ale mele, dar conversia mea a citărilor inline ale autorilor în hyperlinkuri, acolo unde este necesar.

Publicat prima dată marți, 6 octombrie 2026