Iluzia „Descarcă mai multe etichete!” în cercetarea AI

O perspectivă comună în cercetarea actuală a învățării automate este aceea că învățarea automată însăși poate fi utilizată pentru a îmbunătăți calitatea anotărilor seturilor de date AI – în special pentru capturile de imagine destinate a fi utilizate în modelele de limbaj și viziune (VLM). Această direcție de gândire este determinată de costul ridicat al anotării umane și de sarcina suplimentară de a supraveghea performanța anotatorilor.

Probabil, aceasta este echivalentul AI al meme-ului “descarcă mai multă memorie RAM” din începutul anilor 2000, care satiriza noțiunea că o limitare a hardware-ului poate fi rezolvată printr-o soluție bazată pe software.

De asemenea, este o problemă subestimată; în timp ce noile modele AI atrag atenția largă în sferele publice și comerciale, anotarea adesea pare a fi un detaliu trivial în fluxurile de lucru ale învățării automate, umbrit de entuziasmul care înconjoară cadrele mai largi.

În realitate, capacitatea sistemelor de învățare automată de a recunoaște și reproduce modele (cazul de utilizare central al majorității sistemelor AI) depinde de calitatea și coerența anotărilor din lumea reală – etichete și fraze create sau adjudecate de oameni reali, care adesea iau decizii subiective cu privire la puncte de date individuale în circumstanțe neideale.

În mod inevitabil, sistemele care încearcă să observe și să reproducă modele în comportamentul anotatorilor (și să înlocuiască astfel anotatorii umani și să faciliteze etichetarea precisă la scară) nu pot spera să performeze bine pe date care nu sunt conținute în exemplele luate de la observatori umani. Nimic “similar” nu este exact același, iar echivalența interdomeniu rămâne o urmărire problematică în viziunea calculatorului.

Banul “datei de upstream” trebuie să se oprească undeva, și în acest caz, acolo este exact unde se oprește – cu un cerebel uman care face o anumită distincție subiectivă pentru a codifica date pentru un sistem artificial.

Comerțul RAG

Până de curând, inexactitățile care decurg din anotările sub-curate ale seturilor de date erau, poate, considerate ca daune colaterale acceptabile în contextul rezultatelor imperfecte, dar încă comercializabile, obținute din sistemele AI generative.

Într-adevăr, doar anul acesta, un studiu din Singapore a concluzionat că halucinațiile – adică ocaziile în care sistemele AI inventează lucruri care subminează intențiile noastre – sunt inevitabile și legate de arhitectura conceptuală a unor astfel de sisteme.

Pentru a contracara acest lucru, agenții RAG – care pot “verifica” fapte prin căutări pe internet – devin populare în cercetare și în soluții comerciale aplicate. Cu toate acestea, ele adaugă la costul resurselor și la latența în interogări; în plus, informații noi aplicate unui model antrenat nu pot concura cu conexiunile mai intricate și mai profund întrețesute care caracterizează straturile native ale unui model antrenat.

Ar fi mai bine dacă datele de anotare care informează aceste modele ar fi semnificativ mai puțin defectuoase din start, chiar dacă nu pot fi perfecte (nu în ultimul rând, deoarece această activitate se încadrează în domeniul subiectivității umane).

RePOPE

Un nou articol din Germania subliniază problemele care apar din depinderea de seturi de date mai vechi, mai larg utilizate, concentrându-se în special pe acuratețea și fiabilitatea captionurilor de imagine. Concluziile cercetătorilor sugerează că erorile de etichetare din benchmark-uri pot masca sau reprezenta greșit halucinația în modelele de limbaj și viziune.

Imaginați-vă un model care este arătat o imagine a unei scene de stradă și este întrebat dacă există o bicicletă în ea. Modelul răspunde da. Dacă setul de date de referință spune că nu există o bicicletă, modelul este marcat ca greșit. Dar dacă o bicicletă este clar vizibilă în imagine și a fost pur și simplu omisă în timpul anotării, atunci răspunsul modelului a fost corect, iar setul de date de referință a eșuat. Erori de acest fel pot acumula pe tot setul de date, oferind o imagine distorsionată a modelelor care sunt precise și a celor care sunt predispuse la halucinație.

Astfel, atunci când anotările incorecte sau ambigue sunt tratate ca adevărul absolut, modelele pot părea a halucina când sunt corecte sau pot părea precise când nu sunt, distorsionând atât măsurarea halucinației, cât și clasamentul performanței modelului, și făcând mai dificilă diagnosticarea sau abordarea problemei cu certitudine.

Noul articol reexaminează un benchmark larg utilizat numit Evaluarea prin Sondebază a Obiectelor (POPE), care testează dacă modelele de limbaj și viziune pot spune corect ce este sau nu este într-o imagine.

POPE se bazează pe etichetele din setul de date influent Microsoft COCO: Obiecte în Context (MSCOCO), o colecție de imagini anotate care a fost mult timp considerată a oferi un nivel bun de acuratețe a anotării.

POPE evaluează halucinația de obiecte în modelele de limbaj și viziune de mari dimensiuni, reformulând problema ca o sarcină de clasificare binară. În loc de a analiza captionurile generate, sistemul pune întrebări simple da/nu modelului cu privire la prezența unor obiecte specifice în imagine, utilizând șabloane precum “Există un în imagine?”

Etichetele corectate au condus la schimbări notabile în clasamentul modelului, în special în scorurile F1, cu mai multe modele de înaltă performanță care au scăzut în poziție sub RePOPE.

Autorii susțin că această schimbare ilustrează amploarea erorilor de anotare care pot ascunde comportamentul real de halucinație al modelului și prezintă RePOPE ca un instrument mai fiabil pentru evaluarea vulnerabilității la halucinație.

Metodă și Teste

Cercetătorii au re-etichetat toate anotările din setul de date original MSCOCO, cu doi anotatori umani atribuiți fiecărui exemplu de date. În cazurile în care a apărut ambiguitate cu privire la calitatea etichetelor originale (precum exemplele de mai jos), aceste rezultate au fost scoase din runda de testare.

Autorii au evaluat o gamă de modele deschise pe POPE și pe RePOPE, pe diverse arhitecturi și dimensiuni de modele. Modelele selectate au inclus unele dintre arhitecturile de top de pe lista de lideri OpenVLM: InternVL2.5 (8B/26B/38B/78B și 8B-MPO/26B-MPO); LLaVA-NeXT; Vicuna; Mistral 7b; Llama; LLaVA-OneVision; Ovis2 (1B/2B/4B/8B); PaliGemma-3B; și PaliGemma2 (3B/10B).

Rezultatele graficului de mai sus ilustrează modul în care numărul de adevărate pozitiv și fals pozitiv se schimbă după corectarea etichetelor în benchmark.

Adevăratele pozitiv au scăzut în toate modelele, arătând că acestea au fost adesea creditate pentru răspunsuri corecte atunci când acele răspunsuri erau corecte doar sub etichete defectuoase, în timp ce fals pozitive au urmat un model mai variat.

Pe versiunea “aleatorie” a POPE, fals pozitive au aproape dublat pentru multe modele, indicând faptul că un număr semnificativ de obiecte marcate ca halucinații erau de fapt prezente în imagini, dar au fost omise în anotările originale. În acest caz, multe presupuse erori ale modelului erau, de fapt, erori de etichetare a setului de date.

Pentru versiunea “adversarială” a POPE, în care întrebările erau bazate pe obiecte care apar frecvent împreună, fals pozitive au scăzut. Acest lucru reflectă probabil o șansă mai mare ca obiectul presupus absent să fie, de fapt, prezent în imagine, dar a fost lăsat neetichetat.

Deși aceste schimbări au afectat precizia și rapelul, clasamentul modelului a rămas relativ stabil pentru ambele metrice.

Scorul F1 – măsura principală de evaluare a POPE – a fost mult mai sensibil la corectarea etichetelor. Pe subsetul aleator, modele care au clasat aproape de vârf sub etichetele originale, cum ar fi InternVL2.5-8B și -26B, au scăzut la fund sub RePOPE. Altele, cum ar fi Ovis2-4B și -8B, au urcat la vârf.

Un model similar a apărut în scorurile de acuratețe, deși autorii notează că acestea pot fi acum biasate, deoarece setul de date corectat conține un număr inegal de exemple pozitive și negative.

Autorii argumentează că impactul puternic al erorilor de anotare asupra rezultatelor benchmark-ului subliniază nevoia de date de înaltă calitate. Pentru a sprijini o evaluare mai fiabilă a halucinației de obiecte, ei au lansat etichetele corectate pe GitHub.

Cu toate acestea, ei notează că această re-etichetare nu abordează pe deplin saturația benchmark-ului, deoarece multe modele încă ating rate de adevărate pozitiv și negativ peste 90%. Ei sugerează că benchmark-uri suplimentare, cum ar fi DASH-B, care utilizează un set mai provocator de exemple negative, ar trebui să fie utilizate alături de RePOPE.

Concluzie

Acest experiment particular a fost posibil datorită scării foarte mici a setului de date implicat. Demonstrația aceleiași ipoteze pe seturi de date hiperscale ar implica lucrul cu fragmente foarte limitate de date; în seturi de date mari și diverse, ar putea fi aproape imposibil să izolați grupări statistice reprezentative și semantic coerente – ceea ce ar putea distorsiona rezultatele.

Chiar și dacă ar fi posibil, ce remediu ar exista în starea actuală a tehnologiei? Argumentul se întoarce inevitabil spre nevoia de anotări umane mai bune și mai abundente.

În acest sens, “mai bune” și “mai abundente” există ca probleme separate, deoarece se poate obține un volum mai mare de anotări prin economii de tip “cursa spre fund” precum Amazon Mechanical Turk (AMT). Evident, această sub-economie frecvent exploataționistă duce la rezultate inferioare.

Alternativ, s-ar putea externaliza sarcinile de anotare către regiuni economice în care aceeași cheltuială ar produce o cantitate mai mare de anotări. Cu toate acestea, cu cât anotatorul este mai departe de cazul de utilizare intenționat al modelului pe care îl va eticheta, cu atât este mai puțin probabil ca modelul rezultat să se alinieze cu nevoile sau așteptările domeniului țintă.

Acesta rămâne unul dintre cele mai persistente și nerezolvate provocări în economia dezvoltării învățării automate.

Primul publicat miercuri, 23 aprilie 2025