Iluze „Stáhněte si více štítků!“ ve výzkumu umělé inteligence

Obecný názor ve současné výzkumu strojového učení je, že samo strojové učení lze použít ke zlepšení kvality anotací dat umělé inteligence – zejména popisků obrázků určených pro použití ve vizuálních jazycových modelech (VLM). Tento způsob myšlení je dán vysokými náklady na lidskou anotaci a thêm zátěží dohledu nad výkonem anotátorů.

Argumentovatelně je to ekvivalentem raného meme „stáhněte si více RAM“ z počátku roku 2000, který satirizoval názor, že hardwarový limit lze řešit softwarovým řešením.

Toto je také podceňovaný problém; zatímco nové modely umělé inteligence přitahují širokou pozornost ve veřejném i komerčním sférech, anotace často vypadají jako triviální detail ve strojových učeních, zastíněný vzrušením kolem širších rámců.

Ve skutečnosti je schopnost strojových učení systémů rozpoznávat a reprodukovat vzory (centrální použití téměř všech systémů umělé inteligence) závislá na kvalitě a konzistenci reálných anotací – štítků a frází, které jsou vytvořeny nebo rozhodnuty skutečnými lidmi, často činícími subjektivní soudy o jednotlivých datech v neideálních podmínkách.

Nepřetržitě, systémy, které se snaží pozorovat a reprodukovat vzory v chování anotátorů (a tím nahradit lidské anotátory a umožnit přesné označování ve velkém měřítku), nemohou doufat, že budou fungovat dobře na datech neobsažených v příkladech pocházejících z lidských pozorovatelů. Nic „podobného“ není úplně stejné, a ekvivalencia mezi doménami zůstává problématickým úsilím v počítačovém vidění.

Obchod s hadříky

Až donedávna byly nepřesnosti vyplývající z nedostatečně kurátorovaných anotací dat považovány za přijatelné vedlejší účinky v kontextu nedokonalých, ale stále prodejních výsledků získaných z generativních systémů umělé inteligence.

Skutečně, teprve letos studie ze Singapuru dospěla k závěru, že halucinace – tj. případy, kdy systémy umělé inteligence vynalezají věci, které podkopávají naše záměry – jsou nevyhnutelné a vázané na konceptuální architekturu takových systémů.

Proti tomu se RAG-založené agenty – které mohou „ověřit“ fakta prostřednictvím internetových vyhledávání – stávají populárními ve výzkumu a aplikovaných komerčních řešení. Nicméně, přidávají k nákladům na zdroje a k prodlevám v dotazech; navíc, nová informace aplikovaná na trénovaný model nemůže konkurovat více propleteným a hluboce propojeným spojením, které charakterizují rodinné vrstvy v trénovaném modelu.

RePOPE

Nová studie z Německa zdůrazňuje problémy, které vyplývají z závislosti na starších, široce používaných datech, se zaměřením zejména na přesnost a spolehlivost jejich popisků obrázků. Zjištění výzkumníků naznačují, že chyby v anotacích mohou maskovat nebo špatně představovat halucinace ve vizuálních jazycových modelech.

Představte si model, který je ukázán obrázek ulice a požádán, zda je v něm kolo. Model odpoví ano. Pokud benchmarkový dataset říká, že tam není kolo, model je označen jako špatný. Ale pokud je kolo zřetelně viditelné v obrázku a bylo prostě přehlédnuto během anotace, pak odpověď modelu byla správná a benchmark selhal. Chyby tohoto typu se mohou hromadit v datech, poskytují zkreslený obraz o tom, které modely jsou přesné a které jsou náchylné k halucinacím.

Metoda a testy

Výzkumníci přeoznačili všechny anotace v původním datasetu MSCOCO, s dvěma lidskými anotátory přidělenými k каждému datovému příkladu. Kde vznikla nejednoznačnost ohledně kvality původních anotací (jako v příkladech níže), tyto výsledky byly vyřazeny z testovacího kola.

Autoři nové studie – nazvané RePOPE: Dopad chyb v anotacích na benchmark POPE – zpochybňují předpokládanou přesnost POPE tím, že znovu zkontrolovali anotace na obrázcích v benchmarku (tj. MSCOCO) – a zjistili, že překvapivé množství z nich je chybných nebo nejasných.

Závěr

Tento konkrétní experiment byl možný díky velmi malé velikosti datasetu zapojeného. Prokázání stejné hypotézy na hyperscale datech by vyžadovalo práci na velmi omezených fragmentech dat; v vysoce diverzifikovaných velkých datech by mohlo být obtížné izolovat statisticky reprezentativní a sémanticky koherentní skupiny – potenciálně zkreslující výsledky.

I když by to bylo možné, jaký by byl lék v současném stavu umění? Argument se vrací nevyhnutelně k potřebě lepší a hojnější lidské anotace.

V tomto ohledu „lepší“ a „hojnější“ existují jako samostatné problémy, protože lze získat větší množství anotací prostřednictvím ekonomiky, jako je Amazon Mechanical Turk (AMT). Zjevně, tato potenciálně vykořisťující sub-ekonomika často vede k horším výsledkům.

Čím dále je anotátor odstraněn od zamýšleného použití modelu, jehož anotace budou tvarovat, tím méně pravděpodobné je, že výsledný model bude odpovídat potřebám nebo očekáváním cílové domény. Toto proto zůstává jednou z nejtrvalejších a nevyřešených výzev v ekonomice vývoje strojového učení.

Poprvé zveřejněno ve středu, 23. dubna 2025