Rostoucí obavy z halucinací a zkreslení umělé inteligence: Zpráva společnosti Aporia z roku 2024 zdůrazňuje naléhavou potřebu průmyslových standardů

A nedávná zpráva z Aporie, lídr v sektoru řídicích platforem AI, přinesl na světlo některá překvapivá zjištění v oblasti umělé inteligence a strojového učení (AI & ML). Průzkum společnosti Aporia s názvem „2024 AI & ML Report: Evolution of Models & Solutions“ poukazuje na rostoucí trend halucinací a předsudků v rámci generativních AI a velkých jazykových modelů (LLM), což signalizuje zásadní výzvu pro průmysl rychle se rozvíjející splatnost.

AI halucinace odkazovat na případy, kdy je generativní generativní modely AI vytvářet výstupy, které jsou nesprávné, nesmyslné nebo odtržené od reality. Tyto halucinace se mohou pohybovat od drobných nepřesností až po významné chyby, včetně vytváření neobjektivního nebo potenciálně škodlivého obsahu.

Důsledky halucinací umělé inteligence mohou být značné, zvláště když se tyto modely stále více integrují do různých aspektů podnikání a společnosti. Například nepřesnost v informacích generovaných umělou inteligencí může vést k dezinformacím, zatímco zaujatý obsah může udržovat stereotypy nebo nekalé praktiky. V citlivých aplikacích, jako je zdravotnictví, finance nebo právní poradenství, by takové chyby mohly mít vážné důsledky a ovlivnit rozhodnutí a výsledky.

Výsledky průzkumu zdůrazňují nutnost bedlivého sledování a sledování výrobních modelů.

Průzkum společnosti Aporia zahrnoval odpovědi od 1,000 500 odborníků na strojové učení se sídlem v Severní Americe a Spojeném království. Tito jednotlivci pracují ve společnostech s 7,000 až XNUMX XNUMX zaměstnanci napříč sektory, jako jsou finance, zdravotnictví, cestování, pojištění, software a maloobchod. Zjištění podtrhují jak výzvy, tak příležitosti, kterým čelí vedoucí produkce ML, a vrhají světlo na zásadní roli optimalizace umělé inteligence pro efektivitu a vytváření hodnoty.

Klíčové poznatky ze zprávy obsahuje:

1. Převaha operačních výzev: Převážných 93 % inženýrů strojového učení uvádí, že mají problémy s produkčními modely denně nebo týdně. Tato významná statistika podtrhuje kritickou potřebu účinných monitorovacích a kontrolních nástrojů k zajištění hladkého provozu.
2. Výskyt halucinací AI: Asi 89 % inženýrů pracujících s velkými jazykovými modely a generativní AI uvádí, že v těchto modelech mají halucinace. Tyto halucinace se projevují jako faktické chyby, předsudky nebo obsah, který by mohl být škodlivý.
3. Zaměřte se na zmírnění předsudků: Navzdory překážkám při odhalování zkreslených údajů a nedostatku dostatečných monitorovacích nástrojů pozoruhodných 83 % respondentů průzkumu zdůrazňuje důležitost monitorování zkreslení v projektech AI.
4. Význam pozorovatelnosti v reálném čase: Podstatných 88 % odborníků na strojové učení se domnívá, že pozorovatelnost v reálném čase je zásadní pro identifikaci problémů v produkčních modelech, což je schopnost, která není k dispozici ve všech podnicích kvůli nedostatku automatizovaných monitorovacích nástrojů.
5. Investice zdrojů do rozvoje: Zpráva odhaluje, že společnosti v průměru investují přibližně čtyři měsíce do vývoje nástrojů a řídicích panelů pro monitorování výroby, což poukazuje na potenciální obavy týkající se účinnosti a nákladové efektivity takových investic.

„Naše zpráva ukazuje jasnou shodu mezi průmyslem, produkty umělé inteligence jsou nasazovány rychlým tempem a pokud tyto modely ML nebudou monitorovány, bude to mít důsledky,“ uvedl Liran Hason, generální ředitel společnosti Aporia. “Inženýři, kteří stojí za těmito nástroji, promluvili – existují problémy s technologií a lze je opravit. Aby však podniky i spotřebitelé dostávali nejlepší možný produkt, bez halucinací a zaujatosti, jsou zapotřebí správné nástroje pozorovatelnosti.“

Aporia, odhodlána zvyšovat efektivitu produktů AI poháněných strojovým učením, řeší výzvy MLOps a obhajuje odpovědné postupy AI. Zákaznicky orientovaný přístup společnosti a integrace zpětné vazby od uživatelů vedly k vývoji robustních nástrojů a funkcí, které zlepšují uživatelskou zkušenost, podporují rozšiřování produkčních modelů a pomáhají eliminovat halucinace.

Celá zpráva společnosti Aporia nabízí hloubkový pohled na tato zjištění a jejich důsledky pro průmysl AI. Chcete-li prozkoumat více, navštivte Zpráva z průzkumu Aporia.