Nová studie odhalila skryté zranitelnosti v umělých inteligencích

V rychlémente se vyvíjejícím prostředí umělých inteligencí slibují transformační změny v mnoha oblastech, od revolučních perspektiv autonomních vozidel, která mění dopravu, až po sofistikované použití umělých inteligencí při interpretaci komplexních medicínských obrazů. Pokrok v technologiích umělých inteligencí nebyl ničím jiným než digitální renesancí, která zvěstuje budoucnost plnou možností a pokroků.

Jedna nedávná studie však upozornila na znepokojivý aspekt, který byl často přehlížen: zvýšenou zranitelnost systémů umělých inteligencí vůči cíleným útokům. Tato zjištění zpochybňují robustnost aplikací umělých inteligencí v kritických oblastech a zdůrazňují potřebu hlubšího porozumění těmto zranitelnostem.

Koncept útoků na umělou inteligenci

Útoky na umělou inteligenci jsou typem kybernetické hrozby, při které útočníci úmyslně manipulují vstupními daty systému umělých inteligencí, aby je přesvědčili k činění nesprávných rozhodnutí nebo klasifikací. Tyto útoky využívají vrozené slabosti ve způsobu, jakým algoritmy umělých inteligencí zpracovávají a interpretují data.

Například uvažujme o autonomním vozidle, které se spoléhá na umělou inteligenci k rozpoznání dopravních značek. Útok na umělou inteligenci by mohl být tak jednoduchý, jako umístění speciálně navrženého samolepky na značku “stop”, což by způsobilo, že umělá inteligence značku špatně interpretuje, potentially vedoucí k katastrofálním důsledkům. Podobně v medicínském poli by hacker mohl jemně upravit data, která jsou krmena do systému umělých inteligencí pro analýzu rentgenových snímků, vedoucí k nesprávným diagnózám. Tyto příklady podtrhují kritickou povahu těchto zranitelností, zejména v aplikacích, kde jsou ohroženy bezpečnost a lidské životy.

Studie s znepokojivými zjištěními

Studie, kterou vedl Tianfu Wu, asociativní profesor elektrotechniky a počítačového inženýrství na North Carolina State University, se zabývala prevalencí těchto zranitelností a odhalila, že jsou mnohem častější, než se dříve předpokládalo. Tato zjištění jsou obzvláště znepokojivá vzhledem k rostoucí integraci umělých inteligencí do kritických a všedních technologií.

Wu zdůrazňuje vážnost této situace, když prohlašuje: „Útočníci mohou využít těchto zranitelností, aby donutili umělou inteligenci interpretovat data tak, jak chtějí. To je nesmírně důležité, protože pokud systém umělých inteligencí není robustní proti těmto útokům, nechcete ho nasadit do praktického použití – zejména pro aplikace, které mohou ovlivnit lidské životy.“

QuadAttacK: Nástroj pro odhalení zranitelností

V reakci na tato zjištění Wu a jeho tým vyvinuli QuadAttacK, průkopnický software navržený pro systematické testování hlubokých neuronových sítí na zranitelnosti vůči útokům na umělou inteligenci. QuadAttacK funguje tak, že pozoruje reakce systému umělých inteligencí na čistá data a učí se, jak činí rozhodnutí. Poté manipuluje data, aby otestoval zranitelnost systému umělých inteligencí.

Wu vysvětluje: „QuadAttacK sleduje tyto operace a učí se, jak umělá inteligence činí rozhodnutí související s daty. To umožňuje QuadAttacK určit, jak by data mohla být manipulována, aby oklamala umělou inteligenci.“

Při testování konceptu byl QuadAttacK použit pro vyhodnocení čtyř široce používaných neuronových sítí. Výsledky byly překvapivé.

„Byli jsme překvapeni, když jsme zjistili, že všechny čtyři tyto sítě byly velmi zranitelné vůči útokům na umělou inteligenci,“ říká Wu, který zdůrazňuje kritickou otázku v oblasti umělých inteligencí.

Tato zjištění slouží jako budíček pro komunitu výzkumu umělých inteligencí a průmysly, které se spoléhají na technologie umělých inteligencí. Odhalené zranitelnosti nepředstavují pouze rizika pro současné aplikace, ale také vrhají stín na budoucí nasazení systémů umělých inteligencí v citlivých oblastech.

Volání k akci pro komunitu umělých inteligencí

Veřejná dostupnost QuadAttacK představuje významný krok směrem k širším výzkumným a vývojovým snahám o zajištění bezpečnosti systémů umělých inteligencí. Zveřejněním tohoto nástroje Wu a jeho tým poskytli cenný zdroj pro výzkumníky a vývojáře, aby identifikovali a řešili zranitelnosti ve svých systémech umělých inteligencí.

Výzkumný tým představí svá zjištění a nástroj QuadAttacK na Konferenci o zpracování neuronových informací (NeurIPS 2023). Hlavním autorem článku je Thomas Paniagua, doktorand na NC State, spolu s spoluautorem Ryanem Graingerem, také doktorandem na univerzitě. Tato prezentace není pouze akademickým cvičením, ale voláním k akci pro globální komunitu umělých inteligencí, aby priorizovala bezpečnost při vývoji umělých inteligencí.

Zatímco stojíme na křižovatce inovací a bezpečnosti umělých inteligencí, práce Wu a jeho spolupracovníků nabízí jak varovný příběh, tak roadmapu pro budoucnost, kde mohou být umělá inteligence både mocná a bezpečná. Cesta před námi je složitá, ale nezbytná pro udržitelnou integraci umělých inteligencí do tkáně naší digitální společnosti.

Tým učinil QuadAttacK veřejně dostupným. Najdete ho zde: https://thomaspaniagua.github.io/quadattack_web/