Útok otravy proti 3D Gaussian Splatting

Nová výzkumná spolupráce mezi Singapurem a Čínou navrhla metodu pro útok na populární syntetickou metodu 3D Gaussian Splatting (3DGS).

Nová metoda útoku používá vytvořená zdrojová data k přetížení dostupné GPU paměti cílového systému a k prodloužení doby trénování, aby potenciálně znemožnila cílový server, což je ekvivalentní k útoku typu denial-of-service (DOS). Source: https://arxiv.org/pdf/2410.08190

Útok používá vytvořená trénovací obrázky takové složitosti, že jsou pravděpodobně schopny přetížit online službu, která umožňuje uživatelům vytvářet 3DGS reprezentace.

Tento přístup je usnadněn adaptivní povahou 3DGS, která je navržena tak, aby přidala tolik reprezentačních detailů, kolik vyžadují zdrojové obrázky pro realistické vykreslení. Metoda využívá jak vytvořenou složitost obrázků (textury), tak tvar (geometrii).

Systém útoku ‘poison-splat’ je podporován proxy modelem, který odhaduje a iteruje potenciál zdrojových obrázků pro přidání složitosti a instancí Gaussian Splat do modelu, dokud není hostitelský systém přetížen.

Článek tvrdí, že online platformy – jako LumaAI, KIRI, Spline a Polycam – nabízejí stále více 3DGS jako službu, a že nová metoda útoku – nazvaná Poison-Splat – je potenciálně schopna tlačit algoritmus 3DGS směrem k ‘nejhorší výpočetní složitosti’ na těchto doménách, a dokonce umožnit útok typu denial-of-service (DOS).

Podle výzkumníků by 3DGS mohl být radikálně více zranitelný než ostatní online služby neuronových sítí. Konvenční metody strojového učení nastavují parametry na začátku a poté operují v rámci konstantních a relativně konzistentních úrovní využití zdrojů a spotřeby energie. Bez “pružnosti”, kterou Gaussian Splat vyžaduje pro přiřazování instancí, jsou tyto služby obtížně cílitelné stejným způsobem.

Další informace viz originální text.