Umělá inteligence a národní bezpečnost: Nová bitevní pole

Umělá inteligence mění způsob, jakým se národy chrání. Stala se nezbytnou pro kybernetickou bezpečnost, vývoj zbraní, kontrolu hranic a dokonce i veřejnou diskusi. Přestože nabízí významné strategické výhody, také přináší mnoho rizik. Tento článek zkoumá, jak umělá inteligence mění bezpečnost, současné výsledky a složité otázky, které tyto nové technologie vyvolávají.

• Kybernetická bezpečnost: Boj AI proti AI

Většina dnešních útoků začíná v kybernetickém prostoru. Zločinci již nedopisují každý phishingový e-mail ručně. Používají jazykové modely k vytvoření zpráv, které znějí přátelsky a přirozeně. V roce 2024 použila skupina deep-fake video chief financial officera k odcizení 25 milionů dolarů ze své vlastní firmy. Video vypadalo tak přesvědčivě, že zaměstnanec následoval falešný příkaz bez pochybností. Útočníci nyní krmí velké jazykové modely úniky životopisů nebo daty z LinkedIn k vytvoření osobních nástrah. Některé skupiny dokonce používají generativní AI k vytváření softwarových chyb nebo psaní malware.

Obránci také používají AI k ochraně proti těmto útokům. Bezpečnostní týmy krmí síťové protokoly, uživatelské kliky a globální zprávy o hrozbách do nástrojů AI. Software se učí „normální“ aktivitu a varuje, když se něco podezřelého stane. Když je detekován útok, systémy AI odpojí podezřelý počítač, aby omezily škody, které by se jinak rozšířily, kdyby lidé reagovali pomaleji.

• Autonomní zbraně

AI také vstupuje na fyzická bojiště. Na Ukrajině drony používají palubní vidění k nalezení cisteren nebo radarových stanic, než explodují. USA použily AI k identifikaci cílů pro letecké údery v místech, jako je Sýrie. Izraelská armáda nedávno použila platformu AI pro výběr cílů k třídění tisíců leteckých snímků pro označení potenciálních úkrytů militantů. Čína, Rusko, Turecko a Spojené království testovaly „loitering munitions“, které krouží kolem oblasti, dokud AI nezjistí cíl. Tyto technologie mohou učinit vojenské operace přesnější a snížit rizika pro vojáky. Ale také přinášejí vážné obavy. Kdo je zodpovědný, když algoritmus zvolí špatný cíl? Někteří experti se obávají „flash wars“, kde stroje reagují příliš rychle, než aby je mohli diplomaté zastavit. Mnoho expertů volá po mezinárodních pravidlech pro kontrolu autonomních zbraní, ale státy se obávají, že zůstanou pozadu, pokud se zastaví.

• Příslušné dohled a zpravodajství

Zpravodajské služby dříve závisely na týmech analytiků, kteří četli zprávy nebo sledovali videozáznamy. Dnes spoléhají na AI, aby procházely miliony obrazů a zpráv každou hodinu. V některých zemích, jako je Čína, AI sleduje chování občanů, od malých věcí, jako je přecházení přes ulici, až po to, co dělají online. Podobně na americko-mexické hranici solární věže s kamerami a teploměry skenují prázdnou poušť. AI identifikuje pohybující se postavu, označí ji jako člověka nebo zvíře a upozorní pohraniční agenty. Tato „virtuální zeď“ pokrývá širokou oblast, kterou lidé nemohou sami sledovat.

Přestože tyto nástroje rozšiřují pokrytí, také zveličují chyby. Systémy rozpoznávání obličeje byly prokázány jako nesprávné identifikace žen a lidí s tmavší pletí ve vyšších sazbách než bílých mužů. Jedna falešná shoda může způsobit, že nevinná osoba bude čelit dodatečným kontrolám nebo zadržení. Tvůrci politik požadují auditované algoritmy, jasnou cestu odvolání a lidskou kontrolu před jakoukoli silnou akcí.

• Informační válka

Moderní konflikty se vedou nejen pomocí střel a kódů, ale také pomocí narativů. V březnu 2024 byl falešné video ukázalo ukrajinského prezidenta, jak nařizuje vojákům, aby se vzdali; to se rozšířilo online, než je mohli faktičtí kontrolóři vyvrátit. Během izraelsko-hamasového boje v roce 2023 AI-generované falešné zprávy favorizující jednu stranu politiky zaplavily sociální sítě, aby ovlivnily názor.

Falešné informace se šíří rychleji, než je vlády mohou opravit. To je zejména problématické během voleb, kde je AI-generovaný obsah často používán k ovlivnění voličů. Voliči mají obtížné rozlišit mezi skutečnými a AI-generovanými obrázky nebo videy. Přestože vlády a technologické firmy pracují na projektech proti AI, aby skenovaly digitální otisky AI, závod je těsný; tvůrci zlepšují své falešné zprávy právě tak rychle, jako obránci zlepšují své filtry.

• Podpora rozhodování

Armády a agentury shromažďují obrovské množství dat, včetně hodin leteckých videí, záznamů údržby, satelitních snímků a otevřených zdrojů. AI pomáhá tříděním a zvýrazněním relevantních informací. NATO nedávno přijalo systém inspirovaný americkým projektem Maven. Propojuje databáze z 30 členských států a poskytuje plánovačům ujednocený pohled. Systém navrhuje pravděpodobné pohyby nepřítele a identifikuje potenciální nedostatky zásobování. Americké speciální operační velení používá AI k pomoci při sestavování částí svého ročního rozpočtu skenováním faktur a doporučením realokací. Podobné AI platformy předpovídají selhání motorů, naplánují opravy předem a přizpůsobí simulace letu pro individuální potřeby pilotů.

• Vymáhání práva a kontrola hranic

Policejní síly a imigrační úředníci používají AI pro úkoly, které vyžadují stálou pozornost. Na rušných letištích biometrické kiosky potvrzují identity cestujících, aby proces byl efektivnější. Software pro analýzu vzorců vybírá cestovní záznamy, které naznačují obchod s lidmi nebo pašování drog. V roce 2024 jedna evropská partnerství použila takové nástroje k odhalení skupiny, která pašovala migranty loděmi. Tyto nástroje mohou učinit hranice bezpečnějšími a pomoci chytit zločince. Ale existují také obavy. Rozpoznávání obličeje někdy selhává u určitých tříd lidí s nízkou reprezentací, což by mohlo vést k chybám. Další otázkou je, zda by se mělo AI používat k monitorování všech tak úzce.

Závěrečné stanovisko

AI mění národní bezpečnost mnoha způsoby, nabízí jak příležitosti, tak rizika. Může chránit země před kybernetickými hrozbami, učinit vojenské operace přesnější a zlepšit rozhodování. Ale také může šířit lži, porušovat soukromí nebo způsobovat smrtelné chyby. Jakmile se AI stane běžnější v bezpečnosti, musíme najít rovnováhu mezi používáním její síly pro dobro a kontrolou jejích nebezpečí. To znamená, že země musí spolupracovat a stanovit jasná pravidla pro používání AI. Nakonec je AI nástrojem a způsobem, jakým ho použijeme, bude definovat budoucnost bezpečnosti. Musíme být opatrní a používat ji moudře, aby nám více pomohla než uškodila.