První znamená bezpečnost

Když koupíte dítěti nové kolo, všechna pozornost se soustředí na kolo, ne na lesklou přilbu, která k němu patří. Ale rodiče oceňují přilbu.

Bohužel, mnoho z nás se dnes chová jako děti, když jde o umělou inteligenci. Soustředíme se na to, jak je cool a jak rychle s ní můžeme jet. Ne tolik na to, co můžeme udělat, abychom zůstali v bezpečí, zatímco ji používáme. Je to škoda, protože nelze mít jednu výhodu bez druhé.

Jednoduše řečeno, použití umělé inteligence bez pečlivého plánování bezpečnosti není jen riskantní. Je to přímá cesta z útesu.

Co vlastně znamená bezpečnost umělé inteligence?

Bezpečnost umělé inteligence zahrnuje řadu kroků. Ale možná nejdůležitějším prvkem je kdy je tyto kroky podniknout. Aby byla bezpečnost umělé inteligence účinná, musí být navržena.

To znamená, že se snažíme zabránit újmě, než ji vezmeme na zkušební jízdu. Rozhodneme, jak zajistit, aby umělá inteligence fungovala a generovala výsledky v souladu s našimi hodnotami a sociálními očekáváními, a to dříve, než dostaneme一些 hrozné výsledky.

Navrhování bezpečnosti umělé inteligence také zahrnuje přemýšlení o tom, jak ji učinit robustní, nebo schopnou fungovat předvídatelně i v nepříznivých situacích. To znamená učinit umělou inteligenci transparentní, aby rozhodnutí, která činí, byla srozumitelná, auditable a nezaujatá.

Ale také zahrnuje pohled na svět, ve kterém bude umělá inteligence fungovat. Jaké institucionální a právní záruky potřebujeme, zejména pro dodržování platných vládních předpisů? A nemůžu dostatečně zdůraznit lidský prvek: Jaký bude dopad používání umělé inteligence na lidi, kteří s ní interagují?

Bezpečnost navržená znamená včlenění bezpečnosti umělé inteligence do všech našich procesů, pracovních postupů a operací, než napíšeme první příkaz.

Rizika převažují nad obavami

Ne všichni souhlasí. Když slyší “bezpečnost na prvním místě”, někteří slyší “kročte tak opatrně a pomalu, abyste byli zanecháni pozadu”. Samozřejmě, že to není to, co bezpečnost na prvním místě znamená. Nemusí to brzdit inovace nebo zpomalit čas na trhu. A nemusí to znamenat nekonečný proud pilotních projektů, které se nikdy nezvětšují. Právě naopak.

To znamená pochopit rizika neprojektování bezpečnosti do umělé inteligence. Zvažte několik z nich.

• Deloitte’s Center for Financial Services předpovídá, že GenAI by mohla být zodpovědná za ztráty z podvodů ve výši 40 miliard dolarů v USA samotných do roku 2027, z 12,3 miliard dolarů v roce 2023, což je 32% meziroční tempo růstu.
• Zaujatá rozhodnutí. Případy dokumentují zaujatou zdravotní péči kvůli umělé inteligenci, která byla vyškolena na zaujatých datech.
• Špatná rozhodnutí, která inspirují další špatná rozhodnutí. Horší než počáteční špatné rozhodnutí vyvolané vadnou umělou inteligencí, studie ukazují, že tato vadná rozhodnutí mohou stát součástí toho, jak myslíme a činíme budoucí rozhodnutí.
• Skutečné důsledky. Umělá inteligence, která poskytuje špatné lékařské rady, byla zodpovědná za smrtelné výsledky pacientů. Právní problémy vyplynuly z citování halucinace umělé inteligence jako právního precedensu. A software chyby vyplývající z toho, že asistent umělé inteligence poskytl nesprávné informace, poškodily produkty společnosti a její reputaci a vedly k široké nespokojenosti uživatelů.

A věci jsou na tom horší.

Příchod a rychlá adopce agentic umělé inteligence, umělé inteligence, která může fungovat autonomně a činit rozhodnutí, bude zvyšovat důležitost projektování bezpečnosti umělé inteligence.

Agentic umělá inteligence, která může jednat vaším jménem, by mohla být nesmírně užitečná. Místo toho, aby vám říkala o nejlepších letech pro cestu, mohla by je najít a rezervovat pro vás. Pokud chcete vrátit produkt, umělá inteligence společnosti by mohla nejen říct vám návratovou politiku a jak podat žádost o vrácení, ale také zpracovat celou transakci pro vás.

Skvělé – pokud agent nehalucinuje let nebo nezpracovává vaše finanční informace nesprávně. Nebo se nespletne v návratové politice společnosti a odmítne platné vrácení.

Není těžké vidět, jak současné rizika bezpečnosti umělé inteligence by mohla snadno eskalovat s množstvím agentů umělé inteligence, kteří činí rozhodnutí a jednají, zvláště když pravděpodobně nebudou jednat sami. Velká část skutečné hodnoty agentic umělé inteligence bude pocházet z týmů agentů, kde jednotliví agenti zpracovávají části úkolů a spolupracují – agent s agentem – aby dokončili práci.

Jak tedy můžete přijmout bezpečnost umělé inteligence navrženou, aniž byste brzdili inovace a likvidovali její potenciální hodnotu?

Bezpečnost navržená v akci

Ad hoc bezpečnostní kontroly nejsou odpovědí. Ale integrování bezpečnostních postupů do každé fáze implementace umělé inteligence je.

Začněte s daty. Ujistěte se, že data jsou označena, anotována, kde je to potřeba, bez偏見 a vysoké kvality. To je zvláště důležité pro trénovací data.

Vyškolte své modely s lidskou zpětnou vazbou, protože lidský úsudek je nezbytný pro formování chování modelu. Učení s lidskou zpětnou vazbou (RLHF) a další podobné techniky umožňují anotátorům ohodnotit a vést odpovědi, což pomáhá LLM generovat výstupy, které jsou bezpečné a v souladu s lidskými hodnotami.

Pak, předtím než vydáte model, podrobte ho stresovému testu. Červené týmy, které se snaží vyprovokovat nebezpečné chování pomocí adversativních příkazů, edge případů a pokusů o únik, mohou odhalit zranitelnosti. Opravením jich předtím, než se dostanou do veřejnosti, udržujeme věci v bezpečí, než nastane problém.

Zatímco tento test zajišťuje, aby vaše modely umělé inteligence byly robustní, pokračujte v monitorování s ohledem na vznikající hrozby a úpravy, které mohou být potřebné pro modely.

Podobně pravidelně monitorujte zdroje obsahu a digitální interakce na známky podvodu. Kriticky, použijte hybridní přístup umělé inteligence a lidské, dovolte automatizaci umělé inteligence, aby se postarala o enormní objem dat, které je třeba monitorovat, a zkušené lidi, aby se postarali o kontroly pro vynucení a zajištění přesnosti.

Aplikace agentic umělé inteligence vyžaduje ještě větší péči. Základní požadavek: vyškolte agenta, aby znal své omezení. Když narazí na nejistotu, etické dilema, nové situace nebo zvláště kritická rozhodnutí, zajistěte, aby věděl, jak požádat o pomoc.

Kromě toho navrhněte stoprocentnost do vašich agentů. To je zvláště důležité, aby interakce probíhaly pouze s ověřenými uživateli, aby se zabránilo podvodným aktérům, kteří by ovlivňovali jednání agenta.

Pokud zdánlivě fungují efektivně, mohlo by být lákavé je pustit a nechat je dělat svou věc. Naše zkušenosti říkají, abyste je i nadále monitorovali a úkoly, které plní, aby se dívali na chyby nebo neočekávané chování. Použijte automatizované kontroly i lidskou kontrolu.

Ve skutečnosti je základní prvek bezpečnosti umělé inteligence pravidelná lidská účast. Lidé by měli být úmyslně zapojeni tam, kde je zapotřebí kritický úsudek, empatie nebo nuance a nejistota při rozhodování nebo jednání.

Znovu, aby bylo jasné, tyto jsou všechny postupy, které stavíte do implementace umělé inteligence předem, navržené. Není to výsledek něčeho, co šlo špatně, a pak spěcháte, abyste zjistili, jak minimalizovat škody.

Funguje to?

Byli jsme aplikovat filozofii bezpečnosti umělé inteligence a “navrženou” strukturu s našimi klienty po celou dobu vzniku GenAI a nyní na rychlé cestě k agentic umělé inteligenci. Zjišťujeme, že, na rozdíl od obav, že to zpomalí věci, ve skutečnosti urychluje.

Agentic umělá inteligence má potenciál snížit náklady na zákaznickou podporu o 25-50%, zatímco zvyšuje spokojenost zákazníků. Ale to vše závisí na důvěře.

Lidé, kteří používají umělou inteligenci, musí jí důvěřovat, a zákazníci, kteří interagují s agenty umělé inteligence nebo s skutečnými agenty umělé inteligence, nemohou zažít žádnou interakci, která by podkopala jejich důvěru. Jediná špatná zkušenost může zničit důvěru v značku.

Nedůvěřujeme tomu, co není bezpečné. Takže, když stavíme bezpečnost do každé vrstvy umělé inteligence, kterou jsme na cestě spustit, můžeme to udělat s důvěrou. A když jsme připraveni ji škálovat, můžeme to udělat rychle – s důvěrou.

Zatímco uplatňování bezpečnosti umělé inteligence na prvním místě může vypadat jako přehlcující, nejste sami. Existuje mnoho odborníků, kteří vám mohou pomoci, a partneři, kteří mohou sdílet, co se naučili a co se učí, abyste mohli využít hodnotu umělé inteligence bezpečně, aniž byste zpomalili.

Umělá inteligence byla dosud zajímavou jízdou, a jak se jízda zrychluje, je to vzrušující. Ale jsem také rád, že nosím helmu.