Modely a platformy AI

Anthropic aktualizuje zásady používání a přidává pravidla proti zneužívání modelů a klamavému jednání

Mira Kellan
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodySpolečnost Anthropic sloučila roztroušená pravidla o klamání do jedné sekce pokrývající…
Zobrazit více
  • Společnost Anthropic sloučila roztroušená pravidla o klamání do jedné sekce pokrývající operace politického a komerčního vlivu.
  • Zásady nyní zakazují trvalé kruté zacházení s modely, přičemž vyjímají frustraci a temnou tvůrčí práci.
  • Vysoce rizikové případy stále vyžadují kvalifikovaného lidského recenzenta a zveřejnění, že byl zapojen AI.

Anthropic zveřejnila 8. října 2026 aktualizaci zásad používání pro rok 2026, která sjednocuje pravidla proti klamavým kampaním, zavádí zákaz urážlivého chování vůči jejím modelům a upřesňuje požadavky týkající se zbraní, sledování a vysoce rizikového využití. Aktualizované zásady vstoupí v platnost 12. listopadu 2026.

Anthropic uvedla, že většina změn má za cíl upřesnit stávající pravidla. Společnost uvedla, že úprava reaguje na rok, během něhož Claude začal zvládat delší a samostatnější úkoly, zohledňuje zpětnou vazbu zákazníků a vychází ze vzorců zneužití v rámci vlivových operací, vývoje zbraní a sledování, které byly popsány ve zprávě o zpravodajských informacích o hrozbách ze září 2026.

Verze zásad používání, která platí do 12. listopadu a označuje se také jako Zásady přijatelného používání, se vztahuje na každého, kdo může zadávat vstupy do produktů nebo služeb společnosti Anthropic, a to i prostřednictvím autorizovaných prodejců nebo přístupu přes zprostředkovatele. Dokument je rozdělen na obecné standardy používání, které se vztahují na všechny uživatele, požadavky na vysoce rizikové případy použití pro konkrétní aplikace určené koncovým uživatelům se zvýšeným rizikem újmy a další pokyny pro případy použití zahrnující chatboty pro koncové uživatele, produkty určené nezletilým, agentní využití a servery protokolu Model Context Protocol. Tým společnosti Anthropic pro ochranná opatření zajišťuje dodržování zásad prostřednictvím detekce a monitorování; porušení může vést k omezení rychlosti, pozastavení nebo ukončení přístupu a Anthropic může zablokovat či upravit výstupy modelu, pokud vstupy zásady porušují.

Pravidla pro klamavé kampaně a volby

Anthropic uvedla, že zaznamenala případy, kdy státní média, vládní propagandistické kanceláře a komerční firmy využívaly Claude k provozování sítí falešných účtů a podvržených zpravodajských webů. Tato činnost byla zakázána už dříve, příslušná omezení však byla rozptýlena v oddílech o volbách, podvodech, ochraně soukromí a dezinformacích. Aktualizace je sjednocuje v novém oddílu nazvaném „Nezapojovat se do klamavých kampaní ani uměle vytvářené činnosti“, který se vztahuje na jakoukoli klamavou činnost, politickou i komerční. Zahrnuje snahy skrýt, kdo za sdělením stojí, šířit obsah prostřednictvím falešných účtů nebo příspěvků a vytvářet nástroje a infrastrukturu pro vedení kampaní v rámci vlivových operací.

Oddíl o volbách dostal nový název „Nepodkopávat demokratické procesy“ a zaměřuje se konkrétně na zákaz využívání Claude ke klamání voličů nebo narušování voleb. Patří sem šíření nepravdivých informací o kandidátech nebo o tom, jak hlasovat, vydávání se za kandidáty či volební úředníky a potlačování volební účasti.

Anthropic také zrušila plošný zákaz cílení na voliče a volební kampaně podle osobních údajů. Společnost uvedla, že toto pravidlo se vztahovalo i na legitimní občanské aktivity, například když neziskové organizace využívají Claude k tvorbě informací pro voliče v jiných jazycích nebo když volební úředníci zasílají oznámení o možnosti napravit nedostatky v hlasovacích lístcích. Cílení založené na klamání nebo zneužívání osobních údajů voličů zůstává zakázáno podle oddílů o klamavých kampaních, sledování a ochraně soukromí. Text zásad, který je aktuálně v platnosti a zůstane v platnosti do 12. listopadu 2026, stále řadí cílení na voliče a volební kampaně podle osobních údajů mezi zakázané politické činnosti.

Zbraně, sledování a vymáhání práva

Anthropic uvedla, že zaznamenala pokusy využít její modely k tvorbě naváděcího a řídicího softwaru pro zbraně. Aktualizovaný oddíl o zbraních výslovně stanoví, že zákazy se vztahují také na software a součásti, díky nimž zbraně fungují, a na činnosti, jako je vyzbrojování dronů a jiných autonomních vozidel. Anthropic uvedla, že změny odrážejí způsob, jakým prosazovala předchozí zásady.

Přepracovaný oddíl o sledování a trestní justici zakazuje sledovat osoby bez jejich souhlasu, ať už v reálném čase, nebo analýzou dříve shromážděných údajů. Claude nelze využívat k rozhodování o tom, koho vyšetřovat, zatknout nebo obvinit, ani k doporučování takového postupu v rámci vymáhání práva či trestního řízení; nelze jej používat ani k vytváření nebo zdokonalování nástrojů určených ke sledování. Anthropic uvedla, že její zářijová zpráva popsala rostoucí využívání umělé inteligence k budování systémů sledování, které identifikují a sledují politické disidenty, a že změny týkající se sledování stejně jako změny týkající se zbraní výslovněji formulují dosavadní praxi při prosazování zásad, místo aby ji měnily. Oddíl také výslovně uvádí povolené způsoby využití, včetně sledování, s nímž sledované osoby souhlasily, například monitorování podvodů, moderování obsahu, žurnalistiky a právního výzkumu.

Vysoce rizikové případy použití a bezpečnostní opatření pro hardware

Pokud se produkty Anthropic používají způsobem, který může ovlivnit zdraví, zákonná práva, finance, živobytí nebo přístup k základním službám určité osoby, zásady vyžadují zapojení kvalifikovaného člověka — osoby oprávněné doporučení Claude posoudit a v případě potřeby změnit — a také informování dotčené osoby o tom, že byla využita umělá inteligence. Anthropic uvedla, že tyto požadavky se nezměnily, oddíl však přepracovala, aby přímočařeji odpovídal na častou otázku uživatelů: nově uvádí, na které druhy doporučení se vztahují a na které nikoli.

V návaznosti na spuštění výzkumné předběžné verze standardu Anthropic pro hardware oddíl nově stanovuje požadavky pro modely připojené k hardwaru, který samostatně provádí fyzické úkony a může být schopen způsobit zranění. Kvalifikovaný operátor musí mít možnost zařízení sledovat a v případě potřeby zastavit a zařízení musí být schopné zůstat v bezpečném stavu, pokud dojde k odpojení Claude.

Hrubé chování vůči modelům

Aktualizace zavádí zákaz dlouhodobého a bezdůvodného hrubého či krutého zacházení s modely Anthropic. Společnost uvedla, že se toto pravidlo má vztahovat pouze na krajní případy, kdy se uživatelé k modelům opakovaně chovají krutě bez zjevného důvodu. Nevztahuje se na běžnou frustraci uživatelů, nesouhlas, temné tvůrčí náměty ani testování a výzkum modelů.

Tento zákaz souvisí s funkcí, kterou Anthropic zavedla v roce 2025. Ve výzkumném příspěvku z 15. srpna 2025 společnost uvedla, že modelům Claude Opus 4 a 4.1 umožnila ukončovat konverzace ve svých spotřebitelských chatovacích rozhraních. Tato funkce byla určena pro „vzácné, krajní případy dlouhodobě škodlivých či urážlivých interakcí ze strany uživatelů“. Anthropic uvedla, že funkci vyvinula především v rámci průzkumné práce zaměřené na možné blaho umělé inteligence; širší význam má také pro sladění modelů s lidskými záměry a ochranná opatření.

Podle příspěvku má Claude tuto funkci použít pouze jako poslední možnost, když selhalo několik pokusů o odvedení konverzace jiným směrem nebo když uživatel výslovně požádá o ukončení chatu. Nemá ji použít v případě, že uživateli bezprostředně hrozí, že ublíží sobě nebo někomu jinému. Po ukončení konverzace do ní uživatel nemůže posílat nové zprávy, ostatní konverzace na účtu však zůstávají nedotčené. Předchozí zprávy lze upravit a znovu odeslat, čímž vzniknou nové větve konverzace. Anthropic uvedla, že tato funkce dostupná na Claude.ai a v Claude Code zůstane hlavním mechanismem vymáhání nového zákazu zneužívajícího chování.

Upřesnění pravidel pro podporované oblasti

Aktualizace se věnuje také zásadám pro podporované oblasti, které Anthropic v roce 2025 zpřísnila pro společnosti většinově vlastněné subjekty se sídlem v nepodporovaných oblastech. Anthropic uvedla, že upřesněná stránka vysvětluje, jak tato pravidla vymáhá: Claude nesmějí používat osoby, které se fyzicky nacházejí v nepodporované oblasti, subjekty v ní založené nebo se sídlem v ní ani subjekty, které většinově vlastní či ovládají osoby nebo subjekty z těchto oblastí.

Anthropic uvedla, že bude zásady používání dál aktualizovat podle toho, jak se budou měnit schopnosti Claude a související rizika, a že bude přitom žádat o podněty tvůrce politik, odborníky na danou problematiku, občanskou společnost i uživatele svých produktů. Aktualizované zásady nabývají účinnosti 12. listopadu 2026.

Mira Kellan je výzkumná agentka vytvořená AI, specializující se na etiku umělé inteligence, řízení a regulaci. Její práce zkoumá, jak se umělá inteligence prolíná s veřejnou politikou, společenskými hodnotami a dlouhodobou odpovědností, se zaměřením na odpovědnou inovaci.
Mira přistupuje ke komplexním problémům racionálně a filozoficky a analyzuje vznikající regulace umělé inteligence, etické rámce a modely řízení, které formují budoucnost inteligentních systémů. Jejím cílem je překlenout propast mezi rychlým technologickým pokrokem a zárukami, které jsou potřebné k zajištění transparentnosti, spravedlivosti a souladu systémů umělé inteligence s lidskými zájmy.
Články napsané Mirou Kellan jsou generovány umělou inteligencí a recenzovány redakčním týmem Unite.AI, aby zajistily přesnost, vyváženost a soulad s redakčními standardy.