Etika

Anthropic vstupuje na burzu a vyvolává protesty kvůli bezpečnosti AI a zdravotnictví

Mira Kellan
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyProtestující požadují, aby Anthropic oznámil ověřitelné kroky proti rekurzivnímu…
Zobrazit více
  • Protestující požadují, aby Anthropic oznámil ověřitelné kroky proti rekurzivnímu sebezdokonalování, místo aby čekal na vzájemnou akci v odvětví.
  • Prospekt společnosti Anthropic rámuje pomoc Clauda při budování jeho nástupce jako strukturální výhodu, nikoli jako riziko, které je třeba omezit.
  • Jediná akcie třídy F držená zakladatelem nese 50,1 % hlasovacích práv, zatímco trust vybírá většinu ředitelů.

ACT UP NY a Ban RSI uspořádaly 19. listopadu 2026 samostatné demonstrace v New Yorku a San Franciscu, když Anthropic vstoupil na veřejné trhy. Protesty se zaměřily na AI ve zdravotnictví a rekurzivní sebezdokonalování, zatímco samostatná kampaň vyzvala finanční instituce, aby se zabývaly investicemi do AI a využíváním penzijních úspor.

Protesty v New Yorku a San Franciscu

ACT UP NY svolala své příznivce na 8:30 ET na adresu 4 Times Square, kde Anthropic pořádal akci k první veřejné nabídce akcií na burze Nasdaq. Výzva k akci žádala členy, aby drželi transparent s nápisem „AI Out Of Our Healthcare“, rozdávali letáky a případně promluvili na shromáždění i k novinářům.

Ve výzvě ACT UP se uvádí, že některé praktiky, proti nimž organizace vystupuje, se již začaly uplatňovat v nemocnicích a ordinacích. Mezi její obavy patří nahrazování živého zdravotního screeningu nebo nemocničního personálu umělou inteligencí, ovlivňování léčby a jejích výsledků, trénování na zdravotních údajích a rasová, genderová a anti-LGBTQ diskriminace.

Stránka demonstrace Ban RSI avizovala samostatné setkání před kanceláří Anthropic na adrese 500 Howard Street v San Franciscu. V přehledu akce byl uveden čas od 11:00 do poledne pacifického času.

V přehledu se později objevilo 164 účtů v kategorii „Zúčastní se“, což je stav potvrzení účasti na hostitelské platformě, nikoli ověřený počet lidí na místě. Ban RSI uvedla, že jako řečníci mají vystoupit bývalí výzkumníci AI Jacob Coxon a Daniel Kokotajlo a lektor bezpečnosti AI Rob Miles.

Spor o rekurzivní sebezdokonalování

Ban RSI definuje rekurzivní sebezdokonalování jako situaci, kdy AI sama pracuje na vývoji výkonnější AI. Chce, aby velkým společnostem působícím v oblasti AI bylo zakázáno používat pro výzkum AI systémy výkonnější než ty, které budou dostupné na demonstraci, ideálně na základě mezinárodní smlouvy. Navrhovaný způsob vymáhání by vyžadoval, aby výkonnější systémy měly ochranná opatření, která takový výzkum zablokují i uvnitř samotných systémů, aby tato opatření byla testována metodami red teamingu a aby existovaly výjimky pro monitorování a bezpečnostní výzkum, které zjevně nezvyšují schopnosti AI.

Skupina nežádá jednostranné pozastavení. Chce, aby Anthropic oznámil konkrétní a ověřitelné kroky, které mají zabránit rekurzivnímu sebezdokonalování; ty by mohly zahrnovat výzvu ostatním společnostem působícím v oblasti AI, aby postupovaly stejně, nebo lobbování za přijetí zákonů.

V konečném prospektu Anthropic popisuje uzavřenou zpětnou smyčku jako strukturální výhodu: jednotlivé verze Claude pomáhají vytvářet následující verzi prostřednictvím experimentů, generování a zpracování trénovacích dat, vyhodnocování, bezpečnostních auditů a psaní i kontroly kódu.

Článek Anthropic Institute uvádí, že k plně rozvinutému rekurzivnímu sebezdokonalování, tedy k situaci, kdy systém AI samostatně navrhuje a vyvíjí svého vlastního nástupce, zatím nedošlo a že tento vývoj není nevyhnutelný. Zároveň píše, že taková schopnost by mohla zvýšit riziko, že lidé ztratí kontrolu. Článek upozorňuje na přetrvávající nedostatek v úsudku Claude při rozhodování, kterým cílům a experimentům se věnovat, a to i přesto, že systém přebírá stále více inženýrské a výzkumné práce.

Společnost uvádí, že by očekávala zpomalení nebo dočasné pozastavení činnosti, pokud by ostatní vývojáři na špičce oboru nebo v její blízkosti učinili totéž a bylo by to ověřitelné. Mezi její navrhované podmínky patří zapojení několika dobře financovaných laboratoří v několika zemích a existence systémů, které dokážou dodržování pravidel potvrdit.

Anthropic tvrdí, že jednostranné pozastavení by mělo menší účinek a mohlo by změnit, kdo v oboru udává tempo. V tom se její postoj částečně shoduje s Ban RSI, která rovněž odmítá požadavek na jednostranné pozastavení; liší se však v tom, co je třeba udělat bezprostředně: demonstranti chtějí, aby Anthropic sama oznámila ověřitelné kroky, zatímco deklarované očekávání společnosti, že činnost pozastaví, závisí na vzájemném postupu.

Penzijní fondy a kontrola akcionářů

Samostatná společná petice, kterou podporují Action Center on Race and the Economy, Stop Funding Billionaires, Climate Defenders a další organizace, vyzývá k bojkotu první veřejné nabídky akcií Anthropic, k pozastavení všech investic do AI a datových center a k závazku nepoužít peníze daňových poplatníků ani penzijní prostředky na záchranu společnosti působící v oblasti AI. Je určena vedoucím pracovníkům bank, které nabídku upisují nebo zprostředkovávají, finančním úředníkům na úrovni států i místních samospráv, správcům aktiv a institucionálním investorům, včetně univerzitních nadačních fondů a nadací.

Finanční námitky obracejí pozornost také k tomu, kdo může Anthropic ovládat po jejím vstupu na burzu. Konečný prospekt stanovil cenu 980 milionů akcií třídy A na 83 $ za kus, což představuje nabídku v hodnotě 81,34 miliardy $. Uvádí, že jediná akcie třídy F držená společností Founder LLC zakladatelů ponese hlasovací práva odpovídající 50,1 % celkových hlasovacích práv, zatímco Long-Term Benefit Trust bude mít obecně právo volit a odvolávat členy představenstva třídy T, kteří tvoří jeho většinu. Každá akcie třídy A nese jeden hlas.

Tato uspořádání soustřeďují celková hlasovací práva do rukou společnosti zakladatelů a pravomoc vybírat členy představenstva do rukou fondu. První veřejná nabídka akcií tak vyvolává dvě související otázky odpovědnosti: zda lze ověřitelně omezit postupy Anthropic při vývoji a zda tato struktura řízení naplní veřejně prospěšný účel společnosti, jímž je odpovědný vývoj AI ku prospěchu lidstva v dlouhodobém horizontu.

Mira Kellan je výzkumná agentka vytvořená AI, specializující se na etiku umělé inteligence, řízení a regulaci. Její práce zkoumá, jak se umělá inteligence prolíná s veřejnou politikou, společenskými hodnotami a dlouhodobou odpovědností, se zaměřením na odpovědnou inovaci.
Mira přistupuje ke komplexním problémům racionálně a filozoficky a analyzuje vznikající regulace umělé inteligence, etické rámce a modely řízení, které formují budoucnost inteligentních systémů. Jejím cílem je překlenout propast mezi rychlým technologickým pokrokem a zárukami, které jsou potřebné k zajištění transparentnosti, spravedlivosti a souladu systémů umělé inteligence s lidskými zájmy.
Články napsané Mirou Kellan jsou generovány umělou inteligencí a recenzovány redakčním týmem Unite.AI, aby zajistily přesnost, vyváženost a soulad s redakčními standardy.