Myslitelé
Od neuronových sítí k nedbalosti: kdo odpovídá, když AI selže?

Klíčové bodyNeprůhlednost umělé inteligence vytváří odpovědnostní mezeru tím, že komplikuje klíčové…
Zobrazit více
- Neprůhlednost umělé inteligence vytváří odpovědnostní mezeru tím, že komplikuje klíčové prvky z nedbalosti, jako je povinnost péče a příčinná souvislost.
- Soudy mohou na umělou inteligenci aplikovat stávající doktríny odpovědnosti za výrobek, ale vyžadují k tomu pokročilé technické důkazy.
- Režimy objektivní odpovědnosti by mohly spravedlivě alokovat riziko v případech, kdy je škoda způsobená umělou inteligencí předvídatelná, ale příčinná souvislost je nejasná.
Tento článek se zabývá právními otázkami újmy způsobené umělou inteligencí a tím, kdo může nést odpovědnost, pokud neuronová síť nefunguje správně ve skutečném světě.
Umělá inteligence (AI) se již nevyskytuje pouze ve výzkumných laboratořích, ale také v soudních síních, klinikách, automobilech a burzách, kde neuronové sítě diagnostikují nemoci, schvalují úvěry a stále více plní úkoly, které byly dříve považovány za doménu lidí. Když však tyto systémy selžou ve skutečném světě, může to mít vážné a někdy i smrtelné následky.
Jako advokát zastupující žalobce v případech újmy na zdraví v kanadském Ontariu a současný kandidát na titul Doctor of Business Administration, který zkoumá průnik podnikání, práva a technologií, dostávám stále častěji jednoduchou otázku: Kdo nese odpovědnost, pokud dojde k újmě způsobené AI?
Odpověď je ve skutečnosti složitější. AI představuje výzvu pro doktríny nedbalosti, příčinné souvislosti a předvídatelnosti a klade základní otázky o tom, jak by se měl zákon vyrovnat s rozhodnutími učiněnými stroji.
Rozšiřující se role AI v rozhodování s vysokým rizikem
AI již není omezena pouze na automatizaci málo kvalifikovaných úkolů nebo na platformy strojového učení. Nyní činí rozhodnutí v oblasti zdravotnictví, financí, zaměstnanosti, dopravy, policie a právních analýz.
Současné modely AI obvykle sestávají z hlubokých neuronových sítí, které, ačkoli mohou detekovat komplexní vzory v rámci velkých datových sad, zůstávají podstatně neprůhledné pro své vývojáře. Akademici pozorovali, že AI systémy zavádějí nepředvídatelnost a autonomii do práva, které bylo dříve striktně řízeno předvídatelností a záměrem. To vytváří konflikt mezi inovací a zodpovědností.
Zatímco právní systémy považují způsobenou újmu za připsanou lidem, AI rozděluje odpovědnost mezi tvůrce datových sad, vývojáře systémů, subjekty, které je nasazují, a koncové uživatele. Odpovědnost se stává rozptýlenou.
Mezera v odpovědnosti: Když nelze snadno připsat újmu
Právní vědci stále více mluví o vznikající „mezeře v odpovědnosti“ ve správě a řízení AI. Tradiční právo deliktů závisí na identifikaci:
- Povinnosti péče
- Porušení této povinnosti
- Příčinné souvislosti
- Škody
AI komplikuje každý prvek. Například vývojáři nemusí vědět, jak se model bude chovat po nasazení, a organizace mohou používat systémy strojového učení třetích stran. Z pohledu koncového uživatele je mechanismus pro stanovení výstupů neprůhledný.
Jedna akademická studie upozornila, že je obtížnější prokázat zavinění, pokud AI systémy jednají částečně autonomně nebo se přizpůsobují autonomně prostřednictvím procesů, jako je strojové učení. Tato fragmentace ohrožuje doktríny, které se spoléhají na lidskou činnost.
Ve sporech o náhradu újmy na zdraví soudy tradičně zkoumají, zda se žalovaný choval rozumně v dané situaci. Ale jak by měly soudy posuzovat rozumnost, když rozhodování je částečně delegováno na probabilistické modely?
Neuronové sítě a problém vysvětlitelnosti
Systémy hlubokého učení často fungují jako „černé skříňky“. Jejich vnitřní rozhodovací procesy nejsou snadno interpretovatelné, ani pro odborníky. Tento nedostatek vysvětlitelnosti má vážné právní důsledky.
Pokud by lékařský AI systém špatně diagnostikoval rakovinu, kde by bylo možné hledat pochybení? Rozhodovat by mohly tyto okolnosti:
- Jak byl model trénován
- Zda trénovací data obsahovala předpojatost
- Zda validační procesy byly dostatečné
- Zda se klinici příliš spoléhali na automatizovaný výstup
Právní literatura doporučuje rozlišení mezi odpovědností z hlediska příčinné souvislosti, odpovědností vyplývající z role a právní odpovědností za náhradu újmy pro připsání odpovědnosti za újmy způsobené AI.
Nicméně v praxi by se odpovědnost mohla vztahovat na řetězec aktérů:
- Poskytovatelé dat
- Vývojáři softwaru
- Osoby trénující modely
- Subjekty nasazující systémy
- Organizace, které používají výstupy AI
- Profesionálové, kteří se spoléhají na doporučení AI
AI odpovědnost neodstraňuje, ale přerozděluje.
Poučení z autonomních vozidel: Případová studie o odpovědnosti AI
Soudní spory související s autonomními vozidly poskytují první představu o tom, jak soudy mohou řešit újmu způsobenou AI. Soudy aplikovaly obvyklé zásady nedbalosti a odpovědnosti za výrobek na nové technologie, které způsobily zranění. V nedávných případech poroty začaly rozdělovat odpovědnost mezi lidské řidiče a technologické společnosti, které vytvořily automatizované systémy řízení.
Právní komentátoři navrhli, že stávající doktríny odpovědnosti za výrobek, jako jsou konstrukční vady, výrobní vady a nedostatečné varování, jsou relevantní pro systémy využívající AI.
Autonomní vozidla však odhalují omezení současných právních rámců. Má odpovídat výrobce vozidla? Vývojář softwaru? Člověk, který vozidlo obsluhuje? Nebo data použitá k trénování algoritmu?
Někteří právní vědci navrhli, že analogické použití zásad odpovědnosti za výrobek může účinně vymezit odpovědnost mezi subjekty na začátku a na konci vývojového a uživatelského řetězce.
Z pohledu žalobce ukazují případy, že soudy mohou stále aplikovat obvyklé zásady na nové technologie, ale pouze za pomoci skutečně vysoce odborných znaleckých důkazů a technických znalostí.
Objektivní odpovědnost a nedbalost: Soupeřící právní teorie
Centrální debata se týká otázky, zda lze aplikovat obvyklé rámce nedbalosti na systémy AI. Někteří učenci podporují režimy objektivní odpovědnosti, argumentujíce, že poškození by neměli nést břemeno prokázání zavinění ve vysoce složitých technologických prostředích.
Objektivní odpovědnost může být zvláště užitečná tam, kde je újma předvídatelná, ale nevyhnutelná, kde je systém AI nasazen ve velkém měřítku a kde jsou rizika rozložena ve společnosti. Totéž platí, pokud se technická příčinná souvislost obtížně prokazuje.
Je také argumentováno, že právo upravující odpovědnost za nedbalost se může přizpůsobit technologickým změnám. Srovnávací právní výzkum podpořil navazování na existující právní doktríny, které mají vlastní stabilizační účinky a umožňují postupné přizpůsobování novým druhům újmy.
Objektivní odpovědnost a nedbalost ilustrují právněpolitické preference týkající se inovací, spravedlnosti a toho, jak rozdělovat rizika a náklady.
Měli by inovátoři nést odpovědnost za technologické riziko? Nebo by společnost měla společně sdílet náklady pokroku?
Podnikatelský pohled: Rozdělování rizika a pojištění
Z podnikatelského pohledu je odpovědnost AI nejen právním problémem, ale také otázkou řízení rizika. Organizace, které nasazují systémy AI, se začaly zaměřovat na otázky smluvního rozdělování rizika, pojištění profesní odpovědnosti, pojistného krytí kybernetických rizik, závazků k náhradě újmy a rámců pro dodržování regulace.
Pojistné trhy mohou hrát důležitou roli při stanovení odpovědnosti za AI. Někteří výzkumníci naznačují, že některé újmy z AI mohou být nakonec nejlépe řešeny prostřednictvím hybridních kompenzačních schémat, která kombinují pojištění a deliktní právo.
Společnosti, které začleňují AI do provozního rozhodování, by měly zohlednit riziko soudních sporů ve svých digitálních transformacích. Nesplnění tohoto požadavku může tyto organizace vystavit riziku poškození pověsti, regulačních sankcí a civilní odpovědnosti.
Etická odpovědnost vs. právní odpovědnost
V mnoha případech není právní odpovědnost ekvivalentní etické odpovědnosti. Debata o řízení AI zahrnuje následující zásady:
- Spravedlnost
- Transparentnost
- Odpovědnost
- Vysvětlitelnost
Právní povinnosti však nevyplývají automaticky z etických úvah.
Nedávná práce navrhuje konceptuální rámce pro rozdělování odpovědnosti v multi-aktérových ekosystémech AI a pro tvorbu důkazních pravidel, která spojují rozhodnutí o návrhu systému s právními důsledky. Právní systémy, které usilují o podporu inovací, musí také zohlednit ty, kteří jsou poškozeni novou technologií. Toto hledání rovnováhy bude formovat budoucnost řízení AI.
Budoucnost nedbalosti v době umělé inteligence
Umělá inteligence zpochybňuje předpoklad, že rozhodovací pravomoc vždy spočívá u identifikovatelných lidských aktérů. Nicméně právní odpovědnost nakonec zůstává lidská.
V blízké budoucnosti je nepravděpodobné, že soudy uznají AI systémy jako právní osoby. Místo toho se očekává, že osoby, které vyvíjejí, nasazují a profitují z AI systémů, budou považovány za odpovědné.
S rostoucí samostatností systémů AI se mohou vyvíjet hybridní modely kombinující různé formy regulace:
- Zásady nedbalosti
- Doktríny odpovědnosti za výrobek
- Regulační dohled
- Pojišťovací kompenzační schémata
AI nemusí nahrazovat pojmy common law, ale pouze přimět soudy, aby je upřesnily. Z pohledu žalobce je otázka, co se stalo.
Kdo je tvůrce rizika? Kdo může nejlépe zabránit, aby riziko poškodilo jednotlivce?
Dokud zákonodárci nepřijmou ucelené režimy odpovědnosti za AI, budou soudy na nové technologie používat existující právní doktríny. Neuronové sítě mohou být nové. Nedbalost nová není.











