
Jak jsem již řekl v prvním díle, prozatím nejsme s AI dále než u druhé generace. Proto naše hodnocení trestní odpovědnosti za chování AI nebo robota nebude až tak složité. Otázkou ale je, co si máme představit pod pojmem robot nebo AI v kalírně.
Může to být robot jako takový, může to být robotický zakládací vozík, ale může to být i řídící systém pece založený na SCADA, SIMATIC, stejně tak ale i DEMIG nebo STANGE atd. Systémů a variant je bezpočet.
V případě, že z jakéhokoliv důvodu robot, řídící systém pece, AMR robotický vozík (Autonomous Mobile Robotics) nám způsobí škodu nebo úraz, budou aplikovány dva základní typy posuzování
Objektivní odpovědnost – škůdce odpovídá za škodu bez ohledu na zavinění
Subjektivní odpovědnost – požaduje prokázání zavinění, alespoň ve formě nedbalosti
U objektivní odpovědnosti je potřeba vědět
Příkladem je odpovědnost za škodu způsobenou nebezpečnou činností nebo odpovědnost zaměstnavatele za pracovní úrazy. U subjektivní odpovědnosti je potřeba vědět:
Příkladem je trestní odpovědnost – aby byl někdo potrestán za trestný čin, musí být ale prokázáno jeho zavinění.
V českém právním řádu je produktová odpovědnost zabudována do Občanského zákoníku (zákon č. 89/2012 Sb.), konkrétně v ustanoveních o zvláštní odpovědnosti za škodu způsobenou vadou výrobku, a v zákoně o ochraně spotřebitele. Výrobce, resp. osoba která výrobek uvedla na trh, odpovídá bez ohledu na zavinění, pokud se prokáže, že produkt měl vadu v důsledku které vznikla škoda.
Objektivní odpovědnost za škodu, např. za vadný výrobek, má kompenzační, odškodňovací funkci – cílem je nahradit újmu poškozenému. Vychází z principu, že postižený se nemusí zabývat zaviněním škůdce, pouze doloží existenci vady, škody a příčinnou souvislost.
Touto formou se zabývá i Směrnice (EU) 2024/2853
Objektivní odpovědnost v civilním právu je dostatečná k vyřešení majetkové újmy a rychlé kompenzace poškozeného. Nepostačuje však tehdy, jestliže jednání vyvolává silnou společenskou škodu či nebezpečí, a je odůvodněné potrestání pachatele z hlediska ochrany veřejných zájmů.
Pokud je jednání výrazně společenský nebezpečné, zasahuje do chráněných práv a zájmů v míře, jež přesahuje pouhé majetkové nároky poškozeného, může být na místě jeho trestní postih. Typickým příkladem je smrt nebo těžká újma na zdraví způsobená vědomě zanedbaným bezpečnostním standardem. – např. zásadní porušení předpisů, ignorování výstrah. V takovém případě se nejedná jen o nehodu nebo vadu výrobku, ale o jednání s potenciálem ohrozit životy či bezpečnost více lidí, kdy je na místě označit jednání za zločin a uložit příslušnou sankci.
Kumulace civilní a trestní odpovědnosti:
V praxi může poškozený uplatnit současně nárok na náhradu škody v civilním řízení, a orgány činné v trestním řízení mohou, nezávisle na tom, vést trestní řízení proti pachateli. Jedna linie (civilní) se zaměřuje na odškodnění, druhá (trestní) na možný trest (pokuta, odnětí svobody, zákaz činnosti atd.)
Subjektivní trestní odpovědnost
Základní atributy, které slouží pro stanovení případné trestní odpovědnosti, jsou uvedeny v trestním zákoníku.
Obligatorním znakem subjektivní trestní odpovědnosti je zkoumání příčiny.
1. Zneužití robota člověkem – platí, že relevance umělé inteligence z hlediska trestní odpovědnosti je tak stejná, jako případ použití jakéhokoliv jiného nástroje. Půjde zejména o ty případy, v nichž člověk naplňuje objektivní stránku trestného činu sám, s využitím umělé inteligence tak, že ji sám ovládá, byť by jejím prostřednictvím prováděl i dílčí operace, jichž by sám člověk nebyl schopen
2. Závada způsobená okolnostmi na člověku a dané AI nezávislými – platí, že nejde o trestní jednání ani v případě, jestliže pohyb je vyvolán vnější silou nebo jinou, na vůli člověka nezávislou okolností, pokud tato událost nebyla způsobena jeho předchozím, zpravidla nedbalostním jednáním. Podle §146 TrZ bude třeba prokázat, že jednání robota bylo projevem pachatelovy vůle ve vnější světě. Ovšem mohlo by ale dojít k naplnění skutkové podstaty trestného činu v důsledku opomenutí, např. od zapnutí stroje při probíhající údržbě, až po práci s robotem v nevyhovujících podmínkách
3. Jednání samotné AI bez způsobení či zavinění člověkem – přichází zřejmě v úvahu u vyšších generací AI a robotů, a po bezpečném vyvrácení předchozích variant 1 a 2
Klíčovým problémem bude posouzení příčinného vztahu mezi jednáním a následkem. Musí být prokázáno, že určitý následek, např. smrt, zranění, vznik škody, nastal právě v důsledku jednání konkrétní osoby, pachatelem, nikoli následkem jiné okolnosti. Bez prokázání této příčinné souvislosti nelze připsat pachateli odpovědnost za trestný čin. Jedná se o základní podmínku pro uznání viny
Možné příčiny ublížení na zdraví AI nebo řídících systémů druhé generace
Při posuzování chování AI je potřeba vzít v úvahu již existující Nařízení Evropského parlamentu (EU) 2024/1689.
Jako příklad zvolíme výchozí situaci:
1. Výrobce navrhne, otestuje, vyrobí a prodá vakuovou pec s řídícím systémem druhé generace nebo robota s řídícím systémem na bázi AI, přičemž dodrží všechny požadavky AI Actu, (EU) 2024/1689.
2. Uživatel jej užívá rovněž v souladu s tímto Nařízením, zejména pak podle návodu dodaného výrobcem
3. Přesto se robot neočekávaně zachová tak, že způsobí škodu na majetku, zdraví nebo dokonce životu osoby
Bude zahájeno prověřování podle trestního řádu, přičemž přichází v úvahu tři varianty:
A. Vůbec se nezjistí, proč se tak stalo, přičemž nelze vyloučit ani vnější zásah (ovlivnění jednání třetí osobou)
B. Zjistí se, že robot se choval takto v důsledku nesprávného užívání, tj. uživatel ve skutečnosti jednal v rozporu s dokumentací (návodem), možná úmyslně, možná z nevědomosti či nedbalosti
C. Zjistí se, že robot se takto choval v důsledku vady vzniklé u výrobce (lhostejno zda HW nebo SW nebo vložených dat).
Varianta A
Varianta A1: Nezjistí se, proč se robot tak choval, jak se choval
Bude vyroben podle dokumentace, dokumentace bude odpovídat poznatkům vědy a techniky, případně požadavkům nějakých předpisů či technických norem. Přesto něco provede, např. někoho zraní pohybem svého korpusu nebo někoho přejede.
V takovém případě by mohl dojít policejní orgán k závěru, že se nejednalo o trestní čin, protože nejsou splněny podmínky podle §13 odst. 2, TZ, tj., že k trestní odpovědnosti za trestný čin je třeba úmyslného zavinění, nestanoví-li trestní zákon výslovně, že postačí zavinění z nedbalosti. Navíc se nepodaří zjistit pachatele. Nelze zahájit trestní stíhání vůbec, protože se nepodařilo zahájit trestní stíhání konkrétní osoby (§160).
Varianta A2: Zjistí se, že se jednalo o náhodu, shodu okolností
Zjistí se důvod chování, které ale nebylo způsobeno primárně chybou výrobku, ale jednou či více náhodami, nešťastnými okolnostmi.
V případě nějaké nešťastné události, např. v podobě rušení radiových vln (zahlcením okolním provozem) a současně nepříznivého počasí, tj. zmatení orientace robota v prostoru, by se ale dalo diskutovat o tom, že robot měl být projektován tak, aby se s touto situací mohl vypořádat. To bude záviset na odborném posouzení, zda je toto uloženo nějakým právním předpisem nebo zda stačí požadovat, aby návrh robota odpovídal požadavkům vědy a techniky či zdravému rozumu
Varianta A3: Zjistí se ovlivnění nebo zásah třetí osoby
V případě ovlivnění jednání robota třetí osobou by se jednalo o útok, lhostejno zda fyzický nebo logický (hackerský), a pak je zde plná trestní odpovědnost pachatele. Robot by v takovém případě byl věcí, která byla užita ke spáchání trestního činu, tedy nástrojem trestné činnosti ve smyslu §135a, TRZ. Lze předpokládat, že obhajoba, jak se dělo v minulosti v případě útoků na bankovní sektor IS ze strany zaměstnanců, poukazovala na chybnou konstrukci robota, který se neměla takovým útokem dát ovlivnit, protože pachatel jen „něco zkoušel“, ale to by bylo s vysokou pravděpodobností odmítnuto.
Varianta A4: Zjistí se přenastavení robota v důsledku samoučení
Zjistí se, že řídící systém AI se choval jinak, než se předpokládalo, ale ten, coby samoučící, sám sebe přenastavil. V případě nejspecifičtějším, tj. u samoučícího se robota, může být na počátku při dodání robota všechno v pořádku, ale protože to bude samoučící se robot, on sám si osvojí takový způsob jednání (reakce na vnější podněty), že za účelem splnění pracovního úkolu někoho strčí pod jiný stroj.
Tady vlastně nevíme, zda mohl výrobce toto předpokládat, a budeme diskutovat o tom, zda návrh robota odpovídal poznatkům vědy a techniky nebo požadavkům dle AI Actu . Pokud ano, nebude trestní odpovědnost v takovém případě s největší pravděpodobností přicházet v úvahu, neboť chybí zaviněné jednání ve smyslu §13, odst.- 2, TrZ. Nelze dovodit ani nevědomou nedbalost
Varianta B
Varianta B1: Uživatel jednal výslovně v rozporu s dokumentací, činil kroky, které jsou zakázány. Příklad: spustil pohyb robota i když věděl, že se mohou v dráze pohybovat osoby.
V tomto případě by se mohlo jednat budˇ o nedbalost podle §16 odst. 1, a to vědomou nebo nevědomou, nebo o vyšší míru nedbalosti, tj. hrubou nedbalost, podle §16, odst. 2 TRZ. Přichází ale v úvahu i úmysl, a to zejména dle §15, odst. 1, písmeno b). Bude možné zahájit trestní řízení dle §160 TrŘ.
Varianta B2: Uživatel činil kroky, které nejsou zakázány, přesto se ale jeví v rozporu s běžným způsobem užívání nebo tzv. zdravým rozumem – např. spustil pohyb robota za snížené viditelnosti, kdy mohl očekávat, že sensory robota nemusí správně vyhodnotit okolí
Tady asi bude absentovat volní složka, kdy pachatel sice neměl úmysl (nechtěl způsobit porušení nebo ohrožení zájmu chráněného trestním zákoníkem), ale přesto existuje příčinný vztah mezi jednáním pachatele a trestněprávním následkem takového to jednání. Pravděpodobně i zde bude možné zahájit trestní řízení dle §160 dle TrŘ.
Varianta B3: V dokumentaci je chyba
Poklud bude delikt způsoben tím, že uživatel postupoval podle vadné dokumentace, pak by měl být uživatel vyviněn. Otázkou je jen, nakolik vzhledem k okolnostem a k svým osobním poměrům to mohl rozpoznat.
Varianta C
Varianta C1: Zjistí se odpovědná osoba, která vadu zavinila (konstruktér, programátor, montér, tester, autor dokumentace.
V tomto případě by se mohlo jednat buď o nedbalost podle §16, odst. 1, a to vědomou nebo nevědomou, nebo vyšší míru nedbalosti podle §16, odst. 2, tj. hrubou nedbalost. Přichází ale v úvahu i úmysl podle §15 odst. 1, a to jak písmeno a) příklad/msta zaměstnance, nebo písmeno b) lhostejnost.
Vedle stíhání fyzické osoby přichází rovněž do úvahu trestní odpovědnost právnické osoby, výrobce, podle zákona č. 418/2011 Sb. O trestní odpovědnosti právnických osob, pokud bude jednání fyzické osoby přičitatelné právnické osobě ve smyslu §8 tohoto zákona
Varianta C2: Nezjistí se, kdo konkrétně za to může, ale bude prokázáno, že vada vznikla při návrhu, výrobě nebo testování, tedy u výrobce
V případě C2 se nepodařilo zjistit skutečnosti opravňující zahájit trestní stíhání konkrétní fyzické osoby. Nicméně v tomto případě přichází pravděpodobně v úvahu trestní odpovědnost právnické osoby, výrobce, podle zákona č. 418/2011 Sb. o trestní odpovědnosti právnických osob a řízení proti nim, neboť podle §8, odst. 3 trestní odpovědnosti právnické osoby nebrání, nepodaří-li se zjistit, která konkrétní fyzická osoba jednala způsobem uvedeným v tomto zákoně. Nesmí ale být pochyb o tom, nikoliv pouze hypoteticky, že taková fyzická osoba skutečně existuje
Varianta C3: Zjistí se, že vadu zapříčinil subdodavatel nějaké komponenty
V tomto případu nelze vyloučit trestní odpovědnost fyzické osoby jednající za subdodavatele, resp. subdodavatel jako právnické osoby, a vedle toho i trestní odpovědnost fyzické osoby jednající za výrobce, resp. výrobce jako právnické osoby.
Nejpravděpodobněji by se jednalo v obou případech o odpovědnost za některý z nedbalostních trestních činů (subdodavatel z nedbalosti způsobí vadu a výrobce j i z nedbalosti neodhalí). Při takovém průběhu nedojde k přerušení příčinné souvislosti, a trestní odpovědnost ponesou obě fyzické osoby, a v závislosti na splnění podmínek přičitatelnosti i obě právnické osoby.
Tady výčet variant profesora Smejkala končí. Máme dostatečnou fantazii si najít z praxe příklad, kdy by to takto mohlo fungovat? Jeden příklad si „vyrobím“. Investujeme do robotizace a koupíme si robota pro přípravu vsázky, zakládání a vykládaní do pece dle následujícího obrázku. Při přípravě vsázky se zlomí uchopovací čelisti robota a manipulovaný výrobek se vymrští z robota takovou rychlostí, že překoná i zábrany okolo robota, a zasáhne zaměstnance jdoucího okolo. Ten utrpí těžké ublížení na zdraví. Pokud jsou tyto uchopovací čelisti od výrobce robota, pak je na vině výrobce, popř. jeho subdodavatel. Bude se tedy jednat o variantu C3 s trestní odpovědností dodavatele nebo subdodavatele. Pokud čelisti již původní nejsou, bude se muset zkoumat, zda jsou nakoupeny od původního dodavatele, tedy originální náhradní díl, nebo od někoho jiného, nebo jestli si je uživatel již vyrobil sám jako náhradní díl, a současně jestli demontáž a montáž proběhla dle Návodu.
Protože čelisti prasknou v důsledku materiálové vady, bude se zkoumat, jestli tato vada, povahou skrytá, existovala již při dodání robota nebo náhradního dílu, a na tuto vadu se bude vztahovat i lhůta dvou let pro uplatnění nároku za vadný výrobek.
Jenže tím, že došlo k vážnému ublížení na zdraví, pravidlo 2 roky zde bude platit jen částečně.
§ 2939 OZ: – Škoda způsobená vadou výrobku
§ 629 – Promlčecí lhůta
Výraz “dospělo” v kontextu majetkového práva znamená okamžik, kdy právo mohlo být poprvé vykonáno, tedy kdy vznikla možnost uplatnit nárok u soudu. V případě náhrady škody se obvykle vykládá tak, že právo dospělo okamžikem, kdy se poškozený dozvěděl nebo mohl dozvědět o škodě, vadě výrobku a totožnosti výrobce. To znamená, že promlčecí doba se nezačíná počítat hned v okamžiku, kdy výrobek byl uveden na trh nebo kdy došlo k samotné vadě, ale až ve chvíli, kdy:
Promlčecí lhůta na náhradu škody ohledně zdraví se ale počítá dle §636, Právo na náhradu škody nebo jiné újmy se promlčí nejpozději za deset let ode dne, kdy škoda nebo újma vznikla, byla-li škoda nebo újma způsobena úmyslně, promlčí se právo na její náhradu nejpozději za patnáct let ode dne, kdy škoda nebo újma vznikla.
Podle EU 2024/2853 – Prekluzivní lhůta pro nárok na náhradu škody způsobené vadným výrobkem je 10 let od uvedení výrobku na trh. Pokud ale poškozený nemohl zahájit řízení do deseti let ode dnů uvedených v odstavci 1 z důvodu latence újmy na zdraví, pozbude nárok na náhradu škody podle této směrnice po uplynutí doby 25 let.
Členské státy zajistí, aby nárok poškozené ho na náhradu škody podle této směrnice zanikl uplynutím lhůty deseti let, pokud poškozený mezitím nezahájil řízení proti hospodářskému subjektu, který může nést odpovědnost podle článku 8. Tato lhůta běží:
Rozdíl mezi subjektivní, objektivní a prekluzivní lhůtou je dle následující tabulky. Je to trochu chaotické, ale tabulka to vysvětluje docela jasné. Přeci jenom jsem kalič a ne právník.
Graficky to lze zobrazit zhruba takto:
Na uvedený případ se tedy bude vztahovat popis v odstavci C1 nebo C3, záleží to na situaci, jestli si čelisti navrhuje a vyrábí dodavatel robota, anebo jestli na to má subdodavatele. Protože se jedná o těžké ublížení na zdraví, pracovní úraz bude řešit Státní Úřad Inspekce Práce (SÚIP). Pokud nebude shledán zásah do robota ze strany uživatele, nebo chybný výklad návodu výrobce, nebo nebude shledáno, že se nejedná o původní díly od výrobce, pak zde bude předpoklad nejenom odškodnění za vadu výrobku, ale budou zde předpoklady i pro trestní postih výrobce jako právnické osoby. A pokud se najde u výrobce i osoba, která odpovídala za jakost těchto čelistí, pak i trestní postih této osoby.
Nejpravděpodobněji se ale bude jednat o odpovědnost za některý z nedbalostních trestních činů (subdodavatel z nedbalosti způsobí vadu a výrobce ji z nedbalosti neodhalí). Při takovém průběhu nedojde k přerušení příčinné souvislosti, a trestní odpovědnost ponesou jak fyzická osoba dodavatele komponenty, a v závislosti na splnění podmínek přičitatelnosti i právnická osoba, dodavatel robota.
Pokud se ale prokáže, že čelisti nebyly již originální, vyrobil se je uživatel, pak se bude jednat pravděpodobně o varianty popisu B1 nebo B2, bude se muset ale zkoumat i Návod výrobce a jeho doporučení ohledně upínacích čelistí. Pokud návod bude v pořádku, bude se jednat o trestní postih fyzické osoby uživatele a stejně tak i právnické osoby, uživatele.
Tady je ale potřeba podotknout, že SÚIP není oprávněn k provádění trestního řízení. Jeho úkolem je především zkoumat, zda byly dodrženy předpisy týkající se bezpečnosti a ochrany zdraví při práci (BOZP). Pokud jsou zjištěna porušení předpisů, inspektorát může nařídit zaměstnavateli přijetí opatření k odstranění zjištěných nedostatků a prevenci dalších úrazů. V případě závažných nebo opakovaných porušení může inspektorát zahájit správní řízení a uložit pokutu za přestupek.
Co se týče trestního stíhání, SÚIP sám nepodává návrhy na trestní stíhání. Pokud však inspektoři během šetření zjistí skutečnosti nasvědčující spáchání trestného činu (např. hrubé nedbalosti ze strany zaměstnavatele vedoucí k těžké újmě na zdraví nebo smrti zaměstnance), jsou povinni informovat orgány činné v trestním řízení, tedy Policii České republiky nebo Státní zastupitelství. Tyto orgány poté rozhodnou o zahájení trestního stíhání.
Tady můj příběh končí. S rozvojem robotizace a automatizace, s nástupem AI budeme čelit naprosto novým výzvám a problémům. A to stále mluvíme o AI teprve druhé generace. Pokud ale vstoupíme do generace třetí, samoučící se roboti, pak si zaděláváme na pěkný průšvih, protože ztrácíme na robotem, řídícím systémem, kontrolu. Zvěsti o tom, že naše vakuová pec je vybavena samoučícím se systémem AI je znamením, že musíme začít být ostražití.
Pokud jde o definici, kterou uvedl profesor Smejkal v předchozí části, není to pravda, protože máme systém, jak říká profesor Mařík:
AI je dnes jen sbírkou Turingových matematických modelů a algoritmů, které deterministicky chápou vstup a výstup. Pokud se program s názvem AI musí sám řídit příkazy programátora bez možnosti vlastní úpravy, pak jej můžeme dopracovat až na úroveň expertního systému, ale ne dále.
Podle evropského zákona o AI (EU 2024/1689) to dnes ani není možné. Otevřené, samoučící se systémy lze použít pouze pro sběr a vyhodnocování dat, nikoli pro ovládání zařízení. Jakákoli změna funkce samotným přeprogramováním robota povede k možné kolizi, zničení zařízení nebo ohrožení osob. A když to náhodou dovolíme, budeme robota soudit?
Jiří Stanislav
9. února 2025
(1) – Poznámka – všechny texty kurzivou jsou citace z přednášky pana profesora Smejkala