Na samém úvodu této úvahy je třeba říci, že odpovědnost členů orgánů právnických osob v souvislosti s užíváním umělé inteligence není v žádném právním předpise explicitně stanovena. Ostatně ani pojem umělé inteligence (dále jen AI) není nikde legislativně zakotven. Pro účely této úvahy bude tudíž nutné stanovit alespoň nějakou orientační definici AI a zároveň stanovit, z jakého právního ustanovení a z jakého právního předpisu se bude případná odpovědnost členů orgánů právnických osob odvozovat.
Umělá inteligence – Artificial Intelligence (AI) – se zpravidla definuje jako schopnost strojů napodobovat lidské schopnosti, jako je uvažování, učení se, plánování nebo kreativita. AI umožňuje technickým systémům reagovat na vjemy z jejich prostředí, řešit problémy a dosahovat určitých cílů. Někdy se AI označuje jako obor informatiky zabývající se tvorbou systémů řešících komplexní úlohy, jako je rozpoznávání či klasifikace, např. v oblastech zpracování obrazu (ve formě pixelů), zpracování psaného textu či mluveného jazyka (ve formě počítačového kódu) nebo plánování či řízení na základě zpracování velkých objemů dat. Další členění může být na tzv. úzkou umělou inteligenci (což jsou systémy zaměřené na řešení jediné úzce vymezené úlohy) a obecnou umělou inteligenci (tzv. AGI – Artificial General Intelligence), která se také popularizuje jako „silná AI“, což jsou systémy, jež by měly autonomně řešit úlohy stejně dobře, nebo dokonce lépe než lidský intelekt, aniž by jim byl účelově programován jeden úzce vymezený úkol či účel. U dalších definic najdeme jako povinné atributy strojové učení, neuronové sítě, počítačové vnímání, Bayesovské sítě, expertní systémy, data mining, fuzzy logiku, evoluční logaritmy nebo multiagentní systémy.
Definic je opravdu hodně a dost se od sebe navzájem liší. Všechny se však víceméně shodují v tom, že AI je program, který simuluje lidské myšlení a jednání. Termín AI je také používán pro stroje a systémy provádějící činnosti charakteristické pro lidskou inteligenci, např. učení se a řešení problémů. Pro AI dále platí, že systémy umělé inteligence jsou schopné pracovat samostatně a také měnit a přizpůsobovat své jednání na základě vyhodnocení efektů předchozích akcí.
Pokud se týče právní úpravy povinností členů orgánů právnických osob v souvislosti s využíváním AI, tak jediným zdrojem, ze kterého můžeme odvozovat nějaké povinnosti uvedených funkcionářů ve vztahu k užívání AI, je postupovat v obecné rovině s péčí řádného hospodáře.
Základní úprava povinnosti postupovat s péčí řádného hospodáře je stanovena v Občanském zákoníku1 (dále jen OZ), kde se v ust. § 159 odst. (1) výslovně uvádí: „Kdo přijme funkci člena voleného orgánu, zavazuje se, že ji bude vykonávat s nezbytnou loajalitou i s potřebnými znalostmi a pečlivostí. Má se za to, že jedná nedbale, kdo není této péče řádného hospodáře schopen, ač to musel zjistit při přijetí funkce nebo při jejím výkonu, a nevyvodí z toho pro sebe důsledky.“ Toto ustanovení je doplněno Zákonem o obchodních společnostech a družstvech2 (dále jen ZOK) v ust. § 52 odst. (1), kde se stanoví: „Při posouzení, zda člen voleného orgánu jednal s péčí řádného hospodáře, se vždy přihlédne k péči, kterou by v obdobné situaci vynaložila jiná rozumně pečlivá osoba, byla-li by v postavení člena obdobného orgánu obchodní korporace.“
Je důležité připomenout, že zmíněná povinnost je kogentní, tedy že se jedná o povinnost, která je pevně stanovena zákonem a nemůže být smluvně změněna, omezena nebo vyloučena. To je velmi podstatný fakt. Znamená to, že zákonodárce této povinnosti přikládá mimořádnou důležitost.
Péče řádného hospodáře má v rámci zákonných definic této povinnosti několik atributů: loajalitu ke společnosti, potřebné znalosti a (potřebnou) pečlivost. Loajalitu a pečlivost můžeme nechat stranou, tu můžeme a priori předpokládat, trochu složitější to bude s potřebnými znalostmi. Nepředpokládám, že by funkcionáři obchodních korporací neměli žádné znalosti v této oblasti, otázkou je, zda budou sami těmito znalostmi disponovat. Občanský zákoník ovšem vlastně zavedl „odpovědnost funkcionářů i za prostou neschopnost“. Předpokládá totiž, že za případnou škodu odpovídá také ten, kdo není péče řádného hospodáře schopen, ač to musel zjistit při přijetí funkce nebo při jejím výkonu, a nevyvodí z toho pro sebe důsledky. Takže když někdo vykonává funkci, na kterou nestačí, musí počítat s tím, že bude sám odpovídat za škodu, kterou svou neschopností právnické osobě způsobí.3
AI je nový fenomén a určitě může být obrovským přínosem. Nicméně vzhledem k tomu, že to není prostě jen počítačový program, ale systém, který o svém fungování rozhoduje v určité míře autonomně, je třeba považovat činnosti AI do značné míry za nepředvídatelné, nehledě k tomu, že různé systémy AI mohou pracovat rozdílně a je pochybné, zda uživatel reálně ví, jak AI skutečně pracuje. Rovněž bude velmi záležet na tom, jaké aktivity mají být AI svěřeny a jaké mohou být důsledky, pokud AI nebude pracovat správně. Asi každý si je schopen uvědomit, jaká rizika hrozí při použití autonomních vozidel v běžném provozu, ale možné důsledky zpracování velkých datových objemů a nutnost dodržet všechny povinnosti, které jsou stanoveny v rámci nařízení Evropského parlamentu a Rady (EU) 2016/679, tzv. obecnému nařízení o ochraně osobních údajů (GDPR), si možná každý hned neuvědomí. Např. právě GDPR kromě zvýšené ochrany osobních údajů přináší také určitou míru právní nejistoty vzhledem k mimořádně vysokým sankcím, které lze podle této právní normy uložit.
Jak by měl postupovat člen statutárního orgánu kontrolních a jiných volených orgánů právnických osob v souvislosti s užíváním umělé inteligence, má-li rozhodnout o použití AI v rámci činnosti či provozu právnické osoby? Je zjevné, že předmětný funkcionář právnické osoby bude schopen – pokud potřebnými schopnostmi sám nedisponuje, což může být v tomto případě dost pravděpodobné – nedostatek těchto schopností či znalostí nějak nahradit, tedy pravděpodobně si nechat zpracovat analýzu účelnosti a rizik využívání AI. Podobná odborná analýza by měla význam nejenom proto, aby měl funkcionář právnické osoby dostatečné podklady ke svému rozhodování, ale i pro případ, že by musel své schopnosti a pečlivost později prokazovat. Ustanovení § 52 odst. (2) ZOK totiž stanoví: „Je-li v řízení před soudem posuzováno, zda člen voleného orgánu obchodní korporace jednal s péčí řádného hospodáře, nese důkazní břemeno tento člen, ledaže soud rozhodne, že to po něm nelze spravedlivě požadovat.“ Bude totiž velmi důležité, aby člen voleného orgánu obchodní korporace měl možnost prokázat, že postupoval skutečně se vší potřebnou péčí. A bez ohledu na závěry zmíněné analýzy nelze než doporučit (s ohledem na určitou míru nepředvídatelnosti AI) velmi opatrný a konzervativní postup.
