Ptáme se právníka: Použití AI ve zdravotnictví: Revoluce, která překonává i telemedicínu. Jste připraveni na rizika?

Umělá inteligence (AI) dnes představuje vrcholný segment odvětví HealthTech, který svou technologickou komplexností i dopadem na organizaci péče zásadně transformuje zdravotnické prostředí. Pro správné uchopení problematiky je nezbytné vnímat hierarchii těchto pojmů: HealthTech je zastřešující ekosystém zahrnující veškeré digitální inovace ve zdravotnictví – od eHealth (elektronizace administrativy a výměny dat) až po pokročilé algoritmy¹. Telemedicína, legislativně ukotvená zákonem č. 372/2011 Sb., o zdravotních službách (ve znění novely č. 240/2024 Sb.), a vyhláškou č. 30/2025 Sb., o telemedicínských zdravotních službách, je pak specifickou formou poskytování zdravotních služeb na dálku. Představuje funkční komunikační most, který za předpokladu splnění zákonem definovaných podmínek odstraňuje bariéru fyzické vzdálenosti mezi lékařem a pacientem².

Zatímco telemedicína je primárně digitálním distribučním kanálem pro odbornou informaci, AI představuje jejího technologického následovníka s výrazně vyšší mírou autonomie. AI tento telemedicínský rámec překonává tím, že přestává být pouhým nosičem dat a stává se aktivním činitelem participujícím na klinickém rozhodovacím procesu. Díky schopnosti samostatné extrakce signifikantních vzorců z nestrukturovaných dat (např. v radiologii či genomice) již systémy AI nepředstavují jen nástroj přenosu, ale stávají se klíčovou komponentou samotné diagnostické úvahy a terapeutické strategie³.

Strategické směry využití AI u poskytovatelů

Nasazení algoritmů strojového učení u poskytovatelů zdravotních služeb se dnes soustředí do čtyř klíčových oblastí, které zásadně mění efektivitu práce odborného personálu⁴:

• Pokročilá analýza dat a podpora klinického úsudku: Nejde o automatickou diagnostiku, ale o vysoce přesné nástroje pro detekci anomálií v obrazové dokumentaci (RTG, CT, MRI). Algoritmy dokážou díky obrovské databázi již vyhodnocených dat identifikovat suspektní nálezy, jako jsou raná stadia onkologických nebo vzácných onemocnění, s citlivostí, která doplňuje a zpřesňuje lidské vyhodnocení, čímž snižuje chybovost způsobenou únavou, přehlédnutím či omezenou zkušeností lékaře.
• Algoritmická predikce a individualizace péče: AI umožňuje zpracovávat heterogenní datové sady (genetické profily, laboratorní výsledky, anamnézu) a modelovat pravděpodobný vývoj onemocnění. Tímto způsobem systémy napomáhají poskytovateli zdravotních služeb při výběru nejvhodnějšího léčebného schématu pro konkrétního pacienta, čímž se medicína posouvá od paušálních protokolů k personalizovanému přístupu.
• Asistivní technologie a precizní robotika: Integrace AI do chirurgických platforem umožňuje vyšší míru přesnosti. Robotické systémy v chirurgii dnes dokážou v reálném čase filtrovat fyziologický třes rukou operatéra, což je klíčové především u mikrochirurgických zákroků. Zároveň asistují při navigaci v anatomicky složitých terénech, kde software kombinuje aktuální obraz s předoperačním modelem a vede nástroj lékaře s milimetrovou přesností. Rehabilitační nástroje pak přinášejí objektivitu tam, kde dříve vládlo subjektivní hodnocení; senzory v reálném čase měří rozsahy pohybu či sílu stisku a díky biofeedbacku okamžitě přizpůsobují náročnost cvičení aktuálnímu stavu pacienta.
• Optimalizace provozních a administrativních procesů: Významnou úlevu pro personál představují nástroje pro automatizované zpracování zdravotnické dokumentace, převod řeči na text či inteligentní kódování výkonů. Tyto systémy eliminují rutinní administrativní zátěž a umožňují poskytovatelům věnovat více času přímé péči.

Regulatorní pilíř: Software jako zdravotnický prostředek (MDR)

Zásadním limitem pro každou implementaci systému AI je certifikace podle Nařízení EU 2017/745 ze dne 5. dubna 2017, o zdravotnických prostředcích (MDR). Klíčovým bodem, který musí poskytovatel prověřit, je klasifikace softwaru (MDSW – Medical Device Software) podle Pravidla 11 v Příloze VIII nařízení MDR.

Podle tohoto pravidla se software určený k poskytování informací pro diagnostické nebo terapeutické účely zařazuje do třídy IIa nebo vyšší. Pokud může mít rozhodnutí softwaru za následek smrt nebo nevratné zhoršení zdravotního stavu, spadá do nejvyšší třídy rizika III. Toto rozdělení je klíčové pro management rizik: poskytovatel musí vědět, do jaké třídy systém spadá, a zda dodavatel disponuje odpovídajícím certifikátem od oznámeného subjektu⁵.

V praxi existuje ostrá hranice mezi tzv. lifestyl“ aplikacemi (např. fitness trackery či obecné informativní aplikace) a certifikovanými zdravotnickými prostředky (ZP). Lifestyle aplikace slouží pouze pro osobní monitoring a nepředstavují nástroj pro léčbu. Pokud by poskytovatel využíval necertifikovaný software k rozhodování o léčbě, vystavuje se riziku postupu v rozporu s uznávanými medicínskými standardy (non lege artis). V případě poškození zdraví pacienta je použití neschváleného nástroje k diagnostice fatálním pochybením na straně poskytovatele⁶.

Úskalí AI Actu: Nová úroveň compliance

K regulaci MDR se přidává Nařízení EU 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (dále jen „Akt o umělé inteligenci“ nebo také „AI Act“). Provázanost s MDR je přímá: podle čl. 6 AI Actu se systémy AI, které jsou samy o sobě zdravotnickým prostředkem (nebo jeho součástí) a podléhají posouzení shody třetí stranou, považují za vysoce rizikové systémy AI⁷.

Poskytovatel zdravotních služeb zde vystupuje v roli zavádějícího subjektu (deployer), což mu ukládá soubor povinností podle čl. 26 AI Actu⁸:

1. Lidský dohled (čl. 14): Poskytovatel musí prokazatelně zajistit, aby nad výstupy AI dohlížely kompetentní osoby. Tyto osoby musejí mít možnost systém v reálném čase přerušit nebo jeho výstup nepoužít. AI nesmí být nikdy autonomním arbitrem klinického postupu⁹.
2. Kvalita a reprezentativnost dat: Poskytovatel odpovídá za to, že vstupní data jsou relevantní a kvalitní. Pokud dojde k chybě v důsledku špatně zvolených dat na straně poskytovatele zdravotních služeb, odpovědnost nelze přenést na výrobce¹⁰.
3. Povinné logování a monitoring: Vysoce rizikové systémy musejí generovat záznamy o svém provozu (čl. 12), které musí poskytovatel bezpečně uchovávat pro účely auditu a zpětné analýzy incidentů¹¹.
4. Transparentnost vůči pacientovi: Podle čl. 50 musí být pacient vyrozuměn, že komunikuje se systémem AI (např. u triážních chatbotů)¹².

Odpovědnost poskytovatele: Právní a bezpečnostní reality

Z hlediska správy rizik je nutné zdůraznit, že odpovědnost za poskytnutí zdravotní péče je v českém právním řádu vůči pacientovi nepřenositelná. Podle § 2636 zákona č. 89/2012 Sb., občanský zákoník (smlouva o péči o zdraví), vstupuje poskytovatel do přímého závazkového vztahu s pacientem, kterému odpovídá za postup v souladu s náležitou odbornou úrovní (lege artis)¹³.

Tato skutečnost má zásadní dopad na distribuci odpovědnosti při selhání technologie: pokud systém AI generuje chybnou diagnózu nebo selže při analýze dat, pacient uplatňuje nároky na náhradu škody přímo proti poskytovateli zdravotních služeb, nikoli proti programátorovi či dodavateli softwaru. Z pohledu pacienta je software pouze nástrojem, který si poskytovatel vybral k realizaci své odborné činnosti. Poskytovatel je v roli profesionála, který nese konečnou odpovědnost za validaci výstupů AI a jejich integraci do klinického postupu. Management zdravotnických zařízení by proto měl každou implementaci vnímat jako strategické riziko a před nasazením prověřit certifikaci, soulad s AI Actem a nastavit robustní procesy vnitřní kontroly nebo poptat expertní audit k eliminaci těchto rizik¹⁴.

Z pohledu IT bezpečnosti a ochrany soukromí vyvstává zásadní riziko u cloudových řešení, zejména v souvislosti s lokalizací datových úložišť. V souladu s Nařízením GDPR¹⁵ (zejména kapitolou V) a judikaturou Soudního dvora EU (např. rozsudek ve věci Schrems II)¹⁶ musí poskytovatel garantovat, že osobní údaje pacientů jsou uchovávány a zpracovávány primárně na serverech v rámci Evropského hospodářského prostoru (EHP). Pokud dochází k ukládání dat mimo EU/EHP, je nezbytné zajistit odpovídající úroveň ochrany skrze rozhodnutí o odpovídající ochraně či standardní smluvní doložky. Dále musí být garantováno, že citlivé údaje pacientů nebudou bez příslušného právního základu (dle čl. 6 a 9 GDPR) využívány k sekundárnímu zpracování za účelem optimalizace a strojového učení algoritmů dodavatele¹⁷.

Závěr: Strategická výzva pro moderní zdravotnictví

Integrace umělé inteligence do klinické praxe není pouze technickým krokem, ale zásadní změnou v řízení klinických a právních rizik. Zdravotnická zařízení, která chtějí využívat potenciál AI, musejí opustit model „nákupu prostého IT nástroje“ a přejít k modelu „nákupu certifikované medicínské technologie“. Zcela zásadní je jasné rozlišování mezi informativními aplikacemi a certifikovanými systémy, jejichž data se stávají součástí zdravotnické dokumentace. Každý krok v implementaci – od volby dodavatele přes nastavení lidského dohledu až po zajištění kybernetické bezpečnosti – musí být podložen právní jistotou. Podcenění certifikace dle MDR nebo povinností dle AI Actu nevystavuje zdravotnické zařízení pouze hrozbě vysokých finančních sankcí, ale především riziku soudních sporů, které v případě poškození zdraví pacienta dopadají přímo na poskytovatele. Inovace v podobě AI nabízí revoluční zpřesnění diagnostiky a úlevu přetíženému personálu. Cesta k těmto benefitům však vede přes důsledné prověření regulatorního souladu. Poskytovatelé, kteří vsadí na certifikovaná řešení a proaktivně ošetří svou odpovědnost, získají nejen konkurenční výhodu, ale především bezpečné prostředí pro své lékaře i pacienty.

Poznámky pod čarou: 

1. KŘIVOVÁ, V. Právní limity telemedicíny v praxi roku 2025. SAS ČR, 2025
2. 2 Zákon č. 372/2011 Sb., o zdravotních službách ve spojení s vyhláškou č. 30/2025 Sb., o telemedicínských zdravotních službách
3. KŘIVOVÁ, V. Právní limity telemedicíny v praxi roku 2025
4. DOLEŽAL, T.: Aktuální otázky nasazení umělé inteligence ve zdravotnictví. Ústav státu a práva AV ČR, 2024
5. Nařízení Evropského parlamentu a Rady (EU) 2017/745 o zdravotnických prostředcích (MDR). In: Úřední věstník Evropské unie. 2017
6. Nařízení Evropského parlamentu a Rady (EU) 2017/745 o zdravotnických prostředcích (MDR)
7. Čl. 6 Nařízení Evropského parlamentu a Rady (EU) 2024/1689 (Akt o umělé inteligenci). In: Úřední věstník Evropské unie. 2024
8. Tamtéž, čl. 26
9. Tamtéž, čl. 14
10. Tamtéž, čl. 26 odst. 4
11. Tamtéž, čl. 12
12. Tamtéž, čl. 50
13. § 2636 zákona č. 89/2012 Sb., občanský zákoník
14. K odpovědnosti poskytovatele viz též: Akt o umělé inteligenci, čl. 26
15. Nařízení Evropského parlamentu a Rady (EU) 2016/679 (obecné nařízení o ochraně osobních údajů). In: Úřední věstník Evropské unie. 2016
16. Rozsudek Soudního dvora (velkého senátu) ze dne 16. července 2020. Data Protection Commissioner proti Facebook Ireland Limited a Maximillian Schrems. Věc C-311/18
17. Čl. 6 ve spojení s čl. 9 Nařízení Evropského parlamentu a Rady (EU) 2016/679 (obecné nařízení o ochraně osobních údajů)

POUŽITÉ ZDROJE: 

[ 1 ] DOLEŽAL, T. Aktuální otázky nasazení umělé inteligence ve zdravotnictví [prezentace]. Praha: Ústav státu a práva AV ČR. 2024.
[ 2 ] KŘIVOVÁ, V. Právní limity telemedicíny v praxi roku 2025 [prezentace]. Mikulov: SAS ČR, 2025.
[ 3 ] Nařízení Evropského parlamentu a Rady (EU) 2016/679 (obecné nařízení o ochraně osobních údajů). In: Úřední věstník Evropské unie. 2016.
[ 4 ] Nařízení Evropského parlamentu a Rady (EU) 2017/745 o zdravotnických prostředcích (MDR). In: Úřední věstník Evropské unie. 2017.
[ 5 ] Nařízení Evropského parlamentu a Rady (EU) 2024/1689 (Akt o umělé inteligenci). In: Úřední věstník Evropské unie. 2024.
[ 6 ] Rozsudek Soudního dvora (velkého senátu) ze dne 16. července 2020. Data Protection Commissioner proti Facebook Ireland Limited a Maximillian Schrems. Věc C-311/18.
[ 7 ] Vyhláška č. 30/2025 Sb., o telemedicínských zdravotních službách. In: Sbírka zákonů České republiky. 2025.
[ 8 ] Zákon č. 89/2012 Sb., občanský zákoník. In: Sbírka zákonů České republiky. 2012.
[ 9 ] Zákon č. 372/2011 Sb., o zdravotních službách a podmínkách jejich poskytování. In: Sbírka zákonů České republiky. 2011.