V éře, kdy digitální inovace transformují každý aspekt našich životů, se umělá inteligence stává klíčovým hráčem ve zdravotnictví. Tento článek se věnuje prozkoumání, jak AI překračuje tradiční hranice medicíny, poskytuje lékařům nové nástroje pro diagnózu a léčbu a zásadně mění způsob, jakým poskytujeme zdravotní péči. Zahrnujeme příklady z nejnovějších výzkumů, které ukazují na významný přínos AI v diagnostice a léčbě, stejně jako diskutujeme o etických a právních výzvách, které s sebou přináší. Tento článek je nejen přehledem současných aplikací AI v medicíně, ale také naznačuje, jaké budoucí směry a možnosti nás čekají v tomto rychle se rozvíjejícím odvětví.
umělá inteligence zdravotnictví AI LLM modely regulace AI zdravotnický prostředek
AI jako zdravotnický prostředek
Legislativní prostředí
Může se zdát, že AI a její reálné využití je velmi recentní až módní záležitostí, ale není tomu tak. LLM (Large Language Models) jsou vyvíjeny již déle než deset let, přibližně stejnou dobu již AI pomáhá ve vybraných oborech zdravotnictví, předně to byla radiodiagnostika a modely, které se učily rozpoznávat anomálie v obrazových snímcích. Již v dubnu 2021 vyšlo nařízení Evropského parlamentu a rady stanovující pravidla pro AI, které se nazývá Akt o umělé inteligenci.
Akt o umělé inteligenci v EU
Akt o umělé inteligenci je důležitý legislativní dokument, který stanovuje pravidla a normy pro vývoj, nasazení a používání umělé inteligence v EU. Celkově Akt o umělé inteligenci představuje důležitý krok vpřed pro regulaci AI v EU s cílem zajistit bezpečné, etické a zodpovědné používání umělé inteligence, které respektuje základní práva občanů a podporuje inovace a konkurenceschopnost evropských společností. Níže je pár hlavních oblastí, které tento akt o AI řeší:
- Cíle a rozsah: Akt o umělé inteligenci se snaží zajistit bezpečné a etické použití umělé inteligence v rámci EU. Cílem je zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv občanů EU, podporovat inovace a konkurenceschopnost evropských společností.
- Klasifikace rizik: Nařízení rozděluje AI systémy do různých kategorií na základě úrovně rizika, které představují. Tyto kategorie zahrnují minimální riziko, nízké riziko, střední riziko a vysoké riziko. Pro každou kategorii platí různá pravidla a povinnosti.
- Požadavky na vysokorizikové AI systémy: Vysokorizikové AI systémy musejí splňovat řadu požadavků včetně transparentnosti, důvěryhodnosti, zodpovědnosti a ochrany základních práv. Mezi tyto požadavky patří např. přiměřená kontrola kvality dat, uživatelská přívětivost, auditovatelnost a robustnost.
Obr. 1: Z Průvodce klasifikace SW jako zdravotnického prostředku (MDSW)
- Registrace a certifikace: Vysokorizikové AI systémy musejí být zaregistrovány a certifikovány dříve, než mohou být uvedeny na trh nebo použity. To zahrnuje prokázání shody s požadavky nařízení a pravidelnou kontrolu souladu během celého životního cyklu AI systému.
- Národní orgány dohledu: Členské státy EU jsou povinny zřídit nezávislé národní orgány dohledu, které budou monitorovat dodržování nařízení a zajišťovat jeho prosazování. Tyto orgány budou také spolupracovat na úrovni EU prostřednictvím Evropského výboru pro umělou inteligenci.
- Sankce: Nařízení stanovuje sankce za nesplnění požadavků stanovených v Aktu o umělé inteligenci. Sankce mohou zahrnovat pokuty až do výše 6 % ročního obratu společnosti, zákaz uvedení AI systému na trh, zákaz provozu nebo omezení či zákaz poskytování AI systémů v EU.
- Transparentnost a informovaný souhlas: Akt o umělé inteligenci zdůrazňuje důležitost transparentnosti a informovaného souhlasu uživatelů. AI systémy musejí být navrženy tak, aby bylo zřejmé, že s nimi uživatelé interagují, a musejí být poskytnuty informace o jejich funkcích a omezeních.
- Zákaz některých praktik AI: Nařízení zakazuje některé praktiky AI, které jsou považovány za neetické nebo nebezpečné. Patří sem manipulativní nebo vykořisťovací AI systémy, které mohou ohrozit základní práva jednotlivců, a systémy, které by mohly být použity k masovému dohledu nebo k nespravedlivému rozlišování.
- Mezinárodní spolupráce: Akt o umělé inteligenci uznává potřebu mezinárodní spolupráce v oblasti AI a povzbuzuje členské státy EU, aby spolupracovaly s mezinárodními partnery na vytvoření globálních norem a pravidel pro AI.
- Průběžný přezkum a aktualizace: Nařízení počítá s pravidelným přezkumem a aktualizací svých ustanovení, aby zohledňovalo rychlý vývoj AI technologií a jejich dopady na společnost a hospodářství. To zahrnuje konzultace s odborníky, průmyslem a veřejností, aby se zajistilo, že nařízení zůstane relevantní a účinné.
MDR – regulace týkající se zdravotnických prostředků ve zdravotnictví
Nařízení EU o zdravotnických prostředcích (MDR) je legislativní dokument, který stanovuje pravidla a normy pro zdravotnické prostředky v EU. MDR se týká široké škály zdravotnických prostředků včetně softwaru používaného v medicíně, který zahrnuje i aplikace umělé inteligence (AI). Zaměřme se tedy blíže na problematiku SW (AI):
- Klasifikace softwaru v medicíně: MDR klasifikuje software používaný v medicíně podle rizika, které představuje pro pacienty a uživatele. Tato klasifikace je založena na záměru výrobce a zahrnuje čtyři třídy rizik: I (nejnižší riziko), IIa, IIb a III (nejvyšší riziko).
- Bezpečnost a výkonnost: MDR stanovuje, že software v medicíně včetně AI musí splňovat základní bezpečnostní a výkonnostní požadavky. To zahrnuje důkaz o klinické účinnosti, biokompatibilitě, elektrické bezpečnosti a softwarové spolehlivosti.
- Zodpovědnost za softwarové změny: Výrobci softwaru v medicíně včetně AI jsou zodpovědní za monitorování a řízení změn v produktech, které by mohly ovlivnit bezpečnost nebo výkonnost. To zahrnuje pravidelné zlepšování a aktualizaci softwaru na základě zpětné vazby uživatelů, nových vědeckých poznatků a technologických inovací.
- Klinické hodnocení: Software v medicíně včetně AI musí projít klinickým hodnocením, které prokazuje jeho bezpečnost a účinnost pro zamýšlený účel. Toto hodnocení by mělo zahrnovat analýzu klinických dat, výsledků klinických studií a zkušeností s použitím softwaru v praxi.
- Transparentnost a dokumentace: MDR vyžaduje, aby výrobci softwaru v medicíně včetně AI poskytovali transparentní a srozumitelné informace o svých produktech. To zahrnuje technickou dokumentaci, pokyny pro použití, informace o klinickém hodnocení a označení CE, které prokazuje soulad s požadavky MDR.
- Národní orgány dohledu a tržní dozor: Členské státy EU jsou povinny zřídit národní orgány dohledu, které budou monitorovat dodržování MDR a zajišťovat jeho prosazování. Tyto orgány budou také spolupracovat s ostatními členskými státy a Evropskou komisí při koordinaci dohledu nad trhem a regulací zdravotnických prostředků včetně softwaru v medicíně a AI.
- Sledování po uvedení na trh: Výrobci softwaru v medicíně včetně AI musejí zřídit systémy pro sledování po uvedení na trh, které zahrnují shromažďování a analýzu zpětné vazby od uživatelů, monitorování nežádoucích událostí a sledování výkonu a bezpečnosti softwaru během jeho životního cyklu.
- Sankce: MDR stanovuje sankce za nesplnění požadavků stanovených v nařízení. Tyto sankce mohou zahrnovat pokuty, zákaz uvedení softwaru na trh, zákaz provozu, omezení nebo zákaz poskytování softwaru v medicíně včetně AI v EU.
Vidíme tedy, že EU se k AI chová zcela stejně jako ke každému jinému SW použitelnému ve zdravotnictví, který spadá pod regulaci. Důležité dokumenty a příklady, jak pohlížet na SW jako na zdravotnický prostředek, vydává koordinační skupina pro klasifikaci SW.
Je důležité si uvědomit, že software a mobilní aplikace (včetně AI) mohou být klasifikovány jako zdravotnické prostředky v jakékoli třídě rizika v závislosti na jejich účelu a potenciálním dopadu na pacienta. Výrobci musejí důkladně posoudit rizika spojená se svým produktem a zajistit, že splňují všechny požadavky pro danou třídu, aby získali značku CE a mohli uvést svůj výrobek na trh v EU.
Tato e-mailová adresa je chráněna před spamboty. Pro její zobrazení musíte mít povolen Javascript.
Použité zdroje:
[ 1 ] AYERS JW, POLIAK A, DREDZE M, et al. Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a PublicSocial Media Forum. JAMA Intern Med. Published online April 28, 2023. doi:10.1001/jamainternmed.2023.1838.https://jamanetwork.com/journals/jamainternalmedicine/fullarticle/2804309
[ 2 ] EU: HARMONIZOVANÁ PRAVIDLA PRO UMĚLOU INTELIGENCI. 2021.https://eur-lex.europa.eu/legal-content/CS/TXT/HTML/?uri=CELEX:52021PC0206
[ 3 ] Medical Device Coordination Group Document. https://health.ec.europa.eu/system/files/2021-10/mdcg_2021-24_en_0.pdf
[ 4 ] MDR – NAŘÍZENÍ EVROPSKÉHO PARLAMENTU A RADY (EU) 2017/745, https://eur-lex.europa.eu/legal-content/CS/TXT/HTML/?uri=CELEX:32017R0745
[ 5 ] AI Builder Microsoft Azure, https://learn.microsoft.com/cs-cz/ai-builder/create-form-processing-model
[ 6 ] Projekt „CovidStop“ FNOL s VUT Brno. https://starfos.tacr.cz/cs/project/VI04000039[ 7 ] openAI, ChatGPT, chat.openai.com/chat