Ptáme se právníka

Ptáme se právníka

Budoucí regulace umělé inteligence v EU

Rozvoj umělé inteligence (ať už té, kterou jako umělou inteligenci AI dnes označujeme, tj. v zásadě často jen systémy založené na bázi strojového učení, nebo i AI v pravém slova smyslu) s sebou přináší zásadní právní výzvy a otázky. Mezi ty nejzásadnější (resp. nejvíce diskutované) patří zejména principy odpovědnosti a nastavení odpovědnostních vztahů, otázky v oblasti autorského práva, ochrany soukromí, nakládání s daty, kybernetické bezpečnosti, ale samozřejmě – pokud půjdeme o krok zpět – rovněž v oblasti fundamentálních etických principů.

Screenshot 2021 08 02 at 11.53.14

S prvním návrhem regulace již přišla na jaře tohoto roku Evropská komise, která se snaží předem stanovit pravidla pro vývoj těchto systémů. Ačkoli se má jednat o nařízení přinášející komplexní úpravu AI, jejímž cílem má být zajistit Evropské unii „globální prvenství“ v oblasti AI, naplnění tohoto cíle je v současném návrhu nařízení přinejmenším sporné.

Komise se snaží přinést nadčasovou regulaci, která bude pružně reagovat na dynamický technologický vývoj a která bude všezahrnující. Přičemž jedním z nástrojů, který má tento cíl naplnit, je přístup založený na riziku (risk-based approach), kdy poskytovatelé systémů umělé inteligence musejí zvažovat veškeré varianty toho, jakým způsobem má být zajištěna kybernetická bezpečnost jejich informačních a (často především) komunikačních systémů, přístupům k údajům, ale rovněž možnosti zneužitelnosti těchto systémů.

Podle prvního návrhu se však zdá, že některé systémy, které na základě hodnocení rizik vyjdou jako nežádoucí, budou z možnosti nasazení na evropském trhu zcela vyloučeny. Tento přístup, ač do jisté míry pochopitelný, přitom může vést k významnému zpomalení technologického vývoje v rámci EU a ve svém důsledku k uzavření evropského trhu pro AI technologie. Nebo naopak může vést k vytvoření v zásadě jen formálního regulatorního rámce – splnitelného jen „na papíře“ bez reálných možností vymahatelnosti těchto pravidel.

Hlavní otázkou tak zůstává, zda je podobně komplexní návrh umělé inteligence skutečně žádoucí či zda by se zákonodárce neměl (alespoň v této fázi vývoje) držet jen nastavení základních etických principů a dílčích otázek. Nastavení obdobně komplexních pravidel v rané fázi vývoje obdobných technologií s sebou totiž vždy nese riziko toho, že dojde k jejich „přeregulovanosti“, a tím i ke značnému znevýhodnění Evropy, resp. evropských vývojářů těchto technologií.


Vytisknout