AI sa stala súčasťou moderného softvéru. S nástupom generatívnych modelov a agentických systémov však tradičný prístup k ochrane súkromia prestáva stačiť. Ak má byť AI dôveryhodná, ochrana osobných údajov nemôže byť len právnou povinnosťou – musí byť navrhnutá ako vlastnosť systému. Tento článok vysvetľuje, prečo sa privacy engineering stáva kľúčovou disciplínou vývoja AI systémov a AI agentov.
AI systémy privacy engineering AI agenti privacy by design PETs (Privacy-Enhancing Technologies)
AI je dnes všadeprítomná. Je súčasťou SaaS platforiem, zákazníckych rozhraní, analytických nástrojov aj interných procesov. S nástupom AI agentov a najmä agentických multi-agentových architektúr sa však zásadne mení spôsob, akým systémy pracujú s osobnými údajmi. V takomto prostredí tradičný prístup ochrany súkromia (privacy) založený na právnej dokumentácii, DPIA a následnom audite prestáva stačiť. Ak má byť AI dôveryhodná, ochrana súkromia musí byť súčasťou návrhu. To je podstata privacy engineeringu.
Vstúpili sme do éry, v ktorej sme do istej miery všetci AI softvéroví developeri. Vďaka nástrojom generatívnej AI, no- -code a low-code platformám a konceptu tzv. „vibe coding“ dnes dokáže vytvoriť AI agenta či jednoduchý agentický systém aj laik – bez hlbokých znalostí programovania, architektúry alebo bezpečnosti. To zásadne demokratizuje a zrýchľuje inovácie, ale zároveň dramaticky zvyšuje riziko nevedomého porušovania súkromia. Ak je totiž vývoj AI systémov prístupný takmer každému, potom už ochrana osobných údajov nemôže byť výlučne doménou právnikov alebo špecialistov na compliance.
Znalosť princípov minimalizácie, obmedzenia účelu spracovania, obmedzenia uchovávania, transparentnosti a zodpovednosti sa stáva základnou digitálnou gramotnosťou.
Práve z týchto princípov sa odvíjajú základy inžinierstva ochrany súkromia (Privacy engineering) aplikované v architektúre a dizajne systémov. V praxi to znamená vedome navrhovať dátové toky, obmedzovať rozsah spracúvania, modelovať riziká inferencie a zabudovávať ochranné mechanizmy už do návrhu AI riešenia.
Privacy engineering nie je len vecou implementácie GDPR. Je to disciplína systémového inžinierstva, ktorá prekladá abstraktné právne požiadavky do architektúry, dátových tokov, modelov, opatrení a procesov počas celého životného cyklu systému. Ak je bezpečnosť vlastnosťou systému, potom ochrana súkromia musí byť jeho vlastnosťou tiež. Dnes už vieme, že bez tohto prístupu sa AI systémy stávajú ťažko auditovateľnými a rizikovými. Paradoxom je, že keď GDPR v roku 2016 zaviedlo povinnosť privacy by design a by default, ekosystém technických rámcov, ktorý by túto povinnosť systematicky podporoval, prakticky neexistoval. Organizácie reagovali v právnej, organizačnej a procesnej rovine. Architektúra informačných systémov zostávala často nedotknutá.
Tab. 1: Zdroje informácií pre inžinierstvo ochrany súkromia v časovej línii
Informačné vákuum v ére GDPR
Pri pohľade na časovú líniu je zrejmý výrazný historický nepomer medzi legislatívou a technickou metodikou. GDPR bolo prijaté v roku 2016 a účinnosť nadobudlo v roku 2018. Článok 25 zaviedol povinnosť ochrany údajov od návrhu a štandardne (privacy by design, privacy by default). Právny mandát bol jasný. Základné princípy ochrany súkromia boli dané na veľmi abstraktnej úrovni. Z mojej praxe pri audite informačných systémov a pri konzultáciách viem, že pre SW vývoj sú potrebné výrazne konkrétnejšie a technicky detailnejšie zadania. Technický detail implementácie abstraktných princípov ochrany súkromia v čase, kedy sa organizácie chystali na implementáciu GDPR, chýbal. V rokoch 2016 až 2018 bol jediným systematickým dokumentom z oblasti inžinierskeho uchopenia ochrany súkromia dokument NISTIR 8062 z roku 2017, ktorý definoval tri vlastnosti systému: predvídateľnosť, ovládateľnosť a disasociovateľnosť. Tento dokument poskytol koncepčný rámec, no neposkytoval architektonické vzory ani implementačné metodiky.
Až následne sa objavujú normy a rámce, ktoré dávajú inžinierom technickejšie vstupy: ISO/IEC 20889:2018 systematizuje de-identifikačné techniky, ISO/IEC TR 27550:2019 integruje ochranu súkromia do životného cyklu systémov, usmernenia EDPB č. 4/2019 vysvetľujú článok 25, model ISO/IEC 27561:2024 (POMME) operacionalizuje princípy do konkrétnych schopností systému. Kompletný prehľad viď. Tab. 1.
Neskôr prichádzajú AI špecifické rámce ako ISO/IEC DIS 27091 či aktualizovaný NIST Privacy Framework 1.1, ktoré už reagujú na riziká tréningu modelov, inferencie a generovania syntetického obsahu. Historická skúsenosť je poučná: legislatíva prišla skôr než metodika. Dnes je situácia opačná – metodika existuje. Otázkou je, či ju používame.
Historická realita je jasná: aplikácie budované v čase nástupu GDPR nemali k dispozícii systematický inžiniersky ekosystém.
Výsledkom bolo, že mnohé systémy sa opierali o security engineering – šifrovanie, segmentácia sietí, prístupové práva. No bezpečnosť nerieši riziká plánovaného a autorizovaného fungovania systému. AI model môže byť dokonale zabezpečený a pritom memorovať tréningové dáta, vytvárať nepredvídateľné profilovanie alebo generovať citlivé informácie, ktoré nikdy nemal explicitne uložené.
S nástupom AI sa navyše mení samotná architektúra spracúvania údajov. Pri AI je užitočné rozlišovať tri vrstvy. Prvou je AI systém ako celok – rozhrania, databázy, API, logika, monitoring. Druhou je samotný model – jeho tréning, parametre, schopnosť generalizácie či memorovania. Treťou je AI agent – autonómna entita, ktorá model využíva, plánuje kroky, komunikuje s nástrojmi a často aj s inými agentmi. Každá vrstva prináša iný typ rizika. Na úrovni systému ide o nepredvídateľné správanie v čase a potrebu kontinuálneho monitoringu. Na úrovni modelu ide o memorovanie tréningových dát, model inversion či extrakciu vzoriek. Na úrovni agenta ide o perzistentnú pamäť, laterálny pohyb údajov medzi agentmi, nekontrolované rozširovanie účelu spracúvania a dynamické používanie externých nástrojov. Privacy engineering musí reagovať na všetky tri vrstvy súčasne.
Tab. 2: 3 vrstvy AI a privacy rizík: Inžiniersky pohľad
Tabuľka zobrazujúca tieto tri vrstvy ukazuje, že každá z nich nesie odlišné riziká.
Kľúčové poznatky pre inžinierov:
- AI Systém vyžaduje proaktívny prístup k celému ekosystému, kde bezpečnosť slúži ako základ pre integritu funkcií ochrany súkromia.
- AI Model musí byť trénovaný tak, aby sa z neho nedali spätne získať osobné údaje jednotlivcov, čo riešia techniky ako napr. differential Privacy.
- AI Agent prináša nové výzvy v oblasti perzistentnej pamäte (vektorové databázy), kde je nevyhnutné inžiniersky zabezpečiť právo na zabudnutie.
Agentické multi-agentové systémy pridávajú ďalšiu komplexitu. Dochádza k rozkladu cieľov na podúlohy, zdieľanej pamäti, interným komunikačným kanálom a dynamickému rozhodovaniu o použití dát. Každý nový dátový tok znamená nový účel spracúvania. Ak systém dokáže autonómne meniť stratégiu riešenia problému, dokáže zároveň rozšíriť kontext použitia údajov nad rámec pôvodného zadania. Bez architektonického uchopenia ochrany súkromia sa takýto systém stáva neauditovateľným.
Návody do praxe vývoja
Nové medzinárodné štandardy v oblasti privacy engineeringu nevznikajú preto, aby rozšírili zoznam compliance povinností, ale preto, aby poskytli praktický rámec, ako premeniť abstraktné právne princípy na konkrétne návrhové rozhodnutia. Dokumenty ako ISO/IEC 27550, ISO/IEC 20889, ISO/IEC 27560 či novšie iniciatívy zamerané na modelovanie a bezpečnosť AI systémov predstavujú kumulovanú skúsenosť technickej a regulačnej komunity s reálnymi rizikami digitálnych technológií. Inšpirovať sa nimi znamená využiť už existujúce poznanie o tom, ako minimalizovať dáta, riadiť riziko re-identifikácie, modelovať toky údajov alebo zabudovať kontrolné mechanizmy priamo do architektúry systému. Dnes už pritom takmer neexistuje softvér, ktorý by nebol v nejakej forme prepojený s analytikou, automatizáciou alebo priamo s AI komponentom. Aj bežná aplikácia často obsahuje odporúčacie mechanizmy, klasifikáciu, prediktívne prvky alebo integráciu externých AI služieb. To znamená, že ochrana súkromia sa nemôže riešiť oddelene od vývoja. Informácie a odporúčania zo štandardov je nevyhnutné zapracovať do celého životného cyklu vývoja softvéru – od definovania požiadaviek, cez návrh architektúry a tréning modelov, až po testovanie, nasadenie a monitoring. Len tak možno zabezpečiť, že privacy engineering nebude dodatočnou náplasťou, ale integrálnou vlastnosťou moderného, AI-prepojeného softvéru.
Dokument španielskeho úradu na ochranu údajov (AEPD) z februára 2026 o agentickej umelej inteligencii predstavuje praktický most medzi teóriou privacy by design a reálnou architektúrou moderných AI systémov. Na rozdiel od všeobecných princípov ponúka konkrétne technické a organizačné opatrenia reagujúce na špecifiká autonómnych agentov – ich schopnosť interagovať s prostredím, pracovať s pamäťou a vykonávať akcie bez priameho zásahu človeka. Pre vývojára je cenný najmä tým, že rozširuje tradičné modelovanie hrozieb o nové scenáre, ako sú priame a nepriame prompt injection útoky, exfiltrácia údajov cez parametre API volaní, otrava pamäte alebo nekontrolovaný pohyb medzi aplikáciami. Koncept tzv. „Rule of 2“ pomáha identifikovať neprijateľné rizikové konfigurácie, v ktorých sa kombinuje spracovanie nekontrolovaných vstupov, prístup k citlivým údajom a schopnosť autonómne konať. Dokument zároveň odporúča implementáciu konkrétnych kontrolných mechanizmov – kompartmentalizáciu pamäte, pravidelné čistenie dlhodobej pamäte, guardrails na filtrovanie dátových tokov a validáciu nástrojových volaní či bezpečnostné „circuit breakers“, ktoré prerušia činnosť agenta pri detekcii anomálií. Osobitnú pozornosť venuje riadeniu autonómie a ľudskému dohľadu prostredníctvom definovania úrovní zásahu človeka, kontrolných bodov pri nezvratných operáciách a požiadavky reverzibility vykonaných akcií. Z pohľadu GDPR poskytuje aj technické odporúčania na podporu minimalizácie údajov, vysvetliteľnosti a trasovateľnosti – napríklad využitie menších modelov na predspracovanie a filtrovanie osobných údajov, podrobné logovanie rozhodovacích krokov či sandboxing agenta v izolovanom prostredí. Pre privacy engineering v ére AI agentov tak ide o konkrétny, implementačne orientovaný rámec, ktorý ukazuje, ako premeniť právne požiadavky na architektonické rozhodnutia.
Séria noriem ISO 31700-1 až 3 predstavuje pre vývojára systematický rámec, ako premeniť princíp privacy by design z právnej povinnosti na konkrétnu inžiniersku disciplínu počas celého životného cyklu produktu . Prvá časť stanovuje vysokúrovňové požiadavky na schopnosti produktu – od návrhu používateľského rozhrania, ktoré minimalizuje neúmyselné zdieľanie údajov, cez správu preferencií a uplatňovanie práv dotknutých osôb, až po riadenie životného cyklu osobných údajov a bezpečné predvolené nastavenia. Druhá časť ide ešte ďalej a poskytuje praktické príklady a sekvenčné diagramy, ktoré vývojárom pomáhajú pochopiť, ako tieto požiadavky implementovať v konkrétnych architektúrach a dátových tokoch, pričom ich prepája so systémovým inžinierstvom a cieľmi ako nespojiteľnosť, transparentnosť či intervenovateľnosť. Tretia časť sa zameriava na audit a overovanie, teda na to, ako pripraviť dôkazy o tom, že prijaté opatrenia skutočne fungujú a nejde len o formálne „zaškrtnutie“ povinností. V kontexte AI systémov a najmä agentických riešení sú tieto normy mimoriadne relevantné: pomáhajú nastaviť minimalizáciu údajov už pri návrhu interakcie, podporujú vysvetliteľnosť rozhodnutí agenta a poskytujú rámec na oddelenie a kontrolu pamäte, aby sa predišlo neprimeranému profilovaniu alebo neželaným inferenciám. Séria norime 31700-X tak vytvára praktický most medzi GDPR, modernými AI architektúrami a každodennou prácou vývojového tímu.
Norma ISO/IEC 27091:2025, aktuálne v štádiu návrhu DIS, predstavuje pre vývojára AI praktický rámec, ktorý prepája právne požiadavky na ochranu súkromia s konkrétnymi technickými rozhodnutiami v architektúre AI systémov. Jej prínos spočíva najmä v systematickom mapovaní ochrany súkromia na celý životný cyklus AI – od výberu a prípravy tréningových dát, cez návrh modelu, až po jeho nasadenie a vyradenie. Osobitnú pozornosť venuje fenoménu „model memorization“, teda schopnosti modelu zapamätať si konkrétne osobné údaje z tréningovej sady, a preto zdôrazňuje význam pred-tréningového skríningu, sanitácie a deduplikácie dát, keďže po natrénovaní je odstránenie vplyvu jednotlivého záznamu technicky náročné. Norma zároveň odporúča využívanie pokročilých privacy enhancing techniques, ako sú diferenciálne súkromie, federatívne učenie či techniky machine unlearning na podporu práva na vymazanie. Vývojárom poskytuje aj katalóg špecifických hrozieb, vrátane membership inference, extrakcie tréningových dát alebo model inversion, a navrhuje kontrolné mechanizmy na obmedzenie prístupu k parametrom modelu a ochranu pred exfiltráciou údajov. V kontexte generatívnych modelov podporuje implementáciu guardrailov, filtrov výstupu a automatizovanej redakcie citlivých údajov. ISO/IEC 27091 tak transformuje ochranu súkromia z abstraktnej právnej povinnosti na merateľnú inžiniersku vlastnosť, kde sa napríklad parametre modelu priamo viažu na riadenie „rozpočtu straty súkromia“ a na objektívne znižovanie rizika zásahu
Dokument OWASP Top 10 pre agentické aplikácie (2026) predstavuje významný posun v chápaní bezpečnosti a ochrany súkromia v ére autonómnych AI systémov, pretože sa nezameriava na klasické chyby v kóde, ale na riziká vyplývajúce z autonómie, plánovania a viacstupňového rozhodovania agentov. Pre privacy engineering je tento zdroj mimoriadne cenný, keďže identifikuje nové útočné plochy, kde môže dôjsť k neoprávnenému spracúvaniu alebo exfiltrácii osobných údajov v dôsledku manipulácie cieľov agenta, nie z dôvodu technickej zraniteľnosti. Koncept „Least Agency“ poukazuje na to, že nadmerná autonómia bez reálnej potreby rozširuje útočnú plochu a zvyšuje rozsah spracúvania údajov, čím priamo súvisí s princípom minimalizácie. Riziko „Goal Hijacking“ ilustruje, ako môže byť účel spracúvania zmenený za behu systému prostredníctvom zmanipulovaných vstupov, čím sa narúša princíp obmedzenia účelu spracovania (purpose limitation). „Identity Gap“ upozorňuje na architektonický problém, keď agent operuje bez vlastnej riadenej identity a dedí oprávnenia bez adekvátnej kontroly, čo oslabuje mechanizmy prístupu k údajom. Témy ako „Memory Hygiene“, „Inter-Agent Authentication“, „Cascading Failures“ či „Kill- -Switches“ transformujú ochranu súkromia na konkrétne technické úlohy – izoláciu pamäte medzi reláciami, šifrovanie a autentifikáciu medzi agentmi, obmedzenie šírenia chýb v ekosystéme a implementáciu mechanizmov okamžitého zastavenia spracúvania. OWASP zároveň zdôrazňuje potrebu transparentnosti a sledovateľnosti prostredníctvom konceptov ako AI-BOM či „Intent Gates“, ktoré umožňujú validovať zámer agenta ešte pred vykonaním akcie. Pre vývojárov tak tento rámec predstavuje praktický backlog úloh ochrany súkromia, ktoré premieňajú abstraktné požiadavky na ochranu súkromia na konkrétne architektonické a implementačné opatrenia v agentických AI systémoch. Tieto dokumenty spája jedna myšlienka: ochrana súkromia musí byť navrhnutá ako vlastnosť autonómneho správania systému.
Tab. 3: Evolúcia PETs: Tri vrstvy ochrany v AI
Vývoj PETs, teda Privacy Enhancing Technologies
Vývoj Privacy-Enhancing Technologies2 (PETs) kopíruje evolúciu technických štandardov. Prvá vlna sa sústredila na dáta. Anonymizácia, pseudonymizácia, k-anonymita, l-diverzita, t-closeness, sampling či agregácia mali minimalizovať riziko re-identifikácie ešte pred použitím datasetu. ISO/IEC 20889 prinieslo systematickú klasifikáciu týchto techník.
Druhá vlna sa presunula na úroveň modelu. Diferenciálne súkromie aplikované počas tréningu, deduplikácia tréningových dát, machine unlearning ako odpoveď na právo na vymazanie, grounding na obmedzenie halucinácií citlivých údajov. Ochrana sa presúva z datasetu do samotného modelu.
Tretia vlna sa týka architektúry ako celku. Federated learning, secure multi-party computation, trusted execution environments, tokenizácia v RAG pipeline, attribute-based encryption pre delegovanie úloh v multi-agentových systémoch. PETs sa stávajú architektonickým rozhodnutím.
Dnes máme k dispozícii rozsiahly zoznam technických nástrojov na ochranu súkromia.
Otázka však znie: koľko systémov navrhnutých pred rokom 2020 s týmito technikami reálne počítalo?
Moderné AI systémy prinášajú riziká, ktoré klasické informačné systémy nepoznali. Membership inference, model inversion, data poisoning, prompt injection, emergentné správanie či laterálny pohyb údajov medzi agentmi sú riziká, ktoré vznikajú aj v prípade, že systém funguje presne tak, ako bol navrhnutý. Dokumenty ako ISO/IEC DIS 27091, ETSI TR 104 225 či usmernenia AEPD zdôrazňujú potrebu traceability logs, white-box testovania, auditovania proxy premenných a mechanizmov pre unlearning.
Zásadnou otázkou preto nie je, či implementovať privacy engineering, ale kedy. Najväčšou chybou je implementovať opatrenia až po tréningu modelu alebo po nasadení agenta. Shift-left stratégia znamená definovať právny základ a účel ešte pred zberom dát, modelovať dátové toky pred napísaním kódu, vybrať PETs pred tréningom, navrhnúť memory hygiene ešte pred zavedením perzistentnej pamäte a implementovať traceability už pri prvom deploymente.
Historická skúsenosť z obdobia 2016 až 2018 nás učí, že ochrana súkromia nesmie byť reaktívna. Vtedy chýbali technické zdroje. Dnes už tento argument neobstojí. Máme štandardy, metodiky, modely aj technické nástroje. Ignorovať ich znamená vedome riskovať dôveru používateľov aj regulatórny nesúlad.
Najdôležitejšie je si uvedomiť, že ochrana súkromia nie je brzdou inovácie. Je podmienkou jej prijatia. Ak chceme, aby AI systémy boli dlhodobo dôveryhodné, musíme prestať riešiť ochranu údajov ako otázku auditu a začať ju riešiť ako otázku návrhu. Dôvera nie je deklarovaná. Dôvera musí byť navrhnutá. A to je podstata privacy engineeringu.
Možno je jedným z dôvodov, prečo štandardy privacy engineeringu nie sú široko známe a systematicky používané, samotná historická dynamika regulácie. GDPR nadobudlo účinnosť v roku 2018, teda v čase, keď väčšina technických štandardov z oblasti privacy engineeringu ešte neexistovala alebo bola len v raných verziách.
Organizácie sa vtedy sústredili na rýchlu implementáciu právnych požiadaviek – úpravu dokumentácie, zmlúv, procesov, DPIA. Technická metodika, ako systematicky preložiť článok 25 o „data protection by design and by default“ do architektúry systémov, bola len vo veľmi obmedzenej podobe dostupná. Keď sa následne začali objavovať konkrétnejšie technické normy, pozornosť organizácií sa už presúvala k ďalšej vlne regulácií: NIS a NIS2, DORA, AI Act, Cyber Resilience Act. Kapacity právnych, bezpečnostných a technických tímov sa prirodzene rozptýlili medzi nové compliance projekty. Ochrna súkromia sa tak ocitla v súťaži s kybernetickou bezpečnosťou, odolnosťou, operačným rizikom a – interne – s tlakom na rýchle dodávanie funkcií, ktoré prinášajú komerčnú hodnotu. Paradoxom však je, že všetky tieto nové nariadenia priamo alebo nepriamo odkazujú aj na GDPR a ochranu osobných údajov ako základné právo. AI Act v článku 2 výslovne uvádza, že sa uplatňuje bez toho, aby boli dotknuté povinnosti podľa GDPR a iných predpisov o ochrane údajov; v recitáloch opakovane zdôrazňuje, že ochrana osobných údajov a súkromia je súčasťou základných práv, ktoré majú byť AI systémami rešpektované. NIS2 rovnako uvádza, že sa uplatňuje bez toho, aby boli dotknuté právne predpisy Únie o ochrane údajov, najmä GDPR. Cyber Resilience Act vo svojich odôvodneniach a článku 2 taktiež potvrdzuje, že sa uplatňuje bez toho, aby boli dotknuté existujúce právne akty Únie vrátane GDPR. Tieto prepojenia sa však v praxi často strácajú v záplave technických a organizačných požiadaviek jednotlivých regulácií. GDPR pritom v článku 25 a 32 výslovne pracuje s konceptom „state of the art“, teda s požiadavkou zohľadniť aktuálnu úroveň technického poznania pri navrhovaní opatrení. Ak dnes existujú technické štandardy a metodiky, ktoré umožňujú systematicky implementovať privacy engineering, ich ignorovanie môže vytvárať nový compliance gap – nielen voči GDPR, ale aj voči AI Act, NIS2 či CRA, ktoré sa na GDPR odvolávajú ako na základný rámec ochrany osobných údajov. Preto je dôležité toto prepojenie nestratiť zo zreteľa: nové regulácie neprinášajú alternatívu k ochrane súkromia, ale ju predpokladajú a nadväzujú na ňu.
Tato e-mailová adresa je chráněna před spamboty. Pro její zobrazení musíte mít povolen Javascript.
Poznámky pod čarou:
- https://www.aepd.es/en/guides/agentic-artificial-intelligence.pdf do práv jednotlivcov.
- Techniky zvyšujúce ochranu súkromia
