Algoritmy sociálnych médií rozhodujú o tom, aký obsah miliardy používateľov uvidia, čomu budú venovať pozornosť a napokon aj čomu môžu uveriť. Ich fungovanie však zostáva do veľkej miery skryté, hoci môžu zosilňovať dezinformácie, polarizujúci obsah či cielené ovplyvňovanie zraniteľných skupín. Článok predstavuje algoritmické auditovanie ako spôsob nezávislého skúmania týchto netransparentných systémov a na troch štúdiách platformy TikTok ukazuje jeho praktické možnosti, zistenia aj metodologické limity. Čitateľ sa dozvie, ako možno merať personalizáciu polarizujúcich tém, preverovať ochranu maloletých pri zobrazovaní reklamy a prečo je reprodukovateľnosť výsledkov jednou z najväčších výziev algoritmických auditov.
algoritmické auditovanie odporúčacie systémy personalizácia sociálne médiá informačná bezpečnosť
Všadeprítomnosť sociálnych médií rozširuje, ako chápeme informačnú bezpečnosť. Tá sa tradične zameriava na ochranu systémov, sietí a údajov pred neoprávneným prístupom, narušením alebo zneužitím. Do popredia sa však čoraz viac dostáva tzv. kognitívna doména, teda myslenie ľudí (a používateľov), ktoré môže byť cieľom útokov, vplyvových operácií, propagandy čo sa v konečnom dôsledku odráža na rozhodnutiach a správaní ľudí a má často dôsledky aj v informačnej bezpečnosti (v jej tradičnom chápaní). Preto je dnes informačná bezpečnosť čoraz viac spájaná s integritou informačných ekosystémov, najmä tých tvorenými odporúčacími systémami riadenými umelou inteligenciou. Tieto systémy sú jadrom sociálnych médií, vyhľadávačov a systémov distribúcie reklamy, a priamo rozhodujú o tom, čo miliardy používateľov vidia, konzumujú a napokon aj čomu veria.
Moderné odporúčacie systémy sú navrhnuté tak, aby optimalizovali zapojenie používateľov, často uprednostňovaním obsahu, ktorý dokáže upútať pozornosť. Hoci je takáto optimalizácia efektívna z biznisového hľadiska, môže zároveň neúmyselne zosilňovať prítomnosť škodlivého obsahu vrátane podvodov, dezinformácií, či propagandy. V závažnejších prípadoch môžu byť tieto mechanizmy zámerne zneužívané v rámci operácií zahraničnej informačnej manipulácie a zasahovania (angl. Foreign Information Manipulation and Interference - FIMI). Personalizačné mechanizmy, na ktorých sú tieto systémy založené, môžu zároveň prispievať k spoločenskej polarizácii a radikalizácii tým, že posilňujú existujúce presvedčenia a izolujú používateľov v ideologických bublinách.
Napriek rastúcemu povedomiu o týchto rizikách sa systematickému skúmaniu reálne nasadených odporúčacích systémov nevenuje dostatočná pozornosť. Hlavným dôvodom je vysoká technická náročnosť. Veľké platformy sú pre výskumníkov „čierne skrinky“ (angl. black box), ktoré neposkytujú informácie o svojich algoritmoch, trénovacích dátach ani cieľoch ich optimalizácie. Výskumníci sú preto odkázaní na nezávislé pozorovanie správania systému zvonku (analýzu vstupov a výstupov) s cieľom odhaliť jeho vlastnosti a potenciálne riziká.
Algoritmické auditovanie sa ukazuje ako perspektívny metodologický rámec pre takéto skúmanie. Vo všeobecnosti ide o systematické experimentálne hodnotenie algoritmických systémov, v ktorých skupina kontrolovaných agentov/botov (angl. sockpuppets) napodobňuje reálnych používateľov. Títo boti interagujú s platformou vykonávaním bežných používateľských akcií (napr. sledovanie, lajky či zdieľania) a zaznamenávajú reakcie platformy (napr. odporúčaný obsah). Namiesto priameho skúmania zdrojového kódu alebo modelov sa systém analyzuje zvonka s cieľom odhaliť vzorce, zaujatosti a nežiaduce efekty v jeho správaní.
Cieľom tohto článku je predstaviť koncept algoritmického auditovania odbornej verejnosti v oblasti informačnej bezpečnosti. Vychádzame pritom z nášho vlastného výskumu tejto metodológie, tzv. algoritmického auditovania založeného na modeloch (angl. model-based algorithmic auditing). [1] Ukážeme, že odporúčacie systémy predstavujú kritický vektor útokov v moderných informačných ekosystémoch a musia byť analyzované s rovnakou prísnosťou ako tradičné aspekty bezpečnosti. Náš príspevok je dvojaký: (i) konceptualizujeme algoritmické auditovanie ako potenciálny nástroj pre výskum informačnej bezpečnosti a (ii) demonštrujeme využitie auditovania založeného na modeloch prostredníctvom troch štúdií odporúčacieho systému platformy TikTok. Tieto štúdie ilustrujú, ako paradigma algoritmického auditovania umožňuje systematické skúmanie algoritmického správania a vypĺňa medzery, ktoré ešte neboli úplne preskúmané. Zároveň poukazujú na nevýhody predchádzajúcich auditov – v prvom rade na náročnú replikovateľnosť, ktorú sa snažíme v rámci našich štúdií zlepšiť.
Algoritmické auditovanie v kontexte informačnej bezpečnosti Algoritmický audit získal na popularite ako prostriedok na skúmanie netransparentných systémov umelej inteligencie. Využíva sa najmä v oblasti sociálnych médií s veľkým spoločenským dopadom. Tradičné prístupy auditovania sa často spoliehajú na heuristické experimentovanie, manuálne vytváranie auditovacích scenárov, simuláciu umelého (nereprezentatívneho) správania používateľov a tiež sú obmedzené svojím rozsahom (z hľadiska časového rozpätia, počtu agentov, pokrytých platforiem atď.). Hoci sú tieto metódy cenné, môžu mať problémy so škálovateľnosťou, reprodukovateľnosťou a systematickým pokrytím zložitého priestoru možných situácií.
Na riešenie týchto obmedzení sme zaviedli koncept algoritmického auditovania založeného na modeli. [1] Ide o novú metodiku, ktorá využíva model na aproximáciu prostredia sociálnych médií. Model zachytáva informácie o obsahu a používateľoch, napr. distribúciu veku a pohlavia, ako aj o interakciách/vzorcoch správania, napr. priemerný čas strávený na platforme. Takýto model vedie k vytváraniu reprezentatívnejších auditovacích scenárov a vernejšej simulácii správania používateľov.
V kontexte informačnej bezpečnosti ponúka algoritmický audit niekoľko dôležitých výhod. Po prvé, umožňuje identifikáciu systémových zraniteľností v odporúčacích systémoch, ktoré môžu byť zneužité na škodlivé účely, ako sú koordinované dezinformačné kampane. Porozumením toho, ako špecifické vstupy ovplyvňujú šírenie obsahu, môžu útočníci (a obrancovia) lepšie predvídať účinky manipulačných stratégií.
Po druhé, audit založený na modeloch podporuje detekciu emergentných rizík, ktoré vyplývajú z interakcie viacerých komponentov systému. Napríklad súhra medzi algoritmami personalizácie a mechanizmami reklamných systémov môže vytvoriť nezamýšľané cesty pre zacielenie na zraniteľné skupiny obyvateľstva. Takéto kombinované efekty je ťažké analyzovať bez jednotného auditovacieho rámca nad celým analyzovaným systémom.
Po tretie, tento prístup zvyšuje reprodukovateľnosť a porovnateľnosť medzi štúdiami. Formalizáciou procesu auditu a využitím natrénovaných modelov umelej inteligencie môžu výskumníci efektívnejšie replikovať experimenty, zdieľať metodiky a stavať na predchádzajúcom výskume. To je obzvlášť dôležité v oblasti informačnej bezpečnosti, kde sú hodnotenia založené na dôkazoch kľúčové pre právne a regulačné rozhodnutia.
Nakoniec, algoritmický audit založený na modeloch je v súlade so širšími cieľmi proaktívnej bezpečnosti. Namiesto reakcie na pozorované incidenty umožňuje systematické skúmanie potenciálnych rizík (napr. počas volebných období) skôr, ako sa prejavia vo veľkom meradle. V tomto zmysle možno odporúčacie systémy považovať za analogické k softvérovým systémom, ktoré prechádzajú penetračným testovaním, pričom algoritmický audit slúži ako forma „behaviorálneho penetračného testovania“ pre platformy riadené umelou inteligenciou.
V nasledujúcich častiach demonštrujeme potenciál algoritmického auditovania na troch konkrétnych prípadoch použitia - algoritmických štúdiách, na ktorých sme v posledných rokoch pracovali v rámci výskumného projektu AI-Auditology.
Prípadová štúdia 1: Algoritmický audit personalizácie polarizujúcich tém na TikToku
Naša prvá štúdia sa zameriava na dynamiku personalizácie v polarizujúcich témach na TikToku. [2] Polarizujúci obsah predstavuje významný problém z hľadiska informačnej bezpečnosti, pretože sa dá využiť na zhoršenie spoločenských rozdielov a zosilnenie dezinformačných naratívov.
V tejto štúdii boli vytvorené syntetické používateľské účty, ktoré najskôr vykonávali prepísané sekvencie návštev obsahu TikToku. Sekvencie predstavovali rôzne postoje používateľa (podporujúce aj odporujúce) k vybraným polarizujúcim témam (ako je politika, klimatické zmeny, vakcíny a konšpiračné teórie o plochej Zemi). Následne agenti pasívne konzumovali odporúčaný obsah. Systematickým simulovaním interakčných vzorcov v súlade s prideleným záujmom používateľa, ako sú lajky, čas sledovania či preskočenia videí, sme boli schopní pozorovať, ako platforma v priebehu času prispôsobovala svoje odporúčania.
Nazbierané dáta odhalili: 1) posun obsahu smerom k používateľským preferenciám (pozorovali sme silnú personalizáciu smerom k záujmom používateľov), 2) posun obsahu smerom k polarizačným témam (pričom sme pozorovali silný neutralizačný účinok na témy s tematikou dezinformácií a vysokú preferenciu a posilnenie záujmu o témy z americkej politiky); a 3) posun obsahu smerom k polarizačnému postoju (pozorovali sme preferenciu opozičného postoja k téme americkej politiky a všeobecné posilnenie postoja používateľov odporúčaním položiek, ktoré sú v súlade s ich postojom k polarizačným témam).
Z hľadiska informačnej bezpečnosti tieto zistenia poukazujú na niekoľko rizík. Po prvé, rýchle zosilnenie počiatočných preferencií vytvára príležitosti pre zámernú manipuláciu. Škodliví aktéri by mohli túto citlivosť zneužiť vložením cieleného obsahu na začiatku histórie interakcií používateľa, čím by efektívne formovali jeho budúce informačné prostredie. Po druhé, posilnenie homogénnych obsahových prúdov môže prispieť k tvorbe názorových bublín, čím sa zníži vystavenie rôznym perspektívam a zvýši sa náchylnosť dôverovať dezinformáciám.
Dôležité je, že tento typ auditu nám umožnil systematicky kvantifikovať tieto účinky. Namiesto toho, aby sme sa spoliehali na anekdotické resp. neoveriteľné tvrdenia, boli sme schopní poskytnúť reprodukovateľné merania dynamiky personalizácie a jej potenciálnych dôsledkov. To demonštruje hodnotu metodiky pre identifikáciu a charakterizáciu vlastností odporúčacích systémov relevantných z hľadiska bezpečnosti.
Prípadová štúdia 2: Algoritmický audit doručovania reklamy maloletým na TikToku
Druhá štúdia sa zameriava na audit zobrazovania reklamy maloletým na TikToku [3] s osobitným dôrazom na súlad s článkom 28(2) Európskeho zákona o digitálnych službách (DSA). Toto nariadenie zakazuje profilovať maloletých za účelom personalizovaného cielenia reklamy, čo odráža obavy týkajúce sa obmedzenej schopnosti dospievajúcich rozpoznať a odolať komerčnému presviedčaniu v digitálnom prostredí.
V tejto štúdii sme vykonali algoritmický audit s použitím kontrolovaných agentov, ktorí simulovali maloletých aj dospelých používateľov s identickými záujmovými profilmi (reprezentujúcimi záujem o 4 tematické kategórie: krása, fitness, hry a politika). Títo agenti systematicky interagovali s platformou, čo nám umožnilo pozorovať, ako odporúčacie a reklamné systémy TikToku reagovali na charakteristiky používateľov. Zozbieraný obsah bol automaticky anotovaný a kategorizovaný do štyroch typov: formálne (platené) reklamy, správne označený komerčný obsah influencerov/značiek, neoznačený komerčný obsah a nekomerčný/nereklamný obsah. Okrem toho sme analyzovali, do akej miery sa odporúčaný obsah zhodoval s vopred definovanými záujmami účtov.
Výsledky odhaľujú zložitý a z hľadiska informačnej bezpečnosti znepokojujúci obraz. Na jednej strane preukazujú, že TikTok spĺňa formálne požiadavky regulácie DSA tým, že obmedzuje cielenie založené na profilovaní vo formálnych reklamách zobrazovaných maloletým. Na druhej strane sa toto dodržiavanie do značnej miery obmedzuje práve na „formálne“ reklamy (vzťahujúce sa iba na reklamy zakúpené prostredníctvom reklamného systému platformy, za ktoré je platforma priamo platená). Naproti tomu označený aj neoznačený propagačný obsah, najmä influencerský marketing, vykazuje silné personalizačné účinky zosúladené so záujmami používateľov. Výsledky auditu zároveň preukázali, že stupeň profilovania pozorovaný v takomto obsahu je podstatne vyšší ako v prípade formálnych reklám zobrazovaných dospelým používateľom.
Najvýraznejšie účinky boli identifikované v neoznačenom komerčnom obsahu, kde tvorcovia alebo značky neindikujú predpísaným spôsobom, že ide o propagačný materiál. V týchto prípadoch platforma ani nevynucuje označovanie komerčnosti, ani neobmedzuje personalizované zobrazovanie maloletým. V dôsledku toho sú maloletí stále vystavení vysoko cielenej komerčnej komunikácii, čím sa v podstate obchádza zamýšľaná ochrana nariadenia DSA.
Z hľadiska informačnej bezpečnosti tieto zistenia zdôrazňujú kritickú regulačnú medzeru, ktorú možno interpretovať ako formu systémovej zraniteľnosti. Hoci sú ochranné opatrenia implementované na úrovni formálne uznávaných reklám, funkčne ekvivalentný komerčný obsah môže tieto ochrany obchádzať z dôvodu definičných nedostatkov. To vytvára zneužiteľný priestor pre cielené ovplyvňovacie operácie zamerané na maloletých, či už na komerčné alebo iné potenciálne škodlivé účely.
Táto štúdia demonštruje, ako algoritmický audit dokáže odhaliť nezrovnalosti medzi formálnym dodržiavaním predpisov a skutočným správaním systému. Systematickou analýzou rôznych kategórií obsahu a dynamiky ich personalizácie tento prístup poskytuje konkrétne dôkazy o tom, ako môže byť ochrana v praxi ohrozená. V širšom zmysle zdôrazňuje dôležitosť zohľadnenia nielen technického návrhu systému, ale aj regulačných definícií a mechanizmov presadzovania pri posudzovaní bezpečnosti a ochrany online platforiem.
Prípadová štúdia 3: Replikovateľnosť algoritmických auditov na TikToku
Naša tretia štúdia dopĺňa predchádzajúce analýzy tým, že sa nezameriava na samotné fungovanie odporúčacích systémov, ale na to, ako spoľahlivo ich môžeme študovať. Skúmali sme metodologickú robustnosť existujúcich algoritmických auditov TikToku. [4]
Štúdia systematicky prehodnocuje predchádzajúce audítorské snahy a hodnotí ich reprodukovateľnosť a časovú stabilitu. Kľúčovým zistením je, že mnohé predtým publikované výsledky, najmä tie, ktoré sa týkajú dynamiky odporúčaní a vystavenia obsahu, je ťažké reprodukovať. Aj pri čo najvernejšej replikácii nastavení sa pozorované výsledky často výrazne líšia. Okrem nedostatočného opisu auditov ich autormi (napr. chýbajúce alebo neúplné metodologické detaily a zdrojový kód) sú samotné odporúčacie systémy vysoko dynamické, vyvíjajú sa v priebehu času a sú citlivé na kontextové faktory, ktoré je náročné plne kontrolovať (napr. neustále sa meniaca popularita obsahu na platforme).
Okrem toho upozorňujeme na problém krátkodobej platnosti výsledkov štúdií. Zistenia odvodené z algoritmických auditov môžu platiť len v obmedzenom časovom horizonte, pretože algoritmy a obsah platformy sa neustále aktualizujú a prispôsobujú. V dôsledku toho sa závery o správaní systému môžu rýchlo stať zastaranými, čo obmedzuje ich užitočnosť pre dlhodobé bezpečnostné hodnotenia alebo regulačné intervencie.
Z hľadiska informačnej bezpečnosti sú tieto pozorovania veľmi dôležité. Po prvé, spochybňujú predpoklad, že jednorazové audity môžu poskytnúť spoľahlivé dôkazy o systémových rizikách. Ak sa odporúčacie systémy rýchlo vyvíjajú, potom sa zraniteľnosti, ako je náchylnosť na manipuláciu alebo zaujatosť, môžu časom meniť.
Po druhé, nedostatok reprodukovateľnosti komplikuje validáciu výskumných zistení. V bezpečnostne kritických oblastiach je replikovateľnosť výsledkov nevyhnutná pre vybudovanie dôvery a možnosť nezávislého overovania. Naša štúdia preukazuje, že súčasné algoritmické audity nemusia ešte spĺňať tento štandard, najmä ak sa aplikujú na zložité, adaptívne systémy, ako sú platformy sociálnych médií.
Zdôrazňujeme preto potrebu systematickejších a škálovateľnejších prístupov auditovania, ako je naša paradigma algoritmického auditovania založenom na modeli. Vytvorením modelu sociálnych médií, ktorý zachytáva vlastnosti platformy (obsah, používateľov a interakcie medzi nimi), je možné zmierniť niektoré nedostatky a slabé miesta predchádzajúcich algoritmických auditov.
Naše zistenia navyše motivujú k vývoju technológie kontinuálneho auditu [5], kde sa odporúčacie systémy monitorujú v priebehu času, a nielen v izolovaných jednorazových experimentoch. To je v úzkom súlade so zavedenými postupmi v oblasti informačnej bezpečnosti, ako je kontinuálne skenovanie zraniteľností a detekcia narušení.
Záver
V tomto článku poukazujeme na to, že odporúčacie systémy sociálnych médií predstavujú kritické pole pre výskum informačnej bezpečnosti. Keďže platformy riadené umelou inteligenciou čoraz viac formujú informačný priestor, pochopenie ich správania sa stáva nevyhnutným pre ochranu integrity verejnej diskusie a zmiernenie rizík manipulácie a šírenia dezinformácií.
Pre adresovanie tohto problému sme predstavili algoritmický audit ako systematický prístup k štúdiu algoritmických systémov sociálnych médií, s osobitným zameraním na novú paradigmu algoritmického auditovania založeného na modeloch. Táto nová paradigma umožňuje škálovateľnú, reprodukovateľnú a hĺbkovú analýzu inak netransparentných algoritmických systémov.
Prostredníctvom troch štúdií zahŕňajúcich platformu TikTok sme demonštrovali, ako sa tento prístup dá uplatniť v praxi. Prvý príklad zdôraznil dynamiku personalizácie v polarizujúcich témach a odhalil, ako rýchlo môžu odporúčacie systémy posilňovať špecifické názory a potenciálne zosilňovať škodlivý obsah. Druhý príklad skúmal odporúčanie reklamy maloletým a odhalil potenciálne nezrovnalosti a zraniteľnosti v mechanizmoch profilovania maloletých pri zobrazovaní reklamy. Nakoniec, tretí príklad odhaľuje aj potenciálne nevýhody tohto prístupu tým, že demonštruje kľúčový nedostatok replikovateľnosti algoritmických auditov.
Tieto príklady spoločne ilustrujú potenciál, ako aj otvorené problémy algoritmického auditovania v oblasti informačnej bezpečnosti. Ukazujú, že odporúčacie systémy je potrebné analyzovať s rovnakou prísnosťou ako tradičné bezpečnostne- kritické komponenty systémov, a to s použitím systematických a na dôkazoch založených metodík.
V budúcnosti sa zameriame na ďalšie zlepšenie robustnosti a škálovateľnosti technologickej platformy, ktorá je základom našich auditov. To zahŕňa vylepšenie agentov platformy, zdokonalenie modelovacích techník a rozšírenie rozsahu auditovaných systémov a scenárov. Konečnou víziou je komplexný rámec pre kontinuálny audit platforiem riadených umelou inteligenciou, ktorý prispeje k bezpečnejším a dôveryhodnejším informačným ekosystémom.
Tato e-mailová adresa je chráněna před spamboty. Pro její zobrazení musíte mít povolen Javascript.
Tato e-mailová adresa je chráněna před spamboty. Pro její zobrazení musíte mít povolen Javascript.
POUŽITÉ ZDROJE:
[ 1 ] SRBA, I., PECHER, B., SIMKO, J., MORO, R. & BIELIKOVA, M. (2025). Model-based Algorithmic Auditing of Social Media AI Algorithms. In Proceedings
of Fourth European Workshop on Algorithmic Fairness, Proceedings of Machine Learning Research, 294:439-445.
https://proceedings.mlr.press/v294/srba25a.html.
[ 2 ] PECHER, B., BINDAS, A., JAKUBCIK, J., TUNA, M., TIBENSKY, M., LISKA, S., SAKALIK, P., SUTY, A., MOSNAR, M., HOSSNER, F., & SRBA, I. (2026).
Algorithmic Audit of Personalisation Drift in Polarising Topics on TikTok. arXiv preprint arXiv:2603.20723. Accepted to UMAP 2026.
[ 3 ] SOLAROVA, S., MOSNAR, M., TIBENSKY, M., JAKUBCIK, J., BINDAS, A., LISKA, S., HOSSNER, F., MESARČÍK, M., & SRBA, I. (2026).
The DSA's Blind Spot: Algorithmic Audit of Advertising and Minor Profiling on TikTok. arXiv preprint arXiv:2603.05653. Accepted to FAccT 2026.
[ 4 ] MOSNAR, M., SKURLA, A., PECHER, B., TIBENSKY, M., JAKUBCIK, J., BINDAS, A., SAKALIK, P., & SRBA, I. (2025). Revisiting Algorithmic
Audits of TikTok: Poor Reproducibility and Short-term Validity of Findings. In Proceedings of the 48th ACM SIGIR Conference on Research
and Development in Information Retrieval (SIGIR ’25). ACM, 3357–3366. https://doi.org/10.1145/3726302.3730293
[ 5 ] SIMKO, J., TOMLEIN, M., PECHER, B., MORO, R., SRBA, I., STEFANCOVA, E., ... & BIELIKOVA, M. (2021, June). Towards continuous automatic audits
of social media adaptive behavior and its role in misinformation spreading. In Adjunct Proceedings of the 29th ACM Conference on User Modeling,
Adaptation and Personalization, ACM, 411-414.
