Brent McConnell působil jako seniorní poradce pro mezinárodní záležitosti v agentuře CISA (Cybersecurity and Infrastructure Security Agency), jako ředitel mezinárodních operací CISA a také jako Chief Compliance Officer. V těchto funkcích řídil mezinárodní operace organizace s více než 3 300 zaměstnanci a poskytoval vrcholovému vedení CISA poradenství v oblasti mezinárodní kybernetické strategie. Je déle než 35 let exekutivním lídrem v oblasti bezpečnosti ve Spojených státech i v mezinárodním prostředí. Specializuje se na kybernetickou bezpečnost, compliance, exportní kontrolu, ochranu kritické infrastruktury, budování kapacit a politiku pokročilých zbrojních technologií. Je emeritní důstojník Letectva Spojených států amerických, emeritní zpravodajský důstojník, překladatel z korejštiny a seniorní výkonný představitel Pentagonu v oblasti technologické bezpečnosti.
Popisujete kritickou infrastrukturu jako „provozní substrát“ moderního života. Proč je to lepší způsob, jak ji chápat, než o ní jednoduše uvažovat v kategoriích sektorů nebo systémů?
Některé vlády klasifikují kritickou infrastrukturu podle v zásadě jednoduchých sektorů. Tím přehlížejí, jak jsou tyto sektory vzájemně závislé a propojené. Takže například pokud by vodárenský sektor přestal fungovat nebo by byl napaden, neznamená to pouze, že vám z kohoutku nepoteče voda. Znamená to také, že nemocnice nejsou zásobovány vodou. Znamená to, že chladicí systémy nemají vodu. Takže jde o větší strukturu. To je základ moderní společnosti. Nevšímáme si toho, dokud to nezmizí. Musíme se dívat na celý systém, protože je tak propojený a velmi křehký.
Když mluvím o substrátu, nemyslím tím jen technický seznam zařízení nebo regulovaných odvětví. Myslím tím provozní základ, který drží moderní život pohromadě: vodu, energii, dopravu, komunikace, zdravotnictví, finance, potraviny a veřejnou správu. Veřejnost tento substrát většinou nevnímá, protože funguje tiše. Právě jeho tichá spolehlivost je ale základem důvěry. Pokud se najednou rozpadne, lidé velmi rychle zjistí, že moderní společnost není abstraktní pojem, ale soubor praktických služeb, které musejí běžet každý den. Dobrým rámcem je dívat se na to podobně jako na dopady velké přírodní katastrofy. Hurikán Ian nebyl kybernetickou událostí, ale ukázal, co znamená selhání provozního substrátu: elektřina, voda, palivo, komunikace, nemocnice a důvěra mohou selhávat společně. Kybernetický aktér nepotřebuje vytvořit hurikán, aby vyvolal podobný dopad. Stačí zasáhnout několik slabých míst v propojeném systému.
Když kritická infrastruktura selže, problém prvního řádu může být technický, ale důsledky druhého řádu jsou sociální, politické a někdy život ohrožující. Jak by to mělo změnit způsob přemýšlení o kybernetické odolnosti?
Když se díváme na kybernetickou odolnost, nemělo by jít jen o otázku, jak znovu zprovozníme vodu. Pokud chápeme, že jde o křehký systém se vzájemnými závislostmi, musíme rozumět celkovým dopadům na společnost. Nejde jen o to, že nemáme čistou nebo bezpečnou pitnou vodu. Může to také znamenat, že naše zdravotnické služby se nemohou postarat o lidi. Že jsou narušeny naše dopravní systémy. Že je do toho zapojena i elektřina, pokud její výroba nějakým způsobem využívá vodu. To nezasahuje jen jednotlivce nebo malý sektor. Může to zasáhnout město, stát nebo celou zemi. A může to být použito v kontextu národní bezpečnosti tak, že to může ohrozit a rozptýlit pozornost naší vlády, když se snaží řešit třeba jiné probíhající krizové situace.
Cílem kybernetické odolnosti proto nemůže být pouze „zabránit incidentu“ nebo „obnovit IT“. Cílem kritické infrastruktury musí být provozní kontinuita pod stresem. Musíme se ptát, co se stane s lidmi, kteří jsou na službě závislí, když dojde k výpadku. Prvním selháním je výpadek samotný. Druhým je to, co výpadek udělá se zranitelnými lidmi, s nemocnicemi, s dopravou, s krizovým řízením a s důvěrou veřejnosti. To mění i způsob, jakým se mají navrhovat cvičení a plány. Nestačí mít tým, který umí analyzovat malware nebo zavřít zranitelný vzdálený přístup. Musíte vědět, jak služba funguje při omezené konektivitě, jak se ověřuje skutečný stav zařízení mimo digitální dashboardy, jak se komunikuje s krizovým řízením a jak se udržuje minimální přijatelná úroveň služby pro veřejnost.
Ve své přednášce představujete „Agentic Shift“. Co přesně se změnilo s AI podporovanými nebo poloautonomními operacemi?
Rychlost a tempo. Historicky se v cyklu obrany proti kybernetickému útoku nebo v situaci, kdy útočník vstupuje a útočí na nějakou strukturu nebo systém, vše odehrává lidskou rychlostí. Lidé mají potřeby. Musíme spát, učit se, psát na klávesnici, musíme v tom útoku dělat různé věci. Co do toho vnese agentická AI? Rychlost se stlačí do bodu, kdy lidé obvykle nejsou schopni okamžitě reagovat. Takže pokud útočník používá agentickou AI, která je odlišná od AI, na níž jsme byli zvyklí, rychlost, se kterou dokáže hledat zranitelnosti, vyvíjet exploity a vyřadit systém, je velmi odlišná od dřívějšího modelu člověk proti člověku. Obránce, který nepoužívá agentickou AI, je z hlediska času ve značné nevýhodě kvůli rychlosti, s níž se útočník dokáže dostat do systému a zneužít ho.
Dřívější výhoda obránce často spočívala v lidské latenci. I útočník musel dělat průzkum, psát skripty, testovat, koordinovat a přizpůsobovat se lidským tempem. Agentická AI tyto časové osy zkracuje v průzkumu, skriptování, testování i řetězení úloh. Nejde primárně o čistou autonomii AI. Klíčovou změnou je operační páka – méně lidí může dělat více kroků, rychleji a ve větším rozsahu. V kritické infrastruktuře je to důležité, protože kill chain se může začít pohybovat strojovým tempem. Útočník může rychleji nacházet slabá místa, porovnávat závislosti a zkoušet cesty, které by lidskému týmu trvaly mnohem déle. Obránce pak není ohrožen pouze technickou kvalitou útoku, ale tím, že se rozhodovací prostor zmenší natolik, že běžné procesy reakce už nestačí.
Nebezpečím, jak ho popisujete, nejsou dokonalé AI útoky, ale zrychlená páka proti křehkým systémům. Proč je nedokonalá, ale rychlá automatizace tak závažným problémem?
Opět se to vrací k tomu, že jsme byli v minulosti zvyklí na latenci, protože lidé se bránili a útočili proti lidem. S tím přicházejí faktory, které si v podstatě vynucují určitou časovou osu. Tato časová osa není vynucena, když používáme agentickou AI, která se může pohybovat strojovou rychlostí. Může se pohybovat, myslet a způsobovat věci během minut, zatímco v lidském kontextu může reakce trvat hodiny, dny, týdny, dokonce i měsíce. Takže i když agentická AI není dokonalá a dělá chyby a i když existují oblasti, ve kterých má potíže skutečně dosáhnout svých cílů, stále je rychlejší než člověk a je dostatečně dobrá na to, aby člověk sám obvykle nedokázal reagovat na rychlost, kterou do boje přináší.
To je přesně ten bod, kdy útok nemusí být bezchybný, aby byl užitečný. Pokud je dostatečně rychlý, levný a škálovatelný, může zahltit slabší obránce. Ve veřejných zprávách už vidíme AI orchestrovanou kybernetickou aktivitu, která podporuje skutečné operace jako průzkum, hledání zranitelností, podporu zneužití, analýzu dat nebo podporu exfiltrace. Limity zůstávají, zejména v dobře bráněných prostředích a v prostředích silně závislých na OT, ale slabší obranní operátoři čelí mnohem horšímu prostředí. Proto je nebezpečí v operační páce. Pokud dříve obránce počítal s tím, že má dny nebo týdny na záplatování vystavené slabiny, dnes může být tento předpoklad špatný. Vystavené slabiny je nutné opravovat rychleji, protože agentická automatizace umožňuje protivníkům mnohem rychleji zjistit, kde se nacházejí slabé spoje a úzká místa.
Kritická infrastruktura se může stát plochou pro nátlak. Jak lze přístup k vodě, elektřině, palivu, zdravotní péči nebo komunikacím využít k vytváření politického tlaku, aniž by byla překročena hranice války?
Jedním z běžných scénářů je, že pokud jsou Spojené státy rozptýleny, protože například byla odstavena nebo zasažena kritická infrastruktura nějakého města, toto město a v některých případech i federální vláda se musejí touto krizovou situací zabývat, aby ji znovu uvedly do provozu, a musejí řešit, zvládat a pomáhat s tím, co se v tom městě děje. Pokud se současně stane něco na mezinárodní úrovni, kde musí vláda USA reagovat, je odstaven přístav nebo nějaká jiná struktura nebo federální či státní vláda věnuje svůj čas a pozornost péči o obyvatele města, stává se z toho politický nátlak. Není to akt války, ale je to čin, který odvádí pozornost vlády, v určitém smyslu ji znevýhodňuje a činí ji méně schopnou udělat to, co musí udělat pro danou krizovou situaci v oblasti národní bezpečnosti.
Přístup uvnitř kritické infrastruktury vytváří strategické možnosti. Narušení vodárenského systému, nemocnice, distribuce paliva nebo komunikací může vytvářet strach a politický tlak, aniž by stát formálně překročil hranici války. Takový incident má technické, ale i nátlakové dopady: nutí politické vedení přesouvat pozornost, zdroje a rozhodovací kapacitu. Důležité je také rozlišovat mezi narušením a trvalým přístupem. Persistentní přístup do kritické infrastruktury může být zpravodajským sběrem, ale může být i přípravou na budoucí narušení. Pokud protivník ví, kde jsou slabá místa, závislosti a kde se malé selhání může změnit v širší důsledky, má nástroj politického nátlaku i bez okamžitého útoku.
Závislosti napříč sektory mohou proměnit malé poruchy v nelineární důsledky. Které závislosti jsou nejčastěji podceňovány, například telekomunikace, cloud, identita, palivo, logistika, personál nebo něco jiného?
Nejčastěji napadené kritické infrastruktury bývají voda a energetika, ale jsou to také komunikace. Takže například selhání komunikací může být velmi kritické pro ty, které přímo zasáhne, ale ovlivňuje také mnohem větší systém. Komunikovat potřebují záchranné složky, policie, nemocnice atd. Když se podíváte na to, kde se využívá voda a energie, jsou to podobná zařízení. Takže zdánlivě malá situace prosakuje do těchto dalších oblastí a začíná je odstavovat. Dívat se na to jako na problém jednoho sektoru je podle mého osobního názoru velmi krátkozraké a musíme zvažovat, co se stane, když tento malý problém ve skutečnosti povede k mnohem větším systémovým problémům.
Často se podceňuje, že závislosti nejsou jen technické. Jsou provozní, smluvní, logistické a personální. Organizace by si měla položit jednoduchou otázku: co selže jako první? Jsou to telekomunikace, cloud, dodavatelé, identita, palivo, chemikálie, personál nebo logistika? V praxi se může ukázat, že systém není zranitelný tam, kde je nejmodernější technologie, ale tam, kde je nejběžnější závislost, kterou nikdo necvičil. Další podceňovanou oblastí je identita a vzdálený přístup. Kde se vzdálený přístup dotýká OT nebo bezpečnostně relevantních systémů? Které nástroje mají oprávnění číst, zapisovat, spouštět, doporučovat nebo měnit? V agentické éře se oprávnění stává novým poloměrem výbuchu. Čím větší oprávnění má člověk, systém nebo AI nástroj, tím větší může být dopad chyby nebo zneužití.
Zdůrazňujete potřebu navrhovat systémy pro degradovaný provoz. Co by měla základní služba stále umět dělat, když se ztratí konektivita, systémy jsou kompromitovány nebo roste tlak veřejnosti?
Myslím, že jedním rámcem, ve kterém jsme se dívali na kybernetické útoky a na to, že je nějaký sektor napaden, vyřazen a odstaven, je představa, že bychom to dokázali vyřešit nebo se proti tomu ochránit. Myslím, že jsme teď v době, kdy si nejsme jisti, kde už se útočník v našem systému může nacházet; tomu se říká pre-positioning. Takže se musíme připravit i na to. Pokud útok vyřadí sektor, obecně si nemůžeme dovolit, zejména s tou propojeností, o níž jsem mluvil, zůstat odstavení. Takže povzbuzujeme firmy, aby se podívaly na to, co mohou dělat v degradovaném stavu. Co můžete dělat, když už nejste připojeni ke vzdáleným operacím? Dokážete stále zavírat ventily, přesouvat věci, zajišťovat dění? Pokud o tom budete uvažovat dříve, než se to stane, a naplánujete si to, budete připraveni dostat svůj provoz zpět do chodu alespoň na úroveň, na které se postaráte o lidi, kteří potřebují vaše služby. Takové myšlení vám umožní plánovat dopředu, což znamená, že dokážete reagovat a stále fungovat alespoň na minimální úrovni.
Degradovaný provoz znamená předpokládat nulovou konektivitu, částečnou kompromitaci a tlak veřejnosti. Základní služba by měla vědět, které funkce musejí pokračovat, i když digitální systémy nejsou plně důvěryhodné. Operátoři musejí umět ověřit stav nezávisle na digitálních obrazovkách a dashboardech. Musejí vědět, zda lze obnovit systémy z důvěryhodných offline médií a zda lze přejít do manuálního nebo omezeného režimu provozu. A nejde jen o techniku. Musíte vědět, zda dokážete komunikovat s krizovým řízením a s dalšími životně důležitými sektory, když běžné kanály selžou. Pokud systém leží v síti, ale lidé nevědí, komu zavolat, jak eskalovat rozhodnutí nebo jak potvrdit, co je pravda, pak odolnost není dostatečná. Budoucností bezpečnosti kritické infrastruktury je do značné míry schopnost zachovat si možnost poznat, co je pravda.
Tvrdíte, že jde o autonomní odolnost, ne neprůhlednou autonomii. Kde je hranice mezi užitečnou obrannou automatizací a nebezpečnou ztrátou kontroly? Kdykoli používáme AI agenty v našich systémech k obraně, musíme vědět, co dělají. AI není dokonalá, dělá chyby. Jsou věci, které nedokáže splnit, a věci, které neočekáváme. Použití AI může mít nenadálé důsledky. Proto musíme vědět, co dělá, k jakým nástrojům přistupuje. Musíme mít datový záznam toho, co dělá. Musíme vědět, jaká rozhodnutí dělá. Musí existovat transparentnost. Nemůže být jen vypuštěna, aby dělala to, co si myslí, že musí udělat k dosažení cíle, protože někdy jsou její cíle jiné, než jak jim rozumíme, a může přijmout opatření, která jsme neočekávali. A když se to stane v obranné operaci, kde se snažíte chránit infrastrukturu nebo odvětví, mohou tyto neočekávané důsledky vést ke špatným výsledkům.
Kromě toho jsou tyto sektory běžně auditovány, když se něco pokazí. Schopnost přesně vysvětlit, co se stalo a proč se to pokazilo, je důležitou součástí procesu zjišťování. Někdy si nejsme jisti, proč AI něco udělala. Nejsme si jisti, proč učinila určitá rozhodnutí. Proto musí existovat velmi jasná transparentnost, když používáte AI v obranném kybernetickém systému. Hranice je v tom, zda je obranná AI ohraničená misí, pozorovatelná a testovaná na selhání. Musíme rozlišovat mezi vratnými IT akcemi a bezpečnostně relevantními provozními akcemi. Něco jiného je izolovat pracovní stanici a něco jiného je změnit stav procesu v OT prostředí, kde mohou existovat fyzické důsledky. Užitečná automatizace znovu získává čas, ale nevytváří nové režimy selhání. Proto je potřeba logovat použitá data, použité nástroje, předpoklady, aplikované politiky i provedené akce. Musejí se testovat vůči prompt injection, otráveným datům, přehnaným reakcím, kaskádovým efektům a chování při selhání. Autonomní odolnost neznamená dát systému volnou ruku. Znamená získat rychlost, ale zachovat kontrolu.
Mnoho organizací procvičuje reakci na incident, ale ne skutečnou obnovu. Proč je procvičování obnovy v agentické éře důležitější?
Když se snažíme reagovat na útok na naše systémy, toto úsilí končí ve chvíli, kdy zjistíme, o co jde, a jsme schopni začít cestu k obnově. Obvykle cvičíme do tohoto bodu a tam přestaneme. Potřebujeme cvičit situaci: dobrá, našli jsme problém. Jak teď dostaneme systémy zpět online? Jak poskytneme podporu, kterou máme v rámci našeho sektoru poskytovat, lidem, kteří na ní závisejí? Musíte jít o krok dál, abyste dokázali věci vrátit online a fungovat alespoň na minimální úrovni, i když jste v degradovaném stavu.
V agentické éře je obnova důležitější, protože rychlost útoku může předběhnout rychlost rozhodování. Organizace musejí cvičit nejen detekci a reakci, ale izolaci, obnovu a fungování během narušení. Musejí vědět, které systémy obnovit jako první, která data jsou důvěryhodná, z jakých médií obnovovat a jak dlouho lze bezpečně fungovat v omezeném režimu. Cvičení obnovy také odhalí závislosti, které nejsou vidět v běžném incident response tabletopu. Zjistíte, že potřebujete konkrétního dodavatele, konkrétní chemikálii, konkrétní přístupový účet, konkrétního operátora nebo konkrétní komunikační kanál. Pokud to zjistíte až během krize, je pozdě. Proto platí: cvičte obnovu, ne jenom reakci.
Jak by si demokratické společnosti měly udržet důvěru veřejnosti, když jsou základní služby narušeny nebo zmanipulovány?
Myslím, že jsou tu tři věci. První je mít zavedený systém, o kterém byste i zpětně mohli říci: tohle jsme udělali před tímto incidentem, abychom to ochránili a ujistili se, že je to bezpečné. Ujistěte se, že máte nějaký postup, protože bude následovat zpráva po události, bude se na to někdo dívat.
Druhou věcí je, že budete veřejnost informovat o tom, co se děje a co se snažíte dělat, a budete mluvit o úspěších, ale budete také upřímní ohledně toho, kde se ještě snažíte o obnovu. Tato transparentnost vůči veřejnosti buduje důvěru. A třetí věcí, v širším pohledu, je mít mnohem větší plán, který zajistí, že veřejnost, lidé tam venku, kteří by trpěli při útoku na kritickou infrastrukturu, budou chráněni. To buduje důvěru. Lidé možná neztratí mnoho důvěry kvůli jedinému malému incidentu s nízkým dopadem, ale v průběhu času, když vidí, že jejich vláda a systém kolem nich je nedokáže ochránit, začnou ztrácet důvěru, a to narušuje veřejný prostor a může to narušit i společnost jako takovou.
V demokratických společnostech je kritická infrastruktura také otázkou suverenity, závislosti a důvěry. Veřejnost nemusí rozumět detailům OT, identitních systémů nebo dodavatelských řetězců, ale rozumí tomu, zda světla svítí, voda teče, nemocnice fungují a úřady komunikují pravdivě. Důvěra se nezachraňuje tiskovou konferencí po incidentu. Buduje se předem tím, že služby jsou navrženy, cvičeny a auditovány tak, aby dokázaly fungovat pod tlakem. Evropský kontext je v tomhle velmi relevantní. NIS2, DORA, Cyber Resilience Act a AI Act vycházejí ze stejné premisy: digitální riziko je systémové riziko. To znamená, že ochrana kritické infrastruktury není pouze otázkou jedné organizace nebo jednoho sektoru. Je to otázka koordinace, dodavatelských řetězců, schopnosti obnovy a důvěryhodné spolupráce napříč státem, trhem a spojenci.
Kdyby si vedení organizace mělo po Vaší přednášce položit několik praktických otázek hned v pondělí ráno, které by to byly?
První otázka je, které základní funkce musejí pokračovat, i když jsou digitální systémy degradované. Druhá otázka je, které závislosti selžou jako první: telekomunikace, cloud, dodavatelé, identita, palivo, chemikálie, personál nebo logistika. Třetí otázka je, kde se vzdálený přístup dotýká OT nebo systémů relevantních pro bezpečnost. Čtvrtá otázka je, které AI nástroje už dnes mají oprávnění číst, zapisovat, spouštět, doporučovat nebo měnit. Pátá otázka je, zda dokážeme fungovat v izolaci a zda jsme to skutečně procvičili. A šestá otázka je velmi jednoduchá, ale zásadní: pokud nám agent, dashboard nebo digitální dvojče lže, jak to poznáme?
Co by podle Vás mělo být hlavním strategickým poselstvím pro organizace, které provozují nebo chrání kritickou infrastrukturu?
Odolnost je stav, který musíme navrhnout. Nemůžeme chránit substrát moderního života architekturami postavenými pro pomalé útoky a stabilní závislosti. Agentic Shift je skutečný. Hrozbou nejsou dokonalé AI útoky, ale zrychlená páka proti křehkým systémům. Správnou odpovědí je rychlejší a disciplinovanější odolnost: lepší návrh, přísnější oprávnění, silnější obnova a procvičená kontinuita. Úkolem je zachovat základní služby a důvěru veřejnosti pod tlakem. To je strategický, společenský i demokratický imperativ.
Chtěl byste na závěr doplnit něco, o čem jsme nemluvili, ale mělo by zaznít?
AI je teď součástí života, ale je kolem ní spousta neznámého. Nikdo nemůže říct, kde bude za rok nebo za pět let. Je těžké předvídat, jak se bude vyvíjet, a myslím, že jsme každých pár měsíců překvapeni tím, co skutečně vidíme. Přesto existuje určitá trajektorie, kterou vidíme. Pozorujeme věci a musíme plánovat podle toho, jak to bude vypadat v budoucnu. Musíme přemýšlet o tom, co se stane a kam to podle všeho směřuje. Takže i když je skvělé mít luxus porozumění dlouhodobému dopadu, tak se buduje strategie; typická firemní reakce je: podívejme se, kam to směřuje, než investujeme zdroje – na to není čas. Není čas ztrácet čas tím, že to budeme řešit a dívat se alespoň na to, kam si myslíme, že to směřuje, abychom mohli jednat teď. Pokud to nezavedete teď, budete zaskočeni.
Nemůžeme fungovat strojovou rychlostí, ale musíme se připravit bojovat proti těm, kteří to dokážou, a chránit se před nimi. To je v podstatě závěr celé přednášky – není čas váhat. Nemusíme přesně vědět, jak budou modely vypadat za pět let, abychom věděli, že dnešní architektury, cvičení a závislosti nejsou dostatečné pro prostředí, kde se útoky mohou zrychlovat a škálovat. Musíme jednat podle směru, který už vidíme, a připravit se na obranu substrátu moderního života dříve, než bude testován v krizi.
Děkuji za rozhovor.
Za DSM se ptal Martin Haloda.
