Rozhovor s Jeffreym Bardinem

Jeffrey Bardin je výkonným ředitelem a zároveň hlavním zpravodajcem ve společnosti Treadstone 71. Pracoval např. v organizacích General Electric nebo Lockheed Martin. Předtím sloužil v Letectvu Spojených států amerických jako kryptologický lingvista, kde v mnoha jazycích a pod mnoha kybernetickými identitami pronikal do nepřátelských skupin. V minulém dílu jsme se ho jako předního odborníka na zpravodajství i na kyberprostor ptali na Cyber Threat Intelligence a jak vnímá pokroky kybernetické bezpečnosti od jejího zrodu. Nyní nám mimo jiné prozradí, co si myslí o potenciálu a úskalí umělé inteligence ve službě kyberbezpečnosti a jaký je jeho názor na fenomén „hackback“.

Jeffrey Bardin je výkonným ředitelem a zároveň hlavním zpravodajcem ve společnosti Treadstone 71. Pracoval např. v organizacích General Electric nebo Lockheed Martin. Předtím sloužil v Letectvu Spojených států amerických jako kryptologický lingvista, kde v mnoha jazycích a pod mnoha kybernetickými identitami pronikal do nepřátelských skupin. V minulém dílu jsme se ho jako předního odborníka na zpravodajství i na kyberprostor ptali na Cyber Threat Intelligence a jak vnímá pokroky kybernetické bezpečnosti od jejího zrodu. Nyní nám mimo jiné prozradí, co si myslí o potenciálu a úskalí umělé inteligence ve službě kyberbezpečnosti a jaký je jeho názor na fenomén „hackback“.

 

Jaký vidíte význam nástupu umělé inteligence pro kybernetické zpravodajství a kybernetickou bezpečnost obecně?

Dnes je to pouze takový buzzword, což ale neznamená, že by AI neměla do budoucna potenciál. Kam až ten potenciál sahá? Tím si nejsem zcela jistý. Jako vše ostatní to začíná v rovině konceptů a akademických studií. Můžete si být jistý, že vlády a organizace jako IARPA nebo DARPA se tomuto tématu věnují intenzivně. Komerční sektor je většinou za těmito organizacemi pozadu minimálně 10–15 let, takže kdo ví, jaké všechny schopnosti už jejich „umělá inteligence“ má. Já ale vidím problém někde jinde. Nejde ani tak o to, co všechno může umělá inteligence udělat pro bezpečnost, jako spíš o to, že se její bezpečností a tím, jak do ní bezpečnost začlenit ve vývoji jejích dnešních schopností a funkčností, průběžně nikdo nezabývá. Zrovna nedávno jsem jako subkontraktor pro Ministerstvo vnitřní bezpečnosti (DHS) dokončil 10měsíční studii, kde jsem dělal sběr a analýzu dat v oblasti autonomních vozidel a umělé inteligence. Bylo zjevné, že tam měli vzhledem k výsledkům této analýzy určitá očekávání. Ve skutečnosti jim nešlo ani tak o to, co naznačují dnešní data, chtěli hlavně zjistit, „jak a kdo nám to hackne“. To se ale ze současných dat nepozná, protože tu ještě nemáme statický model. Proto je potřeba to řešit průběžně ve vývoji. Podobně jako se vším ostatním tu něco budujeme a řešit zabezpečení budeme až zpětně.

Jelikož jde o něco nového, bude také zajímavé sledovat závod o vlastnictví těchto modelů umělé inteligence. Ten, kdo tento závod vyhraje a bude na pomyslné pásce první, získá totiž AI i z pohledu duševního vlastnictví. Kdokoli bude vlastnit či skoupí strategické části dodavatelského řetězce určitého modelu umělé inteligence, ať už autonomních vozidel nebo lékařských zařízení, stane se vlastníkem celého tohoto prostředí, protože bude vlastnit komponenty, které zpracovávají nebo jimi putují data – všechny ty bity a bajty. A pokud to vlastním, nemusím to hackovat. Je to podobné jako s Huawei a 5G a celkově se síťovým prostředím, které tradičně vlastnilo Cisco. Spojené státy jsou v 5G pozadu a nemohou si dovolit, aby v něm mělo Huawei nadvládu. Něco na tom, že do těchto produktů Čína schovává backdoory, určitě bude. Stejně tak je tam bez pochyb mají i Spojené státy a všichni ostatní. A i kdyby je tam neměli teď, není problém je tam dostat později. Tady to trochu zoptimalizuji, sem dodám aktualizaci firmwaru – to je přece imperativ výrobce. Jak jsem říkal, technologie, u kterých jde vývoj dopředu takhle rychle, nechci muset hackovat, chci je vlastnit. A pak kdokoli je bude vlastnit, toho se budou snažit hacknout všichni ostatní.

…technologie, u kterých jde vývoj dopředu takhle rychle, nechci muset hackovat, chci je vlastnit. A pak kdokoli je bude vlastnit, toho se budou snažit hacknout všichni ostatní.

Je známo, že lidé jsou výteční na řešení problémů, ale poměrně mizerní analytici psychologických jevů, jako je kognitivní disonance a konfirmační zkreslení. Co kdybych Vám řekl, že můžete mít analytika, který nejenže není poznamenán těmito jevy, ale je navíc schopen zpracovat v podstatě neomezené množství informací? Není to jeden z možných přínosů umělé inteligence?

Řekl bych super, pojďme do toho. Nic takového ale nemáte a ještě dlouho mít nebudete. Umělá inteligence bude napsána lidmi, kteří do ní svůj způsob myšlení chtě nechtě promítnou. Takže tyto analytické defekty, které jste zmínil, se jí minimálně ze začátku budou týkat také. I tak by to samozřejmě bylo o několik řádů lepší, než co máme k dispozici dnes, už jenom díky schopnosti pracovat s tolika daty. Kdybych si měl tipnout, jak to bude probíhat, tak lidé vždy nějakou „lidskost“ do umělé inteligence zabudují, ať už záměrně nebo nevědomky. Ta pak ale bude sama na sobě pracovat a od těchto lidských předpojatostí se postupně oprostí. Dříve či později to určitě nastane, ale myslím, že schopnost naprosto čistého kalkulu, vyhodnocení něčeho bez jakékoli předpojatosti, zaujatosti a v naprosté objektivitě je skutečně hodně daleko za horizontem.

Podívejte se třeba na West World. I tam umělé inteligence měly své vlastní emoce, přestože je původně mít neměly. Je to ve skutečnosti jediný způsob, jak je lidé mohou interpretovat, jak se s nimi ztotožnit, takže to automaticky komponujeme do našeho modelu. Jako se vším ostatním, jinak by se to neprodávalo. Těžko si představit, že vybudujeme podobný model bez něčeho, o čem si ani neuvědomujeme, že to tam přidáváme. Otázkou druhou je, jak by taková čistě objektivní umělá inteligence bez lidskosti vypadala. Obávám se, že by nám nebyla příliš sympatická a ani závěry, se kterými by tato umělá inteligence přicházela, by se nám lidem nemusely moc líbit.

Jaký je váš názor na hackback a „ofenzivní bezpečnost“ celkově?

Já osobně jsem byl zastáncem hackbacku od samého začátku, co se tato myšlenka objevila. Na internetu žádná policie není. Pokud se k vám nabourávám ze svého prostředí, je mi úplně jedno, jestli jste chráněn nějakým zákonem nebo regulací. Jediné, co máte, je jakýsi obranný postoj. Žádnou hru, žádný souboj ale nikdy nevyhrajete, pokud hrajete pouze na své polovině hřiště. Vždy prohrajete, protože nikdy neútočíte. Takže jestli jsem pro hackback? Rozhodně. Měl by se ho snažit dělat každý? Rozhodně ne. Mělo by to být povoleno? Do určité míry. Do jaké? Těžko říct. NATO Cyber Command se tímto zabývá od roku 2008. Panovaly okolo toho velké diskuze zejména právnického charakteru, co by se mělo, co by se nemělo. Diskutovali o tom pořád dokola tak dlouho, až z toho nakonec vypadl Tallinnský manuál. Což je v podstatě taková kuchařka v židovsko-křesťanském podání, co si ještě můžete dovolit, aby vás Západ hackl nebo nehackl. Jenže pokud nejsem ze Západu, když se Západem nesouhlasím nebo jsem jiného náboženského vyznání, je mi to úplně jedno. Děkuji vám, že jste mi popsal, jak přesně se budete za jaké situace chovat. Je to kompilát precedentů a judikatury mezinárodního práva z fyzického světa ohnutý do kybernetického prostoru. Neříkám, že je to zcela k ničemu, ale ukažte to třeba Rusům nebo Číňanům, co si o tom myslí. Nikdo přece nemůže očekávat, že se podle toho snad budou řídit.

Vezměte si třeba, jak to je v Americe s policií a principem naléhavé okolnosti. Například představte si, že vlastníte vilu a horní patro někomu pronajímáte. Ten se jednoho dne rozhodne, že vykrade banku a pak se schová u vás v tom patře, které mu v dobré víře pronajímáte. Někdo ho zahlédne, jak vstupuje do domu, zavolá policii, která hned přijede. Pár výstřelů z okna a policie to začne naplno kropit do vaší vily. Vyrazí dveře, vtrhne dovnitř, něco převrhne a omylem způsobí požár, načež začne pronásledovat lupiče, který mezitím vyběhl zadními dveřmi na zahradu, pak k sousedům a tak dále. Tam pošlapou kytky, rozbijí sochy, prostřelí bazén, až nakonec lupiče chytí. A všechna ta destrukce okolo, vaše vila, která mezitím lehla popelem – tomu se říká naléhavá okolnost. Je nám to líto, ale museli jsme pronásledovat a zneškodnit tuto hrozbu veřejné bezpečnosti. To se ve fyzickém světě děje neustále, a přesto si myslíme, že v kyberprostoru je hackback špatný, protože bychom snad mohli nějak postihnout něčí server. Ten samý server, který je pod kontrolou útočníků a slouží jako řídící server pro útok na vaši organizaci. Neříkám, že je potřeba sestřelit celé IT prostředí dané organizace. Už jen z toho důvodu, že jde často o státní aktéry. Není to o tom spustit kybernetickou válku, ale zasáhnout a zbavit se té hrozby je na místě. Musíte mít samozřejmě ty správné lidi, kteří jsou schopni něco takového precizně uskutečnit. V praxi právníci a korporace svým lidem nikdy nic takového nedovolí, protože by tím riskovali právní mrzutosti. Což ale neznamená, že si na to nemůžou najmout někoho jiného. Existují společnosti, které takové služby poskytují. Některé to zvládají hůře, některé tak dobře, že je vláda Spojených států několikrát klepla přes prsty, jako třeba CrowdStrike. A tak si na to začali najímat třetí strany.
Je to podobné jako na základní škole, když na vás někdo větší doráží. Dokud mu jednu nevlepíte, bude na vás dorážet neustále. Jakmile se mu postavíte, nechá vás na pokoji a půjde otravovat někoho jiného. To je přesně to, co bychom měli dělat i v kyberprostoru, dokud tu nebudeme mít onu internetovou policii nebo to prostředí přirozeně nedospěje do bodu, kdy bude poskytovat jakousi inherentní ochranu. Jinak jenom stojíte na brankové čáře a snažíte se vykrýt jednu ránu za druhou, které na vás útočníci z různých stran pálí. To pak přirozeně můžete jenom prohrát. Je to o tom zaujmout skutečný obranný postoj a vyslat signál, že pokud si na vás někdo dovolí, budete se bránit a situaci útočníkům výrazně komplikovat. Na to většinou všichni říkají: Pokud to uděláte, budou na vás útočit ještě víc. Ale nic takového se nikdy nestalo, žádná data ničemu takovému nenasvědčují.

Takže ano, jsem pro hackback. I z toho důvodu, že vynutí určité změny, protože právně jsme se v této věci nikam neposunuli. Frameworky? Problém není v nedostatku kvalitních rámců, těch máme spíše až příliš mnoho. Je jedno, kolik po mně hodíte frameworků, stále budete trčet v tom samém křečovitém postoji, který zjevně nefunguje.

Z hlediska mezinárodního práva jsou problémem otázky suverenity a atribuce. Na základě precedentů, které jste zmiňoval, není hackback považován za adekvátní odpověď. Přestože s Vámi souhlasím, těžko si představit, že by něčí oficiální politika byla v rozporu s mezinárodním právem.

Máte pravdu, že to nejspíš vždycky bude normou. Ale ruku na srdce, drží se v dnešní době někdo mezinárodních norem? Drží se jich Spojené státy? Podívejte se třeba na Irák, tam dodnes zuří válka založená na čistě vykonstruovaných zpravodajských informacích. Afghánistán, to byla jedna věc. Těžko si ale představit někoho sekulárnějšího a chamtivějšího, než byl Saddám Husajn – naprostý opak bin Ládina, neměli spolu nic společného. Takže jakéže normy se tedy snažíme neporušit? Jsou porušovány každý den. Stuxnet byl naprostým narušením íránské suverenity. Kdyby něco takového udělali oni nám, okamžitě bychom jim vyhlásili válku. To oni udělat nemohli, prostě protože jsou menší. A to je samozřejmě jen špička ledovce. Každý den v médiích obviňujeme Rusko, Čínu, Severní Koreu a další z kybernetických útoků. Nikde se ale nedočteme o útocích, které provádíme my na ně. To ale neznamená, že se nedějí – naopak. Je to proto, že diktatury a autokracie si nemohou dovolit být viděny jako slabé a zveřejňovat, že jsou každý den hacknuty. A ohledně atribuce, ta mě ve skutečnosti vůbec nezajímá, jde mi o zneškodnění hrozby. Budu prostě postupně sledovat stopu útočníka, stejně jako to dělá policie. Nijak nadšený z toho nejsem, ale myslím, že je změna přístupu nutná. Bavíme se o tom od roku 2008, tedy už 11 let, a od té doby jsme se nikam neposunuli. Máme tu skvělý dokument, výborně. No a co?

Je hackback tím nejlepším řešením? Nevím. Rozhodně je to ale lepší než se snažit něco vyřešit právně, když právo v této aréně stejně nikoho nezajímá. Je potřeba si uvědomit, že nové technologie, které se vyvíjejí stále rychleji, budou tento problém umocňovat, zvláště za situace, kdy si stále více zemí buduje své vlastní kybernetické síly. Kyberprostor je více než pouze pátá doména. Prostupuje ostatními doménami, všechno propojuje. Máme tu drony a protiletecké systémy, ale nakonec budou všechny zbraně závislé na kyberprostoru. A dříve nebo později někdo přijde s kybernetickou zbraní hromadného ničení. I když to zatím zní poněkud úsměvně, je to pouze otázka času. Proč by někdo něco takového chtěl mít? Stejně jako jaderné zbraně – k odstrašení. Více zbraní pro zaručenou vzájemnou hromadnou destrukci.

…dříve nebo později někdo přijde s kybernetickou zbraní hromadného ničení. I když to zatím zní poněkud úsměvně, je to pouze otázka času.

Tím jste se lehce dotkl mé další otázky, a to jak vidíte budoucí vývoj v prostoru kybernetična?

Moc optimistický ohledně toho, kam míříme, nejsem. Mám takový dojem, že před sebou máme ještě hodně tvrdý boj, než i jenom zahlédneme světlo na konci tunelu. A vůbec nevím, jak se postavit tomu, co tam na nás číhá. Honba za ziskem je dnes základní hnací sílou všeho a zároveň jednou z hlavních příčin problémů, kterým čelíme. Většina z nich je spojena s nástupem internetu a sociálních sítí. Je opravdu dokázáno, že lidé jsou všeobecně hloupí a uvěří víceméně čemukoli, co je v souladu s tím, čemu už věří. A nevykážou žádnou snahu si ověřit fakta nebo jen přečíst a zvážit něco, co jejich víře neodpovídá. Všechny sociální sítě jsou postaveny přesně na tomto principu. Jejich cílem je, aby uživatelé klikali na obsah a reklamy. Spadáte do skupiny, které by se mohlo něco na základě jejich profilu líbit? Budu vám to servírovat všude, kam se na internetu podíváte. Nelíbí se vám něco nebo s něčím máte pravděpodobnost nesouhlasit? Tak se ujistím, že už to nikdy neuvidíte. Čistý marketing. V tomto ohledu opravdu nebylo to, co se stalo během amerických voleb v roce 2016, překvapením. Zamyslete se, že tímto jednoduchým principem bylo možné výrazně zasáhnout do voleb největší světové mocnosti. Mocnosti, která udává směr, kam se svět několik dalších let bude ubírat. Je to děsivé. A obávám se, že jsme se dna v tomto ohledu ještě nedotkli.

Měl byste ještě nějaký vzkaz našim čtenářům?

Já osobně mám v určitých ohledech poměrně idealistický pohled na věci, ale všechno vyhodnocujte. Dobírejte se pravdy, neakceptujte jenom tak něco, co je vám prezentováno. Obávám se, že jsme trochu zapomněli učit se kriticky myslet, vyhodnocovat data a na základě toho tvořit hypotézy. Jaké je mé doporučení čtenářům? Začněte myslet. Přestaňte jednat na základě pocitů.

Děkujeme za rozhovor.
Za DSM se ptal Adam Lamser