Andrej Leontiev je vedoucím partnerem Taylor Wessing na Slovensku a pracuje pro klienty v oblasti správy osobního majetku, práva nemovitostí a infrastrukturních projektů. Pracoval pro různé slovenské i zahraniční vládní, mimovládní a soukromé organizace na různých projektech zaměřených na zvýšení transparentnosti obchodních vztahů, boj proti korupci a praní špinavých peněz. Je jedním z průkopníků konceptu odhalování tzv. konečného vlastnictví na Slovensku. Podílel se na přípravě a implementaci tzv. protischránkového zákona; mimo jiné radil Ministerstvu spravedlnosti Slovenské republiky v otázkách ověřování konečných uživatelských výhod a reformy obchodního rejstříku. Pracuje rovněž jako právní expert pro EU Global Facility on Anti-Money Laundering and Countering the Financing of Terrorism (EU GF AML/CFT). Andrej se podílel na vytvoření samoregulačního právního rámce pro profesionály v oblasti prevence praní špinavých peněz pod záštitou Světové banky. V oblasti boje proti praní špinavých peněz Andrej také pravidelně školí vyšetřovatele Policejního sboru Slovenské republiky. V posledních měsících opakovaně veřejně varoval před riziky nárůstu podvodů vůči podnikatelům s využitím umělé inteligence.
Mohl byste v rychlosti popsat, čím se v práci zabýváte a jak jste se dostal k řešení problematiky použití AI při škálování CEO podvodů?
Volám sa Andrej Leontiev. Som riadiaci partner advokátskej kancelárie Taylor Wessing na Slovensku. Naši klienti sú hlavne podnikatelia a my sa snažíme pomáhať robiť ich biznis čo najefektívnejšie a ochraňovať ich pred rôznymi nástrahami. Nie vždy sa nám to darí a niekedy podnikatelia prídu za nami až potom, čo sa im nejaká nepríjemná vec už prihodila. V posledných mesiacoch, povedal by som už to bude vyše roka, sa stretávame s vylepšením podvodnej schémy, takzvaných „nigerijských listov“. Zjednodušene je to komunikácia, kde sa niekto vydáva za niekoho iného s cieľom vylákať od adresáta finančné prostriedky. Neviem, ako to je v Čechách, ale na Slovensku je už celkom dobrá verejná poznateľnosť tohto typu podvodov. Asi pred rokom sme však začali pozorovať, že tento typ podvodu sa výrazne „skvalitnil“ a stal sa ťažšie rozpoznateľný práve použitím umelej inteligencie. Aby sme boli úplne presní, pribúdajú rôzne softwary umožňujúce podvodníkom kvalitnú moduláciu hlasu a zmenu vizáže. Pribúdajú softwary, ktoré umožňujú napríklad lepšie kopírovať štýl písania napodobovanej osoby v písomnej komunikácii. A mali sme už aj prípad deepfakeových úprav konverzácií napríklad cez video platformu Teams, a to považujem za ten najvyšší stupeň vylepšení, kde s účtovníkom podnikateľa hovorí ako keby štatutár spoločnosti, teda osoba vydávajúca sa za štatutára a táto osoba nielenže hovorí v príslušnom jazyku, hovorí hlasom a intonáciou konateľa, ale aj vyzerá na kamere, ako ten konateľ. Tento moment, keď som videl tieto deepfakové pokusy, ma vlastne prinútil k tomu, aby som začal verejne komunikovať, že sa tu pripravuje veľká vlna podvodov, ktorá, keď sa na ňu neupozorní, môže podnikateľov v tomto regióne nájsť úplne nepripravených. A nielen podnikateľov, ale aj banky a iné subjekty, ktoré v týchto podvodoch zohrávajú nejakú rolu, tzn. políciu, prokuratúru a súdy.
Jak probíhá útok za použití AI při škálování CEO podvodů? Jaké využití v tomto útoku má umělá inteligence? Útočníci si stále vyhledávají společnosti, na které chtějí provést útok, a pod falešným e-mailem jim píšou. V čem je to jiné?
Najväčší rozdiel podľa mňa spôsobuje to, čo robí umelú inteligenciu veľmi užitočným nástrojom, a to je tá neobmedzená škálovateľnosť. To znamená, že vy ste schopný za rovnaký čas s veľmi malým nákladom vyprodukovať takých podvodných e-mailov alebo listov tisícky, aj si vyhľadať adresy obrovského množstva spoločností, vy viete tie e-maily úplne jednoducho písať v akomkoľvek jazyku a štýle. Poviem príklad: myslím si, že banky, ktoré dnes používajú biometriu na verifikáciu napríklad cez verifikáciu hlasu, môžu mať vážny problém, lebo vy dnes viete z 10-sekundovej, niektorí hovoria dokonca že z dvojsekundovej, vzorky hlasu urobiť model, ktorý je potom schopný v telefóne napodobniť váš hlas na hlas niekoho iného. Toto umožnila až AI, že je niekto schopný naučiť robota alebo modulátor hlasu za tak krátky časový úsek, napodobniť fakticky akúkoľvek osobu. Čiže ja si myslím, že je to tá škálovateľnosť rovnakého modelu na väčšiu skupinu osôb, že je to tá kvalita toho hlasu alebo vizuálu na nerozpoznanie od originálu a že je to dokonalejší spôsob, ako väčšina verifikačných a „obranných“ technológií vie byť prekonaná.
Jaká technologie převládá v tomto druhu útoku? Převládá deepfake technologie a která?
Ja som si nedávno čítal štatistiky a tie e-maily, tie takzvané CEO frauds útoky takzvaným Business Email Compromise alebo BEC spôsobom ešte tvoria väčšinu. My sa dnes bavíme o relatívne ojedinelých prípadoch toho vylepšeného deepfake audio alebo video podvodu. Myslím si však, že tieto deepfake video resp. audio podvody budú exponenciálne rýchlo narastať práve preto, že tie technológie, ktoré to umožňujú, sú dobre a ľahko dostupné. Napríklad ten software, ktorý vám umožní naučiť počítač modulovať hlas, ten viete získať úplne legálne a lacno. Čítal som, že väčšina tých softwarov, ktoré umožňujú naučiť sa hlas niekoho iného, bola vyvinutá na úplne iný a legitímny účel. Sú to napríklad softwary, ktoré mali zabrániť tomu, aby človek, ktorý počas liečby stratil hlas, mal možnosť, aby za neho ten prístroj nehovoril generickým hlasom, ale aby hovoril jeho vlastným hlasom. Ale stalo sa, čo sa stáva často, že sa verejne prospešná vec sa začne využívať na nelegálne účely.
Soustředíte se ve své praxi hlavně na personifikované útoky, nebo se zabýváte i útoky typu SPAM?
Myslím, že obyčajné generické SPAMy sú niečo, voči čomu sa dnes možno relatívne jednoducho vo firmách brániť. Oveľa ťažšie sú práve tieto personifikovanejšie útoky. A áno, ja ako advokát sa venujem aj prevencii, a to preto, lebo som mal pocit, že sa tu tomu nikto verejne nevenoval. Možno poviem len takú moju osobnú skúsenosť: keď som sa rozprával aj s policajtami, tak vlastne nastal tu - a to bude podobne aj v Čechách - taký fenomén, že podnikatelia, ktorí sa stanú obeťou podvodov, sa za to hanbia. Preto to často vôbec nenahlásia, ani to nepovedia v rámci nejakej svojej komunity či asociácie. Lebo sa nikto nechce priznať, že zlyhal a stal sa obeťou. Ja som čítal, že v Amerike mala CIA nejaké štatistiky, že každý štvrtý Američan sa stal aspoň obeťou pokusu o vylákanie prostriedkov. Čiže keď si to zoberiete na český či slovenský trh, tu sú desiatky a stovky podnikateľov, ktorí sa stali obeťou takéhoto podvodu alebo pokusu o podvod, a nič o tom nečítate, nič o tom nepočujete. Takže opakujem, že moja úloha ako advokáta v tomto rozhovore je v prvom rade prevencia a potom v druhom rade - a o tom možno hovoriť neskôr - že ako advokátska kancelária sme si vyvinuli nejaké procesy, ktoré, keď sa aplikujú veľmi rýchlo, tak vedia tie ukradnuté peniaze na ceste zamraziť a vrátiť. Čo je možno pre niekoho sklamanie, že vo väčšine prípadov vôbec nejde o to odhaliť a chytiť páchateľov. Vo väčšine tých prípadov pre nás ako advokátov ide o to, aby sa aspoň nejakú časť odcudzených peňazí podarilo na ceste zamraziť a vrátiť poškodenému.
Jak se AI může naučit styl psaní statutáry společností a použít deepfake k tomuto útoku? Kde zjistí e-maily nebo texty, které statutár psal, když nejsou veřejně dostupné, či jeho hlas?
Hlas je najmenší problém a video dnes už tiež nie je problém. Veľa vplyvných ľudí vystupuje denne na konferenciách, vystupujú v rôznych interných a externých PR videách. Majú svoje súkromné účty na sociálnych sieťach - preto je dôležité aby osoby mali zamknuté svoje súkromné sociálne médiá - lebo dnes už viete z krátkeho videa na TikToku, kde majiteľ povie 2-3 vety, odobrať potrebnú vzorku hlasu. Nedávno som bol sám prekvapený: AI vie aj meniť intonáciu kopírovaného hlasu tak, aby zodpovedala konkrétnej emócii. Z 10-sekundového audioklipu naučíte software nielen hovoriť vašim hlasom, ale aj pridať pokyn, či v komunikácii má prevažovať napríklad nátlakovejšia intonácia, alebo to má byť skôr ako keby žiadostivá, alebo smutná forma komunikácie. Táto intonácia a vyvolanie nálady je veľmi dôležite. Asi viete aj z iných podvodov, že podvodník sa snaží veľmi sofistikovanými psychologickými metódami vyvolať u adresáta pocit stresu, časovej tiesne, obavu pred zlyhaním. Na to, aby tento pocit u vás vyvolali, musia aj meniť intonáciu falošného šéfa, ktorú vedia urobiť práve cez takéto softwary.
Zaujímavé bolo pre mňa zistiť, že existujú aj softwary, ktoré presne robia aj niečo opačné. Dajú sa do firmy kúpiť softwary, ktoré posudzovaním alebo sledovaním vašej e-mailovej komunikácie a vašich partnerov, ktorí s vami komunikujú, sa naučia štýl písania vašich biznis partnerov, a potom, ak by prišiel falošný e-mail pod ich menom, vedia vás na to upozorniť.
Soustředí se tyto útoky převážně na statutáry a jiné velké pozice ve společnostech, nebo i na běžné zaměstnance?
Môžeme sa baviť o tom, že v relatívne veľa tých e-mailových podvodov ide o menšie čiastky. To znamená, že niekto napíše svojmu kolegovi zo mzdárne, „Zmenil som si bankový účet. Prosím, posielaj mi výplatu na tento nový účet“. Toto celé bolo samozrejme vymyslené, a chudák zamestnanec príde až po tretej výplate na to, že mu chýbajú peniaze. Keď potom pôjde na personálne oddelenie, tak tam mu ukážu e- -mail, „Veď ty si napísal, že si zmenil účet.“. Tu ide o relatívne malé peniaze a tie sa zriedkakedy dostanú k advokátovi. S čím sa my stretávame v kancelárii viac, a to je asi preto, že advokátska služba niečo stojí, to sú podvody na spoločnostiach v miliónoch eur. Na to, aby ste urobili podvod v miliónoch eur alebo stovkách tisíc eur, potrebujete napodobniť dôležitého človeka vo firme – riaditeľa, konateľa, lebo len on vie dať pokyn na takýto veľký prevod.
Samozřejmě dnes je již běžné, že firmy využívají různé nástroje, včetně analýzy obsahu e-mailů a srovnávání s vzory známých phishingových pokusů. Pokud nástroj zjistí podezřelou aktivitu nebo pokus o podvod, vydávají se za jiného zaměstnance společnosti, tak může upozornit uživatele a přijmout kroky k blokování nebo označení takových e-mailů jako nebezpečných. Není toto řešení dostačující?
Sú sofistikovanejšie a jednoduchšie technologické riešenia. Veľa firiem má dnes už obyčajné riešenie, že vám systém hlási, či je to e mail, ktorý prichádza z interného zdroja, z vašej organizácie, alebo prichádza z vonku. To znamená, že ak vám kolega alebo šéf píše a vyskočí vám, že je to z externého prostredia, tak už spozorniete „Aha, prečo by šéf písal zo súkromného gmail účtu?“. Áno, keď sa bavíme o tom, ako CEO a BEC podvodom predchádzať, musí to mať vlastne dva piliere.
Prvý pilier sú tréningy a také tie soft-skills aktivity, môžu ľudí naučiť byť obozretní, aby nejakým spôsobom overovali veci, ktoré vyzerajú podozrivo.
Druhý pilier je softwarovo procesný, tzn. na jednej strane použijeme technológie, aby nás upozorňovali na neštandardné
veci a na druhej strane vo firme zavedieme určité fixné manažérske a kontrolné procesy, ktoré sa musia dodržiavať, ktoré sú postavené na to, aby sa aj v časovom a inom strese alebo pri nátlaku - napr. cez telefón - štandardná verifikácia pokynu a identity osoby, ktorá pokyn ukladá, nezabudla urobiť. Čiže ak máte fixný proces, ako má prebiehať zmena čísla účtu dodávateľa alebo odberateľa, tak sa toho procesu musíte držať, aj keby vám falošný dodávateľ telefónom päťkrát za deň tvrdil že už mu meškáte s platbou. Čiže je to kombinácia soft-skills, hardwaru, softwaru a procesov.
Ano, takže pokud máme výborný systém, tak samozřejmě stále nesmíme zapomínat na lidský faktor, který zodpovídá za většinu zdařených útoků. Jak se lidé mohou nechat tím útočníkem zmanipulovat?
Väčšinou to má psychologické vysvetlenia, ktoré sú ľudsky pochopiteľné. Môžem vám povedať napríklad o jednom podvode, kde akože štatutár materskej spoločnosti zo zahraničia zavolal finančnej riaditeľke slovenskej dcéry, a on s ňou hovoril vlastne prvýkrát na priamo. Použil takú psychologickú techniku, že vzbudil u tej finančnej riaditeľky dôveru a pocit uznania a ona sa cítila špeciálna tým, že jej sám veľký „šéf“ zo zahraničia zavolal a potreboval práve jej pomoc. Čiže tie psychologické techniky sú skutočne rôzne. Nie je to len také to klasické, že vám niekto zavolá, a že „Urob!“, ale oni sa buď snažia na vás pôsobiť nátlakom („Keď neurobíte, vyhodím Vás.“), alebo sa snažia vám dať pocit, že vy ste ten kľúčový článok („Už dlho vás sledujem ako výnimočného zamestnanca, pomôžte mi urobiť túto špeciálnu transakciu do Ázie, lebo nikto o tom nemôže vedieť, a ja sa na vás spolieham.“). Čiže je za tým strašne veľa psychológie a manipulácie a to sa dá veľmi ťažko na školení naučiť rozlišovať.
Pokud útočník dokáže přemluvit zaměstnance ke kooperaci a uskuteční se převod peněz: Je nějaký způsob, jak získat peníze zpět a vypátrat útočníka, který útok inicializoval?
Nie, dopátrať podvodníka sa nepodarí skoro nikdy. A podľa mňa by nikto z podnikateľov nemal mať ani tú ambíciu. Ambícia musí byť tie ukradnuté peniaze alebo ich väčšiu časť nejakým spôsobom dostať naspäť. Tam sú kľúčové tri veci: Prvá je kontaktovať advokáta, ktorý by mal mať pripravený presný a veľmi rýchly sled krokov, ktoré treba urobiť. Kľúčové sú prvé hodiny po tom, ako sa na podvod príde. Poviem vám príklad: mali sme podvod, kde zo slovenskej banky boli poslané peniaze do Hongkongu a napriek tomu, že to išlo cez korešpondenčné banky do Hongkongu, teda cez SWIFT, tie peniaze boli do Hongkongu do banky príjemcu doručené zhruba do troch hodín. Čiže vy tú transakciu buď viete zastaviť u vašej banky potom, čo zistíte, že ste prevodný príkaz zadali v dôsledku podvodu, alebo sa snažíte zastaviť tú transakciu tom akoby „medzibankovom priestore“. To sa robí tak, že vaša banka musí poslať SWIFT správu včas, aby sa nepripísali tie peniaze na účet adresáta v prijímajúcej banke. Alebo tretí krok je, že sa snažíte peniaze zamraziť už na účte toho podvodníka v zahraničí. Druhá kľúčová vec je podať trestné oznámenie, lebo s trestným oznámením domáca aj zahraničná banka môže urobiť niektoré kroky, ktoré bez toho urobí len zriedkavo. Súčasne s tým odporúčame podať podnet na finančnú spravodajskú jednotku, že tu mohlo ísť o pranie špinavých peňazí, resp. že tie peniaze, ktoré sú predmetom prevodu, majú pôvod v trestnej činnosti. A posledné, a to je tretia kľúčová vec, nám sa osvedčilo nájsť si advokáta v krajine, kam tie peniaze smerujú a ten advokát už komunikuje s políciou v tom štáte, kam tie peniaze smerujú a s bankami prijímateľa. Keď ako slovenský advokát napíšem list do banky do Londýna, že môjmu klientovi boli odcudzené peniaze a smerujú na londýnsky účet, tak to nebude mať taký účinok, ako keď to napíše londýnsky advokát tej londýnskej banke. A tie úspešné prípady, ktoré sme mali, boli práve v situáciách, napríklad v Hongkongu, kde sme cez našu kanceláriu (my máme pobočku v Hongkongu) našli advokátov špecializujúcich sa na takéto podvody. Oni získali veľmi rýchlo predbežné opatrenie v Hongkongu, čiže nie polícia nám pomohla, nie finančná spravodajská jednotka, ale zahraničný advokát v Hongkongu nám pomohol získať predbežné opatrenie, a zo zhruba 2,2 milióna eur, ktoré tomu klientovi odcudzili, sa podarilo predbežne zamraziť na účtoch podvodníkov asi 1,2 milióna. Potom títo advokáti ešte poradili takú ďalšiu právnu „fintu“. Ten CEO podvod prebieha najčastejšie tak, že vy prevediete milióny na jeden zahraničný účet a z neho to potom podvodníci „rozpúšťaju“ pyramídovým systémom po menších sumách na desiatky ďalších účtov. A títo advokáti v Hongkongu dosiahli to, že aj účet hongkonskej firmy, ktorá dostala z tohoto balíku 2,2 milióna len 175.000 EUR, tak na celú sumu, ktorá sa nachádzala na tom účte, sa zriadila blokácia. Na tom účte náhodou v ten deň bolo viac ako milión eur, čiže tým, že tie účty sa niekedy považujú za účty spolupáchateľov, tak za určitých okolností sa dá na nich zamraziť viac ako len peniaze, ktoré prišli z konkrétneho podvodu. Čiže v našom konkrétnom prípade je stále šanca, že nám súd prizná právo uspokojiť sa aj z ostatných na účte zamrazených peňazí.
Kolik času má společnost na snahu pokusit se získat peníze zpět? Kolik dnů, či hodin máme po převedení peněz?
Vo väčšine prípadov je šanca zastaviť alebo vrátiť prevod najväčšia v prvých šiestich hodinách po tom, čo sa prevod uskutočnil.
Podvodníci nie náhodou vyberajú jurisdikcie, kam tie peniaze posielajú. Často taktizujú aj s časovými pásmami. Prinútia obeť podať prevodný príkaz napríklad poobede, tzn. kým sa na to príde, je u vás noc, policajti nepracujú, back office a fraud officeri v banke cez noc nepracujú. Cez noc tie peniaze prídu napríklad do Ázie, v Ázii je ráno. A tam sú komplici už schopní tie peniaze ďalej distribuovať na ďalšie účty.
V tejto súvislosti je dôležité ešte spomenúť rolu bánk v tom celom procese. Banky sú „posledná línia obrany“ voči CEO podvodom. Súvisí to s ich právami a povinnosťami zo zákona o boji proti praniu špinavých peňazí. To znamená, banky môžu podozrivé prevody zmraziť a prešetriť alebo oznámiť finančnej spravodajskej jednotke ako neobvyklú obchodnú operáciu. Poviem príklad: keď majú banky klienta, ktorý obchoduje len v Európskej únii a najväčšia platba, ktorú urobil za posledných päť rokov, bola 200 000 eur, a tento klient zrazu zadá prevod na 5 miliónov do Číny, tá banka by to mala nahlásiť ako neobvyklú obchodnú operáciu a takúto transakciu pozastaviť, kým sa neprešetrí. A aj keby to bola transakcia nie podvodná, tak je v dnešnej dobe obvyklé, že sa banka bude pýtať klienta na vysvetlenie a jednoducho to nejaký čas spomalí tú platbu. Nemôže sa stať, aby banka bez akéhokoľvek skúmania u klienta, ktorý nikdy s Áziou neobchodoval, nikdy neprevádzal viac ako 200.000 EUR z účtu, aby bez akéhokoľvek preverovania poslala platbu 5 miliónov do Číny. A kým toto banky dôsledne nebudú dodržiavať a od svojich zamestnancov vyžadovať, tak budú čeliť hrozbe civilných žalôb na náhradu škody spôsobenej porušením bankových povinností.
Oceňujem, že niektoré slovenské banky už majú 24 hodín, 7 dní v týždni určenú poverenú osobu, ktorej bankový pracovník alebo vy ako podnikateľ viete nahlásiť takýto podvod, a tá osoba začne okamžite konať alebo koordinovať v banke opatrenia na zmarenie podvodu. Bez podobných opatrení sa banka len ťažko vie zbaviť zodpovednosti, ako konštatujú viaceré, aj keď iba prvostupňové, judikáty.
Děkuji za rozhovor.
Za DSM se ptal Martin Haloda.
