Doposud jsme uživatele trénovali na rozpoznávání podvrhů v rámci sociální manipulace – ukázky podvodných e-mailů a triky útočníků, jako je typosquatting, již většina uživatelů zná. Většina už také ví, že se pracuje s emocemi, jako jsou obava, strach, zvědavost nebo touha, a umí také rozpoznat, že zpráva o zázračném zbohatnutí je většinou jen zkratka k okradení. Ukazujeme jim, jak vypadá podvodný e-mail, jaké jsou „signální“ znaky podvrhů, vysvětlujeme, že i e-mailovou adresu je velmi snadné zfalšovat, a myslím si, že uživatelé to chápou, přijali to a chovají se podle toho. Následně jsme se v edukaci posunuli k nebezpečnosti podvrhů v SMS zprávách a QR kódech a zdá se, že to snad funguje. Minimálně tedy u těch uživatelů, které školíme.

Některé „staré“ pravdy ale už moc neplatí. Například jsme říkali, že čeština je poměrně málo rozšířený jazyk a pro cizince pravděpodobně relativně složitý. První překladače Google taky nebyly žádný zázrak. Uživatele jsme upozorňovali, že při zkoumání potenciálně podvržených textů jsou pravopisné chyby poměrně významným závažím na vahách posouzení, zda se jedná o podvrh. Dnes je nicméně, ne-li všechno, potom 90 %, jinak. Svůj podíl na tom má podle mě klesající úroveň zvládání gramatiky v populaci, a také to, že umělá inteligence prostě zvládá pravopis na jedničku. Zkrátka je to naopak – upside down. Pokud dnes uvidíme gramaticky dokonalý text, začneme mít pochybnost, jestli ho skutečně psal člověk. A protože víme, že umělou inteligenci osedlal kybernetický zločin, je takový text naopak podezřelý. Zkrátka, musíme dnes uživatele učit, že pravopis vlastně není signálním znakem a že naopak podezřelá je dokonalost gramatiky a větné stavby. A to je přitom samozřejmě ten nejmenší problém.

Celkem nedávno oznámila společnost LastPass, že se stala terčem útoku využívajícího sociální manipulaci a že minimálně jeden její zaměstnanec musel čelit útoku využívajícímu umělou inteligencí vygenerované takzvané deepfake. Konkrétně se mělo jednat o podvrh hlasu generálního ředitele společnosti Karima Toubby. Jelikož však útok a pokus o komunikaci probíhal mimo běžné komunikační kanály, zaměstnanec pojal podezření, komunikaci ignoroval a aktivitu nahlásil jako incident. Podvrh použitý v tomto útoku byl pravděpodobně vygenerován pomocí umělé inteligence trénované na veřejně dostupných zvukových nahrávkách generálního ředitele LastPass na YouTube. Tentokrát to tedy ještě dobře dopadlo. Co to však znamená?

Ukazuje se, že útoky zneužívající umělou inteligenci už probíhají. Přitom ještě nedávno jsme o podvrhu hlasu uvažovali pouze v rovině teorie a laboratorních pokusů a útoky s jejich pomocí za lehké sci-fi. Nyní však musíme čelit nové realitě a nové taktice našich protivníků. Je tedy velmi pravděpodobné, že naši uživatelé již nebudou zasypáváni téměř dokonalými podvrhy v podobě e-mailů, ale budou jim vyzvánět telefony, ve kterých je bude známý hlas „jejich ajťáka“ nabádat třeba ke spuštění TeamVieweru. E-maily dokážeme alespoň částečně filtrovat technickými prostředky, ale co s telefonními hovory? Máme technický prostředek, který poslouží jako ochranný deštník pro uživatele, aby mu telefon nezazvonil?

První odpovědí každého „bezpečáka“ je, že změníme tréning uživatelů a naučíme je rozpoznávat i tyto podvrhy. Ano, půjde to, a do určitého okamžiku dokážeme uživatele odpovídajícím způsobem vyškolit. Je to samozřejmě „stroj, který se za velkého řevu uvádí do pomalého pohybu“, ale půjde to. I deepfake mají v dnešní době své limity (zejména technické), ty dokážeme popsat a tuto vědomost předat uživatelům. Věříme, že to budou pomalu vstřebávat a po čase si budou všímat v případě hlasových deepfake třeba nesrovnalostí v intonaci a rytmu (deepfake hlasy mohou mít nepravidelnou intonaci, rytmus nebo kadenci, která nesedí s přirozeným způsobem mluvení dané osoby), emocionální plochosti (syntetizované hlasy často znějí emocionálně méně bohatě nebo přesvědčivě než skutečné lidské hlasy) a nepřirozených pauz (deepfake hlasy mohou mít nepřirozené pauzy nebo zastavení, které se nevyskytují v běžné řeči). Připravíme testovací vzorky a podobně, jako testujeme odolnost phishingu, budeme testovat a tím vzdělávat uživatele i v rozpoznání deepfake.

Bohužel se dá očekávat, že přijde technologický zlom, a to možná dříve, než bychom chtěli. Umělá inteligence a prostředky pro výrobu deepfake budou schopni generovat podvrhy tak dokonalé, že budou i pro trénovaného uživatele prakticky neodhalitelné. Co bude dále? Obávám se, že již dnes, nemluvě o blízké budoucnosti, přestává být telefonát důvěryhodným komunikačním prostředkem. Budeme tedy muset znovu změnit taktiku. Budeme muset změnit naše interní procesy a postupy tak, abychom zajistili autentizaci volajícího. Nezapomeňme na to, že telefon je stále jedním z významných prostředků vnitrofiremní komunikace. Existují organizace, kde jsou pokyny k fakturaci dávány telefonicky, nebo kde „ajťáci“ na základě telefonátu nainstalují vzdáleně třeba již zmíněný TeamViewer. Musíme myslet na to, že pokud tomu tak je, záhy to kybernetický zločin odhalí, a pokud to bude pro nás zranitelné, tak toho samozřejmě i využije. „Vše, co napadne nás, napadne i je,“ řekl ve filmu Smrtonosná past 2 poručík John McClane. Je tedy pomalu na čase promyslet způsob, jak budeme ověřovat identitu volajícího, a to třeba zpětným voláním, jiným komunikačním kanálem, použitím autentizačních kódových slov a podobně, nebo promyslet pravidla omezující využití telefonního volání pro kritické operace. Vůbec nepochybujme o tom, že útočníci dokážou odhalit správné uživatele, které se pokusí manipulovat, a dokážou podvrhnout telefonní číslo. To ostatně zvládnou již i dnes.

Mějme na mysli, že náš protivník je odhodlaný a vysoce motivovaný. Jsou to, bohužel, odborníci ve svých oborech a „profesionálové“, kterým už dnes musí náš uživatel čelit. Navíc těmto kybernetickým zločincům bude pomáhat umělá inteligence. Věříme, že se AI zapojí do boje i na naší straně, nicméně s bílými figurami, a tedy výhodou prvního tahu, hraje náš protivník.

Změna interních procesů se stane otázkou přežití. Je nejvyšší čas na tom začít pracovat. Kdo se nepřizpůsobí, kdo nezmění svoji taktiku, bude poražen.

Luděk Mandok Autor článku je Senior security consultant ve společnosti Aricoma.