AI ztěžuje autentizaci: Schyluje se k další kyberbezpečnostní bitvě?

Šéfové zabezpečení informací ve svých prostředích důvěrně znají desítky forem autentizace pro privilegované oblasti, ale nyní vzniká zcela odlišný problém v oblastech, kde autentizace tradičně nebyla ani potřebná, ani žádoucí.

Oblasti, jako jsou prodejní telefonická centra či veřejně přístupné weby, se rychle stávají klíčovými bojišti, kde skutečně záleží na tom, zda je dotyčná osoba reálně existujícím člověkem.

Přicházejí sem totiž také boty vytvořené umělou inteligencí a organizace potřebují spolehlivě a rychle tyto dvě skupiny odlišit.

Škodlivě se chovající boty jsou nyní sofistikovanější, útočníci díky nim analyzují obranné mechanismy a na tržištích či fórech sdílejí způsoby, jak je obcházet. Služby botů jsou také dostupnější, a to komukoli, kdo za ně zaplatí, tvrdí nejnovější zpráva společnosti Forrester „Bot Management Software“.

Boty mohou podle výzkumníků být centrálním prvkem útoku nebo pokusu o podvod. 

Může to být například útok typu credential stuffing (zneužití uniklých hesel), nebo mohou hrát podpůrnou roli při větším útoku, kdy vykonávají tzv. web scraping (automatizované získávání dat z webů) či jeho průzkum, aby pomohly najít cíle pro následné nekalé aktivity.

Přečtěte si také:

Weby v Evropě si s předpisy hlavu moc nelámou

Forrester odhaduje, že až jedna třetina dnešního internetového provozu pochází právě od uměle vytvořených škodlivých botů. Problém s boty však přesahuje otázku zvýšených nákladů spojených se škodlivým síťovým provozem.

Například se tak mohou zahajovat útoky DDoS proti telefonickým centrům, přičemž linky mohou být zahlcené fiktivními zákazníky ve snaze frustrovat skutečné klienty, aby místo toho volali konkurentům.

Nebo lze použít boty k zahlcení textových aplikací služeb podpory zákazníků, a vytvořit tak bizarní scénář, ve kterém jsou boty poskytující službu zataženy do zdlouhavých konverzací s boty útočníka.

Doklad reálně existujícího člověka

Nebezpečnost těchto botů poháněných AI spočívá v tom, že lze jejich nasazení výrazně rozšiřovat za relativně nízkou cenu. To mimo jiné znamená, že útočník může snadno zahltit i ta největší světová kontaktní centra, která často nechtějí ztěžovat komunikaci prostřednictvím autentizačních metod.

„To dnes představuje obrovský problém. Tyto deepfake útoky jsou automatizované, přitom neexistuje žádný způsob, jak takové centrum tvořené lidmi rozšířit tak rychle nebo tak efektivně, jako by to bylo v případě pole serverů,“ varuje Jay Meier, viceprezident společnosti FaceTec zaměřené na identity.

Je to podle něj vlastně nová forma útoku DDoS, která snadno dokáže paralyzovat kontaktní centra.

Meierovo použití pojmu deepfake stojí za zmínku, protože se tento pojem v současnosti obvykle používá k přesnému napodobení konkrétní osoby, jako je například finanční ředitel napadeného podniku. Útoky botů tohoto typu však napodobují uměle vytvořenou osobu, která velmi pravděpodobně neexistuje.

Jeden nedávno zveřejněný pokus vyloučit takové útoky botů pochází od skupiny velkých dodavatelů, jako jsou OpenAI a Microsoft, spolupracujících s výzkumníky z MIT, Harvardu či Kalifornské univerzity v Berkeley.

Výsledný dokument popsal systém, který by využíval státní úřady k vytváření „dokladu reálně existujícího člověka“, tedy PHC (PersonHood Credentials).

Jeho cílem je ošetřit skutečnost, že starší webové systémy navržené k blokování botů (například velmi často využívané řešení Captcha) jsou v současnosti už neúčinné, protože generativní AI dokáže úlohy (jako třeba vybrat obrázky obsahující semafory) řešit stejně dobře (ne-li ještě lépe) jako lidé.

Podle výzkumníků PHC umožňuje svému držiteli prokazovat poskytovatelům digitálních služeb, že je reálně existujícím člověkem, aniž dochází k prozrazení čehokoli dalšího.

Na základě souvisejících konceptů, jako jsou proof of personhood (důkaz existence reálného člověka) či anonymous credentials (anonymní doklad, resp. anonymní přihlašovací údaje), lze tyto doklady digitálně ukládat v zařízeních držitelů a ověřovat je prostřednictvím důkazů s nulovou znalostí (zero knowledge proofs).

Tímto způsobem by systém neodhalil nic o konkrétní identitě jednotlivce. Výzkumníci však poukazují na to, že systém PHC by musel splňovat dva základní požadavky.

Pište pro Computertrends

Máte dobré nápady, máte co říct? Chcete se podělit o své znalosti se čtenáři Computertrends?

Je tu ideální příležitost. V redakci neustále hledáme externí autory, kteří rozšíří náš záběr. Nabízíme možnost publikací zajímavých článků nejen na webu, ale také v našem tištěném magazínu.

Pokud máte zájem, ozvěte se šéfredaktorovi na e-mail: radan.dolejs@iinfo.cz

Za prvé by bylo nutné stanovit limity pro udělování dokladů. „Vydavatel PHC vydá oprávněné osobě nanejvýš jeden doklad,“ uvádějí výzkumníci.

Za druhé by bylo nutné zavést pseudonymitu „specifickou pro službu“, tak aby digitální aktivita uživatele byla vydavatelem nevysledovatelná a nepropojitelná mezi poskytovateli služeb, i když by se poskytovatelé služeb a vydavatelé na tom domluvili.

Jeden z autorů zprávy, Tobin South, bezpečnostní výzkumník a doktorand na MIT, uvedl, že je takový systém zásadní, protože dnes neexistují žádné nástroje, které by dokázaly zastavit tisíce autenticky znějících dotazů.

K vydávání PHC by se mohly využít vládní úřady nebo by to bylo možné realizovat v maloobchodech, protože, jak zdůrazňuje South, boty jsou sice stále chytřejší, ale „zatím si můžeme být jisti, že se nikde neobjeví fyzicky“.

Výzvy PHC

Přestože je tento plán pro PHC zajímavý, má zásadní problémy. Za prvé, doklady lze velmi snadno napodobit prostřednictvím systémů generativní AI.

Za druhé, pro zákazníky může být velmi obtěžující věnovat značný čas a úsilí k posbírání svých dokladů a čekání ve frontě u úřadu, aby dokázali, že jsou lidé, jen proto, aby mohli navštívit veřejné webové stránky nebo zavolat do kontaktního centra.

Někteří dokonce prohlašují, že masová tvorba cookies potvrzujících existenci fyzického člověka by vytvořila další významné slabé místo v oblasti kybernetické bezpečnosti.

„Co když získám kontrolu nad zařízeními, která v sobě mají cookie prokazující existenci člověka?“ ptá se Meier ze společnosti FaceTec.

Brian Levine, šéf pro kybernetickou bezpečnost ve společnosti EY, se domnívá, že i pokud by takový systém mohl být krátkodobě užitečný, pravděpodobně nebude účinně chránit podniky dostatečně dlouho.

„Je to stále stejná hra na kočku a myš, kterou dodavatelé kybernetické bezpečnosti s útočníky vždy hráli,“ vysvětluje Levine. Jakmile podle něj vytvoříte software k rozpoznání botů, dojde zároveň i ke změně botů, tak aby nedocházelo k jejich odhalení.

Jak dál?

Sandy Carielli, analytička společnosti Forrester a autorka výše zmíněné zprávy o botech, uvádí, že klíčovým prvkem jakéhokoli programu obrany proti botům je, aby ve snaze blokovat škodlivé boty nedocházelo ke zdržování těch přínosných botů.

„Podstatou každého systému řízení botů musí být to, že nikdy nedělá problémy těm dobrým a samozřejmě také ne legitimním zákazníkům. Musíte věnovat velkou pozornost komplikacím pro zákazníky,“ připomíná Carielli. „Pokud si rozzlobíte své lidské klienty, dlouho nevydržíte.“

Přečtěte si také:

Máte dnes hrůzu z úniku dat? Počkejte, jak s nimi naloží genAI!

Některé z propracovanějších programů na obranu proti botům dnes používají hluboké učení k odhalení klamného chování botů.

Přestože někteří zpochybňují, že by takové programy dokázaly dostatečně rychle zastavit útoky, jako jsou například útoky DDoS botů, Carielli věří, že ty lepší aplikace přece jen přínosné být mohou.

Nemusí sice zastavit hned první vlnu útoku botů, ale obecně jsou účinné při identifikaci vlastností útočících botů, a zastavit tak následné vlny, k nimž často dochází během několika minut od prvního útoku, popisuje.

„Jejich design se zaměřuje na zastavení celého útoku, ne prvního nájezdu. Podnik bude moci díky tomu pokračovat ve svém fungování,“ dodává Carielli.

Aby strategie pro boty fungovala, musejí šéfové zabezpečení spolupracovat s ostatními firemními manažery.

„Pokud to berete vážně, ale nekomunikujete s kolegy z oddělení podvodů, marketingu, elektronického obchodu a dalšími, nemáte jednotnou strategii,“ upozorňuje Carielli. Proto podle ní možná nevyřešíte celý problém. Diskuze jsou nutné se všemi zainteresovanými stranami.

Carielli přesto věří, že se obrana proti botům musí zrychlit. „Rychlost adaptace, nových pravidel i nových útoků je u botů mnohem rychlejší, než je tomu v případě útoků na tradiční aplikace,“ varuje.

Steve Zalewski, který dlouho pracoval jako CISO ve společnosti Levi Strauss a následně se v roce 2021 stal konzultantem pro kybernetickou bezpečnost, je také znepokojen rychlostí, s jakou se škodlivé boty dokážou přizpůsobit protiopatřením.

Přečtěte si také:

Přihlašování k on-line službám se výrazně zjednoduší, slibuje Fido

Na otázku, jak dobře dokáže software zvládat obranu proti nejnovějším útokům botů, Zalewski odpovídá: „Je to prosté – dnes to nejde. Současná infrastruktura IAM prostě není připravená na tuto úroveň sofistikovanosti v autentizačních útocích, které zasahují technickou podporu.“

Zalewski vyzývá šéfy zabezpečení, aby při pečlivém promýšlení strategie obrany proti botům zdůrazňovali cíle.

„Jaký je obousměrný důvěryhodný vztah, který chceme? Je to živý člověk na druhé straně hovoru? Nebo je to živý člověk, kterému mohu věřit?“ ptá se.

Mnoho botů vytvořených generativní AI prostě není navržených tak, aby zněly realisticky lidsky, zdůrazňuje Zalewski a jako příklad odkazuje na legitimní boty kontaktních center bankovních služeb. Tyto boty nemají zákazníka oklamat, aby si myslel, že to jsou lidé. Ale útočné boty jsou naopak navrženy právě k tomu.

A to je další klíčový bod. Lidé, kteří jsou zvyklí komunikovat s boty zákaznických služeb, mohou hrozbu podcenit, protože si myslí, že boty dokážou snadno identifikovat právě díky jejich strojové výslovnosti.

„Útočící škodlivý bot však mívá o mnoho lepší úroveň,“ varuje Zalewski. Důvodem je, že pro úspěch útoku je potřeba, abyste si mysleli, že skutečně komunikujete s člověkem.