AI útočí rychleji, než se umíme bránit. Firmy tahají za kratší konec

Počet útoků s podporou umělé inteligence (AI) je podle nového průzkumu izraelské společnosti Team8 pravděpodobně podceňován. Důvod je prostý – AI útoky jsou často nerozeznatelné od těch řízených lidmi. Firma se zaměřuje na kybernetickou bezpečnost, umělou inteligenci a související technologie a dotazovala se asi 110 vedoucích pracovníků zodpovědných za informační bezpečnost ve firmách.

Výsledky jsou alarmující. Zatímco téměř čtvrtina šéfů kybernetické bezpečnosti (CISO) potvrdila, že jejich společnosti zažily útok s využitím AI, skutečné číslo může být výrazně vyšší. „Již jsme viděli dopad útoků řízených umělou inteligencí – zejména sofistikovaných phishingových a deepfake kampaní, které jsou neuvěřitelně přesvědčivé a těžko zachytitelné,“ uvedla Mandy Andress, Chief Information Security Officer (CISO) z technologické společnosti Elastic.

Mohlo by vás zajímat: Počty poradců v létě dále rostly

Když AI mluví vaším hlasem

Mezi nejviditelnější příklady ataků patří deepfakes a klonování hlasu, které zneužívají lidskou důvěru prostřednictvím předstírání identity v reálném čase. AI však může sloužit i k masivnímu rozšíření a urychlení útoků. „Mohou zneužívat různé formy zranitelnosti ve velkém měřítku automatizovaným způsobem,“ vysvětluje možnosti útočníků Noa Hen, ředitelka strategie Team8. „Mohou použít umělou inteligenci k psaní malwaru mnohem rychleji.“ Experti varují, že AI se brzy může vyvinout v autonomní zbraně schopné jednat zcela bez lidského zásahu. „Je jasné, že se nacházíme v raných fázích závodů ve zbrojení s umělou inteligencí, a právě teď útočníci postupují jako první a mají navrch,“ dodává Andress.

Téměř 40 % CISO oslovených v rámci studie Team8 označilo zabezpečení takzvaných AI agentů za nevyřešenou výzvu. Tyto systémy, kteří zadávají úkoly uživatelům, mohou být oklamáni útočníky nebo provést nesprávné akce. Podobný počet expertů se obává také zajištění bezpečného využití AI mezi zaměstnanci.

Podle Team8 "jen velmi málo organizací postupuje ve sféře AI pro firemní využití správně". Experti v roli CISO tak čelí nepříjemnému kompromisu: buď omezí přístup k nástrojům AI a potlačí inovace, anebo umožní používání bez důkladných kontrol a přijmou neřízené riziko.

AI jako spojenec obrany

Nicméně AI může pomoci i při obraně před útoky. Celých 77 % dotazovaných CISO v průzkumu očekává, že prvními případy, kdy autonomní AI agenti nahradí lidskou práci, budou méně zkušení analytici v bezpečnostních operačních centrech – tedy místech, která detekují bezpečnostní incidenty a reagují na ně. „Umělá inteligence je ve své podstatě o rychlosti a rozsahu,“ vysvětluje Mike Rogers, bývalý admirál, který vedl americkou Národní bezpečnostní agenturu a kybernetické velitelství. „Z tohoto pohledu to pomáhá útočníkovi, ale je to současně také to, co potřebujeme, abychom podpořili obránce.“

Průzkum odhalil i opakující se strukturální problémy. Více než 40 % respondentů uvedlo, že více než 40 % "kritických" bezpečnostních mezer přetrvává i po uplynutí lhůty pro jejich vyřešení. Většina jako důvod uvedla omezený počet zaměstnanců nebo čas. Někteří lídři naznačili, že záplaty nedostatků nejsou k dispozici nebo že jejich implementace by mohla zpomalit provoz společností.

Zajímavé a pozitivní je ovšem také zjištění, že přibližně 60 % organizací preferuje nyní výběr nejlepších jednotlivých nástrojů kybernetické bezpečnosti před konsolidovanými platformami. Jde o obrat po letech, kdy se firmy snažily snížit počet dodavatelů a náklady nákupem balíčků od jedné velké společnosti. „Zatímco platformy kdysi slibovaly jednoduchost a rozsah, mnoho CISO zjišťuje, že šířka je často na úkor hloubky,“ konstatuje Team8.

Mohlo by vás zajímat: Zpráva o vývoji finančního trhu v roce 2024: V jaké formě je pojistný trh?

Kdo bude rychlejší?

Kybernetická bezpečnost vstupuje do nové éry, kde tempo technologického vývoje určuje, kdo bude mít navrch. Stává se otevřeným bojištěm mezi útočníky a strážci kybernetické bezpečnosti ve firmách, v médiích i v kritických strukturách jednotlivých zemí. Zatímco útočníci využívají AI k sofistikovanějším a rychlejším útokům, obránci se snaží stejnou technologii využít ke své ochraně. Klíčovou otázkou zůstává, zda dokážeme najít rovnováhu mezi inovacemi a bezpečností dříve, než se AI útoky stanou zcela autonomními a nezvladatelnými. Každopádně to znamená běh na dlouhou trať, protože útočníci zbrojí velmi rychle a nepřetržitě: svět musí hledat účinné odpovědi stejným tempem, aby se dokázal ubránit.