Jedním z klíčových témat na konferenci Kyberbezpečnost 2024 v Praze bylo využití generativní umělé inteligence (GenAI) a strojového učení (ML) v oblasti kyberbezpečnosti. „S rostoucí komplexitou hrozeb, od phishingu přes deepfakes po škodlivý malware, je zřejmé, že GenAI nabízí nové možnosti, se kterými se však pojí i nové výzvy,“ uvedl Michal Kubíček. Zajímá vás TOP pět faktů z jeho prezentace?
#1 Generativní AI (GenAI) vstupuje do kyberbezpečnosti
GenAI hraje v kyberbezpečnosti zásadní roli díky své schopnosti generovat obsah a simulovat různé kybernetické hrozby. Na rozdíl od tradičního strojového učení, které analyzuje a klasifikuje data, GenAI dokáže tvořit nové útoky, jako jsou simulace phishingových kampaní nebo vytváření bezpečnostních scénářů. To umožňuje pokročilé testování a přípravu na útoky, jež jsou obtížně předvídatelné. Vedle toho ale vznikají nová rizika, protože útočníci mohou (a také tak už činí) GenAI zneužít k vytváření sofistikovaných, personalizovaných útoků a škodlivého obsahu.
#2 ML a GenAI v praxi
Různé technologie strojového učení (ML) a generativní AI (GenAI) mají specifické aplikace v kyberbezpečnosti. ML je využíváno pro klasifikaci a detekci škodlivých aktivit, jako jsou malware, phishing nebo botnety. GenAI naproti tomu nachází uplatnění v pokročilé forenzní analýze a penetračním testování, kde může automaticky detekovat zranitelnosti a testovat obrany pomocí specializovaných modelů, jako je PentestGPT. Tento model dokáže díky různým pluginům (např. detekce WAF, skenování portů) automatizovat postupy a tím zvyšovat efektivitu kyberbezpečnostních týmů.
#3 AI přináší též hrozby a zranitelnosti
Mezi nejvýznamnější patří možnost manipulace dat během trénování modelů. To může způsobit tzv. poisoning attacks, při kterých jsou modely zmanipulovány k vytváření chybných výstupů. GenAI může navíc trpět tzv. „halucinacemi,“ kdy generuje nesprávné nebo škodlivé informace. Tato technologie je rovněž zranitelná vůči útokům, které mění chování modelu (inversion attacks) nebo zneužívají škodlivých promptů (prompt injections). Z etického hlediska jsou klíčové otázky ochrany soukromí a potenciální reputační rizika plynoucí z chybného nebo neetického využití AI.
#4 Rutinní bezpečnostní úkoly lze pomocí AI automatizovat
GenAI má potenciál výrazně zvýšit efektivitu práce v kyberbezpečnosti tím, že dokáže automatizovat řadu rutinních úkolů. Může generovat reporty, analyzovat incidenty nebo odpovídat na dotazy a bezpečnostní specialisté se tak mohou zaměřit na strategičtější úkoly. Tato automatizace zahrnuje i tvorbu bezpečnostních scénářů a plánů na řešení incidentů. Tím urychluje proces reakce na narušení. Navíc umožňuje efektivnější školení a přípravu týmů prostřednictvím simulací útoků.
#5 Fraktální vizualizace pomáhá v detekci malwaru
Výzkumníci už dnes dokážou využít GenAI k analýze a klasifikaci malwaru pomocí neobvyklého přístupu – transformují dynamické chování malwaru do fraktálních obrazů. Vzniklé obrazy následně slouží jako tréninková data pro hluboké neuronové sítě, které se na jejich základě učí rozpoznávat a rozlišovat malware od bezpečného softwaru podle vizuálních charakteristik. Tento inovativní způsob detekce přináší nový pohled na analýzu škodlivého kódu a umožňuje vývoj pokročilých metod rozpoznávání nových typů hrozeb.
Jak je patrné, budoucnost kyberbezpečnosti leží v adaptabilních, inovativních přístupech. GenAI a ML představují pokrok v efektivitě a automatizaci, ale také přinášejí nutnost uvážlivého přístupu. Umělá inteligence otevírá dveře k pokročilejší obraně proti hrozbám, avšak nelze opomíjet její možná rizika, jako jsou chybné výstupy nebo manipulace dat.
Zajímá vás víc?
Obrátit se můžete přímo na našeho obchodního ředitele Radima Pracucha. Zavolejte na +420 724 065 027 nebo napište na pracuch@datasys.cz a zjistěte, jak DATASYS může pomoci zabezpečit právě vaši organizaci.