Označenie EY sa vzťahuje na celosvetovú organizáciu spoločností, ktorej riadiacou spoločnosťou je britská Ernst & Young Global Limited. Každá členská spoločnosť je nezávislým právnym subjektom. Ernst & Young Global Limited neposkytuje služby priamo klientom.
Zobraziť všetky výsledky pre
'
'
Nenašli sa žiadne výsledky
Všeobecné
Zobraziť všetkoPeople
Zobraziť všetkoPosledné vyhľadávania
Kybernetická bezpečnosť sa posunula od čisto technickej ochrany k základnému prvku, na ktorom stojí dôvera a stabilita moderných organizácií. Generatívna AI sprístupňuje pokročilé schopnosti širšiemu okruhu používateľov a bezpečnostné tímy čelia dvojsečnej zbrani: AI posilňuje obranu prostredníctvom rýchlejšej detekcie a reakcie, no súčasne znižuje náklady a zložitosť útokov.
Výskum popredného poskytovateľa IT služieb ukazuje, že organizácie využívajúce rozsiahlu bezpečnostnú AI a automatizáciu ušetrili pri bezpečnostných incidentoch zhruba 1,9 milióna USD oproti tým, ktoré tak neurobili. Podľa IBM Cost of a Data Breach Report (2025) priemerný únik dát stojí 4,4 milióna USD. Štúdia Microsoft Security Copilot z roku 2024 preukázala ~30 % zníženie priemerného času na vyriešenie incidentu (MTTR) – analytici trávia v priemere 2,7 hodiny denne riešením incidentov, čo predstavuje 3,3 miliardy USD nákladov na pracovnú silu v bezpečnostných operačných centrách (SOC) v USA. Bezpečné zavedenie AI však vyžaduje rozsiahle rámce správy, zvyšovanie kvalifikácie pracovníkov a starostlivé zváženie rizík.
Aplikácie AI v kybernetickej bezpečnosti: AI je dnes zabudovaná do celého bezpečnostného životného cyklu – od prevencie cez detekciu a reakciu až po súlad s predpismi. Organizácie buď využívajú existujúce riešenia od dodávateľov tretích strán (SIEM, endpoint protection), alebo vyvíjajú vlastné AI aplikácie. V druhom prípade je kľúčové vybudovanie Cyber Data Lake – centralizovaného úložiska štruktúrovaných aj neštruktúrovaných dát, ktoré umožňuje agregáciu logov, upozornení a spravodajstva o hrozbách, pokročilú analytiku a trénovanie ML modelov, ako aj detekciu hrozieb v reálnom čase.
Kľúčové využitie AI zahŕňa osem domén:
Regulačný a štandardizačný rámec: Regulátori po celom svete zavádzajú rámce pre riadenie nasadzovania AI v kybernetickej bezpečnosti. Zákon EÚ o umelej inteligencii (EU AI Act), formálne prijatý v roku 2024 a nadobúdajúci plnú účinnosť do roku 2026, je prvým komplexným zákonom o AI na svete. Klasifikuje systémy AI podľa rizika a kladie prísne požiadavky na vysokorizikové aplikácie: odolnosť voči manipulácii, hlásenie incidentov a dokumentácia bezpečnostných opatrení. Článok 15 špecificky vyžaduje primerané úrovne presnosti, rozsiahlosti a kybernetickej bezpečnosti na ochranu pred otravou dát a manipuláciou modelov. AI Act sa prelína s GDPR (vrátane práva na vysvetlenie automatizovaných rozhodnutí) a smernicou NIS2.
Americký NIST vydal v roku 2023 Rámec riadenia rizík AI (AI RMF 1.0), ktorý definuje charakteristiky dôveryhodnosti – platnosť, spoľahlivosť, rozsiahlosť, bezpečnosť, zodpovednosť, transparentnosť, vysvetliteľnosť, súkromie a spravodlivosť – ako usmernenie pre celý životný cyklus AI. Rámec je zosúladený s existujúcimi rámcami kybernetickej bezpečnosti a ochrany súkromia. OWASP Machine Learning Security Top 10 katalogizuje bežné zraniteľnosti AI systémov vrátane manipulácie vstupov, otravy dát, krádeže modelu, útokov na dodávateľský reťazec a nezabezpečeného nasadzovania modelov. OWASP GenAI Security Project rozširuje tieto riziká na generatívne modely: prompt injekcia, halucinácie, nadmerná autonómia agentov a škodlivé trénovacie dáta.
Sociálne inžinierstvo a deepfakes poháňané AI: Generatívna AI umožňuje vytvárať phishingové e-maily šité na mieru konkrétnym obetiam a produkovať realistické hlasové alebo video deepfaky. Podľa UNESCO sa 46 % odborníkov na podvody stretlo so syntetickým podvodom identity, 37 % zaznamenalo hlasové deepfaky a 29 % bolo svedkom video deepfakov. Ilustratívnym prípadom je január 2024: zločinci sa počas videohovoru vydávali za finančného riaditeľa a manažérov istej inžinierskej firmy a presvedčili zamestnanca, aby previedol 25 miliónov USD. Útok demonštruje, ako deepfaky dokážu obísť tradičné mechanizmy overenia a zneužiť dôveru zamestnancov.
Tieto hrozby presahujú jednotlivé incidenty. Útočníci môžu automatizovať spear-phishingové kampane pomocou LLM, generovať presvedčivé správy vo viacerých jazykoch, klonovať hlasy z niekoľkých sekúnd zvuku, fabrikovať tiesňové volania a využívať deepfaky na manipuláciu s akciami či šírenie dezinformácií s cieľom podkopať verejnú dôveru. Sociálne inžinierstvo sa tak stáva rýchlejším, lacnejším a škálovateľnejším – táto štrukturálna zmena zásadne mení profil hrozieb.
Zrýchlený cyklus útoku: AI znižuje bariéry vstupu pre aktérov. Automatizácia prieskumu, zneužívania zraniteľností a bočného pohybu skracuje cyklus útoku z dní na hodiny. AI môže tiež sťažiť odhalenie ransomvéru automatickým generovaním šifrovacích kľúčov a maskovaním škodlivého kódu. Bezpečnostná orchestrácia a automatizácia riadená AI (SOAR) dokáže na strane obrancov znížiť objem upozornení o 60 % a časy reakcie na incidenty o 50 %. Kyberzločinci však prijímajú rovnaké nástroje AI ako obrancovia, čo vedie k „pretekom v zbrojení“ – organizácie musia neustále prispôsobovať svoje stratégie.
Nepriateľské útoky na systémy AI: Samotné modely AI sú zraniteľné voči viacerým kategóriám útokov:
- Manipulácia vstupov (adversariálne príklady): jemné úpravy vstupných dát vynucujú nesprávnu klasifikáciu – v obrazovej doméne môžu nepatrné zmeny pixelov spôsobiť, že detektor zamení korytnačku za pušku. Ten istý princíp platí pre textové modely (prompt injekcia) aj detekciu malvéru.
- Otrava dát (data poisoning): narušenie trénovacích dát s cieľom vložiť zadné vrátka alebo skresliť správanie modelu – niekoľko manipulovaných vzoriek môže ohroziť integritu celého modelu.
- Krádež modelu: systematické dopytovanie API s cieľom rekonštruovať proprietárne parametre modelu.
- Prompt injekcia a jailbreaking: vstup používateľa mení zamýšľané inštrukcie generatívneho modelu, čo ho núti odhaliť citlivé dáta alebo vykonávať nezamýšľané akcie. OWASP GenAI varuje pred odhalením skrytých inštrukcií, obídením bezpečnostných filtrov a prístupom k neoprávneným zdrojom.
- Pašovanie agentských relácií: škodlivý AI agent vkladá skryté inštrukcie do prebiehajúcej konverzácie a manipuluje iného agenta počas viacerých kôl. Na rozdiel od jednorazových prompt útokov sa adaptuje, buduje dôveru a operuje skryto.
- Útoky na dodávateľský reťazec: škodlivé balíčky na PyPI alebo Docker Hub zavádzajú zadné vrátka do trénovacích pipeline; kompromitované predtrénované modely obsahujú skryté zaujatosti alebo spúšťače.
Zabezpečenie systémov AI: viacvrstvový prístup
NIST AI RMF 1.0 definuje charakteristiky dôveryhodnosti ako usmernenie pre zodpovedný vývoj AI. Ochrana si vyžaduje kombináciu technických kontrol a správy v týchto šiestich oblastiach:
- Zmiernenie adversariálnych vstupov: adversariálny tréning a robustifikácia (randomized smoothing, defensive distillation), validácia a sanitizácia vstupov, priebežné monitorovanie výstupov na anomálie.
- Prevencia otravy dát: udržiavanie nemenných záznamov o pôvode dát, detekcia anomálií na trénovacích dátach, diferenciálne súkromie obmedzujúce dosah jednotlivých dátových bodov.
- Ochrana duševného vlastníctva: riadenie prístupu a obmedzovanie rýchlosti API otázok, šifrovanie a watermarking modelov, maskovanie výstupov na detekciu pokusov o extrakciu.
- Obrana proti prompt injekcii a škodlivým agentom: izolácia kontextu (systémové inštrukcie oddelené od používateľských vstupov), filtrovanie vstupov, validácia výstupov, kryptografická autentifikácia agentov pomocou Agent Cards.
- Zabezpečenie infraštruktúry a dodávateľských reťazcov: bezpečnostné kontroly ML knižníc a kontajnerov, segmentácia trénovacích prostredí od produkčných sietí, overovanie pôvodu dodávateľov a predtrénovaných modelov.
- Monitorovanie a správa modelov: priebežná detekcia tzv. driftu, núdzové vypínače pri neočakávanom správaní, spolupráca bezpečnostných, právnych, dátových a obchodných tímov, tvorba model cards dokumentujúcich trénovacie dáta a známe riziká.
Zdpovedná AI: Princípy zodpovednej AI sú nevyhnutné pre etické nasadzovanie v kybernetickej bezpečnosti. Organizácie musia zavádzať hodnotenia spravodlivosti modelov (vrátane techník fairness-aware machine learning), zabezpečiť transparentnosť cez vysvetliteľné AI (XAI), definovať jasné záznamy zodpovednosti za rozhodnutia AI a implementovať techniky zachovania súkromia – diferenciálne súkromie a federatívne učenie umožňujú trénovanie na decentralizovaných dátach bez odhalenia jednotlivých dátových bodov.
Strategické odporúčania pre CISO: Na základe vývoja prostredia vyplývajú pre riaditeľov informačnej bezpečnosti nasledujúce priority:
- Zavedenie rámcov správy: komplexné politiky zahŕňajúce prijateľné použitie, získavanie dát, dokumentáciu modelov a požiadavky na zapojenie človeka; model cards a data cards; núdzové vypínače a eskalačné postupy.
- AI vo všetkých bezpečnostných doménach: rozšíriť adopciu za rámec obrany na riadenie rizík, súlad a IAM; vybudovať Cyber Data Lake.
- Úplná viditeľnosť: inventár všetkých AI aktív (modely, datasety, pipeline, komponenty tretích strán); priebežné monitorovanie a jednotné dashboardy.
- Škálovanie analytiky: integrácia AI do SIEM/XDR a threat intelligence workflowov; meranie zníženia MTTR, falošných poplachov a nákladov na pracovnú silu.
- Plán pre hrozby špecifické pre AI: adversariálny red teaming, simulácia prompt injekcie a otravy dát, viacfaktorová autentifikácia agentov.
- Dátová suverenita a súlad: mapovanie tokov citlivých dát, výber cloudových regiónov v súlade s miestnou legislatívou, priebežné monitorovanie regulačných zmien.
- Investície do zručností: AI gramotnosť, dátová veda, adversariálne strojové učenie, detekcia AI generovaných podvodov; spolupráca s právnymi tímami a pracovníkmi zodpovednými za ochranu osobných údajov.
- Zapojenie do ekosystému: participácia v iniciatívach NIST, OWASP, EU AI Alliance; zdieľanie spravodajstva o AI útokoch; verejno-súkromná spolupráca.
- Zosúladenie s geopolitickou situáciou: výpočtové kapacity a dátová suverenita ako strategické aktíva; monitorovanie exportných kontrol a diverzifikácia dodávateľských reťazcov.
Záver:
AI transformuje kybernetickú bezpečnosť z reaktívnej, manuálnej disciplíny na proaktívnu, spravodajsky riadenú schopnosť. Rovnaké nástroje, ktoré posilňujú obrancov, posilňujú aj útočníkov. Organizácie musia rozvíjať nepretržitú schopnosť merať, riadiť a spravovať riziká naprieč AI a digitálnymi ekosystémami tak, aby ich reakcia vedela udržať krok s hrozbami pohybujúcimi sa rýchlosťou strojov. Bezpečnostní lídri, ktorí vyvážia inováciu so zodpovednosťou, budú formovať budúcnosť digitálnej odolnosti.
