AI gramotnost: Povinnost, ale i příležitost pro posílení kyberbezpečnosti

Od 2. února 2025 vstoupila v platnost první část povinností vyplývajících z aktu o umělé inteligenci (dále jen „Akt o AI“), o kterém jsme vás informovali v minulém roce například zde. Tou hlavní je povinnost pro zaměstnavatele zajistit gramotnost v oblasti umělé inteligence pro všechny své zaměstnance pracující s AI systémy, a i pro všechny další osoby, které se jménem zaměstnavatele zabývají provozem a používáním systémů AI.

Podle průzkumu EY European Financial Services AI Survey 2024 není 89 % firem připraveno na přicházející AI regulatorní povinnosti a 86 % z nich nemá zavedené etické rámce pro využvání AI do svých procesů.

Kdo je povinen zajistit školení?

Povinnost proškolení zaměstnanců se vztahuje na všechny právnické a fyzické osoby, které mají zaměstnance a při své činnosti využívají systémy AI, a to bez ohledu na klasifikaci rizik.

Co by mělo školení zahrnovat?

Přestože Akt o AI nestanovuje přesnou strukturu ani obsah školení, je možné se inspirovat recitálem k tomuto aktu. Ten klade důraz na to, že osoby pracující s AI systémy musí disponovat dovednostmi, znalostmi a pochopením, které jim umožní informovaně posoudit rizika spojená s využíváním AI a potenciální škody, které z toho mohou vzejít.

Pravidelnost a aktualizace školení

Zajištění AI gramotnosti by nemělo být vnímáno jako jednorázová záležitost. Vzhledem k rychlému vývoji v oblasti AI je nezbytné provádět pravidelná školení a kontinuálně aktualizovat obsah, aby odrážel nové poznatky a dovednosti potřebné pro efektivní, a především bezpečné využívání AI systémů. Doporučuje se zavést pravidelný cyklus školení, podobně jako je tomu u školení BOZP. 

Zaměstnavatelům se doporučuje, aby aktualizovali své vnitřní předpisy, aby reflektovaly nejen aktuální povinnosti dle Aktu o AI, ale i budoucí povinnosti, které nabudou účinnosti v průběhu tohoto a následujícího roku.

Propojení s kybernetickou bezpečností

Vzhledem k rostoucímu vlivu umělé inteligence v digitálním prostředí je klíčové, aby si zaměstnanci osvojili povědomí o AI a zároveň chápali související rizika kybernetické bezpečnosti. Jan Pich, senior manažer kybernetické bezpečnosti, zdůrazňuje, že znalost AI a kybernetická bezpečnost se vzájemně podmiňují a měly by být vnímány jako nedílná součást komplexního vzdělávání.

Tato potřeba je obzvláště naléhavá s ohledem na rychlý rozvoj generativní AI (GenAI), tedy umělé inteligence, která je schopna vytvářet nový obsah, jako jsou texty, obrázky, hudba nebo kód. 

Nová předpověď společnosti Gartner totiž varuje, že do roku 2027 bude 40 % úniků dat souvisejících s AI způsobeno právě zneužíváním GenAI. To podtrhuje význam komplexního přístupu k vzdělávání, který integruje témata kybernetické bezpečnosti, jako je phishing, sociální inženýrství a ochrana osobních údajů, přímo do školení o AI. Tím se zajistí, že zaměstnanci budou nejen rozumět principům fungování AI, ale také budou schopni rozpoznat a efektivně reagovat na potenciální bezpečnostní hrozby spojené s jejím využitím.

Jak efektivně školit zaměstnance?

Tradiční, dlouhá školení jednou ročně již nejsou optimální. Současný trend směřuje ke kratším, interaktivním formátům, které se zaměřují na praktické dovednosti a okamžité využití.

• Mikrolearning: Krátká videa, články, infografiky nebo kvízy, které se zaměřují na konkrétní témata.

• Interaktivní workshopy: Praktická cvičení a simulace, které umožní zaměstnancům vyzkoušet si práci s AI systémy a řešení bezpečnostních incidentů.

• Pravidelné aktualizace: Krátké, pravidelné aktualizace o novinkách v oblasti AI a kybernetické bezpečnosti.

• Personalizované školení: Školení, které je přizpůsobeno konkrétním potřebám a rolím zaměstnanců.