Rozvoj AI přinesl i nové podoby bezpečnostních hrozeb, které jsou často těžko rozeznatelné od legitimní komunikace. Tento modul vysvětluje, jak tyto hrozby vznikají a jak je v praxi poznat dříve, než způsobí škodu.
Účastníci se seznámí s personalizovaným phishingem a sociálním inženýrstvím, které dnes díky AI působí mnohem věrohodněji než dříve. Modul vysvětluje, jak vzniká syntetický hlas, obraz a video, a jak deepfaky zneužívají důvěru v to, co vidíme nebo slyšíme. Pozornost je věnována i tématům specifickým pro AI systémy samotné – prompt injection, zneužití instrukcí nebo únik dat přes nevhodně formulované zadání.
Modul dále ukazuje, jak může docházet k manipulaci výstupů a falešné autoritě modelu, kdy je přesvědčivá odpověď mylně považována za důvěryhodnou. Účastníci si osvojí základní ochranné návyky pro běžné uživatele a naučí se, jak postupovat při podezření na zneužití nebo podvod – tedy na koho se obrátit a jaké kroky podniknout, než dojde ke škodě.
Kurz je součástí AI Akademie Pumpedu – uceleného vzdělávacího programu pro moderní firmy.
Akademie umožňuje sestavit dlouhodobý plán rozvoje zaměstnanců v oblasti AI.
Prohlédněte si kompletní přehled modulů a možnosti kombinace kurzů:
AI Academy
Při výběru více témat Akademie nabízíme množstevní slevy.
Co je personalizovaný phishing a proč je díky AI nebezpečnější?
Jde o cílený podvodný útok, který AI umožňuje přizpůsobit konkrétní osobě nebo situaci, čímž působí mnohem věrohodněji než obecné podvodné zprávy.
Co je deepfake?
Syntetický obraz, hlas nebo video vytvořené AI tak, aby vypadalo nebo znělo jako reálná osoba, často s cílem oklamat nebo manipulovat.
Co znamená prompt injection?
Technika, kdy útočník zneužije zadání nebo obsah tak, aby AI systém vykonal nezamýšlenou instrukci nebo vydal citlivé informace.
Jak se chránit před těmito typy hrozeb?
Důležité je ověřovat neobvyklé požadavky jiným kanálem, nedůvěřovat výstupu jen na základě jeho přesvědčivosti a znát interní postup pro hlášení podezření.
Co dělat při podezření na zneužití nebo podvod?
Nereagovat okamžitě, ověřit situaci jiným kanálem a kontaktovat odpovědnou osobu nebo bezpečnostní oddělení v organizaci.
Michal aktuálně působí v Microsoftu jako Agile Coach & Principal Project Manager & PCAI, kde vede AI transformační portfolio s týmem přes 70 lidí. Stál u zrodu Business Value Programu a za svou práci získal Microsoft SPARK Award i zařazení do Platinum Club (vyhrazeno pro 200 nejvlivnějších lidí v rámci celého Microsoftu).
Michal není „jen" technický specialista ani „jen" manažer, ale dokáže propojit obě roviny:
Microsoft 365 Copilot dnes používá naprostá většina velkých i středních firem, přesto ho v běžné praxi otevírá jen zlomek zaměstnanců, kteří k němu mají přístup. Firmy tak platí za licence, které nikdo pořádně nevyužívá. V článku se podíváme, proč tahle mezera vzniká, co o ní říkají dostupná data a jak ji vedení firem a HR mohou reálně zavřít.
Lidé už nechtějí další obecný kurz o tom, co je umělá inteligence. Chtějí vědět, jak ji použít přímo ve své práci – ať dělají projekty, HR, marketing nebo vedou výrobu. Přesně proto jsme portfolio rozšířili o AI kurzy podle role: vzdělávací cesty šité na míru konkrétní pozici, ne obecným principům. V článku se dozvíte proč a jak si tu svou vybrat.
AI se ve firmách zavádí rychleji, než se pro ni stíhají budovat pravidla – a řízení AI se tak stává stejně důležitým tématem jako dřív ITSM, projektové řízení nebo kyberbezpečnost. Nová certifikace ITIL AI Governance (Version 5) dává manažerům a odborníkům praktický rámec, jak AI ve firmě řídit, aniž by brzdila inovaci.
Microsoft 365 Copilot dnes používá naprostá většina velkých i středních firem, přesto ho v běžné praxi otevírá jen zlomek zaměstnanců, kteří k němu mají přístup. Firmy tak platí za licence, které nikdo pořádně nevyužívá. V článku se podíváme, proč tahle mezera vzniká, co o ní říkají dostupná data a jak ji vedení firem a HR mohou reálně zavřít.
Lidé už nechtějí další obecný kurz o tom, co je umělá inteligence. Chtějí vědět, jak ji použít přímo ve své práci – ať dělají projekty, HR, marketing nebo vedou výrobu. Přesně proto jsme portfolio rozšířili o AI kurzy podle role: vzdělávací cesty šité na míru konkrétní pozici, ne obecným principům. V článku se dozvíte proč a jak si tu svou vybrat.
AI se ve firmách zavádí rychleji, než se pro ni stíhají budovat pravidla – a řízení AI se tak stává stejně důležitým tématem jako dřív ITSM, projektové řízení nebo kyberbezpečnost. Nová certifikace ITIL AI Governance (Version 5) dává manažerům a odborníkům praktický rámec, jak AI ve firmě řídit, aniž by brzdila inovaci.