Rozvoj AI přinesl i nové podoby bezpečnostních hrozeb, které jsou často těžko rozeznatelné od legitimní komunikace. Tento modul vysvětluje, jak tyto hrozby vznikají a jak je v praxi poznat dříve, než způsobí škodu.
Účastníci se seznámí s personalizovaným phishingem a sociálním inženýrstvím, které dnes díky AI působí mnohem věrohodněji než dříve. Modul vysvětluje, jak vzniká syntetický hlas, obraz a video, a jak deepfaky zneužívají důvěru v to, co vidíme nebo slyšíme. Pozornost je věnována i tématům specifickým pro AI systémy samotné – prompt injection, zneužití instrukcí nebo únik dat přes nevhodně formulované zadání.
Modul dále ukazuje, jak může docházet k manipulaci výstupů a falešné autoritě modelu, kdy je přesvědčivá odpověď mylně považována za důvěryhodnou. Účastníci si osvojí základní ochranné návyky pro běžné uživatele a naučí se, jak postupovat při podezření na zneužití nebo podvod – tedy na koho se obrátit a jaké kroky podniknout, než dojde ke škodě.
Kurz je součástí AI Akademie Pumpedu – uceleného vzdělávacího programu pro moderní firmy.
Akademie umožňuje sestavit dlouhodobý plán rozvoje zaměstnanců v oblasti AI.
Prohlédněte si kompletní přehled modulů a možnosti kombinace kurzů:
AI Academy
Při výběru více témat Akademie nabízíme množstevní slevy.
Co je personalizovaný phishing a proč je díky AI nebezpečnější?
Jde o cílený podvodný útok, který AI umožňuje přizpůsobit konkrétní osobě nebo situaci, čímž působí mnohem věrohodněji než obecné podvodné zprávy.
Co je deepfake?
Syntetický obraz, hlas nebo video vytvořené AI tak, aby vypadalo nebo znělo jako reálná osoba, často s cílem oklamat nebo manipulovat.
Co znamená prompt injection?
Technika, kdy útočník zneužije zadání nebo obsah tak, aby AI systém vykonal nezamýšlenou instrukci nebo vydal citlivé informace.
Jak se chránit před těmito typy hrozeb?
Důležité je ověřovat neobvyklé požadavky jiným kanálem, nedůvěřovat výstupu jen na základě jeho přesvědčivosti a znát interní postup pro hlášení podezření.
Co dělat při podezření na zneužití nebo podvod?
Nereagovat okamžitě, ověřit situaci jiným kanálem a kontaktovat odpovědnou osobu nebo bezpečnostní oddělení v organizaci.
Michal aktuálně působí v Microsoftu jako Agile Coach & Principal Project Manager & PCAI, kde vede AI transformační portfolio s týmem přes 70 lidí. Stál u zrodu Business Value Programu a za svou práci získal Microsoft SPARK Award i zařazení do Platinum Club (vyhrazeno pro 200 nejvlivnějších lidí v rámci celého Microsoftu).
Michal není „jen" technický specialista ani „jen" manažer, ale dokáže propojit obě roviny:
IT architekt Jiří Snopek, který se oboru věnuje přes 20 let, na webináři ukazuje, proč nestačí pořídit lidem chatovacího asistenta a jak AI postavit tak, aby pokaždé odvedla stejně kvalitní práci. Přinášíme shrnutí hlavních myšlenek a na konci najdete záznam webináře.
Naučíme vaše zaměstnance používat ChatGPT, Claude, Microsoft 365 Copilot a další AI nástroje na jejich vlastní práci. Firemní AI školení od Pumpedu splňuje podmínky programu Úřadu práce ČR „Vzdělávání pro firmy“, takže většinu nákladů vám může pokrýt příspěvek – až 478,19 Kč za každou hodinu a účastníka
Řada firem má za sebou první pokusy s AI a chce ji zapojit do skutečných procesů. A právě tady často narazí: řešení, které v pilotu fungovalo, vrací v provozu den ode dne trochu jiný výsledek. Na bezplatném online webináři se dozvíte, proč se to děje, kde vede hranice mezi jazykovým modelem a obyčejným kódem a jak díky správnému nasazení výrazně ušetřit na provozu.
IT architekt Jiří Snopek, který se oboru věnuje přes 20 let, na webináři ukazuje, proč nestačí pořídit lidem chatovacího asistenta a jak AI postavit tak, aby pokaždé odvedla stejně kvalitní práci. Přinášíme shrnutí hlavních myšlenek a na konci najdete záznam webináře.
Naučíme vaše zaměstnance používat ChatGPT, Claude, Microsoft 365 Copilot a další AI nástroje na jejich vlastní práci. Firemní AI školení od Pumpedu splňuje podmínky programu Úřadu práce ČR „Vzdělávání pro firmy“, takže většinu nákladů vám může pokrýt příspěvek – až 478,19 Kč za každou hodinu a účastníka
Řada firem má za sebou první pokusy s AI a chce ji zapojit do skutečných procesů. A právě tady často narazí: řešení, které v pilotu fungovalo, vrací v provozu den ode dne trochu jiný výsledek. Na bezplatném online webináři se dozvíte, proč se to děje, kde vede hranice mezi jazykovým modelem a obyčejným kódem a jak díky správnému nasazení výrazně ušetřit na provozu.