AI a kybernetická bezpečnost: Výzvy a příležitosti nejen pro školní prostředí

Inspirace do výuky či „zrádný nástroj“, který učitelům ztíží hodnocení písemných prací žáků – v souvislosti s rozšiřováním využití umělé inteligence musíme vzít v úvahu i témata kybernetické bezpečnosti ve škole. Umělá inteligence může být zneužita k sofistikovanějším kyberútokům, ale je i velmi užitečným pomocníkem při lepší ochraně před nimi. V článku se dozvíte, jak dokáže pomoci administrátorovi školní sítě, i proč je nezbytné, aby byli v otázkách kybernetické bezpečnosti proškoleni učitel a další zaměstnanci školy. Následující text je tedy vhodný pro vedení školy, správce školních sítí i pedagogy.


Úvod

V dnešní době se umělá inteligence (AI) stává důležitým nástrojem pro zlepšení kybernetické bezpečnosti ve školním prostředí. AI systémy, jako je ChatGPT, jsou navrženy tak, aby se vyhýbaly škodlivým nebo zneužitelným výstupům, což zahrnuje odmítání žádostí o generování škodlivého obsahu, jako jsou phishingové e-maily nebo keyloggery. Avšak i tak může být AI někdy zneužita pro nekalé účely.

Kyberzločinci, ale třeba i hraví žáci, neustále hledají způsoby, jak využít AI k vytváření sofistikovanějších útoků, jako je například malware nebo DDoS útoky. To zvyšuje riziko, že školy budou cílem těchto útoků. Naštěstí se školy a firmy s rozumně nastavenou bezpečnostní politikou, antiviry, firewally a proškolenými uživateli dokáží těmto útokům úspěšně bránit.

Bohužel, mnoho škol nemá dostatečně nastavenou kybernetickou bezpečnost, což zvyšuje jejich zranitelnost vůči útokům. Je důležité, aby školy investovaly do zlepšení svých bezpečnostních opatření a politik, aby byly schopny čelit hrozbám, které představují jak tradiční malware, tak sofistikovanější útoky vedené pomocí AI. A investicemi nemyslím jen finance, ale především čas a úsilí administrátorů. Často totiž školy (ale i úřady či firmy) nemají nastavené základní bezpečnostní procesy, natož technologie.


Využijme příležitost mít před hackery náskok

Nemějte obavy, hackeři naštěstí nejsou napřed. V oblasti kybernetické bezpečnosti mají antivirové programy a řešení pro detekci a odezvu koncových bodů (EDR) dlouhou historii využívání strojového učení k detekci hrozeb. AI pomáhá zlepšovat schopnost těchto nástrojů detekovat a blokovat škodlivý software již dlouhé roky a výjimečně tak mají obránci sítí před útočníky náskok. Alespoň zatím. Je také pravděpodobné, že AI bude hrát důležitou roli v budoucím vývoji kybernetické bezpečnosti a pomůže udržet krok s neustále se vyvíjejícími hrozbami.

Umělá inteligence může být také užitečným nástrojem pro správce školních IT infrastruktur a učitele. Může sloužit jako rádce při rozhodování o nejlepších bezpečnostních postupech nebo při identifikaci potenciálních hrozeb. Příkladem může být použití AI pro analýzu bezpečnostních protokolů, zjišťování zranitelností nebo výběr nejvhodnějších záplat a aktualizací. Navíc implementace AI do nástrojů, jako jsou systémy pro správu informací a událostí v oblasti zabezpečení (SIEM) nebo EDR, může výrazně zlepšit jejich schopnost analyzovat a korelovat velké množství dat. Díky tomu mohou odhalovat i sofistikované útoky, které by jinak mohly zůstat neodhalené.

Vraťme se ale k možnosti využít konkrétně Chat GPT jako rádce – každý administrátor školní sítě může využít jeho možnosti a konzultovat s ním zabezpečení školní sítě – stačí jej požádat o vytvoření checklistu IT bezpečnosti pro školní sítě, nebo se jej zeptat, jak máte vyřešit ten který daný problém. Podrobnější informace a konkrétní příklady komunikace s ChatGPT nabízí nový díl KYBcastu, podcastu NPI ČR, Umělá inteligence a kybernetická bezpečnost (https://share.transistor.fm/s/67bc3772, včetně podrobného textového popisu k tomuto dílu).

Jsme v přelomové době, kdy administrátoři na školách někdy stále ještě nastavují např. do objednávky jídel jako „bezpečné“ jméno a heslo ve tvaru jidena:jidelna, zatímco studenti na té samé škole používají AI k tomu, aby za ně napsala eseje, a někteří učitelé umělou inteligenci odmítají více než chytré telefony.

Význam AI ve školním prostředí roste a je nezbytné, aby školy zaujaly k jejímu používání pragmatický postoj a aby jim neujel vlak, jako se již tolikrát stalo. Je třeba, aby školy aktualizovaly své bezpečnostní protokoly a politiky, aby byly schopny čelit moderním hrozbám.

TIP: Inspiraci, jak využít AI ve vzdělávání a výuce hledejte třeba zde: https://aidetem.cz


Jak začít?

V závěru je třeba zdůraznit, že AI nabízí řadu příležitostí pro zlepšení kybernetické bezpečnosti ve školním prostředí, ale zároveň představuje i rizika, se kterými se učitelé a administrátoři musejí vyrovnat. Jako mnoho jiných (i nedigitálních) nástrojů vytvořených lidmi dokáže pomáhat i škodit.

Je důležité, aby školy investovaly do zlepšení své kybernetické bezpečnosti a vzdělávání uživatelů, aby byly schopny využít potenciál AI a současně se chránit před hrozbami, které přináší. Proškolení učitelů a zaměstnanců v otázkách kybernetické bezpečnosti a etiky AI může také výrazně přispět k minimalizaci rizik spojených s jejím zneužitím. Začít můžete třeba poslechem Kybcast“ – toho již zmíněného o možnostech využití i zneužití AI ale i starších dílů KYBcastu (opět s dalšími informacemi v popisu každého dílu), např. na téma:


Autor: Pavel Matějíček, Lektor a konzultant kybernetické bezpečnosti  

Obsah

    Odebírejte novinky o školství
    a vzdělávání srozumitelně a včas
    Zadejte váš e-mail a naše novinky a upozornění vám budou chodit přímo do e-mailu. Odběr novinek můžete kdykoliv později odhlásit.
    Odesláním souhlasíte s našimi zásadami o zpracování osobních údajů.
    cross Skip to content