Hlavní strana -> Časopis IT Systems -> Rok 2026 -> Cyber Security -> AI ve firmách a její dopad na bezpečnostní prostředí
Cyber Security , IT Security

AI ve firmách a její dopad na bezpečnostní prostředí

Proč se největší rizika neobjevují při zavádění AI, ale až ve chvíli, kdy se stane běžnou součástí práce

Luboš Kučera

AI se dnes ve firmách prosazuje velmi rychle. Nejen jako součást strategických projektů, ale především jako praktický nástroj každodenní práce. Pomáhá s tvorbou obsahu, automatizací rutinních činností, vyhodnocováním informací i zpracováním dokumentů. Právě v tom je její největší přínos. Současně však platí, že s rostoucím využíváním AI vznikají nové bezpečnostní souvislosti, které nejsou na první pohled viditelné. Moderní bezpečnostní přístup proto musí sledovat nejen samotné nástroje, ale i to, jak AI mění práci s identitami, daty, přístupy a automatizacemi v celém firemním prostředí.


AI nevstupuje do firmy jako projekt, ale jako způsob práce

Když se mluví o zavádění AI ve firmách, často se předpokládá, že jde o řízený proces s jasně definovanými pravidly, kompetencemi a bezpečnostním rámcem. V praxi ale bývá realita podstatně méně formální. AI se do organizací dostává postupně a často velmi nenápadně. Vývojář využije asistenci při psaní kódu, marketing urychlí přípravu textů, obchodní tým začne pracovat s podklady v externím nástroji a jednotlivci si zautomatizují opakující se úkoly.
Během několika týdnů nebo měsíců tak vzniká nová vrstva nad existujícím IT prostředím. Nejde o jednu aplikaci ani o jeden centrálně řízený projekt. Jde o soubor návyků, integrací, skriptů a přístupů, které začnou pracovat s reálnými firemními daty. Tato vrstva přitom často nevzniká se záměrem obejít pravidla. Vzniká přirozeně, jako reakce na tlak na rychlost, efektivitu a pohodlnější práci.
Právě proto bývá obtížné ji včas zachytit. Organizace mnohdy ví, že AI používá, ale už nedokáže přesně odpovědět, kdo ji používá, v jakém rozsahu, nad jakými daty a s jakými oprávněními. A právě v tomto bodě začíná bezpečnostní problém.
Největší riziko AI dnes nespočívá v tom, co umí, ale v tom, že firmy často nevidí, jakým způsobem ji lidé skutečně používají.

Skutečné riziko není v technologii, ale v tom, co propojuje

AI sama o sobě nepředstavuje automaticky bezpečnostní hrozbu. Riziko vzniká ve chvíli, kdy začne propojovat oblasti, které byly dříve oddělené nebo lépe kontrolované. Typickým příkladem je situace, kdy jeden účet získá přístup k více systémům, automatizace pracují s produkčními informacemi a citlivá data opouštějí původní kontext, aniž by to bylo na první pohled patrné.
Každý jednotlivý krok přitom může dávat smysl. Uživatel potřebuje dokončit úkol rychleji, tým chce zefektivnit rutinní proces, firma chce šetřit čas a kapacity. V součtu ale vzniká nové provozní i bezpečnostní prostředí, ve kterém už není jednoduché rozlišit, co je standardní aktivita a co už představuje riziko.
Zásadní změna spočívá v tom, že bezpečnostní incident dnes často nevzniká jedním útokem zvenčí. Nevzniká ani jedním dramatickým pochybením. Mnohem častěji se rodí postupně, jako kombinace legitimních kroků, které samy o sobě nevypadají nebezpečně. Teprve jejich propojení vytvoří situaci, kterou už organizace nedokáže dobře řídit nebo vyhodnocovat.

Máte AI ve firmě pod kontrolou?

  • Víte, kdo ve firmě používá AI nástroje nad firemními daty?
  • Máte přehled o tom, jaká data se do těchto nástrojů dostávají?
  • Dokážete vysvětlit, proč mají uživatelé nebo aplikace konkrétní oprávnění?
  • Vidíte vznik nových identit, integrací a automatizací?
  • Dokážete sledovat změny chování uživatelů a systémů v kontextu?
  • Rozlišíte běžnou aktivitu od situace, která už představuje bezpečnostní riziko?

Automatizace, identity a data: nová místa, kde vzniká slabina

Jedním z nejméně viditelných dopadů AI je prudký nárůst automatizací. Aby bylo možné AI efektivně využít, vznikají nové integrace, pomocné účty, workflow, skripty a aplikační vazby. Z pohledu provozu jde o logický vývoj. Z pohledu bezpečnosti ale rychle roste počet bodů, které je potřeba spravovat, monitorovat a vyhodnocovat v kontextu.
Velmi citlivou oblastí jsou identity a přístupy. Pokud organizace neví, proč má konkrétní uživatel, účet nebo aplikace určité oprávnění, ztrácí schopnost rychle rozpoznat odchylku. Podobně důležitá je oblast dat. S rostoucím využitím AI roste i objem informací, které se přesouvají mezi systémy, sdílejí nebo zpracovávají mimo původní bezpečnostní hranice.
To vše znamená, že tradiční odpověď typu „máme MFA, máme bezpečnostní nástroje, jsme v pořádku“ dnes často nestačí. Moderní prostředí vyžaduje širší pohled. Nestačí chránit jednotlivé body. Je nutné rozumět vztahům mezi identitou, zařízením, daty, aplikacemi a chováním uživatelů v čase.
Většina dnešních rizik nevzniká útokem zvenčí, ale jako důsledek kombinace oprávnění, datových toků a automatizací, které firma nemá plně pod kontrolou.

Viditelnost nad prostředím je důležitější než pocit, že je vše nastavené správně

Řada organizací dnes disponuje kvalitními technologiemi i definovanými bezpečnostními politikami. Přesto jim často chybí odpověď na několik zcela konkrétních otázek. Kdo ve firmě reálně používá AI nástroje? Jaká data se do nich dostávají? Jak se mění oprávnění v čase? Kde vznikají nové identity, aplikace nebo automatizace? A které aktivity jsou ještě běžnou součástí provozu a které už signalizují zvýšené riziko?
Právě schopnost tyto souvislosti vidět a vyhodnocovat v kontextu dnes rozhoduje o tom, zda organizace dokáže AI využívat bezpečně a dlouhodobě udržitelně. Nestačí tedy pouze nasadit další nástroj. Důležité je získat průběžnou viditelnost nad prostředím, průběžně vyhodnocovat změny a včas zachytit situace, které by se jinak projevily až ve chvíli incidentu.
AI bezpochyby přináší firmám vyšší efektivitu, rychlost i konkurenční výhodu. Aby ale její přínos nepřinesl současně i nové bezpečnostní slepé místo, je nutné dívat se na ni nejen jako na technologii, ale i jako na faktor, který mění celé fungování firemního IT prostředí.
 
Luboš Kučera 
Autor článku působí jako Online Sales Manager ve společnosti System4u, která je nezávislým systémovým integrátorem a specialistou na kybernetickou bezpečnost, správu mobilních zařízení a další IT služby.
Chcete získat časopis IT Systems s tímto a mnoha dalšími články z oblasti informačních systémů a řízení podnikové informatiky? Objednejte si předplatné nebo konkrétní vydání časopisu IT Systems z našeho archivu.

Inzerce

Nasazení AI balancuje mezi výkonem a zranitelností

V aktuálním vydání IT Systems jsme se opět zaměřili na využití AI v podnicích, které má mnoho různých podob. Jednu z nich vidíte hned na titulní straně obálky, kde Martin Šťastný, ředitel vývoje Vision ERP, přestavuje AI asistentku Viana. S Martinem jsme si povídali nejen o tom, co Viana umí, ale především nás zajímalo, jak AI v ERP systému Vision pracuje s kontextem, daty a odpovědností.