Pojem shadow AI označuje situace, kdy zaměstnanci používají AI nástroje mimo oficiální IT strukturu firmy bez jakéhokoli interního schválení nebo jasných pravidel. I když nejde ze strany zaměstnanců o zlý úmysl, využívání neschválených nástrojů představuje pro firmu zásadní bezpečnostní, provozní a reputační riziko.

 

Veřejně dostupné AI modely dnes zvládnou řadu běžných úkonů – umí shrnovat dokumenty, psát smlouvy, analyzovat tabulky, generovat prezentace a mnoho dalšího. Produktivita díky tomu sice stoupá, zároveň se s tím ale zvyšuje šance na únik firemních dat. Zaměstnanci mohou totiž do nástroje nahrát například interní strategie, obchodní nabídky, finanční reporty nebo zdrojový kód, čímž je dávají volně ke zpracování provozovateli aplikace. V ten moment firma ztrácí jakoukoliv kontrolu nad daty, která mohou být navíc nejen uložena na cizích serverech třetích stran, ale i použita k dalšímu trénování AI modelů.

 

Z hlediska GDPR a dodržování předpisů je shadow AI rovněž velmi problematická. Pokud zaměstnanec nahraje do externího AI nástroje osobní údaje (své, kolegů či zákazníků), může tím firma porušit nařízení o ochraně osobních údajů, aniž by o tom tušila. Pro odvětví, jako jsou finance, zdravotnictví nebo veřejná správa, jde o téma obzvlášť citlivé.

Bezpečné používání AI ve firmě však nevyřeší zákaz externích nástrojů – problém nespočívá v tom, že je zaměstnanci používají, ale jak. Firmy by měly definovat konkrétní povolené nástroje a určit jasná pravidla pro práci s nimi. Je-li to relevantní, měla by být zajištěna i integrace AI nástrojů s firemními systémy a jednotliví zaměstnanci by měli mít přidělené konkrétní role. Zaměstnanci musí také projít řádným školením, aby věděli, proč a jak AI používat právě takovým způsobem, který firma určí a který je pro všechny strany bezpečný. Platí totiž, že bez centrálního nastavení a metodiky se AI stává spíše zdrojem chaosu než produktivity.

Jedním z příkladů řízeného přístupu k AI je Microsoft 365 Copilot, který je integrovaný přímo do prostředí Microsoft 365. Z pohledu IT a bezpečnosti je zásadní, že Copilot pracuje s daty uloženými ve firemním prostředí a plně respektuje již existující oprávnění jednotlivých pracovníků. Možná ještě o něco důležitější však je, že se používáním tohoto AI nástroje žádná data nedostanou mimo firmu.

 

Praxe ale ukazuje, že samotná licence problém shadow AI nevyřeší. Největší slabinou každého digitálního zabezpečení a opatření zůstává člověk. Pokud firma nenastaví vlastní procesy a pravidla a neproškolí zaměstnance, lidé si najdou vlastní, ne vždy plně bezpečné cesty, jak si práci zefektivnit.

Firmy proto dnes stojí před volbou. Buď budou AI ignorovat a riskovat její nekontrolované používání, nebo ji aktivně začlení do svých procesů. Čím déle budou však firmy tento strategický problém obcházet, tím složitější bude ho do budoucna řešit. Vodafone Business proto firmám všech velikostí nabízí Microsoft 365 včetně Copilota. Kromě cenově výhodného řešení získá firma i podporu při zavádění nástrojů a nově také k vybraným licencím přístup k online kurzům zdarma. Cílem je, aby zaměstnanci nástroje nejen měli, ale také je uměli používat správně a vytěžili z nich maximum.