IT SYSTEMS 5/2026 , AI a Business Intelligence , HRM/HCM - Řízení lidských zdrojů , IT právo

Etické, právní a bezpečnostní aspekty

využití AI v personalistice

Jindřich Kalíšek


Umělá inteligence se už stala integrální součástí řady podnikových procesů a oblast řízení lidských zdrojů pochopitelně není výjimkou. Personalisté pracují s rozsáhlým spektrem strukturovaných i nestrukturovaných dat, která jsou dnes zpravidla digitalizovaná (anebo hned na vstupu snadno digitalizovatelná) – od životopisů a hodnoticích formulářů po interní komunikaci až po evidence KPI a dalších výkonnostních metrik. Právě schopnost AI analyzovat data, standardizovat rozhodování podle kritérií předem definovaných organizací a škálovat procesy činí z HR oblast s mimořádným aplikačním potenciálem. Současně však platí, že čím citlivější rozhodnutí AI ovlivňuje, tím vyšší nároky vznikají na jejich etické, právní, bezpečnostní a technické ošetření.


Digitalizace HR přitom není novým fenoménem, organizace již řadu let využívají pokročilé HRIS systémy, workflow nástroje či datovou analytiku. AI však ve všech těchto oblastech představuje kvalitativní skok. Nejde pouze o automatizaci jednotlivých kroků, ale o schopnost generovat výstupy, interpretovat data a částečně nahrazovat lidské rozhodování. S rostoucími nároky na kvalitu lidských zdrojů přestává být „AI-powered HR“ administrativní a podpůrnou činností a stává se k datově řízenou disciplínou s přímým dopadem na strategii organizace.

Kde dnes AI v HR reálně přináší hodnotu

V praktické rovině již dnes AI zásadně proměňuje celý životní cyklus zaměstnance. Nejviditelnější změny nastaly v oblasti náboru, kde automatizované systémy (ATS / CSS) umožňují rychlý screening velkého množství kandidátů, jejich skórování a párování s požadavky pracovních pozic. Generativní AI se uplatňuje při tvorbě pracovních inzerátů, komunikaci s uchazeči i přípravě výběrových řízení. Konverzační agenti pak zajišťují první kontakt s kandidáty, odpovídají na dotazy a koordinují logistiku pohovorů. Výsledkem je nejen zrychlení náboru, ale i jeho standardizace.
Současně se mění charakter rozhodování. Zatímco dříve byl výběr kandidátů založen primárně na individuálním úsudku recruiterů, dnes je stále více podpořen datovými modely. Ty dokáží zohlednit širší spektrum parametrů, včetně historické úspěšnosti kandidátů na podobných pozicích. To však zároveň zvyšuje nároky na kvalitu dat a správné nastavení hodnoticích kritérií.
Podobná míra automatizace se uplatňuje i při onboardingu a offboardingu. Digitální asistenti provázejí nové zaměstnance nástupními procesy, zajišťují administrativu, školení i základní orientaci v organizaci. Onboarding se tak stává konzistentnějším a méně závislým na individuálním přístupu manažerů. V případě offboardingu AI pomáhá řídit procesy spojené s ukončením pracovního poměru, včetně odebrání přístupů, evidence majetku či sběru zpětné vazby.
Významný posun je patrný také v oblasti rozvoje zaměstnanců. AI umožňuje vytvářet detailní mapy kompetencí a identifikovat rozdíly mezi aktuálním stavem a požadovanými dovednostmi. Na tomto základě lze navrhovat personalizované vzdělávací plány, které reflektují nejen potřeby organizace, ale i individuální kariérní cíle zaměstnanců. Tento přístup zvyšuje efektivitu vzdělávání a podporuje interní mobilitu.
V řízení výkonu dochází k odklonu od tradičních ročních hodnocení směrem k průběžnému monitoringu. AI systémy analyzují data o výkonnosti v reálném čase, identifikují odchylky 
a poskytují manažerům podklady pro operativní rozhodování. Zároveň pomáhají standardizovat zpětnou vazbu a eliminovat některé subjektivní vlivy. Tento model však vyžaduje citlivé nastavení, aby nedocházelo k nadměrnému sledování zaměstnanců.
Další oblastí je analýza zaměstnanecké zkušenosti. Pomocí zpracování přirozeného jazyka lze analyzovat dotazníky, interní komunikaci či jiné formy zpětné vazby a identifikovat trendy 
v angažovanosti nebo spokojenosti. Organizace tak získávají nástroj pro včasnou detekci problémů, které by jinak zůstaly skryté.
AI zároveň posouvá HR směrem k prediktivní analytice. Na základě historických dat lze odhadovat pravděpodobnost odchodu zaměstnanců, identifikovat kritické role nebo plánovat budoucí potřeby pracovních sil. HR se tak stává aktivním účastníkem strategického řízení organizace, nikoli pouze jeho podporou.
 

Rizika, regulace a limity automatizace

Vedle nesporných přínosů přináší nasazení AI v HR celou řadu zásadních výzev – etických, právních i bezpečnostních. 
Z etického hlediska vyvstává otázka legitimity rozhodování, tedy do jaké míry je přijatelné, aby o přijetí, hodnocení či propuštění rozhodoval algoritmus. Tradiční personalistika je založena na práci lidí s lidmi a na jejich individuálními příběhy. Redukce těchto aspektů na datové body může vést k odcizení a odpojení uvnitř organizace a ztrátě důvěry ve férovost rozhodovacích procesů.
 
Z věcného a technického pohledu je jedním z nejzávažnějších problémů algoritmické zkreslení. Modely se učí z historických dat, která mohou obsahovat systematické předsudky. Ty se následně promítají do rozhodování AI a mohou vést k diskriminačním výsledkům. Riziko není pouze teoretické. Existují doložené případy, kdy náborové systémy systematicky znevýhodňovaly určité skupiny kandidátů. Specifickou kategorií je tzv. self-preferencing, kdy AI nepřiznaně, ale doložitelně preferuje výstupy vytvořené stejným modelem, což narušuje rovnost podmínek mezi kandidáty.
 
S biasem úzce souvisí problém netransparentnosti. Řada pokročilých modelů funguje jako „black box“, kdy není možné zpětně vysvětlit, proč bylo určité rozhodnutí učiněno. V HR kontextu to představuje zásadní problém, protože zaměstnavatel musí být schopen své rozhodnutí obhájit nejen interně, ale i vůči dotčeným osobám nebo regulatorním orgánům. Celý postup také musí být založen na transparentních a vysvětlitelných pravidlech, která není uzavřený model není schopen vysvětlit.
 
Z pohledu podnikové governance a compliance je zcela zásadní oblast ochrany osobních údajů a povinností vyplývajících pro zavádějící subjekty z nařízení o umělé inteligenci. HR data zahrnují široké spektrum informací, které mohou být velmi citlivé. Nasazení AI obvykle znamená jejich rozsáhlé a systematické zpracování, často včetně profilování anebo automatizovaného rozhodování, které má pro hodnocené osoby pochopitelně zásadní význam. Proto na využití AI v HR dopadá řada povinností podle GDPR – zejména pokud jde o transparentnost, minimalizaci dat a zajištění práv subjektů údajů – které jsou zpravidla podstatně náročnější než v případě standardních procesů. Automatizované rozhodování podléhá specifickému právnímu režimu a vyžaduje možnost lidské kontroly a zásahu.
 
Další vrstvu představuje regulatorní rámec pro AI. Systémy používané v HR, zejména v oblasti náboru a hodnocení zaměstnanců, mohou spadat do kategorie tzv. vysoce rizikových systémů. To znamená celou řadu povinností vyplývajících z nařízení o umělé inteligenci (AIA) zavádět řízení rizik, provádět dopadové analýzy, zajistit kvalitu dat a dokumentovat fungování modelů. Organizace musí být připraveny prokázat, že jejich systémy jsou bezpečné, nediskriminační a transparentní.
 
Praktické problémy však nekončí u regulace. Efektivita AI je zásadně závislá na kvalitě vstupních dat. Nekonzistentní, neúplná anebo v čase nesnadno dostupná data vedou k chybným výstupům, což může mít přímý dopad na rozhodování o zaměstnancích. Organizace zároveň často narážejí na obtíže při integraci AI nástrojů do existujících systémů, což vede k přenášení integrační zátěže na personalisty, k fragmentaci procesů a snižování efektivity.
 
Nelze opomenout ani lidský faktor. HR týmy podléhají stejnému FOMO (fear-of-missing-out) efektu jako jiné manažerské role a usilují o co nejrychlejší digitalizaci a automatizaci, současně však ne vždy disponují dostatečnou gramotností a kompetencemi pro bezpečnou práci s AI nástroji. To komplikuje jejich efektivní využití i kontrolu. Setkáváme se však i s tím, že v organizacích existuje přirozený odpor ke změnám, spojený s obavami ze ztráty pracovních míst nebo omezení lidské role v rozhodování, který může bránit i implementaci ověřených a spolehlivých technologií.
 

AI jako příležitost podmíněná odpovědností

AI představuje zásadní příležitost pro transformaci personalistiky, avšak její implementace není pouze technologickou otázkou. Vyžaduje komplexní přístup zahrnující etiku, právo a compliance na jedné straně, IT a informační a kybernetickou bezpečnost na druhé straně a v neposlední řadě i samotné HR, které stojí nejlépe uprostřed všech důležitých změn a cílevědomě je řídí. Organizace by měly systematicky zavádět principy odpovědného využívání AI, včetně zachování lidské kontroly nad klíčovými rozhodnutími, pravidelného testování modelů a auditu jejich výstupů.
Důležitou roli hraje také výběr dodavatelů a nastavení smluvních vztahů. Organizace by měly požadovat transparentnost ohledně použitých modelů, dat a způsobu jejich trénování. Bez této znalosti není možné efektivně řídit rizika ani plnit regulatorní požadavky.
Zásadní je rovněž budování interních kompetencí. HR týmy musí rozumět principům fungování AI, aby dokázaly interpretovat její výstupy a identifikovat potenciální problémy. To vyžaduje investice do vzdělávání i změnu pracovních postupů.
Platí přitom jednoduché pravidlo: Pokud organizace říká A jako AI, musí současně říci i B jako bezpečnost, C jako compliance, D jako data a jejich ochrana a E jako zaměstnanci. 
Právě rovnováha mezi technologickým pokrokem a ochranou práv jednotlivce bude určovat, zda se AI v personalistice stane skutečným přínosem, nebo zdrojem nových rizik.
 
JUDr. Ing. Jindřich Kalíšek, Ph.D.
Autor článku je CEO české firmy regfor, která vyvíjí nástroj pro správu regulatorních požadavků a řízení rizik. Působí také jako advokát se specializací na právo IT a compliance. O  kybernetické bezpečnosti a ochraně osobních údajů přednáší na Právnické fakultě UK v Praze.
Chcete získat časopis IT Systems s tímto a mnoha dalšími články z oblasti informačních systémů a řízení podnikové informatiky? Objednejte si předplatné nebo konkrétní vydání časopisu IT Systems z našeho archivu.