Hlavní strana -> Časopis IT Systems -> Rok 2026 -> IT řešení pro výrobní podniky I -> AI Act ve výrobě:
IT řešení pro výrobní podniky I , Plánování a řízení výroby , AI a Business Intelligence

AI Act ve výrobě:

Konec inovací, záchrana lidstva nebo jen humbuk?

Jakub Radiměřský

Ještě nedávno byla AI ve výrobě téma pro inovační konference a pár odvážlivců. Dnes pomáhá plánovat údržbu, hledat vady, analyzovat reklamace nebo podporovat vývoj. Kde je nadšení z produktivity, tam ale musí být i vědomí rizik. Právě to řeší AI Act (Nařízení o umělé inteligenci). Co nová regulace přináší do výroby a jak se na to připravit chytře?


AI se do firmy často dostane nenápadně. Ne přes velký strategický projekt, ale přes zaměstnance, který si otevře veřejný nástroj a řekne si: „Tohle mi ušetří dvě hodiny práce.“ A ono často fakt ušetří.
Jenže čím víc se AI stává běžným pracovním nástrojem, tím méně si firmy mohou dovolit používat ji „tak nějak po cestě“. Zvlášť ve výrobě, kde se pracuje s prototypy, výkresy, zákaznickými daty, výrobními postupy, know-how, HR informacemi i systémy, které mohou ovlivnit kvalitu, bezpečnost nebo kontinuitu provozu.
Do toho přichází AI Act. Ve veřejné debatě je to buď „konec inovací“, nebo „záchrana lidstva“. Ve skutečnosti jde spíše o tlak na to, aby se AI používala s vědomím rizik, ne jen s nadšením z produktivity. AI Act staví na rizikovém přístupu: čím větší dopad může mít AI na zdraví, bezpečnost nebo lidská práva, tím přísnější pravidla pro ni platí.
Výrobní firmy nemohou na AI Act mávnout rukou a říct: „Nás se to netýká.“ AI se u nich totiž může objevit v kanceláři, HR, konstrukci, kvalitě, logistice, servisu, obchodu, vývoji…
Proto je dobré si položit základní otázky: Používáme AI? Kde? Kdo ji používá? S jakými daty? Ovlivňuje výstup AI rozhodnutí o lidech, kvalitě, bezpečnosti, zákazníkovi nebo výrobku? A umíme doložit, že to máme pod kontrolou?

AI Act v kostce

Evropské nařízení o umělé inteligenci, jehož hlavní myšlenka není složitá. Jinak se nahlíží na AI nástroj, který shrne obecný text, a jinak na systém, který pomáhá rozhodovat o přijetí zaměstnance, vyhodnocuje výkon pracovníků nebo má vliv na interní bezpečnost.
AI Act rozlišuje několik úrovní rizika. Některé způsoby použití jsou zakázané. Některé spadají do vysoce rizikové kategorie. Některé mají hlavně povinnosti kolem transparentnosti, například aby člověk věděl, že komunikuje s chatbotem. 
Velká část běžného využití AI bude patřit mezi nižší riziko. To ale neznamená, že výrobní firmy mohou mávnout rukou a říct: „Nás se to netýká.“ AI se totiž může objevit v kanceláři, HR, konstrukci, kvalitě, logistice, servisu, obchodu, vývoji i přímo ve výrobních procesech. Důležité je proto vědět, kde AI asistuje a kde už ovlivňuje rozhodnutí, bezpečnost, data.

Koho se ve výrobě týká AI Act?

Mnohem většího počtu firem, než si dnes připouštíme. Pokud vezmeme český průmysl jako celek, bavíme se podle ČSÚ o více než 213 tisících aktivních subjektů. Všichni určitě nebudou vyvíjet vlastní AI systém nebo AI poskytovat podle AI Actu. A ne každá firma spadne do nejpřísnějších povinností.
Ale je dobré si položit základní otázky: Používáme AI? Kde? Kdo ji používá? S jakými daty? Ovlivňuje výstup AI rozhodnutí o lidech, kvalitě, bezpečnosti, zákazníkovi nebo výrobku? A umíme doložit, že to máme pod kontrolou?
Výrobní průmysl není jen velká automobilka nebo nadnárodní korporát. Je to ekosystém dodavatelů, subdodavatelů, konstrukčních kanceláří, nástrojáren, strojírenských, elektrotechnických, plastikářských, logistických nebo marketingových firem. Dodavatelský řetězec může být pro mnoho z nich důležitější než samotná kontrola od úřadu.
Velký zákazník se nebude ptát jen na to, jestli máte AI. Bude se ptát, jestli ji používáte bezpečně. Jestli chráníte jeho data. Jestli víte, co se děje s prototypem, výkresem nebo specifikací, když je tam někdo vloží. A jestli máte pravidla, která plní cíle, ne šanony.
Velké firmy už dnes řeší, jestli je jejich dodavatelé využívající AI nevystavují riziku.

Kdy AI Act přijde a co to přinese?

AI Act už není vzdálená budoucnost. Vstoupil v platnost 1. srpna 2024 a povinnosti nabíhají postupně. Něco už běží, například zákaz nepřijatelných AI praktik nebo požadavky na AI gramotnost. Pro většinu firem bude zásadní hlavně 2. srpen 2026, kdy se začne používat velká část AI Actu.
Stále je čas se připravit. Horší zpráva je, že inventuru AI nástrojů, pravidla pro data, odpovědnosti, školení lidí ani úpravy dodavatelských smluv nejde rozumně dohnat týden před zákaznickým auditem. A ten může přijít dřív než kontrola z úřadu. Velké firmy totiž už dnes řeší, jestli je jejich dodavatelé využívající AI nevystavují riziku.

Jaké povinnosti čekat od nového nařízení? 

Záleží hlavně na roli vaší firmy:
  • Provider AI systém vyvíjí nebo uvádí na trh. Proto ponese největší díl odpovědnosti za návrh, dokumentaci, testování a řízení rizik.
  • Deployer AI používá ve vlastním provozu, například v HR, kvalitě nebo výrobě. Musí vědět, k čemu systém slouží, s jakými daty pracuje, kdo nad ním dohlíží a kdo odpovídá za výstup. 
  • Importer přivádí AI systém ze třetí země na trh EU a musí si pohlídat, že splňuje požadavky. 
  • Distributor ho dál nabízí nebo prodává a nemůže zavírat oči před tím, že něco nesedí.
U vysoce rizikových systémů se bude řešit hlavně řízení rizik, kvalita dat, dokumentace, záznamy, transparentnost, lidský dohled, přesnost, robustnost a kyberbezpečnost. Pro výrobní firmy to znamená jednoduchou otázku: používáme AI jen jako pomocníka, nebo už ovlivňuje lidi, kvalitu, bezpečnost, zákaznická data či provoz? Právě podle toho se bude odvíjet, jak přísně ji musíte řídit.
Ve veřejné debatě se rizika AI často řeší obecně, jenže výroba má svá specifika.

Kde může výroba narazit

Ve veřejné debatě se AI a LLM často řeší obecně. Chatboti, generování obrázků, deepfaky, automatizace kancelářské práce. Jenže výroba má svá specifická rizika. 

Prototypy, výkresy a zákaznická data

Představme si, že zákazník výrobci pošle technickou dokumentaci k novému dílu. Výkresy, specifikace, materiály, toleranční požadavky, možná i informace o prototypu, který ještě není na trhu. Někdo ve firmě si chce práci zrychlit, proto část dokumentace nahraje do veřejného AI nástroje a požádá ho o shrnutí, překlad a přípravu pro práci.
Pracovně nevinné, ale bezpečnostně závažné! Ve výrobě jsou prototypy od zákazníka jedno z míst, kde je potřeba být obzvlášť opatrný. Nejde jen o AI Act, ale také o mlčenlivost, ochranu obchodního tajemství, TISAX, interní bezpečnost a reputaci. Pokud firma neumí říct, kam se zákaznická data dostávají, kdo k nim má přístup a jestli nejsou používána ve veřejných modelech, stává se rizikem, ne obchodním partnerem. 
 

HR data a rozhodování o lidech

Umělá inteligence je v HR lákavá. Umí třídit životopisy, připravovat otázky na pohovor, navrhovat hodnocení, analyzovat kompetence nebo shrnovat výstupy z pohovorů. Pro velké firmy je to obrovská úleva. Jenže HR data jsou zároveň jedny z nejcitlivějších interních dat.
Životopisy, hodnocení zaměstnanců, zdravotní omezení, mzdové informace, poznámky z pohovorů, výsledky testů, interní zpětná vazba. To jsou informace, které nepatří do veřejných AI nástrojů jen proto, že „to rychle napíše lepší shrnutí“.
Navíc AI Act řadí některé systémy používané v oblasti zaměstnávání mezi vysoce rizikové. Týká se to třeba AI v náboru, výběru kandidátů, filtrování žádostí, hodnocení uchazečů, rozhodování o pracovněprávních vztazích nebo scoringu výkonu a chování pracovníků.
Neznamená to, že HR nesmí používat AI. Jen to, že ji musí používat promyšleně. S jasnými pravidly, ochranou dat, lidským dohledem a vědomím, že rozhodnutí o lidech nelze bezmyšlenkovitě přehodit na algoritmus.
Rozhodnutí o lidech nelze bezmyšlenkovitě přehodit na algoritmus.

Kvalita, bezpečnost a provozní rozhodnutí

AI může pomáhat s prediktivní údržbou, kontrolou kvality, optimalizací linek, vyhodnocením CCTV záznamů nebo detekcí odchylek. Užitečné a často velmi žádoucí. Ale je rozdíl mezi tím, když AI doporučí, na co se má technik podívat, a tím, když systém bez kontroly ovlivňuje bezpečnostní funkci, zastavení linky, kvalitu výstupu nebo provoz kritické infrastruktury.
Výrobní firmy by si proto měly ujasnit, jestli AI používají jen jako podpůrný nástroj, nebo už vstupuje do rozhodnutí, která mohou mít bezpečnostní, provozní nebo smluvní dopady. To je rozdíl, který je potřeba znát.
Nedělejte z AI černou skříňku, která „něco vyhodnotila“, ale nikdo neví proč.

Co s AI ve výrobě nikdy nedělat

Nenahrávejte zákaznické prototypy, výkresy, technické specifikace, HR data nebo obchodní tajemství do veřejných AI nástrojů jen proto, že je to rychlé a pohodlné. Nepoužívejte AI pro HR rozhodování bez jasných pravidel, právního posouzení a lidské kontroly. Nepředstírejte, že vaše firma AI nepoužívá, když ji zaměstnanci používají třeba neoficiálně. A nedělejte z AI černou skříňku, která „něco vyhodnotila“, ale nikdo neví proč.
Jak se na AI Act připravit chytře v sedmi krocích?
Není nutné panikařit ani zakazovat AI nástroje. Lidé si k nim stejně najdou cestu i bez vědomí firmy. Cílem je na to jít přiměřeně, selským rozumem. Udělat si přehled, nastavit rozumná pravidla a postavit systém, který firmě plní cíle, ne šanony.

1. Zmapujte využívání AI ve firmě

Zjistěte, jaké AI nástroje lidé používají, kde, proč a s jakými daty tam pracují. Neřešte jen oficiální aplikace, ale i veřejné nástroje používané „bokem“. Bez inventury AI neuhlídáte.

2. Rozdělte použití podle rizika

Překlad veřejného textu není totéž co HR screening, práce s prototypem nebo vyhodnocení CCTV záznamu. Oddělte low risk použití od oblastí, kde AI ovlivňuje lidi, kvalitu, bezpečnost.

3. Nastavte pravidla pro data

Určete, co smí do veřejných AI nástrojů, co jen do schváleného firemního prostředí a co třeba vůbec nikam. Mějte pravidla k ochraně prototypů, výkresů, technických specifikací, výrobních postupů, know-how zákazníka a HR dat.

4. Určete odpovědnosti

Ujasněte si, kdo schvaluje AI nástroje, kdo řeší výjimky, kdo posuzuje riziko a kdo odpovídá za výstup. AI může doporučovat, ale u citlivých oblastí musí rozhodnutí řídit člověk.

5. Zapojte dodavatele

Pokud dodavatel pracuje s vašimi daty a používá AI, je to i vaše riziko. Stejně tak se zákazník může ptát vás. Doplňte AI do smluv, bezpečnostních dotazníků, auditů a pravidel pro práci s citlivými daty.

6. Školte lidi prakticky

Nestačí jim říct, že AI Act existuje. Lidé potřebují příklady ze své práce. Co do AI nepatří, jak poznat rizikové použití a kde požádat o schválení nástroje. Jedno univerzální školení nestačí. Vedení, HR nebo konstruktéři, každý řeší jiné situace.

7. Opřete se o standardy a data z rozdílové (GAP) analýzy

Výrobní firmy často neřeší bezpečnost od nuly. Mají zkušenost se systémy řízení bezpečnosti informací (ISMS) podle TISAX nebo ISO 27001. Stačí udělat GAP analýzu a firma má dobrý základ i pro ISO/IEC 42001 (AIMS), který do ISMS přidává rámec k řízení AI. 
 
Nejde o instantní shodu s AI Act, razítko nebo certifikát na zeď, ale o to mít praktický systém, díky kterému má firma důkazy, že rizika spojená s umělou inteligencí řídí v realitě, nejen na papíře. A nejde ani o compliance jako takový. McKinsey ve studii The State of AI 2025 uvádí, že skoro 9 z 10 respondentů už AI pravidelně používá, ale většina firem ji zatím nedokázala dostatečně propsat do procesů tak, aby přinesla měřitelný podnikový dopad. Jinými slovy: hodnotu z AI nevytváří samotný nástroj, ale řízení, proces a odpovědnost kolem něj. ISO/IEC 42001 a standardy tohle pomáhají vyřešit.
Hodnotu z AI nevytváří samotný nástroj, ale řízení, proces a odpovědnost kolem něj.

AI Act nebude konec inovací. Spíš test dospělosti

Nejde o katastrofu ani důvod zahodit AI do šuplíku. AI Act je v jádru legislativně vyžadovaný rámec pro odpovědné používání AI. A umělá inteligence už firmám pomáhá. Část těchto pravidel už možná do jisté míry řešíte, aniž byste to tak nazývali.
Kdo ale začne řešit své AI až ve chvíli, kdy se zeptá zákazník, auditor nebo právník, bude to dohánět pod tlakem. Ve výrobě navíc nepůjde jen o splnění regulace. Půjde o konkurenceschopnost v dodavatelském řetězci. Pokud pracujete s AI a zároveň se zákaznickými daty, výkresy, prototypy nebo know-how, dřív nebo později budete muset ukázat, že je máte pod kontrolou. Dodavatel, který umí prokázat bezpečné a odpovědné používání AI, bude působit spolehlivěji než ten, který řekne: „Nějak to řešíme.“
Cílem proto není AI svázat, ale používat ji chytře, řízeně, bezpečně a dokumentovaně. Tak, aby podporovala lidi v práci, chránila firmu a posilovala její konkurenceschopnost. Kvůli regulaci, požadavkům klientů, ale i kvůli užitku za hranice compliance.
 
Jakub Radiměřský
Autor článku je konzultant ISO systémů řízení a specialista na kyberbezpečnost a IT compliance ze společnosti Top Solution, s. r. o.
Chcete získat časopis IT Systems s tímto a mnoha dalšími články z oblasti informačních systémů a řízení podnikové informatiky? Objednejte si předplatné nebo konkrétní vydání časopisu IT Systems z našeho archivu.