Státní správa zpracovává data, která jsou ze své podstaty citlivá: osobní identifikátory, zdravotní záznamy, sociální situace občanů, výsledky správních řízení. Na každý systém, který s nimi pracuje, dopadá hned několik právních vrstev najednou: GDPR a zákon č. 110/2019 Sb., o ochraně osobních údajů, zákon o kybernetické bezpečnosti ve výkladu NÚKIB, a nově také evropský AI Act, jehož nejrozsáhlejší vlna povinností vstupuje v plnou účinnost v srpnu 2026.

Právě AI Act přidává nový rozměr. Systémy používané ve veřejné správě patří mezi tzv. vysoce riziková AI použití a to s sebou nese konkrétní povinnosti: systém řízení rizik, lidský dohled a průkaznou auditní stopu. Veřejná cloudová API tento rámec splnit nemohou. Data opouštějí prostředí úřadu, kontrola nad zpracováním je omezená a compliance se stává nejasnou. A nejde o přechodný trend, podle Gartneru do roku 2028 zavede 65 % vlád po celém světě požadavky na technologickou suverenitu jako ochranu před vlivem zákonů třetích zemí. A nejde jen o teorii. Francouzská vláda právě oznámila, že její domácí zpravodajská služba DGSI opustí AI nástroje americké společnosti Palantir ve prospěch domácího poskytovatele. Důvod? Premiér Sébastien Lecornu to pojmenoval bez okolků: „Nemůžeme přijímat nové strategické závislosti v digitální sféře. Nemůžeme se spoléhat na nástroje vyvinuté cizími mocnostmi.“ Podobný krok zvažuje německá armáda, Británie přezkoumává £330m kontrakt Palantiru s NHS. Suverenita dat přestává být akademickou diskusí, stává se politickým rozhodnutím.

Debaty o AI ve státní správě se příliš rychle zužují na jednu otázku: který model? Jenže LLM je jen poslední vrstva. Začíná to databází a aplikací úřadu a nad nimi stojí integrační vrstva, která je propojuje s LLM (tedy samotným „mozkem“ AI). Provozovat LLM na vlastním serveru, pokud komunikuje přes cloudovou integrační službu, se míjí požadovaným účinkem. 

Bavíme se tedy o nasazení složitějšího stacku. Řešení existují v podobě otevřených LLM a integrovat lze skrze API aplikaci vyvinutou na míru, nebo použitím otevřené integrační platformy, jako například n8n. Nedílnou součástí pokročilých AI řešení jsou vektorové databáze, MCP servery, embedding server, asynchronní správa fronty dotazů a podobně. I tyto doplňkové služby jsou k dispozici pro lokální hostování, včetně open-source variant.

Klíčová proměnná, která celé rozhodnutí definuje, je jedna: GPU paměť. Lokální nasazení vyžaduje fyzický server osazený GPU kartou s dostatečnou VRAM kapacitou ‒ minimum je 48 GB, doporučená hodnota pro produkční provoz s živými uživateli je 96 GB. To odpovídá zhruba ceně půl milionu korun za celý server. Například model Gemma 4, dnes jedna z nejvhodnějších voleb pro lokální nasazení, vyžaduje minimálně 48 GB GPU paměti.

Na to navazuje téma škálovatelnosti. Lokální LLM má fyzický strop daný hardwarem, při špičce dotazů neroste elasticky jako cloud. Pokud to architektura nepočítá dopředu, uživatelé v čase nejvyšší zátěže pocítí zpomalení jako první.

Další otázka je organizační: kdo co provozuje a kdo za co ručí. On-premises model neznamená, že si úřad vše spravuje sám od začátku do konce, ale spíš že musí mít jasně rozdělené role mezi vlastním IT a dodavatelem. Bez tohoto ujednání se odpovědnost za výpadky, aktualizace a bezpečnostní záplaty rozplývá. Největší praktické riziko lokálního nasazení není technická složitost, ale absence jasného provozního a odpovědnostního modelu.

Poslední úskalí je možná nejpodceňovanější: rychlost vývoje samotného trhu. Vynecháme-li čínské modely, ještě nedávno byl favoritem Mistral, pak Llama, dokud Llama 4 nezačala vykazovat problémy s dodržováním evropské legislativy. Dnes je nejlepší Gemma 4. A zítra?

Klíč není sledovat každou novinku, ale zvolit správnou rodinu modelů, takovou, která má odpovídající licenci, dlouhodobou historii vývoje a jasný roadmap. Mistral a Gemma jsou příklady rodin, které tyto předpoklady splňují. Hardware, který pořídíte dnes, nezastarává, jen každý rok na něm poběží lepší model než ten předchozí.

Plně lokální nasazení nabízí maximální kontrolu, ale ne každý úřad má kapacitu ho realizovat. Existuje střední cesta: velcí poskytovatelé cloudové infrastruktury, AWS, Microsoft Azure a Google Cloud zavádějí různé formy suverénního EU cloudu s daty fyzicky umístěnými v EU a pod správou nebo v partnerství s entitami sídlícími v EU.

Jenže tady vstupuje do hry právní otazník, který dosud nikdo uspokojivě nezodpověděl. Americký zákon CLOUD Act z roku 2018 umožňuje americkým úřadům přinutit jakéhokoli poskytovatele pod americkou jurisdikcí, aby vydal data, bez ohledu na to, kde jsou fyzicky uložena. Právě proto Evropská komise 3. června 2026 přijala Cloud and AI Development Act (CADA), který zavádí čtyřúrovňový rámec cloudové suverenity pro veřejné zakázky a de facto vylučuje poskytovatele podléhající mimoevropské jurisdikci z nejvyšších úrovní zabezpečení.

Volba správné úrovně cloudové suverenity tedy závisí na konkrétním regulačním profilu úřadu. Pro ty, kteří hledají maximální právní jistotu, přicházejí na řadu evropské alternativy. Ty existují a rychle se zlepšují. Francouzský Mistral Large 3 je plně open-source pod licencí Apache 2.0 s podporou více než 40 jazyků a EU infrastrukturou. Projekt OpenEuroLLM financovaný EU buduje vícejazyčné modely pro všech 24 úředních jazyků unie. Podle aktuálních benchmarků zůstává Mistral silnou volbou pro evropské týmy s požadavky na datovou rezidenci, s konkurenceschopnými výsledky a EU infrastrukturou, kterou DeepSeek ani Meta nabídnout nemohou. 

Výběr mezi těmito scénáři, plně lokálním nasazením, suverénním EU cloudem nebo evropským modelem je přesně to, čím naši konzultanti provázejí úřady na začátku každého projektu.

Volba deployment modelu přímo určuje, jak kritické tyto subsystémy jsou. Pokud data úřad nikdy neopustí, tedy při plně lokálním nasazení, je rizikový profil nejnižší. Jakmile ale data putují mimo infrastrukturu, kterou úřad plně vlastní a kontroluje, ať už do suverénního EU cloudu, nebo jinam, anonymizace přestává být volitelným doplňkem a stává se podmínkou.

Anonymizační pipeline proto funguje jako vstupní brána před modelem, ne jako následný krok. Každý dokument nebo dotaz, který do systému vstupuje, projde nejdřív automatizovanou detekcí a nahrazením citlivých entit: jmen, rodných čísel, adres, zdravotních údajů a dalších kategorií dle článku 9 GDPR. Teprve anonymizovaný payload pokračuje do LLM. Původní data zůstávají v zabezpečeném úložišti on-premises, model je nikdy neuvidí. Vrácený výstup pak projde již na ovládané infrastruktuře zpětnou deanonymizací a samotný pracovník úřadu nebo občan dostane výsledek se všemi náležitostmi.

Stejnou logikou se řídí dohledatelnost, ale s obrácenou intenzitou. Při plně lokálním nasazení má úřad přirozeně plnou kontrolu nad každou vrstvou systému, auditní stopa je součástí prostředí. U hybridního modelu, kde část zpracování probíhá mimo vlastní infrastrukturu, roste důležitost dohledatelnosti úměrně tomu, jak klesá přímá kontrola. Systém musí logovat každý vstupní dotaz a provázat jej s vráceným výstupem, použitou verzi modelu a časové razítko. Všechny logy musí být uloženy odděleně od produkčního prostředí, v read-only režimu, kde provozní tým nemá oprávnění zapisovat ani mazat záznamy. Kontrolní orgán musí mít přístup bez jakéhokoli zásahu do běžícího provozu.

Nasazení AI ve veřejné správě není technický projekt, jsou to rozhodnutí, jejichž dopady se projeví roky dopředu. Z pohledu expertů většina úřadů nepotřebuje vlastní GPU cluster. Potřebuje jasnou mapu toho, co smí být kde, kdo za co ručí a jak to celé obstojí při auditu.