Hlavní strana -> Zprávy
Aktuality -> Podnikové aplikace a služby - 29. 9. 2025 - redakce

Agnostix vyvinul nástroj pro ochranu konverzační AI před chybami, zneužitím a útoky

Pražská společnost Agnostix rozšířila svoji platformu E.V.A. Insights pro řízení konverzační AI o nástroj Defender, který je navržen tak, aby firmy chránil před rostoucími riziky spojenými s využíváním AI – od sofistikovaných útoků a toxického obsahu až po úniky citlivých dat. Defender poskytuje komplexní ochranu konverzačních AI systémů, jako jsou chatboti a voiceboti, které mohou generovat nevhodné odpovědi, což přináší právní rizika a může způsobit reputační škody. Defender chrání konverzační AI i před útoky typu prompt injection nebo jailbreak, kterými se AI model snaží zneužít kyberzločinci.



„Zatímco se velká část diskuse o AI točí kolem zániku profesí, jen málo se mluví o zásadních rizicích pro samotné firmy a organizace, jako jsou úniky dat, reputační škody i právní rizika. S Defenderem dáváme firmám do rukou nástroj, který jim umožní plně využívat potenciál konverzační AI, aniž by ztratily přehled o bezpečnostních hrozbách, jako jsou nevhodné odpovědi či útoky ze strany uživatelů,“ říká Mário Mitas, spoluzakladatel společnosti Agnostix.
 

 
Defender se zaměřuje na devět klíčových rizik. Především se soustředí na ochranu soukromí 
a dodržování GDPR detekcí úniků citlivých údajů. Díky specializovanému Privacy Risk Analyzeru nástroj rozpoznává citlivé údaje podle GDPR i v případě, že je uživatel zadá do konverzace, což je pro firmy zásadní pro připravenost na audity a regulátory.
Dále Defender pomáhá s detekcí potenciálních trestných činů tím, že odhaluje podporu nelegálního nebo neetického chování asistenta. Současně se zaměřuje na ochranu reputace značky a upozorňuje na odpovědi, které by mohly negativně ovlivnit její obraz, a také detekuje halucinace či toxický obsah, jako je bias, hate speech nebo stereotypy. Díky funkcím jako Output Risk Classifier a Adversary Detector pak automaticky hodnotí škodlivý výstup.
Klíčová je také detekce útoků uživatelů, jako jsou prompt injection a jailbreak scénáře, kdy se uživatelé snaží model zneužít. Firmy tak získají okamžitý přehled o místech zranitelnosti, a mohou se lépe připravit na pokusy o „hacknutí“ nebo „přepromptování“ botů.  
„Defender přichází v době, kdy se tyto v zahraničí již dobře známé problémy ve větší míře dostávají i do Česka. „Naše zkušenosti z praxe ukazují, že boti velkých českých firem musí čelit desítkám různých forem útoků denně. Včasná detekce těchto rizik bude stále důležitější nejen ve fázi testování bota před uvedením na trh, ale i v plném provozu,“ upozorňuje Mitas. 
 

Agnostix má s E.V.A. Insights mezinárodní ambice

Defender je plně kompatibilní s předními AI modely, jako jsou OpenAI GPT, Anthropic Claude a další. V ekosystému služeb a nástrojů Agnostixu je prémiovou částí platformy E.V.A. Insights, kterou Agnostix uvedl v červnu letošního roku, a doplnil tak dříve spuštěnou unikátní službu Bot Doctor. Společně tvoří ucelené řešení pro prevenci i audit problémů, které by jinak zůstaly skryté až do chvíle, kdy negativně ovlivní klientskou zkušenost nebo reputaci značky. 
Od Insights a Defendera si podobně jako od Bot Doctora firma slibuje rozšíření svých služeb z Česka do Evropy a dále do světa. Cizí jazyk totiž nepředstavuje totiž pro žádnou z nich bariéru. „S rapidním nárůstem využívání konverzační AI se objevuje i potřeba robustní ochrany. Vidíme, že transparentnost AI výstupů a včasná detekce útoků jsou klíčové nejen pro naše klienty, ale pro firmy a organizace po celém světě,“ dodává Mário Mitas.

 
  

- PR -

AI reporting

Nová cesta pro rozhodování nad firemními daty


Manažer výroby samozřejmě vnímá problém, ale musí čekat na analytika, aktualizovaný report a jeho interpretaci. Každý den přináší potřebu odpovědí na nové nebo neočekávané situace. Dnes již lze s pomocí AI pokládat otázky přímo nad firemními daty - ovšem pouze tehdy, jsou-li data správně připravena a strukturována tak, aby jim reportovací agent přesně rozuměl. Stejně tak musí být agent vytrénovaný na specifika daného prostředí, aby jeho odpovědi byly relevantní a spolehlivé. Výsledkem je schopnost reagovat na provozní situace okamžitě, a efektivněji tak minimalizovat prostoje, eliminovat chybovost i snižovat výrobní náklady. 

  

- PR -

Od zálohování k jistotě obnovy

QNAP představuje novou éru kybernetické odolnosti a datové suverenity v době AI


Rozvoj umělé inteligence zásadně mění způsob, jakým organizace pracují s daty. Data jsou stále nejcennějším aktivem podniků, ale současně rostou nároky na jejich ochranu, dostupnost a možnost využívat je pro lokální AI aplikace bez nutnosti jejich přesunu do veřejného cloudu. Právě na tuto změnu reagovala společnost QNAP na veletrhu Computex 2026, kde představila novou strategii „Ready & Recovery“ a ekosystém řešení zaměřených na kybernetickou odolnost, vysokou dostupnost a datovou suverenitu v éře AI.