Hlavní strana -> Časopis IT Systems -> Rok 2026 -> IT Systems 6/2026 -> Jak odbourat nedůvěru k AI?
IT SYSTEMS 6/2026 , AI a Business Intelligence

Jak odbourat nedůvěru k AI?

Znalostní bází a lidskou kontrolou

Michal Petrák

Jen těžko si představit firmu, na niž nedopadá skrytý náklad v podobě odpovídání na opakující se rutinní e-maily – koneckonců, elektronická pošta je páteří obchodní komunikace, zprávy jejím prostřednictvím posílá i dostává každý. Profesionálové tráví podle některých průzkumů e-mailovou konverzací v průměru dvě a půl hodiny denně. Tato situace vytváří prostor pro AI asistenta. Právě proto, že jsou e-maily všudypřítomné, možnost odbavit automaticky byť jen část z nich může ušetřit opravdu hromadu času. V mnoha organizacích však tato volba naráží na nedůvěru uživatelů. Co když umělá inteligence odešle zákazníkovi nepřesnou nebo zcela chybnou informaci, odpoví na důležitou zprávu nevhodným tónem nebo si začne vymýšlet?


Ještě před několika lety končily první pokusy s umělou inteligencí pobavením. Podívejte se, co si AI vymýšlí, jak ji dokážete jednoduchým zadáním zamotat „hlavu“! Dnes si i relativní laik dokáže postavit agenta, který usnadní práci, pomůže setřídit myšlenky nebo vytvořit časový harmonogram. Přesto se nástroje na bázi umělé inteligence stále občas dopouštějí přešlapů, kvůli kterým k nim uživatelé přistupují s opatrností hraničící s nedůvěrou. Tu je však možné odbourat, když má AI hranice a člověk poslední slovo.
 

Ukotvení ve znalostní bázi

Řešení nabízí pokročilý e-mailový asistent, který má v sobě zabudované funkce, řekněme pojistky, jež oprávněné obavy manažerů rozptylují. 
Tou první je ukotvení ve znalostní bázi. To se týká například nástroje Eloquens AI, který se pohybuje uvnitř jasně stanovených hranic vytyčených uživatelem. Tvorbu odpovědí totiž opírá jen o předem definovanou znalostní bázi – ta může sestávat z určených webových adres, z nahraných textových dokumentů, tabulek, PDF souborů, interních otázek a odpovědí nebo ze souborů z připojených cloudových úložišť, například Google Drive. Je možné integrovat do ní i některé CRM systémy, variant je tedy nepřeberné množství.
A co když ve stanovené znalostní bázi odpověď nenajde? Ani v takovém případě se neutrhne ze řetězu a nezačne konat samostatně. Obrátí se na svého nadřízeného, případně podle předem definovaných pravidel zahrne do kopie relevantního (lidského) odborníka a požádá o odpověď jeho.
Eloquens AI není klasickým AI nástrojem, který by se snažil odpovědět za každou cenu. Informace nečerpá z internetu, ale výhradně z důvěryhodných a ověřených firemních zdrojů (znalostní báze), takže lze vyloučit jakékoliv halucinování. Učí se přitom z historických konverzací, takže chápe kontext otázky a přizpůsobuje svůj styl komunikace lidskému „šéfovi“.
Eloquens AI tak dokáže odborníkům výrazně ušetřit čas – ti se nemusejí obávat vytržení z pozornosti tím, že se uprostřed rozdělané práce musejí věnovat přípravě odpovědi na příchozí e-mail nebo přípravou překladu. Eloquens AI ovládá víc než 160 jazyků, je dostupný 24 hodin denně, 7 dní v týdnu. A díky možnosti kontroly e-mailových konceptů má uživatel jistotu, že má svou e-mailovou komunikaci zcela pod kontrolou.

Od přípravy konceptů k částečné, nebo i plné automatizaci

Pokud by se i tak manažeři obávali přenechat umělé inteligenci odpovědnost za komunikaci se zákazníky či partnery, je tu ještě druhá pojistka. Při nastavení si uživatel může zvolit jeden ze způsobů, jakým AI asistent pracuje. Jde o tři režimy s různou mírou autonomie: 
  • A. Na základě jasně strukturované znalostní báze AI asistent sám odpovídá na relativně jednoduché otázky, což je vhodné pro obecnou zákaznickou podporu.
  • B. AI asistentovi je ponechána pouze částečná autonomie v úsudku, zda na dotaz dokáže odpovědět sám, nebo má oslovit lidského odborníka. 
  • C. V základním režimu je AI asistent pověřen pouze tvorbou e-mailových konceptů a nad konečným zněním odpovědi tak má člověk vždy poslední slovo, což je pochopitelně nejbezpečnější varianta. 
V případě nasazení v režimu C si můžeme e-mailového asistenta představit jako vysoce efektivního „připravovače“ odpovědí, které se v řádu několika minut objevují jako koncepty přímo v e-mailové schránce. Uživatel si je může v klidu projít, zkontrolovat, upravit a odeslat. Šetří tak spoustu času tím, že nemusí celou odpověď formulovat od nuly sám. Tento postup navíc umožní postupné budování důvěry. Jakmile si uživatel v praxi ověří, že odpovědi, které pro něj AI asistent připravuje, jsou fakticky přesné, konzistentní a kvalitní, může postupně přejít do některého z módů s vyšší asistentovou autonomií.
 
Michal Petrák
Autor článku působí jako obchodní manažer ve společnosti ZEBRA SYSTEMS.
Chcete získat časopis IT Systems s tímto a mnoha dalšími články z oblasti informačních systémů a řízení podnikové informatiky? Objednejte si předplatné nebo konkrétní vydání časopisu IT Systems z našeho archivu.

Inzerce

„Největší rezervu mají firmy ve schopnosti propojit AI s daty a procesy…“

Firmy investují do umělé inteligence, ale většina AI projektů se nikdy nedostane do běžného provozu. Proč mezi úspěšným pilotem a skutečně fungujícím řešením vzniká tak velká propast? O tom, kde podniky při nasazování AI nejčastěji chybují a proč většina AI pilotních projektů nikdy nepřekročí fázi experimentu, hovoří konzultant společnosti Hewlett Packard Enterprise Ladislav Pecen. Uvádí také, jak AI mění požadavky na IT infrastrukturu, jaké nároky přinášejí agentické systémy a proč se dnes do popředí dostává téma datové suverenity.