Příloha AI , AI a Business Intelligence

Kde a jak využít AI

Jak najít místa, kde využít AI, a nenechat se strhnout módními trendy?

Jiří Eckstein


Tlak na adopci nových technologií je ve velkých organizacích enormní a s umělou inteligenci to není jinak. Nejenže může pomoci zjednodušit stávající procesy, ale také s sebou nesou příslib revoluce ve fungování celé společnosti. Firmy se tedy oprávněně bojí, aby nezaspaly dobu a udržely krok s konkurencí. Jak ale identifikovat ty správné příležitosti, pro které se hodí schopností AI využít, a nenechat se strhnout módními trendy? Podívejme se na hlavní kritéria, která byste měli při rozhodování o využití AI uvážit.


1. Variabilita problému

Jednou z hlavních předností generativní AI je pochopení významu různorodého, nestrukturovaného vstupu. Pohledem z opačné strany, pokud je řešená situace pokaždé stejná, tenhle benefit nevyužíváme a možná by nám stačila nějaká “starší” technologie.
 
Příklad: Chci zákazníkovi poslat email k narozeninám. Pozná vůbec zákazník, že jeho zpráva je unikátně generovaná? Pokud ne, zapojil bych AI zbytečně, lepší by bylo užít jednoduchou šablonu. Pokud by ale zpráva měla být hyperpersonalizovaná a obsahovat velké množství variabilních vstupů, pak se může ukázat AI generovaná zpráva jako nevyhnutelné řešení.

2. Tolerance chybovosti

AI řešení mohou občas “halucinovat”, generovat nesprávné, nepodložené odpovědi. Proto musíme vyhodnotit, jestli je v daném případě správnost a pravdivost klíčová, nebo dokážeme určitou míru chyb tolerovat.
 
Příklad: Tradingové pokyny a právní dokumenty by obecný LLM generovat neměl, ale určovat sentiment zákaznické zpětné vazby pro její lepší kategorizaci může – zde je jistá chybovost nevyhnutelná a případný omyl nemá velké dopady.

3. Dostupnost dat

Pokud potřebujeme AI model ladit nebo trénovat, musíme mít k dispozici kvalitní, čistá data. Stejně tak v systémech typu RAG (retrieval-augumented generation, obohacení kontextu jazykového modelu o dodatečné informace, často např. firemní dokumenty) musíme hlídat, zda máme zdrojových dokumentů dostatek (pokrývají informačně danou doménu), jsou dohledatelné a v neposlední řadě aktuální.
Takové požadavky na firemní data nejsou nic nového, nebo výhradně spojeného s AI. Ale udržovat pořádek v informačních zdrojích, zejména typu Confluence nebo Sharepoint, je velká výzva pro nejednu společnost.
 
Příklad: Představme si chatbota, který na základě dostupných dokumentů odpovídá na otázky zákazníků. Co se asi stane, pokud se zákazník zeptá na otázku, pro kterou se mezi dokumenty najdou dvě opačné odpovědi, třeba proto, že jeden z nich už měl být dávno aktualizován?

4. Komplexní zpracování

Jazykové modely mohou být vnímány jako inteligentní, ale nelze to aplikovat na všechny situace. Jazykový model si sám o sobě neporadí s velkou datovou sadou nebo s relativně složitými pravidly zpracování dat. Obecněji řečeno, jazykový model si lépe poradí s jazykovým zadáním, nikoliv se strukturovanými daty.
To ale neznamená, že ve zpracování dat nemůže AI pomoci. Uživatelé většiny hlavních poskytovatelů LLM ví, že model si dokáže napsat pomocný skript a pomocí něj datově náročné úlohy vyřešit. Je to ale pomoc jednorázová, vývojářská, určitě bychom nechtěli mít takto zapojenou AI v běžných procesech.
 
Příklad: Chci vytvořit nový report. AI nebudeme posílat každý měsíc čísla z databáze, aby je zpracovala do agregovaných hodnot podle komplikovaného zadání plného business definic. Raději vyvineme skript, do kterého celé zadání pečlivě promítneme, s tím nám AI může také pomoct, ale nemusí to dělat každý měsíc znovu.

5. Náklady

Tohle téma je potřeba řešit u každého projektu, ale u AI je není vždy jednoduché určit. Jednak nemusí být snadné dopředu odhadnout potřebnou úroveň jazykového modelu, což s sebou nese až řádově odlišné provozní náklady, a pak je také potřeba počítat s variabilitou výstupů. Cloudové modely se totiž účtují mj. podle objemu generovaného výstupu, ten ale může být závislý na situaci a náhodě.
Zprovoznění LLM na vlastní infrastruktuře je pak sice předvídatelnější na provozní náklady, ale technologicky složitější, a navíc neodstraňuje problém s odhadem náročnosti problému.

Shrnutí

Umělá inteligence přináší mnoho nových možností, ale přináší benefity pouze, pokud se k její implementaci přistupuje uváženě. Klíčové je porozumění skutečným schopnostem AI a realistické zhodnocení jejich přínosu i rizik s nimi spojenými. LLM jsou velmi sofistikovaný nástroj s velkým potenciálem, ale to neznamená, že je to nástroj pro každou příležitost.
 
Jiří Eckstein
Autor článku působí jako data scientist v konzultačně-technologické společnosti Lundegaard, kde se zaměřuje na rozvoj datových řešení a implementace umělé inteligence.
Chcete získat časopis IT Systems s tímto a mnoha dalšími články z oblasti informačních systémů a řízení podnikové informatiky? Objednejte si předplatné nebo konkrétní vydání časopisu IT Systems z našeho archivu.