Podnikové AI si příliš nerozumí s běžnými cloudovými službami

S rostoucím využitím AI se firmy potýkají s novou výzvou. Jejich stávající cloudová infrastruktura často není na nový typ pracovní zátěže připravena. AI aplikace kladou extrémní nároky na infrastrukturu, která pro ně nebyla navržená, což znamená neefektivitu, pomalejší výsledky a zbytečně vysoké provozní náklady. AI zkrátka potřebuje jiný cloud, než firmy doposud používaly.



Většina firem, které začínají s AI, si zprvu vystačí s běžným řešením v cloudu. Jakmile ale nasadí složitější modely a začnou zpracovávat velké objemy dat, narazí na limity unifikované cloudové infrastruktury. Výpočty se zpomalují, provoz se prodražuje a škálování výkonu je komplikované. „Standardní cloudové služby nedokážou pokrýt rostoucí nároky AI aplikací, firmy pro ně potřebují specializovanou infrastrukturu,“ vysvětluje Marián Holý, komerční ředitel vshosting a dodává, že často navíc potřebují garantovaný výkon a bezpečnost, což není v globálních cloudových službách vždy samozřejmostí.

Výpočetní nároky AI jsou totiž diametrálně odlišné od klasických cloudových workloadů. Tradiční servery, jejichž výkon je postavený na CPU, nejsou dostatečně efektivní pro masivní paralelní výpočty, které AI modely vyžadují. Firmy, které se spoléhají na standardní cloudové platformy, proto často naráží na:

  • Pomalejší trénování modelů – běžné cloudové infrastruktury nejsou optimalizované pro výpočty prostřednictvím GPU.
  • Vyšší provozní náklady – nedostatečně optimalizované prostředí vede k větší spotřebě výkonu, a tedy k vyšším nákladům.
  • Komplikované škálování – AI workloady potřebují rychlé navyšování výpočetních zdrojů podle momentálních potřeb.

„Na tyto výzvy je zapotřebí reagovat tvorbou vysoce specializované cloudové infrastruktury určené přímo pro AI workloady, typicky s výkonnými servery osazenými GPU procesory NVIDIA L40S, H100 a H200, které jsou přímo optimalizované pro AI projekty,“ dodává Marián Holý.

Vybudování vlastní AI infrastruktury je ovšem pro většinu firem obrovsky nákladné. Nákup high-end GPU, jejich správná konfigurace a následný provoz se může snadno vyšplhat do milionových částek. Efektivnější cestou je proto využití služeb datového centra, které infrastrukturu pro AI nabízí ve formě služby a kde firma platí pouze za výkon, který skutečně potřebuje a využije. Díky tomu mohou firmy testovat a škálovat své AI aplikace bez finančních rizik a budování vlastní infrastruktury. Mohou se tak plně soustředit na samotný vývoj a provoz svých AI projektů.


 
  

- PR -

Řešení N-able umožnila firmě JKC

snadno přejít na MSP model


Společnost JKC je dlouholetým dodavatelem technologií Kerio – od historických produktů WinRoute a WinRoute Pro, až po aktuální řešení Kerio Connect, Kerio Control a Kerio Operator. Poté, co portfolio produktů Kerio přešlo pod křídla společnosti GFI Software, došlo v důsledku toho i ke změně distributora, kterým se stala společnost ZEBRA SYSTEMS. Avšak v JKC nezůstali jen u GFI a podívali se i na portfolio dalších dodavatelů distribuovaných ZEBRA SYSTEMS. A našli řešení, ve kterém vidí velký potenciál pro další rozvoj a růst společnosti.

  

- PR -

Finanční sektor mezi regulacemi, technologiemi a digitalizací

V aktuálním vydání IT Systems se věnujeme otázkám digitalizace v různých odvětvích, ale nejvíce prostoru dostala tentokrát oblast, ve které obíhají peníze. Finanční sektor totiž prochází hlubokými změnami, včetně rostoucích požadavků legislativy a zavádění nových nezbytně nutných technologií. Požádali jsme proto několik expertů z dané oblasti, aby nám digitální transformaci finančního sektoru pomohli zmapovat.