Aktuality -> Hardware - Včera - redakce

Zařízení pro ladění AI modelů přímo na pracovním stole

Společnost Dell Technologies uvádí novinku určenou k ladění AI modelů přímo na pracovním stole. Kompaktní zařízení s označením Dell Pro Max s GB10 přináší výkon, který byl dříve možný výhradně v datových centrech. Umožňuje to architektura NVIDIA Grace Blackwell optimalizovaná pro desktopy. Díky tomu lze na zařízení spouštět a trénovat modely umělé inteligence s až 200 miliardami parametrů. A komu by to nestačilo, může propojit dvě zařízení dohromady a výkon tak prakticky zdvojnásobit.



Je to počítač určený pro uživatele, kteří obrazně řečeno umělou inteligenci vychovávají, tedy pro vývojáře velkých AI modelů. Jeho smyslem není spouštění běžných aplikací, ale trénování a provozování AI modelů přímo na stole uživatelů bez závislosti na cloudu, což snižuje náklady a zvyšuje zabezpečení uživatelských dat," vysvětluje Petr Zajíček z Dell Technologies.
 
 
Dell Pro Max s GB10 vyžívá 128 GB LPDDR5x paměti sdílené mezi GPU a CPU, což v praxi znamená, že dokáže celý AI model s až 200 miliardami parametrů načíst přímo do paměti a pracovat bez jakýchkoliv omezení. GPU díky propustnosti 273 GB/s zvládá extrémně rychlý přesun dat, což umožňuje plynulý běh i u takto rozsáhlých modelů. Především ale využívá speciální výpočetní jednotky NVIDIA, tzv. Tensor Cores, které byly navrženy přímo pro AI a umožňují paralelně a velmi rychle počítat obrovské množství parametrů.
Zařízení běží na operačním systému určeném přímo na práci s umělou inteligencí Ubuntu Linux s NVIDIA DGX OS. Uživatelé tak mohou spustit trénování AI modelů prakticky hned pro rozbalení.
 
 
Zařízení Dell Pro Max s GB10 pomáhá překonat překážky, které doposud mohly limitovat vývoj v oblasti umělé inteligence. I nejvýkonnější pracovní stanice umožňují pracovat s AI modely s maximálně zhruba 30 až 40 miliardami parametrů. V určitém bodě tak mohou vývojáři narazit na limity systémů. To sice mohou kompenzovat využitím cloudu, ale pro týmy, které chtějí s AI dlouhodobě experimentovat, to znamená vysoké náklady a také bezpečnostní rizika.

 
  

- PR -

Řešení dopravy v IS KARAT

Od verze 24 je v informačním systému KARAT k dispozici nové řešení pro řízení a plánování dopravy. Toto řešení vzniklo na základě požadavků zákazníků pro sofistikovanější přístup k plánování a řízení dopravy v IS KARAT bez zbytečných investic a propojení na systémy třetích stran.

  

- PR -

IQHUBS: když data rozhodují o budoucnosti výroby

Moderní továrny jsou technologicky vyspělé – stroje, linky, roboti – ale když se vedení ptá: „Proč klesla produktivita?“, odpověď chybí. Reporty přicházejí pozdě, čísla se rozcházejí. Rozhodování bez spolehlivých dat pak vede k nižší efektivitě a vyšším nákladům. A právě to je paradox: technologie jsou všude, ale chytrá data chybí. Proto jsme vyvinuli systém, který tento začarovaný kruh rozbíjí. Nad výrobou leží informační mlha a tu zvedáme.