facebook LinkedIN LinkedIN - follow
IT SYSTEMS 10/2023 , AI a Business Intelligence , Trendy ICT

Podnikové AI na serverech Gigabyte



Hsueh-Li WangServerové technologie pro vyso­ké výpočetní výkony se nedávno začaly potýkat s rostoucí potře­bou implementovat a prozkou­mávat možnosti umělé inteligen­ce. ChatGPT, Bard či Meta AI jsou jen špičkou ledovce skrývající zatím nepředstavitelný potenciál technologií pro strojové učení. Je jasné, že podniky se svými analytiky a „big daty“ cítí svou pří­le­ži­tost pro efektivnější analýzu a zpracování dat, takže hleda­jí pro své potřeby odpovídající hardware. Rozhodli jsme se vy­zpo­ví­dat Hsueh-Li Wanga, Senior EMEA Business Development Managera ze společnosti Giga Computing Technology, která má servery pro AI dostupné u distributora ASBIS CZ.


Můžete představit společnost Giga Computing a její roli na trhu serverů?

Giga Computing je odštěpný závod skupiny GIGABYTE a působí pro GIGABYTE jak v oblasti výroby, tak u obchodních aktivit v oblasti podnikových serverů. Cílem společnosti Giga Computing je vytvořit silnou pozici značky a přilákat investice pro další růst obchodních aktivit společnosti GIGABYTE.

Giga Computing nabízí podniková serverová řešení pro HPC, AI, virtualizaci a Edge Computing a oslovuje všechna odvětví a segmenty trhu – distribuční a prodejní kanály, datová centra, poskytovatele cloudových služeb a klíčové podnikové zákazníky.

Jaké jsou současné trendy v oblasti serverů a jak se jim přizpůsobujete? Projevil se i zde rostoucí tlak na udržitelnost?

Mezi hlavní trendy v současné době patří výpočetní hustota, hybrid­ní computing a energetická účinnost. Společnost Giga Computing reaguje na tyto trendy poskytováním široké škály konfigurovatelných serverových řešení (více než 380 modelů produktů), zakázkovým ODM designem produktů, návrhy celkových řešení (společně s našimi poskytovateli řešení a partnery ISV) a celkovými řešeními pokročilé­ho chlazení (kapalinové chlazení přímo na čip, ponorné chlazení). Udržitelnost je skutečně naléhavým tématem a my ji vítáme tím, že navrhujeme energeticky úsporná serverová řešení, používáme lepší techniky odvodu tepla v našich serverových produktech, zvyšujeme výpočetní hustotu (počet CPU i GPU v jednom systému) a spolupracujeme s partnery pro řešení chlazení, jako jsou Asperitas, CoolIT, Delta Electronics, GRC, Submer, ZutaCore atd.

Jaké nové technologie nebo inovace přinášíte do svých serverů?

Náš inovační program se zaměřuje na tři věci: GPU Computing pro AI/HPC, pokročilá chladicí řešení a konfigurovatelnost systému. Uvedli jsme například naše modely serverů H223-V10-AAW1 a H263-V11-LAW1 založené na nejnovější architektuře NVIDIA GH200 Grace-Hopper, která nabízí vynikající výpočetní výkon pro HPC a AI. Oba modely dosahují vysoké výpočetní hustoty díky svému provedení 2U-2node/2U-4node a připravenosti na kapalinové chlazení přímo na čipu. Oba modely lze nakonfigurovat pro libovolnou kombinaci síťových rozhraní, kapacit místních úložišť a kapacit systémové paměti. Stále jsme ve fázi návrhu a vývoje podobných modelů založených na architektuře Grace-Hopper a Grace-Grace v různých formátech systému, abychom dosáhli ještě vyšší výpočetní hustoty a úrovně výkonu na systém. Dalším příkladem je, že jsme uvedli na trh několik modelů serverů založených na nejnovější architektuře 4. generace Intel Xeon Scalable CPU (kódové označení „Sapphire Rapids“), a to v celém spektru možností výběru dle formátu systému, počtu CPU, počtu GPU a možností kapalinového nebo ponorného chlazení. Sapphire Rapids obsahuje „Intel Advanced Matrix Extensions (AMX)“, což je nové vylepšení společnosti Intel pro trénování hlubokého učení. Tato nová funkce, která je ideální pro pracovní zátěže, jako je zpracování přirozeného jazyka, doporučovací systémy a rozpoznávání obrazu, rozšiřuje integrované možnosti akcelerace umělé inteligence předchozích procesorů Intel Xeon Scalable a zároveň nabízí výrazný nárůst výkonu. Nově je součástí i funkce „Intel Trust Domain Extensions (Intel TDX)“, která nabízí zvýšenou důvěrnost na úrovni virtuálního počítače, čímž zvyšuje soukromí a kontrolu nad daty. V rámci důvěrného virtuálního počítače s technologií Intel TDX jsou hostovaný operační systém a aplikace virtuálního počítače izolovány od přístupu hostitele cloudu, hypervizoru a ostatních virtuálních počítačů na platformě. A konečně další novou schopností generace Sapphire Rapids je „Intel Data Streaming Accelerator (DSA)“, který je navržen tak, aby optimalizoval a zrychloval přesun a transformaci streamovaných dat v sítích, aplikacích náročných na zpracování dat a vysoce výkonných úložištích. Intel DSA urychluje zpracování HPC úloh, protože odlehčuje nejběžnější úlohy přesunů dat, které v měřítku datových center způsobují zatížení procesorů.

Jaké jsou hlavní výhody vašich serverových řešení pro zákazníky ve srovnání s konkurencí? Co považujete za své silné stránky?

Díky našemu inženýrskému know-how v oblasti odvodu a optimalizace tepla, stejně jako v oblasti optimalizace uspořádání obvodů a stability zpracování signálu mohou naše serverové systémy pracovat s výpočetními komponentami s vysokým TDP. To znamená vyšší výkon na systém a lepší kvalitu produktu (nižší počet RMA) ve srovnání s podobnými konstrukcemi od konkurence. Kromě toho, jak již bylo zmíněno, můžeme nabídnout flexibilní konfiguraci produktu díky naší metodě modulární konstrukce systému. To v praxi znamená, že různé části každého produktu v našem portfoliu lze vyměnit/upravit/vylepšit tak, aby vyhovovaly různým případům koncového použití, což rovněž vede k optimalizaci nákladů pro naše zákazníky. Závěrem bych ještě doplnil, že máme nejširší portfolio modelů produktů, vysokou konfigurovatelnost, optimalizované náklady pro zamýšlené případy použití a různé rozpočtové úrovně.

Můžete nám přiblížit některé z vašich nedávných inovací a jejich konkrétní využití?

Pro již výše zmíněné modely serverů H223-V10-AAW1 a H263-V11-LAW1 jsou typickými aplikacemi vědecké výzkumné úlohy - například molekulární analýza a sekvenování genomu, které tradičně spotřebovávají obrovské množství procesorových zdrojů. Dále to jsou simulační úlohy – například předpověď počasí a předpovídání vzorců pomocí analýzy dat, výpočetní dynamika tekutin, simulace a analýza v oblasti geologických věd. Tyto pracovní zátěže vyžadují nízkou latenci při přesunu dat a průchozí komunikaci při předávání zpráv mezi různými částmi zpracování v serverovém systému. Proto se spoléhají na integrovanou systémovou paměť na čipové sadě GPU a speciální propojovací/signálové dráhy mezi GPU a CPU. Procesor má také odlišný architektonický návrh ve srovnání se standardní architekturou CPU.

Jaký druh zákaznické podpory poskytujete? Jakou roli hraje zákaznická podpora v serverových službách?

Při poskytování zákaznické podpory spolupracujeme s našimi obchodními partnery, jako je ASBIS. V případě technické podpory L3 a dalších služeb se do podpory našich obchodních partnerů a jejich zákazníků zapojují naše týmy FAE a R&D. V nizozemském Eindhovenu a německém Hamburku máme kanceláře s našimi místními týmy FAE a montážními techniky, kteří podporují činnost prodejního kanálu (RMA, řešení technických problémů, místní montáž) pro trh EU. Služby zákaznické podpory jsou jedním z nejdůležitějších faktorů úspěchu našeho podnikání. Stále pracujeme na snazším přístupu k dokumentaci produktů a otevřené znalostní databázi pro naše obchodní partnery a zákazníky, aby měli snadný a rychlý přístup k uživatelským informacím.

Jaké prodejní kanály využíváte v České republice? A kde mohou zákazníci získat vaše servery?

V České republice je distributorem serverů Gigabyte společnost ASBIS CZ. Servery jsou prodávány na základě projektů zadaných registrovanými zákazníky na základě specifikací a požadavků, které potřebují. Jejich pracovníci z divize VAD pak na základě těchto požadavků navrhují nejlepší možné serverové řešení. O servery společnosti Gigabyte mají v ČR zájem především datová centra, vzdělávací instituce a systémoví integrátoři. Pokud máte zájem o servery Gigabyte, kontaktujte jejich serverový tým na emailové adrese vad@asbis.cz

Děkujeme za rozhovor.
Foto: Gigabyte

Chcete získat časopis IT Systems s tímto a mnoha dalšími články z oblasti informačních systémů a řízení podnikové informatiky? Objednejte si předplatné nebo konkrétní vydání časopisu IT Systems z našeho archivu.

Inzerce

Zatímco některé firmy cloud teprve objevují, jiné už procitají z euforie

IT Systems 10/2024Obsah aktuálního vydání IT Systems je velmi pestrý a tím více z něj jako dominantní téma vystupuje příloha ERP systémy, která je věnovaná otázkám výběru a implementace klíčového informačního systému většiny podniků. Ve spolupráci se zkušenými experty jsme se zaměřili na problematiku automatizace procesů, trendy v oblasti e-commerce, systémy WMS pro řízení skladů, ale také například cloudovou strategii, kterou už některé podniky začínají přehodnocovat. A chybět samozřejmě nemůže ani téma využití umělé inteligence.