facebook LinkedIN LinkedIN - follow
Aktuality -> Podnikové aplikace a služby - 30. 11. 2023 - Václav Faraga

ChatGPT slaví rok, jeho schopnosti se zvyšují, ale problémy s ochranou dat zůstávají

ChatGPTChatGPT byl v posledních dnech často zmiňován v médiích z důvodu vyhození a návratu CEO a zakla­da­te­le Sama Altmana, který stojí za nezis­ko­vou orga­ni­za­cí OpenAI, která chat­bo­ta vytvo­ři­la. V následujících dnech můžeme očekávat ChatGPT v novinových titulkách znovu, a to díky ročnímu výročí od jeho spuštění. Toto výročí je příležitostí k zamyšlení nad tím, jak dalece jsme pokročili v oblasti AI, a jaké výhody, ale i výzvy nám tato technologie přináší, zejména v oblasti ochrany a zabezpečení dat.



Výročí ChatGPT nám připomíná, jak rychle se umělá inteligence stala klíčovou součástí našeho digitálního světa a využívá ji na 180 milionů aktivních uživatelů. Jako člověk pohybující se léta v IT bych rád zhodnotil významné příležitosti i výzvy, které AI přináší.

Revoluční přínos a velká úspora

ChatGPT poskytuje jedincům, ale i firmám možnost zvýšit svou efektivitu, přesnost, a navíc uspořit náklady. Pomáhá zvýšit efekti­vi­tu automatizací konverzací, díky čemuž lze ušetřit čas a zdroje, a dokáže rychle generovat odpovědi. Firmy tak například mohou rychle a přesně odpovídat na dotazy zákazníků, čímž uvolní zdroje a poskytnou zákazníkům personalizovanější služby. Služba dokáže také generovat přesnější odpovědi než manuální konverzace. Je to proto, že je vycvičen na velkém souboru dat, což mu umožňuje pochopit kontext konverzace a generovat vhodné odpovědi. Přesnost a generativní schopnosti výkonného systému zpracování přirozeného jazyka zvyšuje jeho schopnost učit se z vlastních chyb.

A zřejmě největší výhodou využívání je úspora nákladů, kdy systém dokáže generovat odpovědi podobné lidským v reálném čase, což může pomoci snížit potřebu zaměstnanců například v zákaznického servisu. ChatGPT se navíc dokáže v průběhu času učit a zlepšovat, což dále snižuje potřebu nákladných manuálních aktualizací odpovědí chatbotů. Díky těmto vlastnostem je atraktivním řešením pro firmy, které chtějí zlepšit efektivitu a účinnost svých zákaznických služeb.

Není ale vše tak růžové

I přes všechny zmíněné výhody, které nám ChatGPT už rok posky­tu­je, je však potřeba zdůraznit i možné nevýhody, které je potřeba mít při využívání vždy na paměti. Pokud využíváte nějakou službu, která je založena na umělé inteligenci, je třeba se dívat na to, jakým způsobem bude zacházeno s vašimi daty. Velmi často může nastat, že vaše i citlivá data budou použita pro další trénink a mo­hou se tedy dostat do rukou dalších lidí využívající toto AI řešení.

Jedním z hlavních rizik je únik citlivých dat. Toto nebezpečí není omezeno pouze na AI služby, ale je to obecný problém v IT. Je třeba mít komplexní strategii pro práci s daty, zahrnující procesní, právní a technické aspekty. Firmy by měly definovat odpovědné osoby za jednotlivé části tohoto procesu a pravidelně procvičovat scénáře pro případ bezpečnostních incidentů. V rámci EU poskytuje GDPR solidní základ pro práci s daty. Pro implementaci kvalitních a komplexních řešení je však nutná spolupráce s odborníky. Společnosti jako OpenAI jsou transparentní ohledně svého nakládání s daty, což je vzorový přístup.

I přesto byl ChatGPT během tohoto roku spojován se dvěma inci­den­ty týkající se úniku citlivých dat. Za prvním z nich stála chyba v knihovně s otevřeným zdrojovým kódem, která umožnila uživate­lům neúmyslně nahlédnout do historie chatu a platebních informací jiných uživatelů. Tento incident odhalil omezenou historii chatů a citlivé platební údaje neurčitého počtu uživatelů. Druhý nebyl způ­so­ben vinou OpenAI, ale zaměstnanců společnosti Samsung, kdy se objevily zprávy o tom, že zaměstnanci společnosti používali Chat­GPT k práci s citlivými informacemi, což vedlo k obavám o únik dat. V reakci na tyto zprávy Samsung zakázal svým zaměstnancům pou­ží­vá­ní ChatGPT a dalších generativních nástrojů umělé inteligence. ChatGPT totiž ukládá data, která jsou mu poskytnuta, aby mohl rozšiřovat své znalosti v různých oblastech. Pokud jsou data jednou odeslána, jsou ukládána na externích serverech, ke kterým společnost nemá přístup a nemůže je získat zpět nebo smazat.

Na závěr chci zdůraznit, že využívání AI, jako je ChatGPT, v podnikání přináší nejen příležitosti, ale i zodpovědnost za správné nakládání s daty. Transparentnost, pravidelné školení a pečlivé procesy jsou klíčem k ochraně dat v digitálním věku. Je důležité, aby provozovatelé a uživatelé umělé inteligence dodržovali příslušné zásady ochrany dat a bezpečnostní postupy, aby minimalizovali riziko úniku dat. A pokud pracujete s citlivými informacemi, měli byste být opatrní při používání ChatGPT a podobných nástrojů umělé inteligence a dodržovat příslušné bezpečnostní postupy.

Václav Faraga Václav Faraga
Autor je zakladatelem a CEO IT společnosti Able.

 
  

- PR -

S mluvícím skladem firmy ušetří až 25% nákladů

Tempo růstu firem nabírá na obrátkách. Počet zákazníků roste, zvyšuje se obrat, ale co dělat, když najímání nových zaměstnanců nestačí na stále rychlejší zpracování objednávek? Existuje řada řešení, která při stávajících zásobách a stavech zvýší produktivitu až o 35%, přičemž uspoří firemní náklady až o 25%.

  

- PR -

Multi-fyzikální simulace v elektrotechnice s využitím AI

AI nabízí skvělý kompromis mezi rychlostí a přesností pro koncepční simulace


Společnosti Altair Engineering a Schneider Electric spojily síly v projektu, který bychom vám rádi prezentovali jako ukázku úspěš­né­ho využití multi-fyzikálních simulací v elektrotechnické praxi.