facebook
Exkluzivní partner sekce
Tematické sekce
 
Branžové sekce
Přehledy
 
Tematické seriály
 

GDPR

General Data Protection Regulation zásadně mění zpracování osobních údajů a zavádí nové povinnosti...

články >>

 

Jak uřídit IT projekt a nezbláznit se

Užitečné tipy a nástroje pro řešení problémů řízení inovací a vývoje produktů...

články >>

 

Industry 4.0

Průmysl 4.0

Jaký vliv bude mít čtvrtá průmyslová revoluce na výrobu a výrobní firmy?

články >>

 

Komplexní svět eIDAS

O nařízení eIDAS již bylo mnoho řečeno i napsáno. A proto jediné, o čem...

články >>

 

Trendy v CRM

Systémy pro řízení vztahů se zákazníky (CRM) prochází v posledních letech výraznou změnou. Zatímco dříve...

články >>

 

Příručka úspěšného IT manažera

Dnes je řada IT manažerů opomíjena. Úspěšní bývají brouci Pytlíci a Ferdové...

články >>

 
Partneři webu
Navisys
IT SYSTEMS 5/2019 , AI a Business Intelligence , IT právo

Správně nastavené etické normy umělé inteligence

-sas-


Éra AITři zákony robotiky, jak je v roce 1942 definoval spisovatel Issac Asimov, patří do žánru sci-fi, jenže díky rozmachu umělé inteligence jsou otázky ohledně etiky, odpovědnosti a nadvlády stále aktuálnější a je potřeba na ně hledat odpověď.


Stále více firem investuje do výzkumu a využití umělé inteligence (Artificial Intelligence, AI). Využití AI je totiž velmi lákavé. Je na ní přímo postavena nebo alespoň napojena většina přelomových inovací. To jsou důvody, proč 82 % menších podniků a 93 % těch větších (podle průzkumu IBM) zvažuje zavedení umělé inteligence. Éra AI je tak před námi. Otázkou ale zůstává, jak bude svět za deset či dvacet let vypadat.

Utopická vs. apokalyptická vize budoucnosti AI

Nejčastěji zaznívají dva zcela odlišné názory. První proud má vizi, jíž lze označit jako utopickou. Tedy lidé budou osvobozeni od práce, kterou za ně budou vykonávat roboti a systémy umělé inteligence budou umět diagnostikovat nemoci i je efektivně léčit. Urovnají a vyřeší případné spory a pro lidstvo budou přínosem.

Na opačné straně stojí skeptici prorokující apokalypsu, kdy umělá inteligence převezme nadvládu nad světem a člověka si podřídí. Dojde k naplnění obrazů známých z hollywoodských filmů, typu Terminátor či Já, robot.

Co svěřit AI a co zanechat lidem

Pravděpodobně se nenaplní ani jedno z toho. „Umělá inteligence, ve smyslu, v jakém se s ní v praxi setkáváme již dnes, je totiž ve svém principu založena na jednoznačně definovaných algoritmech,“ připomíná Zuzana Kohútová ze společnosti SAS a dále vysvětluje: „Výzvou při implementaci AI je nastavení relevantních, a přitom nediskriminačních rozhodovacích kritérií. Ve všech případech nasazení AI je nutná transparentnost ohledně účelu i využitých prostředků.“

Umělá inteligence by měla pracovat s daty a na základě jejich analýzy dodávat výsledky. Člověk by pak měl určit závěry, jak se s tím bude dál nakládat. Zkrátka podle mnohých expertů strojům přísluší práce, ale rozhodnutí by mělo zůstat lidem.

Jenže co, když dojde k chybě a umělá inteligence selže? „Odpovědnost za selhání AI je pro svoji složitost oblíbeným tématem odborné veřejnosti už nyní,“ připouští Zuzana Kohútová a dodává: „Prvním úskalím je vymezení produktu ve vztahu k režimu odpovědnosti za vadu výrobku – tedy zda jde pouze o software, resp. jeho část, anebo zda produkt zahrnuje i hardwarovou část. Hledání zavinění za selhání je mnohdy bez znaleckého posudku takřka nemožné. Navíc do provozu technologií založených na AI mohou zasáhnout nepředvídané vnější vlivy, které pak komplikují aplikaci existujících právních norem.“

Legislativa se snaží s vývojem držet krok

Využívání umělé inteligence by mělo být podřízeno nejen legislativě, ale také etickým normám. Boom je však natolik rychlý, že předpisy vznikají postupně a mnohým zemím, včetně Česka, zatím chybí národní strategie pro rozvoj AI. Konkrétní kroky ovšem již podniká EU. Evropská komise aktuálně pracuje na vydání zprávy o možných nedostatcích rámce pro bezpečnost a odpovědnost pro umělou inteligenci, která by mohla například téma odpovědnosti za selhání částečně vyjasnit. Předpokládá také zavedení institucionalizovaného dozoru s ohledem na možná rizika spojeného s využíváním umělé inteligence. To je úkolem tzv. Odborné skupiny na vysoké úrovni pro umělou inteligenci („High-level Expert Group on AI“), která působí při Evropské komisi. Ta v loňském roce vydala Návrh Etických pokynů pro zajištění důvěryhodnosti umělé inteligence a má také za úkol nadále monitorovat vývoj v oblasti AI.

GDPR znamenalo na poli umělé inteligence pokrok

Předpis, kterému především pracovníci v marketingu nemohou přijít na jméno, se dotkl také nasazení a využívání umělé inteligence. „Přestože Nařízení GDPR je vnímáno rozporuplně, z pohledu AI jde o poměrně pokrokový právní předpis, obsahující důležité principy pro její rozvoj. GDPR například stanovuje podmínky, za nichž je možné využívat technologie pro profilování a automatizované rozhodovaní, a poskytuje fyzickým osobám právo na přenositelnost svých osobních údajů k jinému zpracovateli ve všeobecně podporovaném formátu. Obdobné principy je možné pozorovat v Koordinovaném plánu rozvoje a používání AI, který vloni vydala Evropská Komise.“ vysvětluje Zuzana Kohútová.

Kontrola AI v rukou veřejnosti nikoliv elit

Rozmach umělé inteligence, který nás čeká v následujících letech, je nevyhnutelný. Jestliže nyní největší investice míří do AI v bankovním sektoru a maloobchodu, postupně se budou přidávat další odvětví. Patrné to je již nyní ve výrobě a zdravotnictví. Aby se přece jen nenaplnily apokalyptické předpovědi a vize, musí se lidé na změny připravit. „Domnívám se, že kromě dodržování všech základních etických principů, právních norem a odpovídajícího vzdělávaní je nutné, aby přístup k relevantním informacím o využití technologií na bázi AI nebyl výsadou několika veřejných či soukromých subjektů, ale byla zajištěna kontinuální a efektivní kontrola ze strany veřejnosti,“ uzavírá Zuzana Kohútová ze společnosti SAS.

Chcete získat časopis IT Systems s tímto a mnoha dalšími články z oblasti informačních systémů a řízení podnikové informatiky? Objednejte si předplatné nebo konkrétní vydání časopisu IT Systems z našeho archivu.