facebook LinkedIN LinkedIN - follow
Aktuality -> IT společnost - 21. 10. 2020 - Ing. Lukáš Grásgruber

Evropský parlament definoval první pravidla EU pro umělou inteligenci

EU AIPoslanci Evropského parlamentu (EP) přijali 20. 10. návrhy, které prý pomohou správně regulovat umělou inteligenci, a podpoří tak inovace a důvěru v technologie. Podle většiny europoslanců musí být technologie umělé inteligence uzpůsobeny potřebám lidí a navrženy tak, aby umožňovaly lidský dohled. Evropský parlament je jednou z prvních institucí, která tak formulovala doporučení o pravidlech pro umělou inteligenci. Jeho doporučení se týkají jak etických otázek, tak i občanskoprávní odpovědnosti či práv duševního vlastnictví.



Etický rámec pro umělou inteligenci

Legislativní iniciativa, jejímž autorem je Iban García del Blanco, vyzývá Evropskou komisi, aby předložila nový právní rámec, který by stanovil etické zásady a právní povinnosti týkající se umělé inteligence. Tento rámec by se pak uplatňoval při vývoji, zavádění a používání umělé inteligence, robotiky a souvisejících technologií v EU, včetně softwaru, algoritmů a dat.

Budoucí právní předpisy by se měly řídit několika principy: umělá inteligence musí být vytvářená člověkem a zaměřená na člověka, je nutné zajistit bezpečnost, transparentnost a odpovědnost, vytvořit záruky proti stereotypům a diskriminaci, zabezpečit právo na nápravu, dbát na sociální a environmentální odpovědnost a chránit soukromí a osobní údaje.

Pozn. red.: Slovem stereotypy se ve slovníku Evropského parlamentu rozumí fakta, které by měla umělé inteligence ignorovat, aby naplnila představy europoslanců o etice. Pokud bude umělá inteligence například určovat podmínky životního pojištění, nesmí přihlédnout k pohlaví pojištěnce, přestože je prokazatelné, že pohlaví má jednoznačný vliv na hlavní parametr životního pojištění. Objektivní fakta ovšem mohou způsobovat nepříjemné pocity, a proto je potřeba výsledky výpočtů vždy přizpůsobit aktuálním etickým normám.

Podle europoslanců jsou některé technologie umělé inteligence vysoce rizikové, například samoučící se technologie, které by proto měly být navrženy tak, aby nad nimi člověk mohl mít kdykoli dohled. Pokud by takové technologie vedly k vážnému porušení etických zásad a mohly by být nebezpečné, měla by se jejich samoučící funkce vypnout a člověk by nad nimi měl opět získat úplnou kontrolu. Legislativní iniciativa byla přijata poměrem hlasů 559 (pro): 44 (proti): 88 (zdrželo se hlasování).



Odpovědnost za umělou inteligenci způsobující škodu

Druhá legislativní iniciativa, jejímž autorem je Axel Voss, žádá, aby byl vytvořen rámec občanskoprávní odpovědnosti. Podle této právní úpravy by provozovatelé rizikových technologií umělé inteligence nesli objektivní odpovědnost za škody, které by způsobila. Tento právní rámec by se měl vztahovat na případy, kdy fyzická či virtuální činnost umělé inteligence způsobí újmu na životě či zdraví lidí, jejich tělesné integritě nebo majetku. Týkal by se i případů, při kterých by tato činnost způsobila významnou nehmotnou škodu vedoucí k „ověřitelné hospodářské ztrátě“. I když jsou takovéto rizikové technologie umělé inteligence zatím vzácné, poslanci jsou toho názoru, že jejich provozovatelé by měli mít podobné pojištění jako provozovatelé motorových vozidel. Tato legislativní iniciativa byla přijata poměrem hlasů 626 (pro): 25 (proti): 40 (zdrželo se hlasování).


 
  

- Inzerce -

Úsměv namísto podpisu a robot na místě prodavače

IT Systems 11/2020V novém vydání IT Systems se věnujeme trendům v digitalizaci bankovnictví a finančního sektoru, který je sice vnímán jako velmi konzervativní odvětví, ale ve vztahu k informačním technologiím patří naopak mezi ty nejprogresivnější. Tlak konkurence i nebankovních institucí a požadavky zákazníků totiž nutí celé odvětví, aby přijímalo nejnovější technologie.

  

- Inzerce -

Evoluce ransomwaru bude pokračovat

PCSEkosystém kolem ransomwaru se stává stále rozsáhlejší a současně diferencovanější. To znamená na jednu stranu sofistikované útoky dobře organizovaných skupin, někdy spojených i přímo s vládami, na druhé straně rostoucí zájem začínajících kyberzločinců bez zvláštních technických znalostí.