Nařízení o umělé inteligenci – základní kámen pro regulaci umělé inteligence

Nařízení o umělé inteligenci je první legislativní iniciativou na světě směřující k regulaci umělé inteligence. Cílem Nařízení je zajistit, aby systémy umělé inteligence v Evropě byly bezpečné a respektovaly základní práva a hodnoty, podporovaly investice a inovace v oblasti umělé inteligence a podpořily jednotný trh EU pro umělou inteligenci. Přesto, že Evropa není světovým lídrem v oblasti samotného vývoje umělé inteligence (ve srovnání např. s USA nebo Čínou), stává se v tuto chvíli lídrem v její regulaci.

Zajímavé je, že Nařízení se snaží stanovit definici umělé inteligence. „Systémem umělé inteligence“ se podle něho rozumí autonomní software, který je vyvinut pomocí technik a postupů uvedených v příloze Nařízení a který může pro určitou sadu cílů definovaných člověkem generovat výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí, jež mají schopnost ovlivnit prostředí, s nimiž komunikují. V praxi bezesporu brzy uvidíme, do jaké míry bude tato definice přiléhavá.

Nařízení o umělé inteligenci rozlišuje celkem čtyři kategorie rizik týkajících se umělé inteligence, kterými je riziko (i) nepřijatelné, (ii) vysoké, (iii) omezené a (iv) nízké nebo minimální. Systémy umělé inteligence spadající do kategorie nepřijatelného rizika mají být bez dalšího zakázány. Příkladem systémů spadajících do této kategorie může být užívání biometrické identifikace na dálku v reálném čase na veřejných prostranstvích, užívání sociálních skórovacích systémů, nebo užívání technik podprahového ovlivňování těžících ze zranitelnosti určitých skupin.

Vysoce rizikové modely umělé inteligence by měly být povoleny, budou však muset splňovat přísné požadavky stanovené Nařízením a projít posouzením shody, které bude muset být provedeno ještě před uvedením systému na trh. Tyto vysoce rizikové systémy budou muset být rovněž zaregistrovány v databázi EU, která by měla být pro tyto účely zřízena. Provozování vysoce rizikových modelů umělé inteligence bude vyžadovat zavedení vhodného systému řízení rizik, který bude podléhat pravidelným aktualizacím, dále bude nutné vypracování technické dokumentace a její průběžná aktualizace a v neposlední řadě také lidský dohled, který bude zaměřen na prevenci a minimalizaci rizik vysoce rizikového systému. Za vysoce rizikové systémy umělé inteligence by měly být dle aktuálního textu Nařízení považovány například systémy související s provozem kritické infrastruktury, systémy používané při náborových procesech nebo při hodnocení zaměstnanců, systémy automatizovaného zpracování pojistných událostí nebo systémy pro nastavování rizikového pojistného pro zákazníky.

U systémů umělé inteligence s omezeným nebo nízkým rizikem by neměla být nastavena žádná zásadně omezující regulatorní pravidla. Bude u nich primárně vyžadována transparentnost, tj. jejich uživatel bude muset být vždy dopředu informován o tom, že přichází do styku s umělou inteligencí. Do této oblasti můžeme zařadit systémy umělé inteligence, jako jsou například chatboti nebo systémy rozpoznávajících emoce či manipulující s obrazovým, zvukovým nebo video obsahem (tzv. deepfakes).

Novinkou připravovaného Nařízení je také zřízení tzv. Evropské rady pro umělou inteligenci, která se bude skládat ze zástupců členských států a Evropské komise a jejím účelem bude především provádění Nařízení a zajišťování legislativní harmonizace napříč členskými státy. Na vnitrostátní úrovni pak budou členské státy mít povinnost zřídit dozorové orgány, které budou na dodržování Nařízení v jednotlivých zemích dohlížet. Sankce za nedodržení podmínek Nařízení se budou pohybovat od 10 milionů eur do 40 milionů eur nebo od 2 % do 7 % celosvětového ročního obratu porušujícího subjektu (v závislosti na závažnosti porušení). Správné porozumění podmínek Nařízení a jejich dodržování tak bude pro povinné subjekty zcela zásadní.

Jak je to s autorsko-právní ochranou výtvorů umělé inteligence?

Umělá inteligence se v dnešní době vcelku hojně využívá k tvorbě různých textů, fotomontáží, obrazů nebo audio-vizuálních záznamů, které by v řadě případů požívaly autorskoprávní ochrany, pokud by byly vytvořeny člověkem. Jak je tomu ovšem v případě, kdy jsou vytvořeny systémem umělé inteligence? Vztahuje se na podobné výtvory ochrana autorského zákona? Odpověď na danou otázku je v tuto chvíli spíše zamítavá – tedy nikoliv. Podle českého autorského zákona je předmětem práva autorského dílo literární a jiné dílo umělecké a dílo vědecké, které je jedinečným výsledkem tvůrčí činnosti autora (tj. autorovým vlastním duševním výtvorem) a je vyjádřeno v jakékoli objektivně vnímatelné podobě, včetně podoby elektronické.

Podmínku, kterou výtvor umělé inteligence ve vztahu k zákonné úpravě nesplňuje, je právě podmínka „tvůrčí činnosti“ a „vlastního duševního výtvoru“ autora, která se vztahuje pouze k fyzickým osobám. Podle aktuálně platné autorskoprávní legislativy, a to nejen té české, ale také evropské či americké, nepožívá výtvor autonomně vygenerovaný umělou inteligencí autorskoprávní ochrany, a to z důvodu absence tvůrčí činnosti fyzické osoby. Činnost umělé inteligence je totiž dnes považována za činnost čistě mechanickou, tedy „netvůrčí“, která nenaplňuje pojmový znak tvůrčí činnosti autora – jakožto fyzické osoby. Nic na tom nemění ani skutečnost, že samotná umělá inteligence jakožto autonomní systém byla vytvořena a vytrénována člověkem. Zůstává samozřejmě velkou otázkou, zda bude takovýto přístup k výtvorům umělé inteligence dlouhodobě udržitelný i do budoucna, ale to ukáže čas.

Potenciál využití umělé inteligence ve farmaceutickém průmyslu

V oblasti farmaceutického průmyslu umělá inteligence pracuje už delší dobu, a to hned na několika „frontách“. Pomineme-li procesy testování léků, tak k jejímu uplatňování dochází především v oblasti vyhodnocování vysoce komplexních farmaceutických studií, které v několika fázích probíhají u vývoje každého léčiva. Předpokládané budoucí využití umělé inteligence při objevování a vývoji léků je tedy značné. Využití algoritmů umělé inteligence při zpracování obrov­ské­ho množství relevantních dat (např. ve zkoumání chemického složení různých molekul nebo při výzkumu dokumentů a dat o pacientovi) totiž výrazně zvyšuje efektivitu analýzy těchto informací.

V dnešní době je možné tato obrovská množství dat vyhodnocovat a porovnávat díky umělé inteligenci velmi rychle, efektivně a do značné míry bez zapojení lidského faktoru, kdy například rozhovor s pacientem a tzv. zjišťování dopadů, vedlejších účinků, projevů a dalších aspektů léku provádí umělá inteligence. Je to dozajista posun v rychlosti a kvantitě zpracování těchto dat. Současně lze umělou inteligenci využít i k činnosti v dalších oblastech, kterou dříve prováděl člověk (např. v rámci vědeckého zkoumání). Budoucnost využití umělé inteligence ve farmaceutickém průmyslu však spočívá i v jejím využití ke zlepšení konstrukčních technik a procesů návrhu léků, což významně snižuje nejen zdravotní rizika spojená se studiemi, ale i náklady na vývoj léčiv. V neposlední řadě se potenciál umělé inteligence v oblasti farmaceutického průmyslu skrývá i v procesu „objevování“ léků, kde její síla spočívá v kooperaci s profesionálními farmaceutickými týmy soukromých korporací. Umělá inteligence je proto jedním ze stěžejních oborů farmaceutického průmyslu a do jisté míry můžeme říct, že i jeho budoucností.

Závěr

Umělá inteligence má bezesporu velký potenciál a široké využití napříč jednotlivými obory. Má ovšem i své stinné stránky a její potenciální zneužití (např. v ovlivňování volebních výsledků prostřednictvím tzv. deepfakes) by mohlo mít nedozírné dopady na dnešní společnost a její stávající uspořádání. Z toho důvodu je rozhodně důležité myslet i na vhodnou regulaci umělé inteligence, o kterou se dnes v rámci Evropské unie pokouší právě připravované Nařízení. Zda bude právní regulace umělé inteligence v praxi nakonec dostatečně účinná a efektivní a zda splní svůj zamýšlený účel, je věc druhá, která se teprve ukáže časem.

JUDr. Jiří Matzner, Ph.D., LLM. Autor článku je zakladatelem advokátní kanceláře MATZNER Legal.