Umělá inteligence dnes píše články, vytváří reklamní fotografie i napodobuje lidský hlas. Odlišit její výstupy od autentického obsahu vytvořeného člověkem bývá stále obtížnější. AI Act proto zavádí povinnosti, které mají původ takového obsahu zprůhlednit. Neznamená to, že každý text upravený chatbotem musí obsahovat upozornění „vytvořeno AI“. V některých případech to však bude nutné.

 

AI Act rozlišuje mezi poskytovatelem AI systému, který systém AI zpravidla vyvíjí a uvádí jej na trh, a profesním uživatelem AI systému, označovaným jako „zavádějící subjekt“. První okruh povinností v oblasti transparentnosti a označování AI obsahu dopadá na poskytovatele AI systémů. Druhý okruh se týká zavádějících subjektů, tedy zejména firem, které AI běžně užívají při své činnosti (např. pro firemní marketing). Podnikatel využívající systém AI poskytovaný třetí osobou tak bude mít úplně jiné povinnosti než vývojář a provozovatel vlastního AI systému.

Poskytovatelé AI systémů musí podle AI Actu jednak zajistit, aby systémy AI určené k interakci s fyzickými osobami byly navrhovány a vyvíjeny tak, že dotčení uživatelé budou vyrozuměni o tom, že komunikují s umělou inteligencí. Dále jsou poskytovatelé povinni zajistit, aby výstupy AI systémů (např. generované texty, obrázky, zvuk či videa) nesly strojově čitelné označení a jejich umělý původ byl zjistitelný. Tato povinnost se nevztahuje na případy, kdy AI pouze pomáhá s běžnými úpravami obsahu (např. opravuje pravopis nebo podstatně nemění význam obsahu). Konkrétní řešení pak bude muset odpovídat povaze výstupu a technickým možnostem poskytovatele. AI Act totiž po poskytovatelích požaduje, aby jejich technická řešení byla účinná, interoperabilní, robustní a spolehlivá, pokud je to technicky proveditelné. 

 

Naopak povinnosti zavádějících subjektů v oblasti označování AI obsahu se týkají především tzv. deepfake obsahu a textů zveřejňovaných za účelem informování veřejnosti. Subjekty zavádějící systém AI, který vytváří obrazový, zvukový nebo video obsah představující tzv. deepfake, nově mají povinnost zveřejnit, že obsah byl uměle vytvořen či upraven. Netýká se to však jen podvržených videí politiků. Rozhodující je, zda deepfake připomíná existující osoby, předměty, místa, subjekty nebo události a může tak nepravdivě působit jako autentický. 

 

U deepfake bude podstatný klamavý dojem z vytvořeného obsahu, nikoli úmysl autora někoho oklamat. Naopak zjevně fantastická vyobrazení (např. fotografie skutečně existující osoby s křídly vznášející se nad řekou) nebude automaticky považována za deepfake jen proto, že vznikla pomocí AI.

Zavádějící subjekty, které uveřejňují text vygenerovaný systémem AI, jehož účelem je informování veřejnosti o záležitostech veřejného zájmu, mají dále také povinnost uvést, že takový text byl uměle vytvořen nebo s ním bylo manipulováno. Vedle zpravodajství sem mohou patřit například články o zdraví, ochraně životního prostředí, ekonomickém vývoji apod. 

AI Act dále stanoví několik výjimek z povinnosti označování AI obsahu, které je nutné rozlišovat podle jejich účelu. Při komunikaci s AI není zvláštní upozornění nutné, pokud je z pohledu přiměřeně informované, pozorné a obezřetné fyzické osoby zřejmé, že komunikuje se systémem umělé inteligence. Zvláštní výjimky se rovněž uplatní na vybrané AI systémy, které jsou ze zákona používány při odhalování, prevenci, vyšetřování či stíhání trestné činnosti.

Texty zveřejňované za účelem informování veřejnosti o záležitostech veřejného zájmu rovněž nemusí být označeny, pokud byly podrobeny procesu redakční kontroly nebo přezkumu člověkem a za jejich zveřejnění nese redakční odpovědnost fyzická či právnická osoba. V praxi ovšem bude muset jít o skutečné posouzení uměle vytvořeného textu člověkem, včetně ověření důležitých faktů. Pouhé letmé pročtení textu, stylistická či gramatická korektura nebude pro splnění zákonné výjimky dostačující.

Jak vygenerovaný AI obsah správně označit, aby vyhověl požadavkům AI Actu? Označení musí být jasné, rozpoznatelné a dostupné nejpozději při prvním kontaktu s uměle vytvořeným obsahem. Například u obrázku lze použít čitelný štítek „vytvořeno pomocí AI“, u článku upozornění vložit na viditelné místo – ideálně poblíž titulku. U rozsáhlejšího obsahu se doporučuje zajistit průběžné zobrazování upozornění nebo opakování informace – v závislosti na okolnostech dané situace. U videa nebo čistě zvukového deepfaku je vhodné oznámení učinit v úvodu videa nebo zvukového záznamu tak. Zmínka v obchodních podmínkách nebo vložení informace do skrytých metadat souboru zpravidla nebude pro splnění zákonné povinnosti dostačující. Dodržování zákonných povinností není vhodné podcenit. Porušení povinností transparentnosti totiž může vést k vysokým pokutám až do výše 15 milionů eur nebo 3 % celosvětového ročního obratu za předchozí účetní období.