facebook LinkedIN LinkedIN - follow
IT SYSTEMS 3/2022 , AI a Business Intelligence , IT právo

Nestane se evropská regulace umělé inteligence další byrokratickou pastí?

-idc-


EUSvět ICT upoutává stále větší pozornost zákonodárců a regulač­ních orgánů. V EU je aktuálním tématem například umělá inteligen­ce, která by už brzy měla být regulována nařízením, jehož podobu unijní zákonodárci v současnosti finalizují a které je známé pod názvem Akt o umělé inteligenci. Bude jeho přijetí znamenat příležitost, nebo naopak hrozbu pro další rozvoj technologií? Návrh evropského nařízení Akt o umělé inteligenci v sobě skrývá obě možnosti. Může se stát všestranně přínosným legislativním rámcem, který inspiruje celý svět, stejně jako byrokratickou pastí.


Praktickou realizaci většiny regulací doprovází administrativní zátěž a náklady související s přijímáním požadovaných opatření a pokud míra byrokracie a výskytu překážek překoná určitou mez, může dotčené subjekty odradit od dalšího působení v daném oboru nebo oblasti. V případě přeregulované aplikace moderních technologií vzniká riziko zaostávání, jež se přímo promítne do stavu a dalšího vývoje ekonomiky.

„Pro byznys je klíčové, aby pravidla pro regulaci umělé inteligence byla jasná, srozumitelná, snadno implementovatelná, aby pos­ky­to­va­la dostatečnou ochranu, zajišťovala transparentnost a zároveň nedusila využití technologií umělé inteligence a jejich inovace,“ říká Zuzana Kocmaníková, generální ředitelka IBM Central, a dodává: „Bez konzultací s byznysem, který tyto technologie vyvíjí a prak­tic­ky využívá, se takového stavu nedosáhne. Proto se velmi aktivně zapojujeme do vyjednávání o Aktu o umělé inteligenci, zejména prostřednictvím zaměstnavatelských svazů a obchodních asociací.“

Analytici společnosti IDC se rozhodli namodelovat možné dopady Aktu o umělé inteligenci na evropský trh softwaru s umělou inte­li­gen­cí. Pod vedením Jacka Vernona, odborníka na otázky umělé inte­li­gen­ce, vytvořili předpověď, která pracuje se třemi scénáři: vyrov­na­ným, negativním a ideálním. Rozdíly mezi nimi pramení z pěti základ­ních faktorů nestability a z jejich vzájemně se ovlivňujících vztahů.

Obr. 1: Modelové scénáře budoucího vývoje evropského trhu softwaru s umělou inteligencí. Zdroj: IDC 2022
Obr. 1: Modelové scénáře budoucího vývoje evropského trhu softwaru s umělou inteligencí. Zdroj: IDC 2022

Faktory nestability

Prvním a nejdůležitějším z faktorů nestability jsou regulatorní procesy. I přes poměrně detailní zpracování Aktu o umělé inteligenci jsou konkrétní postupy regulační činností Evropské rady pro umělou inteligenci příliš obecné a není z nich patrné, jak budou při posuzování reálných problémů fungovat. Současně v návrhu chybí také časové specifikace jednotlivých kroků. Ty jsou důležité mimo jiné proto, že firmy budou muset reportovat jakékoliv změny v chování vlastních programů, které ovlivňují fungování či mění výstupy celého systému. Může se tak stát, že při prudkém nárůstu používání umělé inteligence, což je varianta, s níž společnost IDC počítá, dojde k zahlcení Evropské rady pro umělou inteligenci a k následnému zpomalení schvalovacího procesu.

Druhým faktorem je schopnost Evropské unie rychle vypořádávat právní otázky a případné soudní spory. Pokud nezvládne rychle odstraňovat a objasňovat šedé zóny v aplikaci nové legislativy a aktivně tak zvyšovat kredibilitu systému vlastní regulace, může to negativně ovlivnit snahu firem o zavádění inovací. Některé mohou přesunout část svých aktivit do jiných částí světa nebo do systémů, jejichž vývoj a aplikace nebude muset schvalovací řízení podstupovat.

Právě reakce dodavatelů dávají obsah třetímu faktoru. Jak se trh adaptuje a jaká bude jeho reakce na konkrétní regulatorní požadavky? Z dat společnosti IDC vyplývá, že se výdaje na umělou inteligenci budou v globálním měřítku v následujících letech výrazně zvyšovat. Pokud ale v některém světovém regionu dodavatelé narazí na komplikovanou, případně chaoticky aplikovanou právní úpravu, mohou své působení v něm přehodnotit. Jestliže důsledky přijetí Aktu o umělé inteligenci nabydou podoby negativního scénáře, může evropský trh softwaru s umělou inteligencí růst výrazně pomaleji než v jiných regionech.

Poslední faktor nestability souvisí s náklady na regulaci. V nejhorším zvažovaném scénáři se proces schvalování stane pomalým, neefektivním a nákladným. Vysoká byrokratická zátěž svými důsledky oslabí konkurenceschopnost malých a středních dodavatelů, kteří nedisponují dostatečnou administrativní kapacitou pro jeho efektivní zvládnutí.

„Odvrácenou stranou regulace je jednak to, jak přísná a rigidní její pravidla budou, a jak byrokraticky náročné bude pro firmy jejich vykazování,“ doplňuje Dalibor Kačmář, ředitel pro technologické standardy ve společnosti Microsoft Česká republika. „Příliš přísná regulace nebo neúměrná byrokratická zátěž spojená s využíváním technologií umělé inteligence může mít za následek zpomalení vývoje. Naše společnost je v průběhu tvorby nařízení Akt o umělé inteligenci aktivní. Poskytujeme na lokální i regionální úrovni dlouholeté zkušenosti z praxe a průběžně text chystaného nařízení komentujeme.“

Obr. 2: Variantní nastavení faktorů nestability. Zdroj: IDC 2022
Obr. 2: Variantní nastavení faktorů nestability. Zdroj: IDC 2022

Dopady na trh evropského softwaru s umělou inteligencí

Přiložený graf ilustruje aktuální odhady působení tří scénářů dopadu Aktu o umělé inteligenci na růst evropského trhu softwaru s umělou inteligencí v letech 2022 až 2028. Kvůli postupnému zavádění regulace analytici IDC letos neočekávají velké výkyvy. Výjimku tvoří scénář ideálního přechodu, ve kterém by k lehkému poklesu trhu došlo. Evropská unie by v jeho rámci rychle vykomunikovala změny a parametry nové právní úpravy a dodavatelé by na to okamžitě zareagovali a alokovali prostředky na přípravu řízení.

„Každá regulace musí být pečlivě vyladěná tak, aby nezpomalovala tempo inovací v oboru, ať už v základním výzkumu, tak v prak­tic­kých aplikacích,“ doplňuje k otázce reakce trhu Petr Baudiš, zakla­da­tel a technologický ředitel společnosti Rossum. „Myslím, že dopad algoritmů a umělé inteligence na společnost je významný, obrovsky pozitivní, zároveň ale v případě individuálních dopadů – a zejména automatizovaných rozhodnutí dopadajících na jednotlivé osoby – musí provozovatelé umělé inteligence nést společenskou zodpovědnost.“

Rok 2023 se stane rozhodujícím. Nejhorší scénář by znamenal propad o více než 17procentních bodů růstu obratu evropského trhu softwaru s umělou inteligencí oproti původní předpovědi.

Obr. 3: Vliv scénářů dopadu Aktu o umělé inteligenci na evropský trh softwaru s umělou inteligencí. Zdroj: IDC 2022
Obr. 3: Vliv scénářů dopadu Aktu o umělé inteligenci na evropský trh softwaru s umělou inteligencí. Zdroj: IDC 2022

Legislativní úprava využití umělé inteligence ale dodavatelům nepřináší jen administrativní zátěž, což dokládá komentář Jana Romportla, ředitele centra umělé inteligence O2 Czech Republic: „Důležité pro nás je, že Akt o umělé inteligenci přinese rovnější konkurenční podmínky. Už nebudeme mít horší konkurenční pozici jenom proto, že se dobrovolně snažíme na etické a bezpečnostní věci spojené s umělou inteligencí dbát, zatímco leckterá konkurence trochu řeže zatáčky.“

Perspektivy s otazníkem

„Pokud legislativním procesem projde nařízení v podobě, která nebude odpovídat představám a potřebám dodavatelů a jejich zákazníků, můžeme čekat odliv investic, know-how a tržeb do jiných regionů,“ říká Ondřej Plachý, analytik společnosti IDC pro oblast umělé inteligence.

  2020 2021 2022 2023 2024 2025
Výdaje na služby, infrastrukturu a software (miliony dolarů) 9 681 12 604 16 124 20 614 26 520 34 165
Podíl na globálních výdajích (%) 13,7 13,9 14,0 14,3 14,7 15,1

Tab. 1: Evropské výdaje na řešení umělé inteligence v letech 2020 až 2025. Údaje nezahrnují Velkou Británii, Norsko, Švýcarsko a Rusko. Hodnoty z let 2021 až 2025 jsou predikované. Jde o služby, infrastrukturu a software, které podporují systémy, jejichž primární funkce využívají umělou inteligenci. Zdroj: IDC 2022

Chcete získat časopis IT Systems s tímto a mnoha dalšími články z oblasti informačních systémů a řízení podnikové informatiky? Objednejte si předplatné nebo konkrétní vydání časopisu IT Systems z našeho archivu.

Inzerce

Konec papírování, digitalizujte a usnadněte si práci!

IT Systems 3/2024V aktuálním vydání IT Systems jsme se zaměřili na vývoj digitalizace ve světě peněz, tedy v oblasti finančnictví a pojišťovnictví. Dozvíte se například, proč je aktuální směrnice PSD2 v inovaci online bankovnictví krokem vedle a jak by její nedostatky měla napravit připravovaná PSD3. Hodně prostoru věnujeme také digitalizaci státní správy a veřejného sektoru, která nabírá obrátky.