Jedním ze základních prvků AI Actu je jeho působnost, která přesahuje hranice Evropské unie. To znamená, že jeho pravidla budou muset dodržovat i společnosti sídlící mimo EU, pokud mají jejich nástroje přesah na evropský trh. Další povinností je určení zástupce, který bude za dodržování pravidel zodpovědný, i když v rámci EU nesídlí, ale pouze působí. Týká se to tak například amerických nebo čínských technologických společností.

Za porušení pravidel AI Actu mohou firmy čelit pokutám až 35 milionů eur nebo 7 % jejich celosvětového ročního obratu, což je podobné úrovni sankcí za porušení GDPR. V případě méně závažných porušení jsou pokuty omezeny na 15 milionů eur nebo 3 % z obratu.

„Implementace AI přináší našim klientům významné úspory a zvyšuje efektivitu. Jazykové modely nám dnes pomáhají s rutinními dotazy, což uvolňuje kapacitu živých operátorů pro složitější úkoly. Evropská regulace může přinést stabilitu, ale je důležité, aby zároveň nebrzdila inovace, které už nyní v oblasti zákaznické podpory díky AI vidíme. V tomto směru má Evropa stále co dohánět,“ říká Petr Studnička, generální ředitel společnosti Conectart, která implementuje AI technologie v oblasti zákaznické péče.

Nekritičtí čeští zákazníci

V Česku se umělá inteligence pomalu a jistě stává součástí rutinních činností široké veřejnosti a ta si přitom mnohdy neuvědomuje, že jsou s ní v kontaktu. Co se týká ověřování dat, které uživatelům umělá inteligence poskytne, si je podle agentury STEM/MARK neověřuje celých 16 % Čechů. Občas nebo zcela výjimečně si pak informace ověří 62,1 % české populace a 19,3 % tak činí pravidelně.

AI ve Spojených státech

Evropský přístup k regulaci AI je výrazně přísnější oproti USA. Spojené státy se řídí přístupem samoregulace. Na federální úrovni nejsou nastavena jednotná pravidla pro používání AI. Jednotlivé státy, jako například Kalifornie, postupně zavádějí specifické regulace, jež se zaměřují na ochranu spotřebitelů před AI v pracovním prostředí nebo při finančních transakcích. Americký regulační úřad například zakázal využití AI v telemarketingu, protože se stále častěji objevovaly hovory s hlasem napodobujícím různé mediálně exponované osoby nebo rodinné příslušníky volaných. Zákaz tak má zamezit „telešmejdům“ vydávat se za jinou osobu.

Ambiciózní Čína a státní kontrola

Čína zaujímá přístup, který kombinuje státní kontrolu a ekonomický růst prostřednictvím investic do AI. Nová čínská legislativa přijatá v roce 2023 se zaměřuje na kontrolu deepfakeů a obsahu generovaného umělou inteligencí a jeho sladění se obecnými hodnotami státního zřízení. Obsah vytvořený umělou inteligencí tak dnes musí nést označení, aby jej bylo snadné rozpoznat. Cílem těchto opatření je předejít možným podvodům, ať už se jedná o falešná videa s politiky nebo články s nepravdivými informacemi a fotografiemi.

Kontrola umělé inteligence ale není na úkor vývoje nových technologií.

Zdroj: Conectart a Euro.cz https://www.euro.cz/clanky/cesi-a-umela-inteligence-alespon-nejakou-zkusenost-s-nastroji-ai-ma-uz-takrka-polovina-z-nich-kazdy-sesty-si-vsak-vysledky-neoveruje/
Ilustrační grafika: AI