AI Act - AI Act jako evropské nařízení bude mít přímý vliv na celou Evropskou unii a nevyžaduje žádnou další transpozici do národních právních řádů

13.3.2024 bylo Evropským parlamentem schváleno Nařízení o umělé inteligenci, známé jako "AI Act". Nařízení je přímo aplikovatelné a začíná platit již v květnu 2024. Plné účinnosti nabyde v roce 2026. AI Act je klíčový k harmonizaci regulace AI na evropské úrovni. Souběžně s tím byl založen Evropský úřad pro AI pro dohled nad AI v Evropě. Více v článku.

AI Act jako evropské nařízení bude mít přímý vliv na celou Evropskou unii a nevyžaduje žádnou další transpozici do národních právních řádů, což zjednodušuje jeho implementaci a zaručuje jednotnost aplikace.

AI Act představuje komplexní rámec, který má zabezpečit bezpečné a etické využívání umělé inteligence v celé Evropě. Jeho plná aplikace bude postupná, s některými ustanoveními, jako je zákaz AI systémů s nepřijatelnými riziky, která nabydou účinnosti již 6 měsíců po zavedení aktu. Tato předběžná opatření podtrhují snahu Evropské unie o rychlou adaptaci na rizika spojená s určitými riziky používání AI.

Navržená právní regulace definuje 4 stupně rizika pro AI systémy:

minimální;
omezené;
vysoké; a
nepřijatelné riziko.

Podle AI Actu mají být zakázány všechny systémy umělé inteligence, které jsou považovány za jasnou hrozbu pro bezpečnost, obživu a práva lidí. To se týká např. AI k hodnocení společenských skóre vládami nebo hraček s hlasovou asistencí, které podporují nebezpečné chování.

Vysoké riziko

K AI s vysokým rizikem mají patřit technologie používané v:

kritických infrastrukturách (např. doprava), které mohou ohrozit život a zdraví občanů;
vzdělávacích nebo odborných programech, které mohou určovat přístup k vzdělání a profesní dráhu jedince (např. hodnocení zkoušek);
bezpečnostních komponentách produktů (např. aplikace umělé inteligence v roboticky asistované chirurgii);
zaměstnání, řízení pracovníků a přístupu k samostatné výdělečné činnosti (např. software pro třídění životopisů při náborových postupech);
základních soukromých a veřejných službách (např. hodnocení úvěrové spolehlivosti, které občanům může znemožnit získání půjčky);
právním prosazování, které může zasahovat do základních práv lidí (např. hodnocení spolehlivosti důkazů);
řízení migrace, azylu a pohraniční kontroly (např. automatizované zpracování žádostí o víza);
správy spravedlnosti a demokratických procesů (např. řešení umělé inteligence pro vyhledávání soudních rozhodnutí).

Systémy umělé inteligence s vysokým rizikem budou před uvedením na trh podléhat přísné regulaci. Budou zde platit následující povinnosti:

adekvátní systémy hodnocení a zmírnění rizik;
vysoká kvalita datových sad, které systém používá, aby se minimalizovala rizika a diskriminační výsledky;
protokolování aktivit k zajištění vystopovatelnosti výsledků;
podrobná dokumentace poskytující veškeré informace nutné pro orgány k posouzení souladu systému;
jasné a adekvátní informace pro provozovatele;
vhodná opatření lidského dohledu k minimalizaci rizik;
vysoká úroveň robustnosti, bezpečnosti a přesnosti.

Všechny systémy pro dálkovou biometrickou identifikaci jsou považovány za vysoce rizikové a budou podléhat přísným požadavkům.

Použití dálkové biometrické identifikace ve veřejně přístupných prostorách pro účely vymáhání práva bude v zásadě zakázáno. Výjimky budou přísně definovány a regulovány, například když je to nezbytné k vyhledání pohřešovaného dítěte, k předcházení konkrétní a bezprostřední teroristické hrozbě nebo k detekci, lokalizaci, identifikaci nebo stíhání pachatele nebo podezřelého z vážného trestného činu. Tyto použití budou podléhat povolení soudu nebo jiného orgánu.

Omezené riziko

Omezené riziko se týká rizik spojených s nedostatkem transparentnosti při používání umělé inteligence. AI Act zavádí konkrétní povinnosti v oblasti transparentnosti, aby bylo zajištěno, že lidé jsou v případě potřeby informováni.

Například při používání systémů umělé inteligence, jako jsou chatboti, by lidé měli být informováni o tom, že interagují se strojem, aby mohli učinit informované rozhodnutí o pokračování nebo odstoupení. Poskytovatelé také budou muset zajistit, aby obsah generovaný AI byl identifikovatelný. Kromě toho musí být text generovaný AI a publikovaný za účelem informování veřejnosti o záležitostech veřejného zájmu označen jako uměle vytvořený. To platí i pro audio a video obsah, který tvoří deepfakes.

Minimální nebo žádné riziko

AI Act bude umožňovat volné používání umělé inteligence s minimálním rizikem. To zahrnuje aplikace, jako jsou videohry nebo spamové filtry podporované umělou inteligencí. Většina systémů umělé inteligence v současnosti používaných v EU má podle Evropské komise aktuálně spadat do této kategorie.

Autorská práva

Velmi sporná je povinnost, kterou by AI Act měl stanovit pro poskytovatele GPAI – tj. general purpose AI, jako je ChatGPT, Gemini, Midjourney apod., nastavit politiku, která bude respektovat unijní autorské právo.

GPAI budou mít povinnost identifikovat a zohledňovat, a to i prostřednictvím nejmodernějších technologií, výhrady autorských práv, tj. zákaz kompilování datasetů a trénování AI modelů na těchto datasetech bez souhlasů autorů. Takové jednání je označeno za tzv. data mining a bude podle AI Actu zakázáno (s výjimkou pro vědecké účely nebo když jsou předmětná data veřejně přístupná), pokud si autoři tento zákaz využívání výslovně zakážou.

Jinými slovy, pokud autoři jako nositelé práv provedou relevantní data mingový „opt-out“, nesmí předmětná data nikdo vytěžovat ani použít k natrénovaní AI, neboť tímto by porušoval výhradní práva třetích osob. Tento autorský zákaz ale pravděpodobně nebude možné, vzhledem k obrovské kvantitě tréninkových dat a způsobu jejich sběru (automatizovaným stahováním napříč internetem), splnit.

Tento přístup proto může být pro EU vývojáře restriktivní a může být příčinou pro distribuci a vývoj AI mimo území EU, což by EU vůči USA dále významně znevýhodnilo.

Přesto, EU rovněž plánuje podpořit inovace v oblasti AI tím, že poskytne AI start-upům a etickým podnikům přístup k vyspělým výpočetním zdrojům, jako jsou evropské superpočítače. Tato iniciativa má podtrhnout záměr Evropské Unie stát se lídrem v oblasti důvěryhodné a etické AI.

Kromě toho se plánuje vytvoření "AI továren", které poskytnou infrastrukturu a podpůrné služby pro rozvoj AI aplikací, včetně poskytování datových depozitářů a přístup ke kvalitním datům pro start-upy a malé a střední podniky.

Otázkou je ale, zda se to kvůli příliš restriktivnímu přístupu vůbec bude moci naplnit.

Více o AI Act viz na stránkách EU

PRO DALŠÍ INFORMACE SE NA NÁS S DŮVĚROU OBRAŤTE:

Mgr. Beata Sabolová, LL.M., advokátka - kontakt: sabolova@chslegal.eu

Mgr. David Cigánek, advokát a partner - kontakt: ciganek@chslegal.eu