Evropský akt o umělé inteligenci vstupuje v platnost

Evropský akt o umělé inteligenci vstupuje v platnost

Dnes vstupuje v platnost evropský akt o umělé inteligenci, první komplexní nařízení o umělé inteligenci na světě. Akt o umělé inteligenci je navržen tak, aby zajistil, že umělá inteligence vyvinutá a používaná v EU bude důvěryhodná a bude obsahovat záruky na ochranu základních práv lidí. Cílem nařízení je vytvořit harmonizovaný vnitřní trh s umělou inteligencí v EU, podpořit zavádění této technologie a vytvořit příznivé prostředí pro inovace a investice.

Akt o umělé inteligenci zavádí výhledovou definici umělé inteligence založenou na bezpečnosti výrobků a přístupu založeném na posouzení rizik v EU:

• Minimální riziko: Do této kategorie spadá většina systémů UI, jako jsou doporučovací systémy založené na umělé inteligenci a spamové filtry. Tyto systémy nemají podle aktu o umělé inteligenci žádné povinnosti vzhledem ke svému minimálnímu riziku pro práva a bezpečnost občanů. Společnosti mohou dobrovolně přijmout další kodexy chování.
• Specifické riziko transparentnosti: Systémy UI, jako jsou chatboty, musí uživatelům jasně sdělit, že interagují se strojem. Určitý obsah vytvořený umělou inteligencí, včetně deep fakes, musí být jako takový označen a uživatelé musí být informováni o používání biometrických systémů kategorizace nebo rozpoznávání emocí. Kromě toho budou muset poskytovatelé koncipovat systémy tak, aby syntetický obsah, jako je zvuk, video, text a obrázky, byl označen ve strojově čitelném formátu a aby byl zjistitelný jako uměle vytvořený nebo manipulovaný.

• Vysoké riziko: Systémy UI označené jako vysoce rizikové budou muset splňovat přísné požadavky, včetně systémů zmírňování rizik, vysoké kvality datových souborů, záznamů o činnosti, podrobné dokumentace, jasných uživatelských informací, lidského dohledu a vysoké úrovně spolehlivosti, přesnosti a kybernetické bezpečnosti. Tzv. regulační pískoviště usnadní vývoj zodpovědných inovací a systémů umělé inteligence, které jsou v souladu s předpisy. Tyto vysoce rizikové systémy UI zahrnují například systémy UI používané k náboru nebo k posouzení toho, zda má někdo nárok na půjčku nebo na provozování autonomních robotů.

• Nepřijatelné riziko: Systémy UI považované za jasnou hrozbu pro základní práva lidí budou zakázány. To zahrnuje systémy UI nebo aplikace, které manipulují s lidským chováním s cílem obejít svobodnou vůli uživatelů, jako jsou hračky využívající hlasovou pomoc podporující nebezpečné chování nezletilých osob, systémy, které umožňují „sociální hodnocení“ vládami nebo společnostmi, a některé aplikace prediktivní policejní práce. Kromě toho budou zakázána některá použití biometrických systémů, například systémy rozpoznávání emocí používané na pracovišti, některé systémy pro kategorizaci lidí nebo biometrická identifikace na dálku v reálném čase pro účely vymáhání práva na veřejně přístupných místech (s omezenými výjimkami).

Za účelem doplnění tohoto systému akt o umělé inteligenci rovněž zavádí pravidla pro tzv. modely UI pro všeobecné účely, což jsou vysoce výkonné modely UI, které jsou navrženy tak, aby plnily širokou škálu úkolů, jako je vytváření textu podobného člověku. Modely UI pro všeobecné účely se stále častěji používají jako součásti aplikací umělé inteligence. Akt o umělé inteligenci zajistí transparentnost v celém hodnotovém řetězci a bude řešit možná systémová rizika nejschopnějších modelů.

Uplatňování a prosazování pravidel umělé inteligence

Členské státy musí do 2. srpna 2025 určit příslušné vnitrostátní orgány, které budou dohlížet na uplatňování pravidel pro systémy UI a vykonávat činnosti dozoru nad trhem. Úřad Komise proumělou inteligenci bude klíčovým prováděcím orgánem aktu o umělé inteligenci na úrovni EU, jakož i donucovacím orgánem pro pravidla pro modely UI pro všeobecné účely.

Provádění pravidel budou podporovat tři poradní orgány. Evropská rada pro umělou inteligenci zajistí jednotné uplatňování aktu o umělé inteligenci ve všech členských státech EU a bude hlavním orgánem pro spolupráci mezi Komisí a členskými státy. Vědecká skupina nezávislých odborníků bude poskytovat technické poradenství a podněty týkající se prosazování. Tento panel může zejména vydávat upozornění Úřadu pro umělou inteligenci o rizicích spojených s modely UI pro všeobecné účely. Úřad pro umělou inteligenci může rovněž obdržet pokyny od poradního fóra složeného z rozmanitého souboru zúčastněných stran.

Společnostem, které nebudou tato pravidla dodržovat, budou ukládány pokuty. Pokuty by mohly dosáhnout až 7 % celosvětového ročního obratu za porušení zakázaných aplikací umělé inteligence, až 3 % za porušení jiných povinností a až 1,5 % za poskytnutí nesprávných informací.

Další kroky

Většina pravidel aktu o umělé inteligenci začne platit dne 2. srpna 2026. Zákazy systémů UI, u nichž se má za to, že představují nepřijatelné riziko, však budou platit již po šesti měsících, zatímco pravidla pro tzv. modely UI pro všeobecné účely se použijí po 12 měsících.

S cílem překlenout přechodné období před plným provedením zahájila Komise Pakt o umělé inteligenci. Tato iniciativa vyzývá vývojáře UI, aby dobrovolně přijali klíčové povinnosti vyplývající z aktu o umělé inteligenci před uplynutím zákonných lhůt.

Komise rovněž vypracovává pokyny, které definují a podrobně popisují, jak by měl být akt o umělé inteligenci prováděn, a usnadňuje nástroje společné regulace, jako jsou normy a kodexy správné praxe. Komise zveřejnila výzvu k vyjádření zájmu o účast na vypracování prvního všeobecného kodexu zásad umělé inteligence, jakož i mnohostranné konzultace, která všem zúčastněným stranám poskytla příležitost vyjádřit se k prvnímu kodexu zásad podle aktu o umělé inteligenci.

Pozadí

Dne 9. prosince 2023 Komise uvítala politickou dohodu o aktu o umělé inteligenci. Dne 24. ledna 2024 zahájila Komise balíček opatření na podporu evropských začínajících podniků a malých a středních podniků při rozvoji důvěryhodné umělé inteligence. Dne 29. května 2024 Komise zveřejnila Úřad pro umělou inteligenci. Dne 9. července 2024 vstoupilo v platnost pozměněné nařízení o společném podniku EuroHPC, což umožnilo zřízení továren na umělou inteligenci. To umožňuje používat specializované superpočítače umělé inteligence pro trénování modelů UI pro všeobecné účely (GPAI).

Pokračující nezávislý a fakticky podložený výzkum prováděný Společným výzkumným střediskem (JRC) má zásadní význam pro utváření politik EU v oblasti umělé inteligence a zajištění jejich účinného provádění.

Pro více informací

Evropský akt o umělé inteligenci

Nová pravidla pro umělou inteligenci – otázky a odpovědi

Evropský úřad pro umělou inteligenci | formování digitální budoucnosti Evropy

Quote