Akt o umělé inteligenci: Přelomová legislativa dostala od Parlamentu zelenou

Nařízení, jehož znění bylo předběžně dohodnuto s členskými státy v prosinci, poslanci přijali 523 hlasy (46 bylo proti a 49 se zdrželo hlasování).

Cílem přijatého textu je chránit základní práva, demokracii, právní stát a environmentální udržitelnost před vysoce rizikovou umělou inteligencí a zároveň podporovat inovace a zajistit Evropě v této oblasti vedoucí postavení. Nařízení stanoví povinnosti pro umělou inteligenci v závislosti na jejích potenciálních rizicích a míře dopadu.

Zakázané aplikace

Nová pravidla zakazují některé aplikace umělé inteligence, které ohrožují práva občanů. Týká se to například systémů biometrické kategorizace, která je založená na citlivých charakteristikách, necíleného stahování snímků obličeje z internetu nebo kamerových záznamů za účelem vytvoření databází rozpoznávání obličeje.

Zakázány budou také systémy rozpoznávání emocí na pracovišti a ve školách, hodnocení sociálního kreditu osob, prediktivní policejní práce (je-li založena výhradně na profilování určité osoby nebo posouzení jejích charakteristik) a umělá inteligence, která manipuluje s lidským chováním nebo zneužívá zranitelnosti lidí.

Výjimky pro účely vymáhání práva

Používání systémů biometrické identifikace donucovacími orgány je v zásadě zakázáno, s výjimkou přesného výčtu úzce vymezených situací. Biometrickou identifikaci „v reálném čase“ lze použít pouze tehdy, jsou-li splněny přísné záruky, např. pokud je její použití časově a geograficky omezeno a bylo k němu předem vydáno zvláštní soudní nebo správní povolení.

V praxi se to může týkat například pátrání po pohřešovaných osobách nebo předcházení teroristickým útokům.

Používání biometrické identifikace až zpětně je považováno za vysoce rizikové a lze se k němu uchýlit pouze po předchozím soudním povolení v souvislosti s trestnými činy.

Povinnosti pro vysoce rizikové systémy

Jasné povinnosti jsou stanoveny i pro další vysoce rizikové systémy umělé inteligence (vzhledem k tomu, že jejich používání může vést k významnému poškození zdraví, bezpečnosti, základních práv, životního prostředí, demokracie a právního státu). Za vysoce rizikové je považováno například využívání umělé inteligence v oblasti kritické infrastruktury, vzdělávání a odborné přípravy, zaměstnanosti, základních soukromých a veřejných služeb (jako je zdravotní péče či bankovnictví), vymáhání práva, migrace a správy hranic, spravedlnosti a demokratických procesů (např. ovlivňování voleb). Rizika těchto systémů je třeba posuzovat a snižovat, například prostřednictvím záznamů o jejich používání, úsilí o transparentnost a přesnost a zajištění lidského dohledu.

Občané budou mít právo podávat na systémy umělé inteligence stížnosti a znát důvody rozhodnutí, která byla učiněna na základě vysoce rizikových systémů a mají dopad na jejich práva.

Požadavky na transparentnost

Obecné systémy umělé inteligence a modely, na nichž jsou založeny, musí splňovat určité požadavky na transparentnost včetně dodržování autorského práva EU a zveřejňování podrobných shrnutí obsahu použitého pro trénování. Výkonnější modely umělé inteligence pro obecné účely, které by mohly představovat systémová rizika, budou podléhat dodatečným požadavkům, k nimž patří například hodnocení modelů, posuzování a zmírňování jejich systémových rizik a hlášení incidentů.

„Deepfakes“, tedy uměle vytvořené nebo zmanipulované obrázky, audio nebo video nahrávky, musí být jako takové jasně označeny.

Podpora inovací a malých a středních podniků

Členské státy budou mít povinnost zajistit, aby měly malé a střední podniky a startupy ještě před uvedením svých produktů na trh možnost vyvíjet a trénovat inovativní umělou inteligenci na tzv. regulačních pískovištích a mohly ji testovat v reálných podmínkách.

Vyjádření zpravodajů

Během úterní plenární rozpravy zpravodaj Výboru pro vnitřní trh Brando Benifei (S&D, IT) uvedl: „Konečně máme první závazný právní předpis o umělé inteligenci na světě, který má snížit rizika, vytvořit příležitosti, bojovat proti diskriminaci a přinést transparentnost. Díky Parlamentu budou v Evropě zakázány nepřijatelné praktiky umělé inteligence a budou chráněna práva pracovníků a občanů. Nyní bude zřízen Úřad pro umělou inteligenci, který bude podporovat společnosti, aby začaly pravidla dodržovat ještě před jejich vstupem v platnost. Zajistili jsme, aby lidské bytosti a evropské hodnoty byly v samém středu vývoje umělé inteligence.“

Zpravodaj Výboru pro občanské svobody Dragos Tudorache (Renew, RO) uvedl: „EU dosáhla svého. Spojili jsme koncept umělé inteligence se základními hodnotami, které tvoří základ našich společností. Čeká nás však ještě mnoho práce, která přesahuje samotný Akt o umělé inteligenci. Umělá inteligence nás bude nutit přehodnotit společenskou úmluvu, která je základem našich demokracií, našich vzdělávacích modelů, trhů práce a způsobu vedení války. Akt o umělé inteligenci je výchozím bodem pro nový model správy věcí veřejných založený na technologiích. Nyní se musíme zaměřit na uvedení tohoto aktu do praxe.“

Další postup

Nařízení stále musí projít konečnou kontrolou právníků-lingvistů a očekává se, že bude s konečnou platností přijato před koncem volebního období (prostřednictvím tzv. postupu opravy). Musí jej také stále formálně přijmout i Rada.

Vstoupí v platnost dvacet dní po vyhlášení v Úředním věstníku a bude plně použitelné 24 měsíců po svém vstupu v platnost, s výjimkou: zákazu nepřípustných praktik, který se použije šest měsíců po vstupu nařízení v platnost; kodexů správné praxe (devět měsíců po vstupu v platnost); pravidel pro obecné systémy umělé inteligence včetně jejich správy (12 měsíců po vstupu v platnost) a povinností pro vysoce rizikové systémy (36 měsíců).

Souvislosti

Přijetím tohoto právního předpisu Parlament reaguje na očekávání občanů týkající se posílení konkurenceschopnosti EU ve strategických odvětvích; bezpečné a důvěryhodné společnosti, včetně boje proti dezinformacím a zajištění toho, že lidé budou mít v konečném důsledku vše pod kontrolou; podpory digitálních inovací při zajištění lidského dohledu; důvěryhodného a odpovědného využívání umělé inteligence, stanovení ochranných opatření a zajištění transparentnosti a využití umělé inteligence a digitálních nástrojů ke zlepšení přístupu občanů k informacím, včetně osob se zdravotním postižením, jak je vyjádřeno v návrzích 12, 33, 35 a 37 závěrů Konference o budoucnosti Evropy.