Poslanci se chystají vyjednat vůbec první pravidla pro bezpečnou a transparentní umělou inteligenci

Evropský parlament přijal ve středu 499 hlasy (28 bylo proti a 93 se zdrželo hlasování) svůj vyjednávací postoj k aktu o umělé inteligenci, o jehož konečné podobě bude jednat s členskými státy EU. Nová pravidla mají zaručit, že umělá inteligence vyvinutá a používaná v Evropě bude plně v souladu s právy a hodnotami EU. Mají zajišťovat mimo jiné lidský dohled, bezpečnost, soukromí, transparentnost, nediskriminaci a sociální a environmentální blahobyt.

Zakázané postupy v oblasti umělé inteligence

Pravidla stanoví povinnosti poskytovatelů a provozovatelů umělé inteligence v závislosti na rizicích, která s sebou umělá inteligence může nést. Systémy umělé inteligence s nepřijatelnou mírou rizika pro bezpečnost lidí, jako jsou systémy používané pro bodování občanů (klasifikace lidí na základě jejich sociálního chování nebo osobních vlastností), by byly zakázány.

Počítají s tím, že systémy umělé inteligence, u nichž je úroveň rizika pro bezpečnost lidí nepřijatelná, budou zakázané. Poslanci rozšířili seznam zakázaných systémů i na umělou inteligenci, která je diskriminační nebo zasahuje do soukromí, například:

systémy biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech;
systémy biometrické identifikace na dálku „zpětně“, s výjimkou orgánů činných v trestním řízení pro stíhání závažných trestných činů a pouze po soudním povolení;
systémy biometrické kategorizace, které využívají citlivé údaje (jako je např. pohlaví, rasa, etnický původ, občanství, náboženství, politická orientace);
prediktivní policejní systémy (založené na profilování, lokalizaci nebo dřívější trestné činnosti);
systémy rozpoznávání emocí v oblasti prosazování práva, správy hranic, na pracovišti a ve vzdělávacích institucích; a
necílené shromažďování zobrazení obličeje z internetu nebo kamerových systémů za účelem tvorby databází pro rozpoznávání obličeje (což porušuje lidská práva a právo na soukromí).

Vysoce riziková umělá inteligence

Poslanci požadují, aby klasifikace vysoce rizikových aplikací zahrnovala systémy umělé inteligence, které významně poškozují zdraví, bezpečnost, základní práva nebo životní prostředí. Na seznam vysoce rizikových systémů byly přidány systémy umělé inteligence, které se využívají k ovlivňování voličů a výsledků voleb a v doporučovacích systémech používaných platformami sociálních médií (s více než 45 miliony uživatelů).

Povinnosti týkající se obecných systémů umělé inteligence

Poskytovatelé základních modelů – nového a rychle se vyvíjejícího trendu v oblasti umělé inteligence – budou muset před jejich uvedením na evropský trh posoudit a zmírnit jejich možná rizika (pro zdraví, bezpečnost, základní práva, životní prostředí, demokracii a právní stát) a zaregistrovat je do databáze EU. Generativní systémy umělé inteligence založené na těchto modelech, jako je ChatGPT, budou podle nových pravidel muset být transparentní (informovat o tom, že obsah byl vytvořen umělou inteligencí a pomáhat rozlišit tzv. deep-fake snímky od skutečných) a zabránit generování nezákonného obsahu. Poskytovatelé budou také muset zveřejnit podrobný souhrn dat chráněných autorským právem, na kterých se jejich systémy učily.

Podpora inovací a ochrana práv občanů

V zájmu podpory inovací umělých inteligencí a malých a středních podniků doplnili poslanci výjimky pro výzkumnou činnost a pro součásti umělé inteligence poskytované v rámci otevřených licencí. Nový právní předpis podporuje tzv. regulační pískoviště či reálné prostředí zřízené veřejnými orgány, kde lze umělou inteligenci před jejím uvedením do provozu testovat.

V neposlední řadě poslanci chtějí dát občanům větší práva při podávání stížností na systémy umělé inteligence. Měli by mít také právo znát důvody rozhodnutí, která byla učiněna na základě vysoce rizikových systémů umělé inteligence a mají významný dopad na jejich základní práva. Poslanci rovněž redefinovali úlohu úřadu EU pro umělou inteligenci, který má být pověřen dohlížením na to, jak je soubor pravidel pro umělou inteligenci uplatňován.

Prohlášení zpravodajů

Zpravodaj Brando Benifei (S&D, IT) po hlasování uvedl: „Všechny oči se dnes upírají na nás. Zatímco velké technologické společnosti bijí na poplach kvůli svým vlastním výtvorům, Evropa pokročila a navrhla konkrétní reakci na rizika, která začíná umělá inteligence představovat. Chceme, aby byl využit pozitivní potenciál umělé inteligence pro kreativitu a produktivitu. Zároveň však budeme při jednáních s Radou bojovat za zachování naší pozice a proti nebezpečím pro naše demokracie a svobody.“

Zpravodaj Dragoş Tudorache (Renew, RO) prohlásil: „Akt o umělé inteligenci určí celosvětový směr vývoje a řízení umělé inteligence a zajistí, aby se tato technologie, která má radikálně změnit naši společnost díky obrovským přínosům, jež může nabídnout, vyvíjela a používala v souladu s evropskými hodnotami demokracie, základních práv a právního státu.“

Další postup

Jednání s Radou o konečné podobě právního předpisu budou zahájena dnes.

Tisková konference

Zpravodajové Brando Benifei a Dragoş Tudorache a předsedkyně EP Roberta Metsolová uspořádají dnes, dne 14. června od 13:30 hodin, tiskovou konferenci, na níž vysvětlí výsledky dnešního hlasování a další kroky.

Souvislosti

Přijetím tohoto právního předpisu Parlament reaguje na očekávání občanů týkající se zajištění lidského dohledu nad procesy souvisejícími s umělou inteligencí, plného využití potenciálu důvěryhodné umělé inteligence a využití umělé inteligence a překladatelských technologií k překonání jazykových bariér, jak je vyjádřeno v návrzích 35 a 37 závěrů Konference o budoucnosti Evropy.