Akt o umělé inteligenci přinese firmám řadu povinností. Ovlivní nejen tvůrce, poskytovatele a distributory, ale i uživatele AI

Nedávno přijatý Akt o umělé inteligenci chrání základní práva osob a organizací před škodlivými účinky systémů umělé inteligence. Je odpovědí EU na obavy, které rozmach AI doprovázejí. Uplatňován bude spolu s dalšími již existujícími právními předpisy upravujících především ochranu osobních údajů, kyberbezpečnost, ochranu duševního vlastnictví či zákaz diskriminace. „Díky AI Actu se v příštích letech změní fungování umělé inteligence, jak ji známe dnes,“ zdůrazňuje Štěpánka Havlíková, seniorní advokátka kanceláře Dentons v Praze.

 

Podle úrovně rizika rozděluje nařízení systémy umělé inteligence do několika kategorií, které podléhají různému rozsahu regulace. Nejpřísnější opatření se vztahují k systémům AI s nepřijatelným a vysokým stupněm rizika, nové povinnosti nicméně dopadají i například na chatboty, callcentra nebo nástroje umělé inteligence generující textový, zvukový a obrazový obsah.

 

Mezi zcela zakázané systémy patří podle AI Actu například ty, které umožňují podprahovou manipulaci s cílem ovlivnit rozhodnutí spotřebitelů, slouží k analýze emocí osob na pracovišti či například kategorizaci osob podle rasy a social scoring. Regulaci podléhají dále systémy s vysokým rizikem, používané například pro credit scoring (tedy hodnocení úvěruschopnosti fyzických osob), nacenění životního pojištění či biometriku a nástroje implikované v kritické infrastruktuře, personalistice nebo přijímacích řízeních. Tyto systémy nebudou přímo zakázané, jejich užití bude však podléhat širokým povinnostem. Vedle toho AI Act upravuje systémy umělé inteligence určené ke všeobecnému užití, jako jsou platformy typu ChatGPT.

 

Účinnost AI Act je odstupňovaná. To znamená, že část pravidel vstoupí v účinnost dříve než jiné. „Některé části, především zákaz AI systémů s nepřijatelným rizikem, začínají platit již šest měsíců po zveřejnění v Úředním věstníku EU, největší část pravidel však začne platit dva roky po zveřejnění,“ dodává Štěpánka Havlíková.

 

Zatímco nejrizikovější systémy umělé inteligence norma zakazuje, pro systémy s vysokým stupněm rizika stanoví řadu povinností. Musí být provozovány pod lidským dohledem včetně možnosti okamžitého vypnutí a pro uživatele musí být obsah, který vytváří, zcela transparentní. Jinak řečeno, musí být zřejmé, že byl vytvořen umělou inteligencí. Přísná pravidla platí rovněž pro data sety k trénování umělé inteligence, řízení rizik a logování, stejně jako pro registraci AI systémů v databázi EU a technickou dokumentaci prokazující jejich soulad s požadavky EU.

 

Umělá inteligence určena pro přímou komunikaci s člověkem jako chatboty nebo callcentra musí uživatele informovat, že komunikuje s umělou inteligencí. Jasně identifikovány musí být rovněž systémy pro detekci emocí a biometriku. Veškerý obsah generovaný umělou inteligenci včetně tzv. deep fakes musí být označen tak, aby bylo zřejmé, že s ním bylo prostřednictvím AI manipulováno.

 

„AI Act bude mít dopady nejen na výrobce, dovozce a distributory systémů umělé inteligence, ale i na osoby, podniky a instituce, které je využívají,“ vysvětluje Štěpánka Havlíková, seniorní advokátka z pražské kanceláře Dentons.

 

Mezi kroky, které firmám v této souvislosti doporučuje, patří zmapování využití umělé inteligence, a to zejména systémů spadajících do kategorií s nepřijatelným a vysokým rizikem nebo chatbotů a callcenter, která komunikují s koncovými uživateli. Podniky by měly v tomto směru zrevidovat interní procesy, prověřit smlouvy s poskytovateli a proškolit zaměstnance, kteří s umělou inteligencí pracují.

 

„Již dnes by měly podniky nastavit pro využití systémů umělé inteligence pravidla, která budou s unijním nařízením v souladu. Týká se to především zpracování osobních údajů, kyberbezpečnosti a ochrany duševního vlastnictví, stejně jako využití umělé inteligence v produktech a službách nebo při komunikaci se zákazníky,“ uzavírá Štěpánka Havlíková.

 

Za účelem podpory inovací v oblasti AI a zachování konkurenceschopnosti zemí Evropské unie umožňuje nařízení vznik tzv. regulačních sandboxů. Bude tak možné vyvíjet systémy umělé inteligence v kontrolovaném prostředí pod dohledem a dozorem regulátora. „Regulační sandboxy umožní vývoj umělé inteligence ve spolupráci s regulátorem, který bude mít možnost již v průběhu vývoje sdělit svá očekávání stran plnění požadavků právní regulace“. V současné době existují regulační sandboxy zejména v oblasti fintechu například ve Velké Británii či ve Skandinávii. Regulační sandboxy podle AI Actu mají být zřízeny do dvou let od přijetí nařízení. V rámci podpory startupů nařízení počítá s tím, že by měl být přístup k regulačním sandboxům bezplatný pro malé a střední podniky. Přesná pravidla pro přístup a fungování regulačních sandboxů budou teprve stanovena v prováděcích předpisech.