Umělá inteligence ve firemních systémech: Jak se AI akt dotkne HR oddělení?

Správně zavedené systémy umělé inteligence mohou v řadě firem pomoci zvýšit efektivitu, rychlost práce i její kvalitu. Zaměstnavatelé by však měli pamatovat na to, že za případné chyby, jichž se AI dopustí, ponesou odpovědnost právě oni. Rizika spojená s využíváním AI systémů pomůže zmírnit dobře nastavená interní směrnice. V té by neměl chybět nejen seznam schválených a naopak zakázaných AI nástrojů, ale zejména povinnost lidské kontroly AI výstupů. Zapomenout by zaměstnavatelé neměli ani na evropskou legislativu. 

Nástroje využívající umělou inteligenci se v řadě firem nejrůznějších odvětví stávají čím dál běžnějšími pomocníky. Správně zavedené AI systémy mohou skutečně pomoci výrazně zvýšit efektivitu, kvalitu i rychlost práce. Současně s tím však tato stále ještě velmi nová technologie přináší nejen bezpečnostní, ale i právní a reputační rizika. A způsobí-li umělá inteligence nějakou škodu, odpovědnost za ni půjde obvykle na bedra zaměstnavatele. „Pokud to byl zaměstnavatel, kdo AI systém jako nástroj pro práci zaměstnanců zavedl, nese primární odpovědnost právě on, tak jako nese odpovědnost za jednání svých zaměstnanců vůči třetím osobám,“ uvádí Anna Kevorkyan, CEO pracovního portálu JenPráce.cz. Kromě zaměstnavatele může odpovědnost nést poskytovatel daného AI systému, a to v případě, že se chyba udála vlivem vadou samotného systému. V takovém případě může zaměstnavatel uplatnit právo na regres, pravděpodobně však bude muset doložit pečlivou implementaci daného systému, dodržení doporučení výrobce, testování a kontrolu výsledků.

Vysoce rizikové AI systémy podle AI akt? Pozor u náborových systémů

Nejen při zavádění pravidel pro AI systémy, ale i při samotné implementaci těchto nástrojů na pracovišti by zaměstnavatelé měli mít na zřeteli evropskou právní úpravu známou jako akt o umělé inteligenci (AI akt). Přestože jednotlivé části této legislativy nabývají účinnosti postupně a zaměstnavatelů se tak některé požadavky právně dotknou například až za dva roky, není vhodné přípravu na ně podcenit. Zásadní dopad bude mít AI akt kupříkladu na oblast HR. Zavádí totiž klasifikaci AI systémů podle rizikovosti a mezi ty vysoce rizikové budou spadat i náborové a výběrové systémy či systémy hodnotící uchazeče. „U vysoce rizikových systémů bude podle aktu o umělé inteligenci povinné vyhodnocení rizik, lidský dohled a transparentnost v tom, jakým způsobem algoritmy AI systémů rozhodují,“ upozorňuje Anna Kevorkyan, CEO pracovního portálu JenPráce.cz. „Zaměstnavatelé tak budou muset včas upravit své interní procesy, aby požadavkům vyhověli. Již teď se například mohou začít připravovat tím, že provedou inventarizaci používaných AI nástrojů a systémů a zjistí, kolik z nich bude spadat do kategorie vysoce rizikových,“ dodává Anna Kevorkyan s tím, že případné sankce jsou nemalé, EU totiž stanovuje státům, že pokuty mají být od 1 do 7 procent ročního obratu s možností nastavit si nižší sankční pásma pro malé a střední podniky nebo start‑upy. 

Rizika zmírní dobře nastavená interní směrnice

S ohledem na výše uvedené by se tudíž každý zaměstnavatel, který se rozhodne implementovat AI nástroje a systémy do firemních procesů, měl postarat o správné nastavení pravidel, jak nástroje s umělou inteligencí používat. Tato pravidla by měla být součástí vnitřních procesů, ideálně tedy ve formě interní směrnice. Konkrétní pravidla se mohou lišit podle činnosti zaměstnavatele, lze ale předpokládat množinu, která bude pro většinu firem stejná. Směrnice by měla obsahovat minimálně vymezení rozsahu (koho se týká, zda jen zaměstnanců, nebo například i externistů a dodavatelů), seznam schválených a zakázaných AI nástrojů, schvalovací proces pro nové nástroje, identifikaci rizik, pravidla pro práci s daty s důrazem na plnění povinností spojených s GDPR, popis sankcí a pravidla pro kontroly a revize s důrazem na lidskou kontrolu všech výstupů vytvořených umělou inteligencí. 

“Samo přijetí směrnice však samozřejmě není postačující, klíčové je zaměstnance s pravidly srozumitelně seznámit, vysvětlit jim význam jejich dodržování a v případě nutnosti realizovat patřičné školení,” upozorňuje Anna Kevorkyan.  Také je potřeba nastavit postup, jakým hlásit bezpečnostní incidenty, a dát zaměstnancům k dispozici seznamy schválených nástrojů, a to ideálně v takové formě, kterou bude možné flexibilně aktualizovat.