Evropský sbor pro ochranu osobních údajů (EDPB) přijal nové stanovisko k otázkám ochrany osobních údajů při vývoji a implementaci AI modelů

„ Stanovisko je průlomové, neboť se jedná o první celoevropské stanovisko k otázce vývoje umělé inteligence, které je horkým tématem mezi evropskými dozorovými úřady. Na téma vývoje umělé inteligence již několik evropských úřadů zveřejnilo svá stanoviska či doporučení (například německé úřady, francouzský, nizozemský, italský, norský či španělský úřad), přičemž byly zřejmé určité rozdíly v jejich přístupu, “ vysvětluje Štěpánka Havlíková.
Přestože AI model nemusí být navržen k tomu, aby generoval informace o identifikovatelných fyzických osobách, EDPB upozorňuje, že osobní údaje použité k trénování mohou zůstat uchovány v jeho parametrech. To znamená, že AI modely trénované na osobních údajích nelze vždy považovat za anonymní. Aby byl AI model považován za anonymní, musí být velmi nepravděpodobná možnost získání osobních údajů buď přímo z modelu, nebo z dotazů (promptů) zadaných uživatelem. Před vývojem takového modelu je třeba provést posouzení z hlediska ochrany osobních údajů, které by mělo zohlednit všechny faktory, včetně povahy tréninkových dat, samotného modelu a tréninkového procesu či způsobu nasazení modelu.
„ Stanovisko popisuje konkrétní opatření ve všech fázích vývoje AI modelů, která by měli vývojáři přijmout, aby bylo sníženo riziko zpracování a získání osobních údajů “ vysvětluje Štěpánka Havlíková. „ Jedná se například o opatření při selekci zdrojů použitých k trénování modelu nebo o přípravu a čištění data setů, včetně vyloučení zdrojů, u kterých existují rizika z pohledu ochrany osobních údajů. V neposlední řadě jsou důležitá i opatření na výstupu, tedy zejména output filtery, které kontrolují, jaké výstupy AI model generuje, a mohou zabránit vygenerování výstupů, které zasahují do ochrany osobních údajů (například pokud bychom se umělé inteligence ptali na vyzrazení osobních údajů konkrétních fyzických osob), “ doplňuje Štěpánka Havlíková.
Správci by měli rovněž řádně dokumentovat operace zpracování podle GDPR. Dokumentace by měla zahrnovat především posouzení dopadu na ochranu osobních údajů DPIA (nebo vysvětlení, proč nebylo vypracování DPIA nutné), informace o technických a organizačních opatřeních a také dokumentaci prokazující odolnost AI modelu vůči technikám opětovné identifikace.
„ Správci by měli provádět a dokumentovat interní či externí audity s cílem zhodnotit přijatá opatření při vývoji či nasazení umělé inteligence, “ dodává Štěpánka Havlíková.
Stanovisko připouští použití oprávněného zájmu jako právního základu pro zpracování osobních údajů při vývoji a nasazení AI modelů. Pro posouzení oprávněného zájmu je přitom potřebný tříkrokový test, zahrnující identifikaci oprávněných zájmů, posouzení nezbytnosti zpracování osobních údajů a porovnání oprávněných zájmů správce se zájmy a základními právy subjektů osobních údajů. Jako příklad oprávněného zájmu zmiňuje stanovisko zájem na vývoji služby chatbotu na pomoc uživatelům a důraz klade i na vyhodnocení rozumných očekávání subjektů osobních údajů s tím, že bude docházet k využití jejich osobních údajů pro trénování a vývoj AI modelů.
Podle stanoviska EDPB může nezákonné zpracování dat při vývoji AI modelu ovlivnit zákonnost jeho dalšího použití, přičemž EDPB nastiňuje tři možné scénáře, jak by se v takové situaci mělo postupovat.
Poslední zprávy z rubriky Zákony a právo:
Přečtěte si také:
Příbuzné stránky
- Průměrná mzda - vývoj průměrné mzdy, 2020, Vývoj výše průměrné mzdy v Kč
- HDP 2020, vývoj hdp v ČR, Vývoj HDP meziročně v %
- Finance - osobní finance, kurzovní lístek, kalkulačky
- Příspěvek při pěstounské péči 2022 - kalkulačka
- Ošetřovné 2024 - kalkulačka: celkem 6.399 Kč za 9 dnů ošetřovného při příjmu 40.000 Kč. O 27 Kč více než vloni.
- Elektřina - ceny a grafy elektřiny, vývoj ceny elektřiny 1 MWh - 1 rok - měna EUR
- Stříbro - ceny a grafy stříbra, vývoj ceny stříbra 1oz - 1 rok - měna USD
- Nezaměstnanost v ČR, vývoj, rok 2020, Míra nezaměstnanosti v %
- Ropa Brent - ceny a grafy ropy Brent, vývoj ceny ropy Brent 1 barel - 1 rok - měna USD
- Platina - ceny a grafy platiny, vývoj ceny platiny 1oz - 1 rok - měna USD
- Hliník - ceny a grafy hliníku, vývoj ceny hliníku 1 tuna - 1 rok - měna USD
- Zemní plyn - ceny a grafy zemního plynu, vývoj ceny zemního plynu 1 MMBtu - 1 rok - měna USD
Prezentace
12.02.2025 iPhone 16 Pro za 699 Kč! Nová služba nemá v…
29.01.2025 Xiaomi má nový bestseller. Je extrémně nadupaný a
28.01.2025 České firmy stále častěji místo banky…
Okénko investora
Mgr. Timur Barotov, BHS
Investiční mistři odkryli své tahy: Kde teď sází Buffett a další legendy?
Ali Daylami, BITmarkets
Olívia Lacenová, Wonderinterest Trading Ltd.
Ambiciózní plány Volva: Pomohou autonomní nákladní vozy americké nákladní dopravě?
Petr Lajsek, Purple Trading
Jakub Petruška, Zlaťáky.cz
Zlatý býk je k nezastavení: Zlato překonalo hranici 2 900 USD
Miroslav Novák, AKCENTA
ČNB v únoru snižuje úrokové sazby, ale s jejich dalším poklesem bude velmi opatrná
Charu Chanana, Saxo Bank
Scénář obchodní války 2.0: Co to znamená pro vaše portfolio?
Jiří Cimpel, Cimpel & Partneři
?
Okénko pro podnikatele
Lukáš Novotný, Geis
Logistická firma Geis posiluje: Akvizice skupiny Gras a poboček Krüger