Využívání umělé inteligence při poskytování investičních služeb pohledem regulátora

Evropský orgán pro cenné papíry a trhy (ESMA) uveřejnila stanovisko ohledně využívání umělé inteligence při poskytování investičních služeb¹⁾. Vztahuje se jak na nástroje umělé inteligence vyvinuté na míru pro daného poskytovatele služeb, tak i pro případy, že by poskytovatel využíval externí technologie umělé inteligence. Ani tuzemský regulátor se této oblasti nebrání a tématem umělé inteligence se zabývá například na svém blogu.

Benefity využívání AI v rámci poskytování investičních služeb

Nástroj pro zajištění vhodnějšího portfolia pro zákazníka – nástroje umělé inteligence lze využívat ke zpracování a analýze velkého objemu nestrukturovaných dat. S její pomocí je tedy možné v rámci služby investičního poradenství/obhospodařování majetku zákazníka efektivněji navrhovat nástroje do portfolia zákazníků. Investiční nástroje tak mohou lépe naplňovat požadavky zákazníka ve smyslu odborných znalostí a zkušeností v oblasti investic, finančního zázemí, včetně schopnosti nést ztráty, a investičních cílů, včetně tolerance k riziku. Oblast, ve které se dají nástroje umělé inteligence hojně využít, je i udržitelnost investic, kdy může sloužit jako nástroj pro zjištění vhodného nástroje pro naplnění investičního cíle v oblasti udržitelnosti.

Zákaznický servis – virtuální asistenti, chatboti a další automatizace informačního servisu mohou sloužit jako zlepšení služeb ve směru k zákazníkům.

Fraud Detection – nástroje umělé inteligence mohou lépe odhalovat neobvyklá chování, případně nepřesnosti v datech, mohou tak být vhodným nástrojem například v oblasti detekce a prevence podvodů v rámci boje proti praní špinavých peněz a financování terorismu.

Administrativa – nástroje umělé inteligence mohou rychleji a přesněji připravit textové zprávy, marketingová sdělení a další úkony, které by administrativnímu pracovníkovi zabraly nepoměrně více času.

Oblast vnitřní kontroly – jako nástroj pro správu dat lze umělou inteligenci využít i v rámci interních kontrolních činností, jako je například interní audit (odhalování rozdílností) či risk management, kdy může napomáhat řídit rizika klientského portfolia.

Negativa AI v rámci poskytování investičních služeb

Zanedbání lidského úsudku – nadměrná závislost a spoléhání se pouze na nástroje umělé inteligence se mohou ukázat jako obzvláště rizikové zejména v případě neobvyklých situacích na trzích.

Nedostatečná transparentnost, zkreslení algoritmu – ne v každé situaci dojde k tomu, že nástroje umělé inteligence vyhoví přesnému požadavku zadavatele. Ve výsledku tak mohou být data zpracována jiným způsobem, než měl zadavatel v plánu. Na základě publikovaných výsledků z roku 2023 až 19,5 % obsahu generovaného z chatbotů je v rozporu se zdrojem nebo jej nelze ověřit na základě faktů²⁾.

Bezpečnost a ochrana dat – velké množství dat a údajů, včetně osobních údajů, se kterými nástroje umělé inteligence pracují, představují koncentrovanou oblast pro jejich možné zneužití.

Na co nezapomenout ve světle MiFID II

Jednání v nejlepším zájmu zákazníků – stěžejní povinnost poskytovatele investičních služeb, zákazník by měl být informován, jakým způsobem poskytovatel nástroje umělé inteligence využívá, zejména v případech, kdy se zákazníky jedná přímo chatbot, apod.

Vzdělávání pracovníků na poli digitální gramotnosti – stěžejní je role řídicího orgánu poskytovatele investičních služeb při nastavování politiky zapojení umělé inteligence v rámci společnosti, politiky podporující vzdělávání v této oblasti nebo politiky odpovědnosti.

Významnost vstupních dat – poskytovatelé investičních služeb by měly zajistit, aby vstupní data byla dostatečně relevantní, reprezentativní, v případě jejich získávání od třetích stran poté musí plnit stávající požadavky pro outsourcing kritických a důležitých provozních funkcí. Nastaveno by mělo být také jejich testování, validace a průběžná analýza.

Řízení rizik – do oblastí identifikace, hodnocení a řízení běžných rizik poskytovatelů investičních služeb přibývají nové oblasti spojené s nástroji umělé inteligence (bezpečnost dat, zkreslení algoritmů…)

Ex ante i ex post kontrola – poskytovatelé by měly nejen v rámci risk managementu zavést kontrolní mechanismy, které případně maximalizují pravděpodobnost odhalení chyb. Běžné by mělo být i testování výsledků z hlediska přesnosti nebo zátěžové testování.

Vedení záznamů – v případě zařazení nástrojů umělé inteligence do procesu poskytování investičních služeb je nezbytné zajistit zejména zaznamenávání rozhodovacích procesů, použitých zdrojů dat, implementovaných algoritmů nebo updatů v čase.

Proto, aby mohly příležitosti využívání umělé inteligence v rámci poskytování investičních služeb zvítězit nad možnými hrozbami, je bezesporu nezbytná diskuze o její regulaci. Prozatím je však třeba dodržovat aktuálně platnou legislativu a přizpůsobit využívání umělé inteligence při poskytování investičních služeb nastavenému rámci MiFID II.

1) Public Statement On the use of Artificial Intelligence (AI) in the provision of retail investment services, https://www.esma.europa.eu/sites/default/files/2024-05/ESMA35-335435667-5924__Public_Statement_on_AI_and_investment_services.pdf

2) https://arxiv.org/abs/2305.11747

Přečtěte si také