Umělá inteligence a s ní spojená zranitelná místa ve finančním sektoru

V úvodu exekutivního shrnutí Rada pro finanční stabilitu konstatuje, že umělá inteligence (AI) přetváří finanční sektor, pohání efektivnost a inovace. Má potenciál zlepšit účinnost (procesů), napomoci regulatorní compliance (soulad s právem), umožnit pokročilou datovou analýzu a vytvářet více personalizované produkty. Nicméně RFS identifikovala několik slabých míst, včetně závislosti třetích stran, tržních korelací, kybernetických rizik a problémů v modelování rizik a ve správě a řízení, jež by mohly mít vliv na finanční stabilitu.

Mohlo by vás zajímat: Škodní inflace u povinného ručení opět nabrala na obrátkách

Ve zprávě se upozorňuje, že na základě žádosti Jižní Afriky, která předsedala skupině G20 (od 1. 12. 2024 do konce listopadu 2025), bylo zkoumáno, jak finanční orgány mohou monitorovat přijímání AI a posuzovat zranitelná místa. Sledovaná zpráva 2025 navazuje na zprávu RFS 2024 a zahrnuje zjištění z řady šetření členů o přístupech k monitoringu AI. Jsou v ní zohledněny také rozhovory a diskuze s členy RFS, dále veřejně dostupné informace a informace od zainteresovaných osob. Ve zprávě je specifikována řada ukazatelů za účelem podpory monitoringu aplikace AI, ale také mnohá slabá místa ve finančním systému, včetně přímých a zástupných ukazatelů. Tyto ukazatele mohou být shromažďovány prostřednictvím šetření, přenosem informací, zapojením dohledu při součinnosti s regulovanými entitami, využíváním veřejně dostupných dat a dat prodejců, a i prostřednictvím existujících dohledových rámců.  I když finanční instituce učinily pokrok v chápání využívání aplikace AI, jejich benefitů i slabých míst, tak RFS je názoru, že monitorovací úsilí je stále ještě v počátečním stádiu.

Respondenti, kteří se zapojili do šetření realizovaného členy RFS, uvedli celou řadu problémů, jako například nedostatek odsouhlasených definic pro AI, obtíže při zajišťování srovnatelnosti napříč jurisdikcemi, potíže při hodnocení kritického stavu služeb v rámci AI, stejně jako náklady a rozsah monitoringu. Mnohé orgány mají ovšem plány na posílení sběru dat spojených s AI. Tato zpráva RFS klade důraz na přístupy směřující k podpoře tohoto úsilí, jako jsou zjednodušená šetření, podpora sdílení dat mezi tuzemskými orgány a využití ukazatelů identifikovaných v této zprávě za účelem zlepšit monitorovací aktivity.

Ve zprávě RFS se dále uvádí, že nástroje AI mohou podporovat monitoring a řízení rizik posílením odhalování podvodu, zlepšením kybernetické ochrany a účinnějším uplatňováním dohledových rámců. Problémem ovšem zůstává mapování indikátorů zranitelných míst. Určitá slabá místa, jako je závislost třetích stran, tržní korelace, kybernetická rizika, správa a řízení modelů[1], jsou obzvlášť obtížně sledovatelná z důvodu omezených údajů, nedostatku transparentnosti a vyvíjející se povaze systémů AI.

Monitoring by mohl těžit ze zkoumání nákladově efektivních přístupů, které jsou aktuální, dostatečně reprezentativní, schopné identifikovat slabá místa a je-li to možné, tak sladěné s relevantními standardy. Vycházeje ze zprávy za rok 2024, jež identifikovala jako klíčová slabá místa závislost třetích stran a koncentraci poskytovatelů služeb, tak tato sledovaná zpráva zkoumá nedávný vývoj, který by mohl mít důsledky pro spoléhání se finančních institucí na malý počet třetích stran – poskytovatelů služeb. Takový vývoj zvýrazňuje význam monitorování role poskytovatelů služeb, kteří podporují činnost finančních institucí a řeší potenciální slabá místa v dodavatelském řetězci AI.

Mohlo by vás zajímat: AČPM: Makléři loni zprostředkovali rekordní pojistné za více než 42 miliard Kč

Sledovaná zpráva obsahuje též případovou studii týkající se generativní AI s konstatováním, že i když finanční instituce se dosud zdají být opatrné při aplikaci generativní AI při zřetelně limitovaném využití pro kritické funkce a činnosti, tak zkoumají případy jejího nového využití. Poskytovatelé služeb jako třetí strany sehrávají závažnou úlohu při vývoji a nasazení efektivních aplikací generativní AI. Nicméně takové vztahy mohou také vystavit finanční instituce provozní zranitelnosti a rostoucí využití generativní AI by mohlo vést ke kritické (mezní) závislosti na třetích stranách. Případová studie staví do popředí vrstvenou povahu dodavatelského řetězce generativní AI a slabá místa, jež mohou rezultovat z aplikačních trendů, koncentrace a vertikální integrace.  Na základě souboru nástrojů RFS k řízení rizik třetí strany případová studie vymezuje úvahy pro orgány monitorující generativní AI a navrhuje možné indikátory pro posouzení kritického stavu, koncentrace, nahraditelnosti a systémové relevance třetích stran – poskytovatelů služeb AI.

Mohlo by vás zajímat: Miloš Velíšek: Obliba připojištění u motoristů narůstá

Zpráva končí následujícími náměty pro RFS, tvůrce standardů a národní kompetentní finanční orgány:

• národním orgánům se doporučuje rozšířit jejich monitorovací přístupy využitím potenciálních indikátorů prezentovaných v této zprávě. Tyto orgány by měly spolupracovat s tuzemskými zainteresovanými osobami, aby formalizovaly měření, posílily spojení s regulovanými finančními institucemi, zkoumaly nástroje AI, monitorovaly i zmírňovaly zranitelná místa a podporovaly větší sdílení dat napříč tuzemskými orgány,
• RFS a příslušní tvůrci standardů by měly pokračovat v podpoře daných činností posílením přeshraniční součinnosti, včetně sdílení informací, zkušeností a správné praxe a působit směrem k větší sladěnosti v oblasti taxonomií a indikátorů tam, kde je to proveditelné,
• RFS a příslušní tvůrci standardů se vyzývají k pokračování monitoringu vývoje AI a řešení mezer v oblasti dat, jak je to případné, a měli by působit směrem ke komplexnímu přístupu k chápání aplikace AI ve finančním sektoru a s ní spojených slabých míst. Zjištění, vyplývající ze zprávy, totiž jednoznačně podtrhují význam monitorování slabých míst spojených s aplikací AI.

Závěrem je třeba konstatovat, že závěry obsažené v exekutivním shrnutí jsou sice dosti obecné, ale jednoznačně ukazují, že AI se dostala do centra pozornosti „globálního regulátora“, a to z toho důvodu, že s AI spojená slabá místa by mohla mít vliv na finanční stabilitu. Detailní pohled například na indikátory slabých míst lze získat na základě prostudování celé zprávy.  Dá se předpokládat, že v dalším období se vhled RFS bude prohlubovat. 

[1] Model governance (správa a řízení modelů) je komplexní proces, kdy organizace zřizuje, implementuje a udržuje kontrolu nad využitím modelů. Zahrnuje vše od dokumentace modelu, přes testování, monitoring a rozpoznatelnost.