Pojistný obzor je k přečtení ZDE
Návrh nařízení dělí systémy AI do čtyř kategorií podle rizika, které mohou představovat. Vymezuje praktiky a postupy s nepřijatelným rizikem, jež přímo zakazuje – zpravidla jde o aplikaci AI způsobem, který může ohrozit fyzické nebo psychické zdraví osob. Na opačném spektru jsou systémy AI s omezeným nebo minimálním rizikem. Zatímco u prvně jmenovaných bude stačit informování dotčených osob, že interagují s AI, systémy s minimálním rizikem regulaci nebudou podléhat.
Jádrem návrhu nařízení jsou systémy AI s vysokým rizikem, kam bude spadat celá řada systémů AI používaných v nejrůznějších oblastech lidské činnosti, od kritické infrastruktury (např. v dopravě) přes vzdělávání (např. hodnocení zkoušek) či zaměstnávání (hodnocení životopisů) až po základní soukromé a veřejné služby (např. v úvěrovém hodnocení).
Mohlo by vás zajímat: 2Q 2021: MetLife vykázal čistý zisk 3,4 mld. $. Prudential Financial 2,2 mld. $
Vzhledem k širokému záběru návrhu nařízení a postupujícímu zapojování systému AI do nejrůznějších oblastí lze očekávat, že nařízení může v budoucnu v nemalé míře zasáhnout také oblast pojišťovnictví. Jestliže budou systémy AI využívány k hodnocení zaměstnanců či uchazečů o zaměstnání, ale také třeba zdravotního stavu klientů, příp. pojistných událostí, půjde zřejmě o systémy AI s vysokým rizikem a pojišťovně využívající takový systém AI nařízení uloží řadu nových povinností. Podle návrhu nařízení má mezi povinnosti uživatelů patřit především provádění opatření v oblasti lidského dohledu nad systémem, zajištění relevance vstupních dat či monitorování provozu systému, uchování jeho logů a používání systému AI v souladu s jeho návodem k použití.
Tři kategorie sankcí
Komplikovanější by mohla být situace, kdy by si pojišťovna nechala systém AI vyvinout za účelem uvedení na trh nebo jen do provozu pod svým jménem. Tím by se dostala do pozice poskytovatele, na kterého dopadá mnohem širší množina povinností, včetně registrace systému v nově zavedené Evropské databázi pro samostatné vysoce rizikové systémy AI. Návrh nařízení počítá se třemi kategoriemi sankcí:
- 30 mil. EUR nebo 6 % z celkového celosvětového ročního obratu porušující společnosti za předchozí finanční rok v případě porušení povinností souvisejících se zakázanými systémy AI nebo daty a jejich správou;
- 20 mil. EUR nebo 4 % z celkového ročního obratu porušující společnosti za nesoulad systému AI s ostatními požadavky nebo povinnostmi podle nařízení;
- 10 mil. EUR nebo 2 % z celkového ročního obratu porušující společnosti za poskytnutí nesprávných, neúplných nebo zavádějících informací subjektu posuzování shody a příslušným vnitrostátním orgánům v reakci na jejich žádost.
Mohlo by vás zajímat: ČAP Insurance talk: U mikrofonu Pavel Nepala
Návrh nařízení je zatím na samém počátku legislativního procesu, který může být poměrně zdlouhavý – je vcelku možné, že nařízení bude účinné až za několik let. Jakmile se tak však stane, bude nařízení přímo aplikovatelné ve všech zemích EU, proto je vhodné sledovat vývoj návrhu nařízení již nyní.
Pojistný obzor je k přečtení ZDE
Mgr. Michal Nulíček, LL.M.
Advokát a partner
ROWAN LEGAL, advokátní kancelář
Komentáře
Přidat komentář