Aktuální výzkum mezinárodní pojišťovací makléřské a poradenské společnosti Gallagher v oblasti řízení rizik přinesl informace, že do konce roku 2024 používalo umělou inteligenci (AI) v každodenním provozu 45 % podniků, což je o 32 % více než v předchozím roce. Větší firmy s většími zdroji hlásí ještě vyšší přijetí AI do provozu, a to na úrovni 82 % oproti 69 % v roce 2023.
Tento růst je poháněn schopností AI zvyšovat efektivitu automatizací úkolů, zlepšováním rozhodování a podněcováním inovací. Mezi vedoucími pracovníky firem 44 % uvádí jako klíčovou výhodu lepší řešení problémů, zatímco 42 % tvrdí, že AI zvyšuje efektivitu a produktivitu zaměstnanců, což jim umožňuje soustředit se na jiné úkoly. AI se nyní nejčastěji používá pro psaní e-mailů a vyřizování opakujících se agend (32 %), v zákaznickém servisu (31 %) a pro analýzu dynamiky trhu (28 %).
Mohlo by vás zajímat: Intermap: Inovativní řešení pro stanovení tržní ceny nemovitosti používá i Slavia
Dobrý sluha, zlý pán
Vzhledem k tomu, že se společnosti stále více spoléhají na AI při kritických úkolech podnikání, Gallagher zdůrazňuje, že je důležité rozpoznat související rizika a pečlivě řídit její používání. Vedoucí představitelé podniků hlásí větší povědomí o rizicích souvisejících s AI ve srovnání se situací před rokem. S jejím rychlým vývojem se stejně rychle mění i prostředí rizik. Chyby AI neboli "halucinace", kdy systémy generují nepřesné výsledky, jsou hlavním problémem více než třetiny (34 %) majitelů firem, následuje ochrana dat a porušování soukromí (33 %) a právní odpovědnost (31 %) vyplývající z potenciálního zneužití AI.
Gallagher předpovídá rostoucí právní odpovědnost podniků, které nedokážou řádně řídit své AI aplikace. Klíčovým problémem jsou firmy nebo dodavatelé, kteří se při poskytování profesionálních služeb nebo poradenství spoléhají na výzkum generovaný umělou inteligencí. Pokud použijí nesprávné informace, mohou čelit značným právním nákladům, škodám a vyrovnáním.
Lidskou odbornost a úsudek AI nenahradí
Ben Waterton, výkonný ředitel pro profesní odškodnění ve společnosti Gallagher, komentoval dnešní situaci: „Umělá inteligence je nyní nedílnou součástí našeho každodenního života – rozpoznávání obličeje, navigační systémy a doporučení vyhledávání a reklama jsou příklady, se kterými se setkáváme každý den. Výstup z AI je však jen tak dobrý, jak dobrá jsou vstupní data, s nimiž AI pracuje, a nelze se na něj slepě spoléhat. Vyskytla se řada případů, kdy bylo zjištěno, že jednotlivci placení za své odborné znalosti používali informace generované umělou inteligencí, které byly nesprávné a vedly k tomu, že byli vystaveni nákladným negativním výsledkům.“
AI systémy vynikají ve zpracování obrovského množství dat a identifikaci vzorců, které nemusí být pro člověka snadno zřejmé. Nemohou však nahradit lidskou odbornost a úsudek, které do své práce vnášejí kvalifikovaní jedinci. Spoléhání se pouze na AI bez kritického zkoumání a lidského dohledu může vést k vážným důsledkům a kompromitujícím radám. „Postupy zajištění kvality a dohled nad zaměstnanci se musí vyvíjet, aby bylo zajištěno, že toto vznikající riziko bude rozpoznáno a řešeno, aby se zabránilo ztrátám z profesní odpovědnosti,“ upozorňuje Ben Waterton.
Mohlo by vás zajímat: ČAP upozorňuje na největší omyl Čechů: 60% pojištění domu nestačí
Kybernetická rizika a odpovědnost vedení
Společnost Gallagher také varuje, že AI přináší nová kybernetická rizika. Její interní specialisté na tuto oblast varují, že umělá inteligence by mohla vystavit podniky rizikům pro soukromí a ochranu dat, včetně porušování práv na používání dat, otravy dat a porušování předpisů. AI také zvyšuje sofistikovanost kybernetických zločinců, což jim umožňuje využívat zranitelnosti s větší efektivitou a rozsahem, což ztěžuje detekci útoků a obranu proti nim.
James Pearce, Cyber Account Executive ve společnosti Gallagher, uvedl: „Historicky byl trh kybernetického pojištění zběhlý v přizpůsobování se novým hrozbám v průběhu času a očekává se, že totéž udělá s riziky souvisejícími s AI. S tím, jak se rizika AI stávají stále více definovanými, však pojišťovny začínají přehodnocovat své pojistné krytí a podniky využívající AI musí kontrolovat, zda mají krytí pro případ, že by došlo ke kybernetickému útoku nebo narušení soukromí konkrétně v důsledku expozice AI.“
Používání umělé inteligence také zvyšuje rizika odpovědnosti vedoucích pracovníků, zejména ve dvou klíčových oblastech: "AI washing", kdy firmy přeceňují své schopnosti ve vztahu k AI, a halucinace AI, kdy nepřesné informace generované AI informují o obchodních rozhodnutích nebo jsou poskytovány klientům. Oba scénáře by mohly vést k regulační kontrole, právním výzvám a problémům s dodržováním předpisů – potenciálně vystavit členy vrcholového vedení soudním sporům a nárokům za porušení povinnosti péče řádného hospodáře, protože řádně nedohlížejí na správu AI.
Mohlo by vás zajímat: Václav Geletič: S aplikací KOOPILOT až o 40 % nižší pojistné
Laura Parris, výkonná ředitelka Directors' & Officers' Insurance ve společnosti Gallagher, závěrem upozorňuje: „Zneužívání AI představuje rostoucí riziko pro vedoucí pracovníky podniků, přičemž AI zveličuje nebo zkresluje své schopnosti, což vede k potřebě zvýšené kontroly. Byli jsme už svědky právních kroků proti společnostem za zavádějící tvrzení o AI, sporů investorů ohledně účinnosti produktů řízených ze strany AI a vymáhání regulačních předpisů proti firmám, které uvádějí nepravdivá prohlášení o používání AI. S tím, jak se zintenzivňuje dohled, je transparentnost a odpovědnost při zveřejňování informací souvisejících s umělou inteligencí důležitější než kdy jindy.“
Umělá inteligence je mocný nástroj, který může firmám přinést významné výhody. Klíčem k úspěchu je však zodpovědný a obezřetný přístup.
Komentáře
Přidat komentář