Odborný časopis STATISTIKA&MY je k přečtení ZDE
Náš rozhovor se má týkat umělé inteligence. Takže bychom si měli nejprve definovat, co to ta umělá inteligence vlastně je…
Umělá inteligence je primárně určitým typem strojového učení a modelování. My ji však často zaměňujeme s takzvanými velkými jazykovými modely, což jsou – velmi zjednodušeně řečeno – velké kompresory textů. Ty se snaží zkomprimovat všechny texty, které přečetly, a když jim dáte kus nějakého textu jako zadání, pokusí se ve své paměti najít a rozbalit to, čím by mohl pokračovat. Vše je velmi sofistikované, protože tím, jak se neuronová síť učí kompresi textů, tak se vlastně učí pravidla, a to nejen jazyková, ale i pravidla toho, jak funguje kultura nebo jak jsou v textech zakódovány lidské hodnoty. Je to vlastně nástroj, s jehož pomocí jsme schopni reprodukovat nebo generovat texty tak, že jsou koherentní s tím, jak vnímáme realitu.
Umělá inteligence je prý hlavně statistika – program vybírá nejpravděpodobnější spojení či variantu...
Mohli bychom říct, že to je taky statistika, a odpověď by nebyla špatně. Ale něco by nám uniklo. U statistiky očekáváme schopnost rozumět, proč to tak vyšlo. U AI však tuto schopnost postupně ztrácíme. U největších jazykových modelů úplně přesně nevíme, co se děje uvnitř, a tu schopnost pochopit, proč se něco stalo, nemáme. Vytvořili jsme komplexní systém, který se sám stal objektem našeho výzkumu a zjišťování, proč dělá zrovna to, co dělá.
Mohlo by vás zajímat: Ivan Špirakus: Pojištění musí stát na realitě, ne ideologii
Dá se AI srovnat s lidskou inteligencí?
Inteligence je něco jako schopnost komprimovat poznatky a zkušenosti, a na jejich základě predikovat budoucí vývoj. To AI dovede, takže nějaký druh inteligence to určitě je, ale neřekl bych, že je lidská. Umělé inteligenci totiž chybí sebeuvědomění, sebeprožitek, nemá dokonce ani žádné zakotvení ve smyslové realitě tak, jak ji vnímáme my. Ale protože texty, na nichž se AI trénuje, jsou o smyslové realitě, tak i výstupy, které produkuje, vypadají, jako by AI tuto realitu vnímala. A nám se pak zdá, že to je lidská inteligence. To je však jenom zdání. AI ty zkušenosti a znalosti nezískala tím, že by je sama prožila. Ona si je jenom někde přečetla a uložila do paměti.
Co považujete za největší přínos umělé inteligence?
Za hlavní přínos AI považuji to, že v době informačního přehlcení představuje nástroj, který nám umožňuje pracovat s obrovskou spoustou informací a rychle se v nich zorientovat. Přináší určité odlehčení kognitivně stále náročnější reality a dává možnost daleko hlubšího ponoru, než bychom byli schopni bez ní. To je ale zároveň i velké nebezpečí, které spočívá v tom, že když nebudeme posilovat a trénovat vlastní inteligenci a kognitivní schopnosti, tak začneme ochabovat. A pak se můžeme velmi rychle stát sami nástrojem umělé inteligence, která skrze nás bude ve světě zasahovat, aniž by věděla, co dělá. To, že AI nemá vůli a že nemá žádný cíl, totiž neznamená, že nemůže ve světě jednat. Protože ona jedná skrze nás.
Může nás umělá inteligence přemoci a převzít vládu nad Zemí?
Nejsem příznivcem teorie, že se AI jednoho dne probudí a ovládne nás. V zásadě k tomu nevidím důvod. Za velmi pravděpodobné však považuji to, že umělá inteligence, která bude stále víc zapojená do rozhodovacích mechanismů, učiní špatné rozhodnutí, a tím způsobí obrovskou katastrofu. My víme, že AI dělá špatná rozhodnutí, že halucinování je vlastností jejích algoritmů. Ale tím, jak na AI stále více spoléháme, tak si to přestáváme uvědomovat a riziko nějaké chyby s děsivými následky roste.
Mohlo by vás zajímat: Anketa Pojišťovna roku slaví čtvrtstoletí. Osobností trhu je Jitka Chizzola
Co bychom měli dělat pro to, abychom si zachovali zdravý rozum a dokázali ověřovat správnost informací?
To, že nějaký výstup pochází od umělé inteligence, samozřejmě neznamená, že je špatný. A špatné není ani to, když tento výstup čteme a řídíme se jím. Špatné je, že ztrácíme schopnosti udělat podobný výstup sami. Po AI bychom měli chtít věci, které jsme nejprve zvládli sami. Moje generace má určitou výhodu, protože jsme žili v době bez AI a museli jsme se spoustu věcí naučit. Učení je ale namáhavé a často se pojí s nějakou frustrací. Nastupující generace má možnost ten bolestivý proces obejít tím, že znalosti získá od umělé inteligence a přestane se učit. Tím ale zároveň mnoha věcem přestane rozumět.
Když ale nebudeme věcem rozumět, nebudeme je umět opravit a nepoznáme, že fungují špatně...
Přirovnal bych to k devatenáctému století, kdy řemeslníky začaly nahrazovat stroje. K obsluze strojů už nejsou potřeba řemeslníci, kteří umějí produkt sami vyrobit. Jsou potřeba lidé, kteří poznají, jestli je hotový výrobek dobrý, nebo vadný. To je jiná schopnost. S umělou inteligencí je to tak, jako bychom autory nahrazovali editory.
Jak si tedy má počínat běžný člověk ve věku umělé inteligence?
Myslím si, že se nic nemění na tom, že si lidé mají ověřovat, jestli jsou informace pravdivé, nebo nepravdivé. To, jestli jsou, nebo nejsou od AI, není důležité. Informace se stávají pravdivými nebo nepravdivými v naší hlavě. Proto je důležité udržet si schopnost takzvaného kritického myšlení, tedy analyzovat argumenty a strukturu daného textu a vůči nějakým jiným textům ověřit, jestli je pravdivý, nebo není. Tuhle schopnost můžeme kultivovat třeba právě čtením, ptaním se a dohledáváním, jestli texty dávají smysl.
Byl jste ředitelem Nadačního fondu nezávislé žurnalistiky. Jak AI ovlivňuje práci novinářů?
Vliv na média je dvojí. První je v oblasti samotného mediálního průmyslu, kde dopad začíná být poměrně citelný. Pro firmy to na jedné straně znamená, že mohou vygenerovat mnohem víc textů, na druhé straně však jsou producenti obsahu umělou inteligencí sráženi, protože vyhledávače stále více generují odpovědi na dotazy uživatelů pomocí AI. Dříve odkazovaly na weby, na které se člověk musel podívat, aby našel hledanou odpověď. Dnes dostane odpověď od AI a na žádný web už chodit nemusí. To pro ty weby znamená ztráty velkého množství přístupů, a tím i spousty peněz.
Druhý vliv AI je přímo na novináře. Těm tyto nástroje mohou pomáhat při rešeršní práci, při hledání témat nebo při zpětné vazbě. Nezdá se však, že by je AI mohla nahradit, protože práce novináře nespočívá pouze v tom, že si nastuduje spoustu textů a vytvoří z nich kompilát. Novinář musí být na místě, mluvit s lidmi, vnímat detaily a propojovat věci, které vypadají nepropojitelně. Novinář by měl umět popisovat konkrétní realitu, zatímco doménou AI je spíš zobecňování.
Jak AI ovlivňuje konzumenty médií?
Řekl bych, že dál pokračuje trend, který tu byl už před AI. Snižuje se úroveň literární gramotnosti, tedy schopnosti vnímat delší texty a orientovat se v nich. Delší a složitější texty stále častěji dáváme AI s tím, aby je shrnula a vybrala z nich to nejdůležitější. Tím ale sami ztrácíme schopnost delším textům rozumět. Ray Bradbury v knize 451 stupňů Fahrenheita o takovémto úpadku knih a čtení vypráví, když říká: „Všechno to začalo tím, že jsme nechtěli číst celé knihy a nechali jsme si dávat jenom shrnutí, pak jednu větu, a nakonec jsme přestali číst úplně.“ To je scénář, který asi zcela naplněn nebude, ale oslabení naší schopnosti číst a rozumět složitějším textům může být velmi silné.
Mohlo by vás zajímat: Exkluzivní fotogalerie: Jaký byl galavečer Pojišťovny roku 2025?
Ohrozí to zpětně existenci médií a novinářů?
Myslím, že žurnalistika to celé přežije. Jenom se pravděpodobně stane exkluzivnější. Výtvory skutečné novinařiny, jako třeba investigativní texty, budou ještě dražší než dnes a bude je pravděpodobně konzumovat menší počet lidí. Ale osud žurnalistiky není asi tolik spojen s otázkou umělé inteligence, jako spíš s otázkou, do jaké míry důvěřujeme demokracii a soudržnosti společnosti. Protože novinařina nesouvisí jenom se schopností psát, ale hlavně se schopností přinášet ověřené informace lidem, kteří se na jejich základě můžou rozhodovat. Dokud budeme chtít o svých věcech rozhodovat, má zde žurnalistika svoje místo.
A nezpůsobuje umělá inteligence právě to, že se ochota rozhodovat snižuje?
Spíš začínáme ztrácet hranici mezi tím, co je lidské, a co je umělá inteligence. Přestáváme vnímat, jestli jsme se rozhodli proto, že nám to AI doporučila a nám to vyhovuje, nebo nám to vyhovuje proto, že nám to doporučila AI. Musíme se asi mnohem víc zaměřit sami na sebe, než se zabývat tím, jestli něco je, nebo není pravda. Ověřená informace neznamená, že jde o správnou věc. Umělá inteligence nám pomáhá mít znalost, pomáhá nám dělat věci správně, ale nepomáhá nám dělat správné věci.
Mohou nástroje AI ohrozit fungování demokracie a posílit příklon společnosti k diktaturám?
Ohrožení demokracie podle mého názoru s AI souvisí, ale přichází odjinud, než bychom možná čekali. Kdyby většinu HDP ve společnosti produkovala AI bez lidí, je otázka, do jaké míry by státy potřebovaly občany. Například většina zemí, které žijí z nerostného bohatství, rozhodně není demokratická. Dokud je hlavním zdrojem bohatství společnosti člověk, bude mít stát tendenci fungovat s ním tak, aby všichni byli, pokud možno, spokojení. K tomu se zdá demokracie, přes všechny neduhy, jako docela dobré uspořádání. Co se však stane ve chvíli, kdy peníze nebudou pocházet od lidí? Potom vládám na lidech záležet nebude, a možná nastoupí nějaká éra nepodmíněného příjmu. Objeví se otázka, zda mají lidé rozhodovat o dalším směřování země, když několik „odborníků“ vybavených AI může kvalifikovaně rozhodovat za ně. To skutečně může vést k erozi demokracie.
Můžeme tomu nějak zabránit?
V dějinách člověk zatím vždycky nakonec nějakou rovnováhu našel, i když to bylo třeba za cenu hrozných válek a krizí. Jsem tedy spíš optimista a věřím, že je tu nezanedbatelná šance, že se podaří umělou inteligenci adoptovat tak, aby vedla k daleko většímu rozvoji toho, co znamená být člověkem, než k úpadku lidství.
Mohlo by vás zajímat: Spánková hygiena aneb jak se dobře vyspat
Jak se vlivem AI změní úloha statistiky a oficiálních statistických údajů?
Pozice statistiky se sice umělé inteligence dotýká, ale není na ní závislá. Ve statistice, v demografii a v podobných oblastech může AI výrazně pomoci při vyhodnocování a sbírání dat, při modelování. Umožňuje nám dělat věci, které jsme před pár lety nedělali, protože by to bylo moc drahé a časově náročné. Důležité ovšem je, aby za nás nepřevzala rozhodování. AI nám dává podporu, rozhodování však musí zůstat na lidech.
Co když AI využijí respondenti, aby za ně vyplnila dotazníky, které se jim vyplňovat nechce?
To samozřejmě nastat může. Neznamená to ale, že údaje, které za vás AI vyplní, budou špatně. Model světa, který AI přináší, záleží na vstupních datech. Když budou ta data správná, mohou být správné i výsledky, které z nich odvodíme. Statistikům by to mohlo svým způsobem uvolnit ruce a přimět je zabývat se věcmi, které dosud zůstávaly skryté, na které se dosud respondentů z různých důvodů neptali.
Děkuji Vám za rozhovor.
Odborný časopis STATISTIKA&MY je k přečtení ZDE
Pavel Černý
Oddělení marketingu a PR
Český statistický úřad
Komentáře
Přidat komentář