Výzkumník z Anthropic: Riziko vyhynutí kvůli AI je přes 10 %

Vývoj pokročilé umělé inteligence znovu otevírá debatu o rizicích spojených se systémy, které by v budoucnu mohly překonat lidské schopnosti. Evan Hubinger, který v technologické společnosti Anthropic vede oblast zaměřenou na sladění chování AI s lidskými cíli, odhaduje pravděpodobnost, že by umělá inteligence mohla během příštích deseti let způsobit vyhynutí lidstva, na více než 10 %. Jeho číslo představuje osobní expertní odhad budoucího rizika a ukazuje, jak vážně část lidí pracujících na vývoji nejpokročilejší AI současnou situaci hodnotí.