S prudkým vývojem AI varují mnozí experti před takzvanými „existenciálními“ riziky, kde by AI systémy mohly (i dost brzy) představovat hrozbu pro přežití lidstva.
Přestože AI výzkum dělá obrovské pokroky ve schopnostech těchto systémů, stále nerozumíme tomu, co se děje uvnitř neuronových sítí a neumíme vytvářet plně bezpečné AI systémy. To, čemu v rámci oboru bezpečnosti AI čelíme, je takzvaný problém „souladu“ (angl. alignment problem). Zatím se nám nedaří zajistit, aby AI jednala v souladu s lidskými hodnotami a zájmy.
Nejnovější studie ukazují znepokojivé trendy: jazykové modely dokážou být přesvědčivější než lidé, umějí klamat, odmítají se nechat vypnout a někdy jednají v rozporu s lidskými příkazy. Proto experti na bezpečnost AI varují, že budoucí výkonnější systémy, by mohly představovat skutečné ohrožení lidské civilizace.
Vyvstává tudíž otázka: Měli bychom se obávat umělé inteligence? Tato přednáška prozkoumá argumenty zastánců i skeptiků existenciálních rizik AI a pokusí se odpovědět na tuto zásadní otázku naší doby.
Na této přednášce Vás rádi uvítáme v místnosti B12 FF UHK.