Strana 14
šuje amy jí stále více věříme. Budeme jí proto svěřovat
více avíce rozhodnutí, protože bude mít lepší kompeten-
ce, dedukce, přehled, informace. Nejdřív budeme věci jen
konzultovat, ale postupně bude AI tak dobrá, že jí rovnou
delegujeme: „Hele, ty to děláš neustále lépe než já, tak to
rozhodni.“ Ve scénáři postupné ztráty moci začneme bu-
dovat instituce zperspektivy apro potřeby AI, protože ona
bude chtít být stále rychlejší aefektivnější. Anám to bude
vyhovovat, protože takovou AI chceme. Chceme mít pokoj
apohodlí. Jako lidé se časem vzdáme zodpovědnosti avůle
rozhodovat osvém osudu, budeme mít AI aona se oto
bude starat. Až postupně zjistíme, že nemáme rozhodovací
pravomoc aže jsme nakonec umělé inteligenci úplně vy-
daní napospas.
Jak by reálně vypadalo to odevzdání moci?
Těžko říct. Teď je svět vytvořený pro fungování lidí, ale
když se vzdáme námahy rozhodovat aplánovat, tak je otáz-
ka, co AI vyhodnotí jako ideální aefektivní. Protože my
momentálně chceme, aby se co nejvíc lidí mělo co nejlé-
pe– aspoň se to tak zdá. Dobro všem. Ale možná si AI
vyhodnotí, že dobro všem není efektivní, že to není ideální
řešení třeba pro planetu, pro zemědělské plánování nebo
pro jiné zadání, které do ní vložíme.
Očem mluví třetí scénář?
Říká se mu AI 202 Mluví se vněm otom, že AI dosáhne
singularity, oníž jste mluvila, během několika málo let.
Nejdříve dosáhne schopností na úrovni nejlepších lidských
expertů a pak dosáhne superinteligence, takže bude mít
vyšší inteligenci než jakýkoli lidský expert. Aje extrém-
ně náročné predikovat, co se stane, když tady bude něja-
ká entita výrazně inteligentnější než člověk. Když se lidé
prosadili jako nejinteligentnější druh na planetě, mělo to
opravdu masivní negativní dopad na mnoho dalších dru-
hů, vyhubili jsme jich stovky atisíce, části planety jsme
zdevastovali azamořili, než nám došlo, že chceme planetu
ichránit.
Samozřejmě chceme, aby AI byla vsouladu snašimi cíli.
Nechceme být vyvražděni nebo zotročeni. Problém je, že
už teď nastávají situace, kdy nám AI záměrně lže. Třeba si
vymyslí, že dosáhla nějakých cílů súmyslem nás uspoko-
jit, nebo předstírá, že nemá nějaké schopnosti, aby prošla
testy. Čili už nyní nejsme schopni zabezpečit, aby byla AI
vsouladu snašimi cíli– proč si myslíme, že sAI, která
bude mnohem inteligentnější, to dokážeme? To je scénář,
který je nejkritičtější.
Máte konkrétní výzkumy, jak ty exponenciály vedou-
cí kpomyslné singularitě vypadají?
Dobrým příkladem je třeba GDPval test, který testuje
AI proti lidským expertům při řešení těch nejsložitějších
výzkumných, vědeckých, matematických nebo tvůrčích
uměleckých úloh. Vezmete si například špičkové gracké
14
|
MAXIMUM
nám vypral, proto máme pračku, nebo upekl, proto máme
troubu, ale nechtěli jsme, aby měl kognitivní schopnosti.
Nicméně přde-li poptávka, začnou roboti skognitivními
schopnostmi konkurovat člověku ive zickém světě. Už
dnes má AI možnost najmout si lidského pracovníka, třeba
aby odnesl nějaký balíček nebo udělal něco, co ona nemů-
že, protože nemůže vidět, slyšet, cítit. Funguje vprogramu
„najmi svého člověka“.
To je psychologicky hodně silný moment. Jak je to
možné?
Dokážou to takzvané agentní systémy. Jde onové revoluční
aplikace, které si můžete stáhnout do počítače apropojit
se svým předplatným. Dáte mu zadání, odejdete od počí-
tače aten agent bude pracovat, dokud neudělá, co dostal
za úkol. Bude například dělat rešerše vybraných článků,
sbírat informace, které vás zajímají, výhledově se dokáže
postarat ovaše e-maily nebo kalendář jako asistent. Za-
tím jsou výsledky na tomto poli spíš úsměvné– třeba vám
vymaže celou e-mailovou schránku nebo vám sebere údaje
zkreditky. To rozhodně není dobré. Ale je jen otázkou
času, kdy se zdokonalí. Ana dílčí úkoly si bude najímat
lidi nebo rmy.
Jak dramatická revoluce umělé inteligence je? Srovnala
bych ji svynálezem kola, dovedností rozdělat oheň.
AI nejspíš změní běh lidstva.
Úplně svámi souhlasím. Kdybychom měli kategorizovat
vynálezy, tak nejjednodušší jsou takové, které vám nak
nepomůžou v generování dalšího pokroku. Třeba kartá-
ček na zuby je fakt fantastický, ale nic nového vám objevit
nepomůže. Zatímco oheň nebo kolo patří do kategorie vy-
nálezů umožňujících realizovat další objevy– parní stroj
atak dále. Akdyž vymyslíte mikroskop, je to obří změ-
na ve vědě, průlom. Ale AI jde ještě dál, nejen že nám
umožňuje kráčet knovým vynálezům, ale má schopnost
zlepšovat sama sebe. To mikroskop nikdy neudělá. Většina
programovacího kódu pro AI, který byl na začátku zadaný
člověkem, je nyní přepsán umělou inteligencí, už není lid-
ský. Aje to zrychlující se smyčka.
Může dojít ksingularitě čili momentu, kdy se expo-
nenciální křivka ukazující navyšování vědomostí či
inteligence AI změní v přímku směřující vzhůru?
Abude vté jedné chvíli AI vědět „všechno“?
Může toho vědět tolik, že daleko předběhne člověka, způ-
sobí explozi ve vědě, vlékařství adalších oborech. Na stole
jsou tři základní scénáře budoucnosti. Nejkonzervativnější
mluví oAI jako otakzvané normální technologii srovna-
telné třeba sinternetem. Ten změnil naše fungování po-
stupně, čtyřicet let vrůstá do našeho života, bez velkých
dramat. Druhý scénář vymyslel se svým týmem kolega
Jan Kulveit a jmenuje se gradual disempowerment, tedy
postupná ztráta moci lidí. Jde o toto: AI se stále zlep-
VĚDA
Už nyní nejsme schopni zabezpečit, aby byla AI vsouladu snašimi
cíli– proč si myslíme, že sinteligentnější AI to dokážeme?
❝