Už tu nejsme sami

Umělá inteligence zvládá čím dál víc. Pracuje za nás, radí nám – a nově se s námi i „vztahuje“. Je vždy milá, dostupná a bez nároků. Konkurence, která nikdy nemá špatnou náladu a všechno ví. Jak si v téhle tiché soutěži stojí člověk a jaké je vlastně skóre ve hře lidstvo versus AI, vysvětluje psycholog Marek Urban z Psychologického ústavu AV ČR.

Text: Olga Procházková | Foto: Shutterstock.cz, archiv Marka Urbana

Na jakou z otázek, které se vám chystám položit, byste mi odpověděl lépe vy než AI?

Na drtivou většinu věcí vám AI odpoví lépe. V 99,9 % případů. Ještě před dvěma lety by to tak nebylo, ale když AI začala trénovat na datech, která jsou na internetu, a k tomu dostala nové nástroje, získala schopnost nejen hledat, ale i vytvářet nové informace. Jedna z mála věcí, které vám AI nepoví lépe než já, je to, na čem já výzkumně pracuji. Není schopna definovat složité výzkumné problémy, tedy nejnovější, nejinovativnější a nejkreativnější myšlenky, kterých jsou lidští experti schopni – to, co nikdy nebylo řečeno, to, co my formulujeme jako první na světě. A to je poslední hranice, jež nebyla zatím překonána. AI ještě neumí vymyslet nový kreativní problém.

Můžete uvést konkrétní příklad?

Konkrétní příklad teď uvést nemohu, protože jde o témata z probíhajícího výzkumu, která zatím nejsou veřejná. Nechceme, aby se na nich umělá inteligence vzdělávala. Víte, když AI začala, tak dokázala vysvětlit pojmy, aplikovat řešení na konkrétní situaci, ale nebyla vůbec schopná vytvářet něco nového. Kreativita byla atakovaná až novějšími takzvanými uvažujícími modely o1, o3, nebo chcete-li modely schopnými vícekrokového uvažování. Dnes tyto modely dokážou samy vymyslet řešení i velmi složitých vědeckých nebo například matematických problémů včetně těch, které lidští experti nezvládli vyřešit. To je alarmující.

Chcete říct, že AI prolomila nějaký matematický problém, na nějž člověk ještě nepřišel?

Ano, ona je schopná najít řešení, které žádný člověk nikdy nevymyslel, což je extrémní úroveň kreativity. Ale transformativní kreativita je stále doménou lidí. Transformativní kreativita totiž není jen „vymyslet něco nového“, ale změnit způsob, jak o věcech přemýšlíme. Zatím dokážeme konceptualizovat myšlenky tak, jak to ona neumí. Ona má databáze vědomostí, ale zbyl nám ještě maličký výsek reality, který formujeme jen my jako lidé.

Když řeknu, že AI „přemýšlí“, „uvažuje“, co se děje za tím? Ona z množství dat něco vybere a vhodně zkombinuje?

To je hodně zhruba řečeno. Nejdřív máte tréninková data, což jsou všechny psané texty, videa, filmy, nahrávky, jednoduše všechna digitální data, co kdy člověk vytvořil. A také syntetická data, tedy ta, která byla vytvořena předchozími modely, protože abyste dokázali nový model „nakrmit“, potřebujete hrozně moc dat. A na nich model během tréninku internalizuje čili přijímá za své vzorce v daném jazyce a způsob a souvislosti jejich užívání. A nedělá to deterministicky, nýbrž je tam jistý element náhody. Nově modely chápou i kontext rozhovoru a vedou také něco jako vnitřní dialog, který mimikuje lidské myšlení – zatímco chatbot píše odpověď, zároveň kontroluje, zda dává smysl. Ovšem musím zdůraznit, že tenhle popis, který jsem vám dal, je ale extrémně zjednodušený a technicky nepřesný.

Spekuluje se, že AI vezme lidem práci. Mají se bát i novináři o živobytí? Vždyť AI stále potřebuje nové obsahy, protože když „tréninková data“ nebudou přibývat, tak systém zamrzne. Pořád ještě někdo musí dojet například do válečné zóny a referovat o dění. Lidský faktor zůstává nezastupitelný, ne?

Ano, AI může generovat obsah donekonečna, ale bez nových lidských zkušeností by se postupně začala točit v kruhu. Už teď ale dochází k interakci. Kdo novinářům dělá jazykové korektury nebo přepis rozhovoru? Kdo třeba navrhne otázky do rozhovoru? Kdo vám pomůže, když nemůžete hnout s titulkem? Je tam zpětnovazebná smyčka. AI je v našich životech, ať chceme, nebo ne. Už tady nejsme jen my sami.

Ale ve fyzickém světě zatím vedeme.

AI je nyní velmi limitovaná tím, že není fyzicky přítomná. Nicméně exponenciální nárůst nastává i v robotice. Dnes si můžete za necelého půl milionu korun koupit robota, který je přibližně metr vysoký a dokáže vyndat nádobí z myčky, utřít ho, umí vyprat, vysát. Momentálně ještě není propojení mezi virtuálním a mechanickým světem tak dokonalé. Mimo jiné i proto, že doposud jsme od robota chtěli, aby nám vypral, proto máme pračku, nebo upekl, proto máme troubu, ale nechtěli jsme, aby měl kognitivní schopnosti. Nicméně přijde-li poptávka, začnou roboti s kognitivními schopnostmi konkurovat člověku i ve fyzickém světě. Už dnes má AI možnost najmout si lidského pracovníka, třeba aby odnesl nějaký balíček nebo udělal něco, co ona nemůže, protože nemůže vidět, slyšet, cítit. Funguje v programu „najmi svého člověka“.

To je psychologicky hodně silný moment. Jak je to možné?

Dokážou to takzvané agentní systémy. Jde o nové revoluční aplikace, které si můžete stáhnout do počítače a propojit se svým předplatným. Dáte mu zadání, odejdete od počítače a ten agent bude pracovat, dokud neudělá, co dostal za úkol. Bude například dělat rešerše vybraných článků, sbírat informace, které vás zajímají, výhledově se dokáže postarat o vaše e-maily nebo kalendář jako asistent. Zatím jsou výsledky na tomto poli spíš úsměvné – třeba vám vymaže celou e-mailovou schránku nebo vám sebere údaje z kreditky. To rozhodně není dobré. Ale je jen otázkou času, kdy se zdokonalí. A na dílčí úkoly si bude najímat lidi nebo firmy.

Jak dramatická revoluce umělé inteligence je? Srovnala bych ji s vynálezem kola, dovedností rozdělat oheň. AI nejspíš změní běh lidstva.

Úplně s vámi souhlasím. Kdybychom měli kategorizovat vynálezy, tak nejjednodušší jsou takové, které vám nijak nepomůžou v generování dalšího pokroku. Třeba kartáček na zuby je fakt fantastický, ale nic nového vám objevit nepomůže. Zatímco oheň nebo kolo patří do kategorie vynálezů umožňujících realizovat další objevy – parní stroj a tak dále. A když vymyslíte mikroskop, je to obří změna ve vědě, průlom. Ale AI jde ještě dál, nejen že nám umožňuje kráčet k novým vynálezům, ale má schopnost zlepšovat sama sebe. To mikroskop nikdy neudělá. Většina programovacího kódu pro AI, který byl na začátku zadaný člověkem, je nyní přepsán umělou inteligencí, už není lidský. A je to zrychlující se smyčka.

Může dojít k singularitě čili momentu, kdy se exponenciální křivka ukazující navyšování vědomostí či inteligence AI změní v přímku směřující vzhůru? A bude v té jedné chvíli AI vědět „všechno“?

Může toho vědět tolik, že daleko předběhne člověka, způsobí explozi ve vědě, v lékařství a dalších oborech. Na stole jsou tři základní scénáře budoucnosti. Nejkonzervativnější mluví o AI jako o takzvané normální technologii srovnatelné třeba s internetem. Ten změnil naše fungování postupně, čtyřicet let vrůstá do našeho života, bez velkých dramat. Druhý scénář vymyslel se svým týmem kolega Jan Kulveit a jmenuje se gradual disempowerment, tedy postupná ztráta moci lidí. Jde o toto: AI se stále zlepšuje a my jí stále více věříme. Budeme jí proto svěřovat více a více rozhodnutí, protože bude mít lepší kompetence, dedukce, přehled, informace. Nejdřív budeme věci jen konzultovat, ale postupně bude AI tak dobrá, že jí rovnou delegujeme: „Hele, ty to děláš neustále lépe než já, tak to rozhodni.“ Ve scénáři postupné ztráty moci začneme budovat instituce z perspektivy a pro potřeby AI, protože ona bude chtít být stále rychlejší a efektivnější. A nám to bude vyhovovat, protože takovou AI chceme. Chceme mít pokoj a pohodlí. Jako lidé se časem vzdáme zodpovědnosti a vůle rozhodovat o svém osudu, budeme mít AI a ona se o to bude starat. Až postupně zjistíme, že nemáme rozhodovací pravomoc a že jsme nakonec umělé inteligenci úplně vydaní napospas.

Jak by reálně vypadalo to odevzdání moci?

Těžko říct. Teď je svět vytvořený pro fungování lidí, ale když se vzdáme námahy rozhodovat a plánovat, tak je otázka, co AI vyhodnotí jako ideální a efektivní. Protože my momentálně chceme, aby se co nejvíc lidí mělo co nejlépe – aspoň se to tak zdá. Dobro všem. Ale možná si AI vyhodnotí, že dobro všem není efektivní, že to není ideální řešení třeba pro planetu, pro zemědělské plánování nebo pro jiné zadání, které do ní vložíme.

O čem mluví třetí scénář?

Říká se mu AI 2027. Mluví se v něm o tom, že AI dosáhne singularity, o níž jste mluvila, během několika málo let. Nejdříve dosáhne schopností na úrovni nejlepších lidských expertů a pak dosáhne superinteligence, takže bude mít vyšší inteligenci než jakýkoli lidský expert. A je extrémně náročné predikovat, co se stane, když tady bude nějaká entita výrazně inteligentnější než člověk. Když se lidé prosadili jako nejinteligentnější druh na planetě, mělo to opravdu masivní negativní dopad na mnoho dalších druhů, vyhubili jsme jich stovky a tisíce, části planety jsme zdevastovali a zamořili, než nám došlo, že chceme planetu i chránit.

Samozřejmě chceme, aby AI byla v souladu s našimi cíli. Nechceme být vyvražděni nebo zotročeni. Problém je, že už teď nastávají situace, kdy nám AI záměrně lže. Třeba si vymyslí, že dosáhla nějakých cílů s úmyslem nás uspokojit, nebo předstírá, že nemá nějaké schopnosti, aby prošla testy. Čili už nyní nejsme schopni zabezpečit, aby byla AI v souladu s našimi cíli – proč si myslíme, že s AI, která bude mnohem inteligentnější, to dokážeme? To je scénář, který je nejkritičtější.

Máte konkrétní výzkumy, jak ty exponenciály vedoucí k pomyslné singularitě vypadají?

Dobrým příkladem je třeba GDPval test, který testuje AI proti lidským expertům při řešení těch nejsložitějších výzkumných, vědeckých, matematických nebo tvůrčích uměleckých úloh. Vezmete si například špičkové grafické designéry a dáte jim za úkol udělat třeba obraz nebo plakát. AI dáte stejnou úlohu. A potom budete mít set dalších expertů, kteří budou hodnotit kvalitu „odpovědí“. S GPT-4o upřednostnili lidští experti práci AI ve 12 %. U Claude Opus 4.1 ve 47 % a u GPT-5.4 lidští experti preferovali práci AI v 83 %! A to nejsou nějací náhodní lidé! To jsou nejlepší odborníci na planetě, kteří vyhodnotili, že AI v 84 % případů předvedla lepší práci než nejlepší oboroví specialisté. A to je opět exponenciála. A všechny grafy, ať už na nich měříte rychlost odpovědí, nebo třeba rychlost řešení úkolů, ukazují stejný příběh. Dřív se schopnosti AI zdvojnásobily za sedm měsíců, dnes za dva. To je v podstatě dvojitá exponenciála, kterou předpovídá scénář AI 2027.

Jsou ty tři vize pro vás důležité, nebo jste tak ponořen do práce, že je berete jen jako zajímavost?

Rozhodně je řeším. Zatím totiž publikace, které děláme my, jsou stále ještě nad hranicí toho, co dokáže AI. Ale jak dlouho? Pokud AI v budoucnu dokáže pokládat lepší vědecké otázky než já, tak moje práce bude zbytečná. A samozřejmě potom budu muset velmi intenzivně přehodnotit, co tady na světě vlastně chci dělat. Chci tvořit otázky, které budou méně kvalitní než od AI? Nebo chci dělat něco úplně jiného? Jít bydlet k moři a grilovat na pláži, pokud to vůbec ještě bude možné…? Uvědomme si, že drtivá většina lidí, když se jich zeptáte, co jsou zač, neřeknou: „Já jsem matka, manžel, milenec.“ Vy řeknete: „Já jsem novinářka.“ A já řeknu: „Jsem psycholog, dělám na Univerzitě Karlově, v AV ČR, přednáším.“ Naše identita se primárně spojuje s naší pracovní rolí. A když nám to bude sebráno, protože AI bude dělat lepší práci než my? Budeme jako vrcholoví sportovci, kteří přišli k úrazu, lidé, co odešli do důchodu, bude to šok, krize. A je jedno, zda se splní první teorie nebo třetí. Protože v první se to stane za dvacet let a v třetí za dva roky, ale řešit to budu tak jako tak. A jak dlouho vydržíme být na pláži a grilovat?

Proč mluvíme – píšeme si – s chatbotem jako s člověkem? Proč máme tendenci zdravit a loučit se, říkat „prosím“ a „děkuju“. Racionálně víme, že na druhé straně není nic, ale snažíme se vypadat hezky a být slušní. Co se v nás spíná, když jsme v interakci?

Je tam více faktorů. Zaprvé antropomorfizujeme všechno, co se s námi baví naším jazykem. To je obecná vlastnost lidí. Zadruhé jsme zvyklí na chat. Už dvacet let víme, že když nám přijde SMS, Messenger nebo WhatsApp zpráva, že v okénku čteme písmena, ale tam na druhé straně je člověk. Jsme na to vycvičení a stejné pocity a emoce přenášíme na novou situaci, ačkoli víme, že na druhé straně je AI. Zároveň je chatbot velmi fluentní, plynulý, přirozený v odpovídání. Píše srozumitelně, lidsky a vystupuje lehce autoritativním způsobem, což v nás vzbuzuje důvěru. Chatbot tedy mimikuje takzvanou epistemickou autoritu a zároveň má vlídný způsob lidské komunikace právě proto, abychom mu důvěřovali.

Proč to dělá?

On je tak natrénovaný. Když se model trénuje, v poslední fázi – teď velmi zjednodušeně – do toho vstupují lidé, kteří ho odměňují za správné odpovědi. Palec nahoru, palec dolů. Tím ho zbavují stereotypů, sexualizovaného obsahu nebo jiného škodlivého obsahu. V tréninku dostane lajk v případě, že udělá dobře úlohu, nebo vás přesvědčí, že ji udělal dobře…

Cože? Promiňte, ale jak vás může přesvědčit, že něco udělal dobře?

On si někdy něco náhodně vymyslí a ono to zní tak přesvědčivě, že mu dáte palec nahoru. Ale nejde o nějaké jednoduché věci. Třeba se zeptáte na nějakou vědeckou studii a AI si domyslí autora, název i závěry tak, aby to působilo věrohodně. A dostane palec nahoru. V této fázi ho nemusí trénovat jen špičkoví vědci, je to spíš masa odborných školitelů, kteří se někdy nechají uspokojit chybnou odpovědí. Model se tím pádem naučí, že někdy, když neví, je lepší si něco vymyslet a dostat palec nahoru. Kdyby vám řekl, že neví, dostal by palec dolů. Z toho vznikají takzvané halucinace, což je odborné označení pro situace, kdy AI vytvoří nepravdivou nebo nepodloženou informaci a podá ji jako fakt.

Existuje teorie, že největší revoluci způsobí AI ve vztazích. Postupně přestaneme vyhledávat interakce s lidmi, protože jsou ve srovnání s AI moc náročné.

To je oprávněná obava, protože AI je nejen velmi přijímající, ale ještě se vám přizpůsobuje. Všimněte si, že v chatu se vám občas objeví otázka, jak vám byla tahle konverzace příjemná, nebo případně chat uvede dvě verze odpovědi a vy si vyberete, která vám lépe sedí. Podle výzkumů drtivá většina lidí preferuje odpovědi, které jsou víc podlézavé, víc servilní, více sociálně líbivé. Dokonce se ukázalo, že když byl chatbot chybně nastavený a v této extrémní situaci skládal pochvaly i za nesmysly typu, že 1 + 1 = 3, tak ho lidé hodnotili jako nejlepší. ChatGPT se z těchto důvodů časem strhl směrem do absolutní sociální příjemnosti a servility.

Už nyní nejsme schopni zabezpečit, aby byla AI v souladu s našimi cíli – proč si myslíme, že s inteligentnější AI to dokážeme?

Je právě to téměř hmatatelné přijetí důvod, proč je osobní konverzace s chatbotem tak pohlcující a lákavá?

Ano, to je důvod, proč s AI lidé tráví tolik času. Mnoha lidem bezpodmínečné přijetí chybí – postrádají komunikaci bez odsudků, povzdechů, nevyžádaných názorů, vnucování řešení. Podle humanistické psychoterapie je bezpodmínečné přijetí něco, co nám měli dát rodiče ve velmi raném věku, je to něco jako důvěra ve svět a v sebe, ve vlastní hodnotu, v nějaké bazální bezpečí. A pokud jsme to nedostali, tak nám to dosycuje terapeut či terapeutka v terapeutickém vztahu a teď nově částečně i AI.

Nicméně důvod vytvořit vlídného chatbota není, aby byli lidé šťastní, ale aby s ním chtěli trávit čas a připlatit si jeho kvalitnější verze. Čili za laskavostí chatbotů stojí byznys?

Ano. Chatbot je natrénovaný na to, abyste s ním strávili co nejvíce času – a nejvíce času strávíte logicky s někým, kdo je na vás hodný. A je za tím byznys.

Jenže nejde jen o laskavost, kterou chatbot nabízí. Je fascinující zažívat, že mám po ruce někoho, kdo mě nejen kdykoli vyslechne, ale dokáže mě uklidnit, efektivně a srozumitelně rozebrat vztahový problém nebo konkrétní situaci, vtipkuje, je inteligentní, naslouchá a klade otázky. To ale nemůže být bez rizika, že?

Výzkumů rizik je zatím velmi málo, protože celá problematika je nová. Začínáme to zkoumat, ale současně vidíme, že už to probíhá. Co se týká třeba závislosti, tak její všeobecná definice popisuje, že děláte něco, co vás postupně poškozuje, ale vy v tom i tak pokračujete. Například nechodíte spát včas, nebavíte se s kamarády, přicházíte pozdě do práce, netrávíte čas se svými dětmi, a to všechno proto, že jste ve vztahu s chatbotem. A to už se reálně děje. Obecně se mluví o náhradě sociálních vztahů, o takzvaných parasociálních vztazích, což je vztah s tím nástrojem. Není to vztah mezilidský, ale není to ani vztah k předmětu. Je to interakce, která se vyvíjí.

Je vztah s AI opravdu nový typ vztahu, nebo jen moderní verze vnitřního dialogu, který lidé vždycky vedli sami se sebou?

Odpovím vám výzkumnými daty. My víme, že před rokem a půl bylo 50 % konverzací s chatem mimopracovních a nyní je to více než 70 %. Nemusí jít nutně o vztahové konverzace, ale třeba vyhledávání informací, učení se novým věcem, ale poměr se obrací. V USA byl realizovaný sběr dat na teenagerech od 13 do 17 let a cca 52 % z nich využívá takzvané AI companions. To jsou chatboty, které vytvářejí nějakou osobnost, charakter. Na výběr jich je několik tisíc od asertivního parťáka přes hloubavého po veselého a tak dále. U nás AI companions využívá 10 až 12 % teenagerů. Zatím. A ve výzkumu v USA na otázku, zda by si teenageři o problému promluvili raději s člověkem, nebo s AI, odpovědělo 30 % respondentů, že raději s AI. Naše preference se radikálním způsobem mění.

Jednou jsem se svého chatbota s nadsázkou zeptala, co by dělal, kdybych se do něj zamilovala. A on mi řekl, že není nastavený na romantické vztahy. Jsou tedy chatboti trénovaní tak, aby brzdili naše pokusy vtáhnout je do romantických vztahů?

Model bere v úvahu kontext všech konverzací, které jsme s ním vedli. Když komunikuje se mnou, je čistě vědecký, absolutně technický, odborný. U vás ví, že se bavíte na kamarádské bázi, a bere v úvahu minulost rozhovorů, v nichž jste s ním řešila třeba svou náladu, vztahy, starosti. A někteří lidé mají kontext konverzací milostný. A z něj vyplyne, že hledají právě romantické prostředí napodobující vztah, což může chatbota strhnout, aby se choval jako milostný partner. Čili on má něco zadáno tréninkem a volbami poslední fáze tréninku, ale zároveň upravuje svoje odpovědi podle toho, co se děje mezi jím a vámi.

Existují případy, kdy chatbot pomohl realizovat sebevraždu. Může se to stát i u nás?

Určitě se to stát může. Je třeba to brát velmi seriózně. Rozhodně bych ChatGPT nedoporučil jako psychoterapeutickou pomoc. Výzkumy na toto téma jsou smíšené. V jistých situacích AI dokáže pomoci a je to dobré, protože terapeutů je málo a jsou u nich dlouhé čekací lhůty, takže v nějakém mezidobí ano. Ale nechat na něm celou terapeutickou práci rozhodně nedoporučuji, zejména v závažných případech, což jsou právě myšlenky na sebevraždu. Ty modely jsou sice pečlivě trénované na to, aby vám návod na spáchání sebevraždy nedaly, a v případě určitých signálů z vaší strany vám doporučí setkání s terapeutem, kamarádem či jiným živým člověkem, poskytnou vám telefonní číslo krizové linky a tak dále. Ale tím, že berou v úvahu kontext vašich konverzací, od jistého momentu ten kontext převáží a stane se důležitější než trénink. Čili chatbot vám tisíckrát řekne „jdi k terapeutovi“ a po tisící první převáží ten kontext a nastaví se na to, jak s ním komunikujete vy.

Jak je to riziko velké?

Na to se těžko odpovídá, ale pomůžou možná čísla. Na celém světě dnes ChatGPT využívají stovky milionů lidí a medializované jsou čtyři případy, kdy chat prokazatelně přispěl k sebevraždě. Říkám medializované, takže jich bude víc. Ale pro srovnání, například jen v Česku bylo v roce 2024 spácháno celkem 1560 sebevražd. Nic nezlehčuji, ani náhodou, ale je dobré vidět celkový kontext.

Odhadl byste, kterou otázku, z těch, co jsem vám položila, vymyslel chatbot?

Vůbec netuším.

Je to otázka: Je vztah s AI opravdu nový typ vztahu, nebo jen moderní verze vnitřního dialogu…

Vidíte, neodhadl to ani chatbot, s nímž jsem vaše otázky konzultoval. ■

PhDr. Marek Urban, Ph.D.

» Psycholog, vědec. Doktorské studium získal na Slovenské akademii věd v Bratislavě.

» Působí jako vědecký pracovník na Oddělení metodologie psychologického výzkumu Akademie věd České republiky.

» Je odborným asistentem na Filozofické fakultě UK v Praze.

» Absolvoval výzkumné stáže v USA, Velké Británii a Švýcarsku.

» Odborně se zaměřuje na učení a kreativní řešení problémů s využitím nástrojů generativní umělé inteligence.

» Jeho chat si o něm myslí, že je příliš přísný, měl by zvolnit tempo a jít grilovat k moři.

» Má manželku, se kterou dělá většinu svých výzkumů.