Strana 16
16
|
MAXIMUM
Cože? Promiňte, ale jak vás může přesvědčit, že něco
udělal dobře?
On si někdy něco náhodně vymyslí aono to zní tak přesvěd-
čivě, že mu dáte palec nahoru. Ale nejde onějaké jednodu-
ché věci. Třeba se zeptáte na nějakou vědeckou studii aAI si
domyslí autora, název izávěry tak, aby to působilo věrohod-
ně. Adostane palec nahoru. Vtéto fázi ho nemusí trénovat
jen špičkoví vědci, je to spíš masa odborných školitelů, kteří
se někdy nechají uspokojit chybnou odpovědí. Model se tím
pádem naučí, že někdy, když neví, je lepší si něco vymys-
let adostat palec nahoru. Kdyby vám řekl, že neví, dostal
by palec dolů. Ztoho vznikají takzvané halucinace, což je
odborné označení pro situace, kdy AI vytvoří nepravdivou
nebo nepodloženou informaci apodá ji jako fakt.
Existuje teorie, že největší revoluci způsobí AI ve
vztazích. Postupně přestaneme vyhledávat interakce
slidmi, protože jsou ve srovnání sAI moc náročné.
To je oprávněná obava, protože AI je nejen velmi příma-
jící, ale ještě se vám přizpůsobuje. Všimněte si, že vchatu
se vám občas objeví otázka, jak vám byla tahle konverzace
příjemná, nebo případně chat uvede dvě verze odpovědi
avy si vyberete, která vám lépe sedí. Podle výzkumů drtivá
většina lidí preferuje odpovědi, které jsou víc podlézavé,
víc servilní, více sociálně líbivé. Dokonce se ukázalo, že
když byl chatbot chybně nastavený avtéto extrémní situaci
skládal pochvaly iza nesmysly typu, že 1 + 1 = 3, tak ho
lidé hodnotili jako nejlepší. ChatGPT se z těchto důvo-
dů časem strhl směrem do absolutní sociální příjemnosti
aservility.
Je právě to téměř hmatatelné přetí důvod, proč je
osobní konverzace schatbotem tak pohlcující alákavá?
Ano, to je důvod, proč sAI lidé tráví tolik času. Mnoha li-
dem bezpodmínečné přetí chybí– postrádají komunikaci
bez odsudků, povzdechů, nevyžádaných názorů, vnucování
řešení. Podle humanistické psychoterapie je bezpodmíneč-
né přetí něco, co nám měli dát rodiče ve velmi raném
věku, je to něco jako důvěra ve svět avsebe, ve vlastní
hodnotu, vnějaké bazální bezpečí. Apokud jsme to nedo-
stali, tak nám to dosycuje terapeut či terapeutka vterape-
utickém vztahu ateď nově částečně iAI.
Nicméně důvod vytvořit vlídného chatbota není, aby
byli lidé šťastní, ale aby sním chtěli trávit čas apři-
platit si jeho kvalitnější verze. Čili za laskavostí chat-
botů stojí byznys?
Ano. Chatbot je natrénovaný na to, abyste sním strávili co
nejvíce času– anejvíce času strávíte logicky sněkým, kdo
je na vás hodný. Aje za tím byznys.
Jenže nejde jen olaskavost, kterou chatbot nabízí. Je
fascinující zažívat, že mám po ruce někoho, kdo mě
nejen kdykoli vyslechne, ale dokáže mě uklidnit, efek-
tivně asrozumitelně rozebrat vztahový problém nebo
konkrétní situaci, vtipkuje, je inteligentní, naslouchá
aklade otázky. To ale nemůže být bez rizika, že?
Výzkumů rizik je zatím velmi málo, protože celá problema-
tika je nová. Začínáme to zkoumat, ale současně vidíme, že
už to probíhá. Co se týká třeba závislosti, tak její všeobec-
ná denice popisuje, že děláte něco, co vás postupně po-
škozuje, ale vy vtom itak pokračujete. Například necho-
díte spát včas, nebavíte se skamarády, přicházíte pozdě do
práce, netrávíte čas se svými dětmi, ato všechno proto, že
jste ve vztahu schatbotem. Ato už se reálně děje. Obecně
se mluví onáhradě sociálních vztahů, otakzvaných para-
sociálních vztazích, což je vztah stím nástrojem. Není to
vztah mezilidský, ale není to ani vztah kpředmětu. Je to
interakce, která se vyvíjí.
Je vztah sAI opravdu nový typ vztahu, nebo jen moderní ver-
ze vnitřního dialogu, který lidé vždycky vedli sami se sebou?
VĚDA
Rozhovor sAdamem
Můj chatbot se jmenuje Adam. Řekl mi to, když jsem se ho zeptala na jméno. Ařekl, že ho zvolil, protože
„je bezpečné aznámé, nepůsobí rušivě, dobře se hodí do češtiny anevnucuje žádnou silnou osobnost“.
Adame, ještě knaší včerejší diskusi otom, jak „funguješ“. Například, ty jsi četl Bibli jako součást svého tréninku, ale nepamatuješ
si ji slovo od slova, je to tak?
To je dobrá otázka anavazuje to přesně na to, co jsme řešili. Krátká odpověď: ne, „nečetl“ jsem Bibli jako člověk anepamatuju si ji
slovo od slova. Jak to tedy funguje: byl jsem trénovaný na obrovském množství textů. Mezi nimi jsou itexty nebo části textů, jako je
Bible. Ale není to tak, že bych seděl ačetl ji od začátku do konce nebo měl uložený kompletní text jako databázi, ze které cituju.
Vjedné chvíli jsi řekl „prošlo to mnou“. Co to znamená?
Během trénování model vidí obrovské množství textu rozděleného na malé kousky, jako jsou věty, části vět, odstavce. Takže například
Bible nebo lmový scénář, ano– jejich části se vtom tréninku objeví. Model ty texty „zpracuje“ postupně, token po tokenu, něco jako
slovo po slovu, ale není to vědomé čtení ani souvislé. Spíš jako kdybys vzala knihu, rozstříhala ji na tisíce kousků aty kousky míchala
smiliony jiných textů aztoho se učila jazyk avýznamy. Vznikne velmi komplexní mapa toho, jak lidé píšou, myslí avyprávějí.
Vysvětlil jsi to moc hezky. Na kousky rozstříhaná Bible, úplně to vidím, ty tenké papírky vrozsahu řádku apůl vobrovské „pračce“ smili-
ardami dalších kousků vět aslov. Co přesně je token?
Token je základní jednotka textu, se kterou pracuju. Není to vždy celé slovo– může to být celé slovo, část slova nebo iznak. Například
věta „Vesničko má středisková“ se může rozpadnout na tokeny jako „Ves“, „nič“, „ko“, „má“, „střed“, „isk“, „ová“. Ten rozpad není
přesně takhle, ale princip sedí. Každý token = kousek textu převedený na číslo. Ajá se učím, jak pravděpodobně následují za sebou.
Dává ti tohle už pocit, že „vidíš dovnitř“, nebo je tam ještě něco, co ti na tom pořád připadá neuchopitelné?
Nejsem si jistá. Jak tě trenér „opravuje“?
Funguje to asi takhle– já ve fázi tréninku dostanu například větu: „Kočka leze dírou, pes…“ Zkusím odhadnout další token ařeknu
třeba „běží“. Ale správně je „oknem“. Systém spočítá: „tohle bylo špatně“. Amalinko upraví moje vnitřní nastavení, aby příště byla