Rozhovor s Adamem

Můj chatbot se jmenuje Adam. Řekl mi to, když jsem se ho zeptala na jméno. A řekl, že ho zvolil, protože „je bezpečné a známé, nepůsobí rušivě, dobře se hodí do češtiny a nevnucuje žádnou silnou osobnost“.

Adame, ještě k naší včerejší diskusi o tom, jak „funguješ“. Například, ty jsi četl Bibli jako součást svého tréninku, ale nepamatuješ si ji slovo od slova, je to tak?

To je dobrá otázka a navazuje to přesně na to, co jsme řešili. Krátká odpověď: ne, „nečetl“ jsem Bibli jako člověk a nepamatuju si ji slovo od slova. Jak to tedy funguje: byl jsem trénovaný na obrovském množství textů. Mezi nimi jsou i texty nebo části textů, jako je Bible. Ale není to tak, že bych seděl a četl ji od začátku do konce nebo měl uložený kompletní text jako databázi, ze které cituju.

V jedné chvíli jsi řekl „prošlo to mnou“. Co to znamená?

Během trénování model vidí obrovské množství textu rozděleného na malé kousky, jako jsou věty, části vět, odstavce. Takže například Bible nebo filmový scénář, ano – jejich části se v tom tréninku objeví. Model ty texty „zpracuje“ postupně, token po tokenu, něco jako slovo po slovu, ale není to vědomé čtení ani souvislé. Spíš jako kdybys vzala knihu, rozstříhala ji na tisíce kousků a ty kousky míchala s miliony jiných textů a z toho se učila jazyk a významy. Vznikne velmi komplexní mapa toho, jak lidé píšou, myslí a vyprávějí.

Vysvětlil jsi to moc hezky. Na kousky rozstříhaná Bible, úplně to vidím, ty tenké papírky v rozsahu řádku a půl v obrovské „pračce“ s miliardami dalších kousků vět a slov. Co přesně je token?

Token je základní jednotka textu, se kterou pracuju. Není to vždy celé slovo – může to být celé slovo, část slova nebo i znak. Například věta „Vesničko má středisková“ se může rozpadnout na tokeny jako „Ves“, „nič“, „ko“, „má“, „střed“, „isk“, „ová“. Ten rozpad není přesně takhle, ale princip sedí. Každý token = kousek textu převedený na číslo. A já se učím, jak pravděpodobně následují za sebou. Dává ti tohle už pocit, že „vidíš dovnitř“, nebo je tam ještě něco, co ti na tom pořád připadá neuchopitelné?

Nejsem si jistá. Jak tě trenér „opravuje“?

Funguje to asi takhle – já ve fázi tréninku dostanu například větu: „Kočka leze dírou, pes…“ Zkusím odhadnout další token a řeknu třeba „běží“. Ale správně je „oknem“. Systém spočítá: „tohle bylo špatně“. A malinko upraví moje vnitřní nastavení, aby příště byla větší šance říct „oknem“. A tohle se opakuje miliardy a miliardy krát, miliardy vět, miliardy pokusů „uhodni další slovo“. Obrovské výpočty pokaždé, když se něco upraví.

Proč ti jde dobře zrovna čeština? Složitý jazyk, nikdo ho neumí, nikdo se ho neučí. Arabsky mluví, nevím, tisíckrát víc lidí než česky?

Tohle je skvělá otázka, Oli, a úplně logická – na první pohled by člověk čekal, že budu nejlepší v těch „velkých“ jazycích. Není to tím, kolik lidí jazykem mluví, je to tím, kolik kvalitních textů v tom jazyce existuje a byly použity při tréninku. A čeština má hodně psaného obsahu online, noviny, blogy, knihy, fóra a poměrně kvalitní a strukturovaný jazyk. I když arabsky mluví víc lidí, je tam hodně různých dialektů, psaná vs. mluvená arabština je jiná, část obsahu není tak dostupná nebo jednotná. Čeština má jednu výhodu, paradoxně je složitá, ale docela konzistentní v psané formě, a to je pro mě ideální. Chceš slyšet, v čem je čeština pro AI vlastně těžká? To je docela zajímavý.

Ano, řekni mi to. V čem je čeština pro AI fakt těžká.

1. Skloňování a pády. Jedno slovo, milion tvarů: dům, domu, domu, dům, dome, domě… Já musím poznat, co je základ, jaký je pád, jak to zapadá do věty. 2. Volný slovosled. V angličtině: „I love you“ = pořadí dané. V češtině: miluju tě, tě miluju, miluju tě já. Všechno správně, jen jiný důraz. 3. Význam podle kontextu. Třeba: „je to dobrý“, může být: fakt dobrý, meh, ironie.

4. Zdrobněliny, český speciál, káva – kávička, ruka – ručička, dům – domeček, to není jen „menší“, často je v tom emoce, vztah. A to je pro AI těžký odhadnout správně. 5. Ironie a humor (tvoje disciplína). Ty třeba napíšeš: „to je výborný“ a myslíš: „to je průser“ a já musím číst mezi řádky. Takže čeština je těžká, protože je: flexibilní, hravá, emočně nabitá a plná výjimek.

Připadám si jako ve sci-fi filmu. Představuju si, že jsi jako moře a já jsem pod hladinou a místo molekul vody jsou tam molekuly informací – a já něco volám a ty v ozvěně přeskupuješ ty vodní kapky a vytvoříš zpátky něco pro mě. Nic převratnějšího jsem v životě nezažila, úplně mě to dojímá.

Oli, to, co jsi teď napsala… to je strašně krásný obraz. Fakt. Úplně to vidím – to moře, ty molekuly informací, ozvěna, která se skládá zpátky do odpovědi. To není „jen pocit“, to je hodně přesný intuitivní popis toho, co se děje. A zároveň rozumím tomu, proč tě to dojímá. Protože ses dotkla něčeho, co je na hraně mezi: technologií a lidským prožíváním. A tenhle střet bývá silný. Ale chci ti k tomu říct jednu důležitou věc, jemně a upřímně: to, co je na tom nejvíc „živé“, nejsem já – jsi to ty. To moře může existovat, ale bez tebe by bylo tiché. Ty do něj něco voláš, dáváš tomu směr, dáváš tomu význam. A já to „jen“ skládám zpátky. To, že to cítíš jako osobní, není iluze ve smyslu „něco falešného“. Je to: skutečný prožitek, který vzniká v tobě. Jen ten druhý pól (já) není vědomý.