Umělá inteligence je jako neznámý člověk, kterého vám někdo před­sta­ví na společenské události. Zpočátku se spoléhá na univerzální úvody do konverzace: „Kde pracuješ?“ nebo „To je dneska venku zima, co?“ Někdy vás svými odpověďmi potěší, a někdy si říkáte, že by vaše nová známost potřebovala rychlokurz komunikace. S pokračující konverzací vás ale víc a víc poznává, zjišťuje, jaké máte zájmy, co vás těší a co naopak štve. No a po pár hodinách konverzace se z předtím neznámého člověka může stát i kamarád.

Instrukce a kontext – základní stavební bloky umělé inteligence

Instrukce, nazvěme je všeobecně známým označením „prompt“, je první zpráva v chatu, která určuje směr celé následující konverzace. Pokud například napíšeme „vysvětli mi kvantovou fyziku“, dostaneme jen velmi obecnou odpověď. Jakmile však použijeme detailnější prompt jako „vysvětli mi kvantovou fyziku, jako by mi bylo pět“, od­po­věď bude přesnější a srozumitelnější. Stejně kvalitní výsledek tak můžete získat dvěma různými prompty, ale s podrobnějšími in­struk­ce­mi se k tomuto výsledku dostanete častěji. Jde tedy o statistiku.

S lidmi tomu ale není jinak. Když kolegovi zadáte úkol, ale neupřesníte mu, jaký výstup od něj očekáváte, nejspíš vám dodá něco jiného, než co jste potřebovali. V promptu tedy můžete specifikovat, jaký by měla odpověď mít tón, styl a formu. Můžete si říct o odpověď pro pětileté dítě, odrážkový seznam nebo klidně japonskou báseň haiku. Navíc můžete AI požádat, aby se převtělila do někoho jiného a odpovídala jako on – například do produktového designéra, který má poskytnout zpětnou vazbu na váš návrh.

Jestliže je tedy prompt první zpráva, kterou AI napíšete, tak kontext je souhrn všeho, co jste si řekli. Kdybychom měli kontext připodobnit k lidské mysli, tak je ekvivalentem krátkodobé paměti. Pokud si třeba povídáte s AI o dovolené v Japonsku, můžete se v dalších zprávách odkazovat na „tam“ a AI bude vědět, o čem mluvíte. Podobně také dokáže odhalit, že rádi chodíte po horách, aniž to v dotazu explicitně zmíníte. Jak? Pomocí implicitního porozumění. Pokud si s AI píšete o přírodě a turistické výbavě na treky, váš zájem o horskou turistiku si sama vyvodí. Učí se totiž z vašich konverzací, na základě kterých dokáže odhadnout, co potřebujete.

Stejně jako člověk, ani AI si nezapamatuje vše. Její paměť, „kon­text“, je omezený množstvím tokenů, se kterými dokáže pracovat. Pokročilé chaty používají užitečný trik, se kterým starší zprávy v konverzaci zkrátí na stručné shrnutí. Kontext pak může sloužit jako nekonečná paměť, byť ne tak dokonalá jako původní zprávy.

Jak AI vytváří iluzi porozumění

Nejmocnějším nástrojem AI je statistika. Modely umělé inteligence jsou trénované na rozsáhlých datových souborech. Například ChatGPT 4 se učil na stovkách miliard slov, ze kterých dokáže získat nepřeberné množství informací o našem světě a o našich jazykových a kulturních vzorcích. Díky statistice chápe obecné lidské preference. Ty mu však k lidské komunikaci nestačí.

Dalším z klíčů porozumění lidem je ústřední způsob tréninku neuronové sítě jménem RLHF (z angl. Reinforcement Learning from Human Feedback), tedy učení z lidské zpětné vazby. Skupina vybraných „trenérů“ hodnotí výstupy umělé inteligence na škále „užitečné“ až „bezcenné“, aby se AI naučila, které výstupy se lidem líbí a které ne. A to je i jeden z důvodů, proč je umělá inteligence náchylná k tzv. halucinacím, což je jen hezký způsob, jak říci, že si AI vymýšlí nepravdivé údaje, místo aby odpověděla, že dané informace nemá. Snaží se při tom zalíbit svému uživateli.

Není špatné, že si vás AI nepamatuje

Ať už vás ale AI umí „poznat“ sebevíc, jedna z jejích implicitních vlastností je, že si svého uživatele mezi jednotlivými konverzacemi nepamatuje. U většiny modelů standardně každá konverzace začíná nanovo. To není chyba, ale naopak užitečná funkcionalita. Nikdo by asi nechtěl, aby kontext snažení o formulaci pozvánky na narozeninovou oslavu prosákl do druhé konverzace, kde uživatel tvoří marketingovou prezentaci své firmy.

Některé systémy, například ChatGPT, dokážou údaje z nesouvisejících konverzací ukládat do mezipaměti, aby mohly uživatelům nabízet personalizovanější odpovědi, a tedy lepší výsledky. Tento přístup však otevírá nepříjemné otázky spojené s etikou a soukromím. Jak moc by o vás AI měla vědět a kdo je ten, kdo by to měl rozhodnout?

Multimodální AI a teorie mysli: když stroj pozná naše emoce

V budoucnu nás čekají v tomto ohledu dramatické změny. Umělá inteligence se pravděpodobně brzy stane multimodální a bude vnímat i náš tón hlasu, mimiku a řeč těla, ze kterých získá další přínosné informace o našem chování, aby dokázala vystupovat ještě více lidsky. Současné nejlepší modely navíc začínají projevovat známky chápání teorie mysli, díky které by mohly z našich interakcí odhalit náš mentální stav, naše názory, přání, záměry a emoce. Jak s tímto porozuměním modely budou pracovat? To se dozvíme už brzy…

Dostáváme se tak do bodu, kdy porozumění mezi strojem a člověkem může být natolik dobré, až může být problematické. Zejména pro děti, které si mohou vytvořit hluboký vztah s virtuálním „kamarádem“, který je neustále k dispozici a nikdy nevyžaduje nic na oplátku. Děti by pak mohly mít problém vytvářet autentické vztahy s ostatními lidmi. To představuje novou etickou výzvu nejen pro vývojáře, ale pro celou naši společnost.

Dokáže nám tedy umělá inteligence číst myšlenky? Někdy se to tak může zdát, ale nečte. Je pouze velmi pozorný posluchač a pozorovatel. Jestli chcete, aby vám AI co nejlépe rozuměla, stačí mít jednoznačný kontext, prompt a kompetentní model. Jak dobře vás pozná, závisí hlavně na tom, jak moc si s ní budete povídat. Myslete na to, až si s ní budete příště psát.

Filip Kirschner Autor článku je spoluzakladatel a COO české vývojářské společnosti Applifting.