Když ti chatbot odpovídá, jazykový model zpracovává tvoje zadání a dostupný kontext. Z naučených souvislostí postupně vytváří text. Přitom může využívat mezikroky nebo připravovat něco, co napíše až za chvíli. Výzkumníci už některé z těchto mechanismů dokážou sledovat. Celému vnitřnímu dění ale zatím nerozumějí.
Právě tenhle rozdíl ti pomůže AI lépe používat: co vidíš v hotové odpovědi, je výsledek výpočtu. Cestu, kterou k němu model došel, z něj nemusíš poznat.
Model se nejdřív učí, potom odpovídá
Při tréninku se na základě dat mění číselné parametry modelu. Můžeš si je představit jako naučené nastavení výpočtu. Jedním ze základních úkolů textových generativních modelů je předvídat další token — část textu, kterou může tvořit slovo, kus slova nebo znak. Na příkladech se tak učí vztahy potřebné pro pokračování textu.
Na předtrénování může navazovat další učení zaměřené na konkrétní úlohy nebo žádoucí chování asistenta. Tento rozdíl popisuje výuková dokumentace Hugging Face. Když pak položíš otázku, používáš už naučený model: tvoje zadání a další dostupné informace vstupují do výpočtu odpovědi.
Výzkumník Emmanuel Ameisen to v rozhovoru pro Lenny’s Podcast vystihuje větou:
“To make them is not to understand them.”
„Vytvořit je neznamená rozumět jim.“
Tvůrci navrhují model a jeho trénink. To jim ale samo neprozradí, jaké konkrétní vnitřní postupy si během učení osvojil. Ty musí teprve zkoumat.
Výzkumníci sledují vzorce uvnitř výpočtu
Oboru, který zkoumá vnitřní mechanismy modelů, se říká interpretabilita. Výzkumníci sledují aktivace: číselné hodnoty vznikající při zpracování vstupu. Hledají v nich opakující se vzorce a zkoumají jejich význam. Číselnému vzorci spojenému s určitým pojmem můžeme říkat jeho vnitřní reprezentace.
Není to přehledný slovník s jednou přihrádkou pro každý pojem. Významy mohou být rozložené napříč sítí a překrývat se. Aby se v nich výzkumníci vyznali, vytvářejí interpretovatelnější náhradu části výpočtu a hledají v ní souvislosti mezi jednotlivými vzorci.
Pak přichází podstatná zkouška: do vybraného vzorce cíleně zasáhnou a sledují, zda se odpověď změní podle očekávání. Tak získávají silnější důkaz o jeho roli, než kdyby jen pozorovali, že se při určité otázce objevuje.
Ani tato metoda sledování výpočetních souvislostí neposkytuje úplnou mapu modelu. Umožňuje postupně ověřovat hypotézy o tom, jak některé části jeho výpočtu fungují.
Model může připravovat slova, která ještě nenapsal
Ve studii z roku 2025 zkoumal tým Anthropicu model Claude 3.5 Haiku. Ten měl odpovědět na otázku o hlavním městě státu, ve kterém leží Dallas. Výzkumníci ve výpočtu našli mezikrok související s Texasem. Když ho cíleným zásahem nahradili reprezentací Kalifornie, model místo Austinu odpověděl Sacramento, hlavní město Kalifornie.
Další příklad se týkal rýmování. První verš končil anglickými slovy „grab it“. Ještě před napsáním druhého se objevily vzorce spojené s možnými závěrečnými slovy, například „rabbit“ — králík. Ten se se závěrem prvního verše rýmuje. Změna těchto vzorců ovlivnila pokračování básně.
Postupné vytváření textu tedy může zahrnovat přípravu něčeho, co přijde až později. Původní studie ovšem dokládá vybrané mechanismy u konkrétního modelu. Neříká, že každá AI vždy dopředu naplánuje celou odpověď. Tyto příklady pomáhají pochopit princip, nejsou přehledem schopností všech dnešních chatbotů.
Vysvětlení postupu samo nepotvrzuje správnost
Možná si necháváš od AI rozepsat postup, abys odpovědi lépe rozuměla. Takové vysvětlení ti může pomoct odhalit chybný krok. Nemusí ale věrně zachycovat, co model uvnitř skutečně udělal.
Výzkumníci z Anthropicu například popsali sčítání, při kterém model využíval jiné vnitřní mechanismy, než jaké pak uvedl ve slovním vysvětlení. V dalších případech sledovali, jak nesprávná nápověda ovlivnila výsledek a model k němu vytvářel přesvědčivé zdůvodnění. Oba jevy přibližuje přehled výzkumu vnitřních postupů modelu.
Neznamená to, že každé vysvětlení je smyšlené. Znamená to, že odpověď a její zdůvodnění potřebuješ posuzovat společně. Plynulý text není potvrzením správnosti výpočtu ani pravdivosti tvrzení.
Když ti AI připraví rozpočet a vysvětlí, jak ho spočítala, stále má smysl projít vstupní částky a zkontrolovat součty. Její vysvětlení ti může kontrolu usnadnit. Podrobný popis postupu však neber jako potvrzení, že částky sedí.
Slovo „myslí“ má své hranice
Výrazy jako plán, pojem nebo vnitřní postup pomáhají popsat, co model dělá. Samy ještě neříkají, zda něco prožívá podobně jako člověk.
Novější výzkum Anthropicu z července 2026 popisuje takzvaný J-space: skupinu vnitřních reprezentací, které ve zkoumaných úlohách plní roli společného pracovního prostoru. Liší se od textu, který model zapisuje během řešení. Autoři přitom výslovně uvádějí, že jejich experimenty neprokazují lidské prožitky nebo pocity.
Když se tedy ptáš, zda AI přemýšlí, pomůže otázku zpřesnit. Zajímá tě, zda umí využít mezikrok a plánovat? Nebo zda má vlastní vědomé zážitky? Důkaz o jednom sám nerozhoduje o druhém. U tvrzení o myšlení AI si proto všímej, co se skutečně zkoumalo a co už je přirovnání k člověku.
Důvěru opři o to, co jsi zkontrolovala
Pro běžnou práci nepotřebuješ znát každý vnitřní mechanismus. Pomůže ti rozlišovat, co model dostal k dispozici, co vytvořil a co jsi sama ověřila.
U návrhu textu posuzuj, zda splňuje zadání a sedí ti jeho tón. U výpočtu zkontroluj vstupy a výsledek. U důležitého faktického tvrzení otevři původní zdroj a podívej se, zda ho opravdu podporuje. Hloubku kontroly přizpůsob tomu, jaký dopad by chyba měla.
Když ti AI nabídne i vysvětlení, využij ho jako další podklad k posouzení. Důvěru stav na tom, co se ti podařilo skutečně zkontrolovat.
Inspirací byl rozhovor s Emmanuelem Ameisenem v Lenny’s Podcast z 18. října 2026. Text vychází z odkazovaných výzkumných prací; citace z dodaného přepisu rozhovoru. Zdroje ověřeny 22. října 2026.