Pojem

Interpretabilita (nahlížení dovnitř modelu)

Obor, který zkoumá, co se v modelu děje mezi zadáním a odpovědí. Nečte zdrojový kód, protože žádný není — sleduje čísla uvnitř, podobně jako neurovědec sleduje aktivitu v mozku. Pro tebe je to důvod, proč ani tvůrci AI neumí vždy vysvětlit, proč model odpověděl zrovna takhle.