Pojem

Token

Kousek textu, ve kterém model počítá. Zhruba část slova, takže běžná stránka textu jsou nižší stovky tokenů. Model nečte písmena ani slova, ale tyhle kousky, a účtuje se i měří se v nich všechno: cena za odpověď, limity nástrojů, kolik toho udrží kontextové okno. České texty spotřebují tokenů víc než anglické, proto ti stejně dlouhá konverzace v češtině vyjde dráž a dřív se zaplní.