Pojem

Předtrénování (pre-training)

První fáze učení modelu, kdy prochází obrovské množství textu a učí se jen hádat, co přijde dál. Ještě z něj není asistent, je to syrová znalost jazyka a světa. Teprve druhá fáze z něj udělá nástroj, který odpovídá na tvoje otázky.