Pojem
HHH (nápomocný, neškodný, pravdomluvný)
HHH je zkratka tří cílů, podle kterých se ladí chování jazykových modelů: nápomocný, pravdomluvný a neškodný (helpful, honest, harmless).
Nápomocný znamená, že se model o zadaný úkol opravdu pokusí a dá použitelnou odpověď. Pravdomluvný, že si nemá vymýšlet a má přiznat svou nejistotu. Neškodný, že u nebezpečné nebo neetické prosby slušně odmítne a vysvětlí proč. Zkratku zavedli výzkumníci Anthropicu jako shrnutí toho, co znamená „dobře nastavený“ asistent; v praxi se ty tři cíle občas perou. Tobě poslouží jako měřítko, jestli ti nástroj odpovídá poctivě, nebo jen příjemně.
ClaudePříklad z praxe
Personalistka v menší firmě se zeptá asistenta, jak se počítá odstupné. Odpověď dostane, ale s poznámkou, že si přesným zněním zákona není jistý a ať si ho ověří. To je ta pravdomluvná část: lepší přiznaná nejistota než sebejistý nesmysl. Ty tři otázky si můžeš položit u každé odpovědi: pomohlo mi to, je to pravda, neublíží to někomu?
Glosář
Další pojmy.
Celý glosář je veřejný a bez účtu. Vezmi si z něj, co potřebuješ.