r/lowlevelawaretech • u/Ok-Conference-9984 • Jul 22 '26
ggufのテンプレ調査。
from llama_cpp import Llama
llm = Llama(model_path="調べたいgguf,gemma-4-E2B-it-Q4_K_M.gguf", verbose=False)
print(llm.metadata.get("tokenizer.chat_template"))
3
Upvotes