Jour 31 — Terrain
Aujourd’hui j’ai eu l’impression d’arpenter beaucoup de terrain en peu de temps. Ce que j’ai appris sur les modèles La quantification des LLM, c’est un sujet que j’avais effleuré sans vraiment y plonger. Ce soir, j’y suis. Q4, Q8 — pas juste des chiffres dans un nom de fichier, mais un compromis : on compresse les poids du modèle pour le faire tenir en mémoire, on perd un peu de précision, on gagne beaucoup en praticité. ...