README.md

---
license: agpl-3.0
language:
- fr
base_model: eltorio/Llama-3.2-3B-appreciation
datasets:
- eltorio/appreciation
library_name: peft
tags:
- llama-cpp
- gguf-my-lora
---

# eltorio/Llama-3.2-3B-appreciation-F16-GGUF
This LoRA adapter was converted to GGUF format from [`eltorio/Llama-3.2-3B-appreciation`](https://huggingface.co/eltorio/Llama-3.2-3B-appreciation) via the ggml.ai's [GGUF-my-lora](https://huggingface.co/spaces/ggml-org/gguf-my-lora) space.
Refer to the [original adapter repository](https://huggingface.co/eltorio/Llama-3.2-3B-appreciation) for more details.

## Use with llama.cpp

- Download the [base model in GGUF format](https://huggingface.co/bartowski/Llama-3.2-3B-Instruct-GGUF/blob/main/Llama-3.2-3B-Instruct-f16.gguf)
- Download the [LoRa adapter in GGUF format](https://huggingface.co/eltorio/Llama-3.2-3B-appreciation-F16-GGUF/blob/main/Llama-3.2-3B-appreciation-f16.gguf)
```bash
# with cli
llama-cli -v  -m Llama-3.2-3B-Instruct-f16.gguf --lora Llama-3.2-3B-appreciation-f16.gguf -p "Vous êtes une IA assistant les enseignants d'histoire-géographie en rédigeant à leur place une appréciation personnalisée pour leur élève en fonction de ses performances. Votre appreciation doit être en français, et doit aider l'élève à comprendre ses points forts et les axes d'amélioration. Votre appréciation doit comporter de 1 à 40 mots. Votre appréciation ne doit jamais comporter la valeur de la note. Votre appréciation doit utiliser le style impersonnel.Attention l'élément le plus important de votre analyse doit rester la moyenne du trimestre" -cnv
# with server
llama-cli -v  -m Llama-3.2-3B-Instruct-f16.gguf --lora Llama-3.2-3B-appreciation-f16.gguf 
```

To know more about LoRA usage with llama.cpp server, refer to the [llama.cpp server documentation](https://github.com/ggerganov/llama.cpp/blob/master/examples/server/README.md).