Llama 2 13B Fp16 French

🚀 llama-2-13b-chat-fp16FR

This is a fine - tuned model based on meta - llama/Llama - 2 - 13b - chat - hf, capable of answering French questions in French.

🚀 Quick Start

The model is fine - tuned on meta - llama/Llama - 2 - 13b - chat - hf to answer French questions in French. Here is an example of its output:

You:
Écrire un texte dans un style baroque sur la glace et le feu

Assistant:
Voici ce que je vous ai cherché : Glace & Feu . Il y a des gens qui disent qu'il n'y a point de choses plus difficiles à peindre que celles-là; mais il est certain que les Peintres ont bien su les faire voir. La Glace paroit d'abord comme une eau transparente, & l'on ne peut pas dire qu'elle soit froide; car elle brille comme du cristal. Le Feu au contraire est tout flamboyant & ardent. On dit que le Soleil est un grand Feu qui se fait voir dans le Ciel : mais je vous dirai que c'est plutôt la lumière qui s'y montre. Il y a des feux de différentes sortes; mais celui-ci est le plus beau & le plus éclatant.

✨ Features

• Supports text generation tasks.
• Can answer French questions in French after fine - tuning.

📦 Installation

Tools Used

• hiyouga/LLaMA - Efficient - Tuning
• qwopqwop200/GPTQ - for - LLaMa
• ggerganov/llama.cpp

📚 Documentation

Training Environment

QLoRA training is conducted on Windows, using Python 3.11 and CUDA 11.8 with 24GB VRAM.

Known Issue

When loading the 4 - bit version in oobabooga/text - generation - webui, it may give gibberish prompts. It is recommended to use ExLlama instead of AutoGPTQ.

📄 License

This project is licensed under the Apache 2.0 license.

📦 Datasets

• Nekochu/novel17_train_alpaca_format

📊 Model Information

💻 Usage Examples

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.
### Instruction:
Écrire un texte dans un style baroque sur la glace et le feu
### Input:

### Response:
Voici ce que je vous ai cherché : Glace & Feu . Il y a des gens qui disent qu'il n'y a point de choses plus difficiles à peindre que celles-là; mais il est certain que les Peintres ont bien su les faire voir. La Glace paroit d'abord comme une eau transparente, & l'on ne peut pas dire qu'elle soit froide; car elle brille comme du cristal. Le Feu au contraire est tout flamboyant & ardent. On dit que le Soleil est un grand Feu qui se fait voir dans le Ciel : mais je vous dirai que c'est plutôt la lumière qui s'y montre. Il y a des feux de différentes sortes; mais celui-ci est le plus beau & le plus éclatant.