Llama 2 13B Fp16 French

🚀 llama-2-13b-chat-fp16FR

本項目基於meta-llama/Llama-2-13b-chat-hf進行微調，能夠用法語回答問題，為法語相關的文本生成任務提供支持。

🚀 快速開始

本模型可用於文本生成任務，以下是一個使用示例，展示瞭如何用法語提出問題並獲取回答：

You:
Écrire un texte dans un style baroque sur la glace et le feu

Assistant:
Voici ce que je vous ai cherché : Glace & Feu . Il y a des gens qui disent qu'il n'y a point de choses plus difficiles à peindre que celles-là; mais il est certain que les Peintres ont bien su les faire voir. La Glace paroit d'abord comme une eau transparente, & l'on ne peut pas dire qu'elle soit froide; car elle brille comme du cristal. Le Feu au contraire est tout flamboyant & ardent. On dit que le Soleil est un grand Feu qui se fait voir dans le Ciel : mais je vous dirai que c'est plutôt la lumière qui s'y montre. Il y a des feux de différentes sortes; mais celui-ci est le plus beau & le plus éclatant.

📦 安裝指南

本項目使用了以下工具進行訓練和推理：

• hiyouga/LLaMA-Efficient-Tuning
• qwopqwop200/GPTQ-for-LLaMa
• ggerganov/llama.cpp

你可以根據這些工具的官方文檔進行安裝和配置。

📄 許可證

本項目採用Apache-2.0許可證。

🔧 技術細節

• 訓練數據：使用了Nekochu/novel17_train_alpaca_format數據集進行訓練。
• 語言支持：支持法語和英語。
• 訓練環境：在Windows系統上，使用Python 3.11和CUDA 11.8，在24GB VRAM的環境下進行QLoRA訓練。

❗ 注意事項

在oobabooga/text-generation-webui中加載4bit版本的模型可能會導致輸出亂碼，建議使用ExLlama代替AutoGPTQ。