Vntl Llama3 8b Gguf

🚀 基於VNTL LLaMA 3 8B qlora合併模型的GGUF量化模型倉庫

本倉庫包含了 VNTL LLaMA 3 8B qlora 合併模型的一些GGUF量化版本。該模型還新增了“聊天模式”，主要適用於解答日語語法相關問題。

📦 模型信息

🚀 快速開始

翻譯示例

以下是一個翻譯的提示示例：

<<METADATA>>
[character] Name: Uryuu Shingo (瓜生 新吾) | Gender: Male | Aliases: Onii-chan (お兄ちゃん)
[character] Name: Uryuu Sakuno (瓜生 桜乃) | Gender: Female
<<TRANSLATE>>
<<JAPANESE>>
[桜乃]: 『……ごめん』
<<ENGLISH>>
[Sakuno]: 『... Sorry.』<|end_of_text|>
<<JAPANESE>>
[新吾]: 「ううん、こう言っちゃなんだけど、迷子でよかったよ。桜乃は可愛いから、いろいろ心配しちゃってたんだぞ俺」
<<ENGLISH>>

當溫度參數設置為 0 時，針對該提示生成的翻譯結果如下：

[Shingo]: 「No, I know this isn't the best way to say it, but I'm glad you got lost. You're so cute that I was worried about you.」

聊天示例

以下是一個聊天的提示示例：

<<CHAT>>
<<HUMAN>>
Hi! Can you break this down to me? Like, what is the meaning of "桜乃は可愛いから"?
"ううん、こう言っちゃなんだけど、迷子でよかったよ。桜乃は可愛いから、いろいろ心配しちゃってたんだぞ俺」"
<<LLM>>

當溫度參數設置為 0 時，針對該提示生成的回覆如下：

Certainly! The phrase "桜乃は可愛いから" literally translates to "Because Sakura-no is cute." In Japanese culture, there is a strong emphasis on physical attractiveness and cuteness, especially when it comes to young girls or women. This phrase suggests that the speaker finds Sakura-no (presumably a girl) to be very attractive and endearing in appearance.