Qwen2.5 14B CIC ACLARC GGUF

🚀 Qwen2.5-14B-CIC-ACLARCのLlamacpp imatrix量子化

このプロジェクトでは、llama.cppを使用して量子化を行っています。元のモデルは、こちらです。

🚀 クイックスタート

このプロジェクトでは、Qwen2.5-14B-CIC-ACLARCモデルをllama.cppを用いて量子化しています。量子化により、モデルの推論速度を向上させることができます。

✨ 主な機能

• 量子化：llama.cppを使用してQwen2.5-14B-CIC-ACLARCモデルを量子化します。
• ゼロショット分類：パイプラインタグとしてゼロショット分類がサポートされています。

📦 インストール

このセクションでは、具体的なインストール手順が記載されていないため、省略します。

💻 使用例

基本的な使用法

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

高度な使用法

高度な使用法に関する具体的なコード例が記載されていないため、省略します。

📚 ドキュメント

プロンプト形式

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

引用

@misc{koloveas2025llmspredictcitationintent,
      title={Can LLMs Predict Citation Intent? An Experimental Analysis of In-context Learning and Fine-tuning on Open LLMs}, 
      author={Paris Koloveas and Serafeim Chatzopoulos and Thanasis Vergoulis and Christos Tryfonopoulos},
      year={2025},
      eprint={2502.14561},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2502.14561}, 
}

🔧 技術詳細

具体的な技術詳細が50文字以上記載されていないため、省略します。

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。

情報一覧