JARVIS

🚀 J.A.R.V.I.S.智能語言模型

J.A.R.V.I.S.（Just a Rather Very Intelligent System）是一款受《鋼鐵俠》中標誌性助手啟發的先進AI語言模型。它具備上下文感知和高保真的自然語言處理能力，可廣泛應用於各類場景。

🚀 快速開始

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer

# 模型
model = "hadadrjt/JARVIS"

# 加載分詞器和模型
tokenizer = AutoTokenizer.from_pretrained(model)
model = AutoModelForCausalLM.from_pretrained(
    model,
    torch_dtype="auto",
    device_map="auto"
)

# 用戶輸入
input = "Tell me about yourself" # 在此插入你的消息。

# 構建聊天式提示
messages = [{"role": "user", "content": input}]

text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True
)

# 對輸入進行分詞
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# 流式設置
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)

# 流式生成響應
with torch.inference_mode():
    generated_ids = model.generate(
        **model_inputs,
        max_new_tokens=32768,
        temperature=0.6,
        top_p=0.95,
        min_p=0,
        top_k=20,
        repetition_penalty=1.0,
        streamer=streamer
    )

✨ 主要特性

• 強大的文本生成引擎：J.A.R.V.I.S.是AI解決方案的核心，能夠生成自然且富有創意的高質量文本，助你創作出鼓舞人心、引人入勝的內容。
• 無縫集成，無限可能：J.A.R.V.I.S.設計靈活，可無縫集成到各種平臺和系統中，包括Web應用、聊天機器人、代理模式、工具、系統集成和自動化工作流程，能輕鬆適應可用資源容量。
• 可擴展且資源感知：無論你的計算環境如何，從輕量級設備到企業級基礎設施，J.A.R.V.I.S.都能進行優化以實現最佳性能，確保高效響應。
• 廣泛的用例：適用於各種需求，從創意內容創作、寫作輔助到開發交互式文本應用，為你提供無限創新自由。
• 代理式使用：具體使用示例，請參考Qwen3文檔和Qwen-Agent GitHub倉庫。

📦 安裝指南

Ollama安裝

J.A.R.V.I.S.模型在Ollama上的源可在此處找到。

ollama run hadad/JARVIS

# 4位（Q4_K_M）
ollama run hadad/JARVIS:4bit

💻 使用示例

基礎用法

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer

# 模型
model = "hadadrjt/JARVIS"

# 加載分詞器和模型
tokenizer = AutoTokenizer.from_pretrained(model)
model = AutoModelForCausalLM.from_pretrained(
    model,
    torch_dtype="auto",
    device_map="auto"
)

# 用戶輸入
input = "Tell me about yourself" # 在此插入你的消息。

# 構建聊天式提示
messages = [{"role": "user", "content": input}]

text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True
)

# 對輸入進行分詞
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# 流式設置
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)

# 流式生成響應
with torch.inference_mode():
    generated_ids = model.generate(
        **model_inputs,
        max_new_tokens=32768,
        temperature=0.6,
        top_p=0.95,
        min_p=0,
        top_k=20,
        repetition_penalty=1.0,
        streamer=streamer
    )

📚 詳細文檔

核心能力

J.A.R.V.I.S.作為你智能可靠的AI夥伴，擁有驚人的能力。它能自信地回答你最棘手的問題，用簡單的語言解釋複雜的概念，流暢地進行語言翻譯，編寫簡潔高效的代碼，將冗長的信息總結為易於理解的要點，用新穎原創的內容激發你的創造力，並以專業建議指導你的學習或研究。這僅僅是J.A.R.V.I.S.能為你做的事情的開始。

筆記本使用

儘管該模型規模大、參數多，但你可以使用我優化的腳本在Google Colab上免費運行它。點擊此處訪問。

負責任使用

儘管J.A.R.V.I.S.能帶來令人印象深刻的結果，但它可能反映其訓練數據中的偏差，偶爾會產生錯誤輸出。在沒有人工監督的情況下，它不適用於即時安全關鍵應用。我建議實施人工審核流程，監控輸出的公平性和準確性，並隨著時間推移用特定領域的數據更新模型。

致謝與聯繫

本項目基於Qwen3-14B開源基礎構建。如需反饋、合作或支持，請通過hadad@linuxmail.org聯繫Hadad Darajat。我歡迎有助於J.A.R.V.I.S.不斷發展的貢獻。

📄 許可證

本項目採用Apache-2.0許可證。

📖 引用

@misc{jarvis,
  title   = {J.A.R.V.I.S.},
  author  = {Hadad Darajat},
  year    = {2025},
  license = {Apache-2.0},
  base    = {Qwen/Qwen3-14B}
}

⚠️ 重要提示

儘管J.A.R.V.I.S.能帶來令人印象深刻的結果，但它可能反映其訓練數據中的偏差，偶爾會產生錯誤輸出。在沒有人工監督的情況下，它不適用於即時安全關鍵應用。

💡 使用建議

建議實施人工審核流程，監控輸出的公平性和準確性，並隨著時間推移用特定領域的數據更新模型。