許可證：apache-2.0 小部件：

• 示例標題："Yi-34B-Chat" 文本："你好" 輸出： 文本："你好！今天有什麼可以幫您的嗎？"
• 示例標題："Yi-34B" 文本："有一個地方時間靜止。一個令人驚歎的地方，但也" 輸出： 文本："有一種詭異的感覺，總覺得哪裡不對勁……\n在兩個世界之間，存在著被遺忘的王國——那裡棲息著早已被認為滅絕的生物，蘊藏著強大到難以置信的古老魔法！只有在這裡，你才能找到失落了幾個世紀的東西：生命靈藥，它能恢復青春與活力，只要那些尋求其力量的人足夠勇敢，敢於面對這片神秘土地上潛伏的各種危險！但要當心；有人說這裡甚至可能存在我們無法理解的強大實體，它們對人類意圖不明——也許它們追求的只是毀滅本身，而非永生（或許該有人告訴它們現代醫學的存在）？無論如何，有一點始終不變：成功與否完全取決於我們付出多少努力去征服前方的挑戰，以及內心深處是否擁有足夠的信念；）那麼，我們現在就開始吧？" 管道標籤：文本生成

🤗 Hugging Face • 🤖 ModelScope • ✡️ WiseModel

👩‍🚀 在 GitHub 上提問或討論想法

👋 加入我們的 👾 Discord 或 💬 微信

📝 查看 Yi技術報告

📚 在 Yi學習中心 成長

什麼是Yi？

簡介

• 🤖 Yi系列模型是由01.AI從頭開始訓練的下一代開源大語言模型。

• 🙌 作為一款雙語語言模型，Yi系列模型在3T多語言語料庫上訓練，成為全球最強大的LLM之一，在語言理解、常識推理、閱讀理解等方面表現出色。例如：

  • Yi-34B-Chat模型位居第二（僅次於GPT-4 Turbo），在AlpacaEval排行榜上（基於2024年1月的數據）超越了其他LLM（如GPT-4、Mixtral、Claude）。

  • Yi-34B模型在所有現有開源模型中排名第一（如Falcon-180B、Llama-70B、Claude），在Hugging Face Open LLM Leaderboard（預訓練）和C-Eval（基於2023年11月的數據）等多項基準測試中表現優異。

  • 🙏 （感謝Llama）感謝Transformer和Llama開源社區，它們減少了從頭構建的難度，並使得AI生態系統中可以使用相同的工具。

  如果你對Yi採用Llama架構和許可證使用政策感興趣，請參閱Yi與Llama的關係。 ⬇️

  
  

  💡 摘要

  Yi系列模型採用了與Llama相同的模型架構，但並非Llama的衍生品。

  • Yi和Llama都基於Transformer結構，自2018年以來，Transformer已成為大語言模型的標準架構。

  • 基於Transformer架構，Llama因其出色的穩定性、可靠的收斂性和強大的兼容性，成為大多數最先進開源模型的新基石。這使Llama成為包括Yi在內的模型的公認基礎框架。

  • 得益於Transformer和Llama架構，其他模型可以利用其力量，減少從頭構建的難度，並在其生態系統中使用相同的工具。

  • 然而，Yi系列模型並非Llama的衍生品，因為它們沒有使用Llama的權重。

    • 由於Llama的結構被大多數開源模型採用，決定模型性能的關鍵因素是訓練數據集、訓練流程和訓練基礎設施。

    • Yi以獨特和專有的方式開發，完全獨立創建了自己的高質量訓練數據集、高效訓練流程和強大的訓練基礎設施。這一努力使Yi系列模型在2023年12月的Alpaca排行榜上僅次於GPT4，超越了Llama。

[ 返回頂部 ⬆️ ]

新聞