Mt Dspec Legislation En Cy

🚀 mt-dspec-legislation-en-cy

這是一個用於英語和威爾士語之間翻譯的語言模型，專門針對立法領域。它能夠準確地在這兩種語言間進行立法相關內容的翻譯，為立法文件的語言轉換提供專業支持。

🚀 快速開始

本模型是使用自定義的DVC管道，藉助 Marian NMT 進行訓練的。準備的數據集來自以下來源：

• 英國政府立法數據
• OPUS-cy-en
• Cofnod Y Cynulliad
• Cofion Techiaith Cymru

數據被劃分為訓練集、驗證集和測試集。測試集包含特定立法片段，這些片段是從 Cofion Techiaith Cymru 網站的TMX文件中隨機選取的，這些文件已預先分類為特定領域相關內容，此外還有從英國政府立法網站抓取的數據文件。

提取測試集後，剩餘數據被聚合，然後劃分為10個訓練集和驗證集，並輸入到10個Marian訓練會話中。

✨ 主要特性

• 領域專業化：專注於立法領域的翻譯，能更好地處理該領域的專業術語和表達。
• 多數據源訓練：使用多個權威數據源的數據進行訓練，提升了模型的泛化能力和準確性。

📦 安裝指南

確保你已經安裝了必要的Python庫：

# 以下對transformers版本的限制
# 是由於以下問題：
#    https://github.com/huggingface/transformers/issues/26271
pip install sentencepiece "transformers>4.26.1<=4.30.2"

💻 使用示例

基礎用法

import transformers
model_id = "techiaith/mt-spec-health-en-cy"
tokenizer = transformers.AutoTokenizer.from_pretrained(model_id)
model = transformers.AutoModelForSeq2SeqLM.from_pretrained(model_id)
translate = transformers.pipeline("translation", model=model, tokenizer=tokenizer)
translated = translate(
  "The Curriculum and Assessment (Wales) Act 2021 (the Act) "
  "established the Curriculum for Wales and replaced the general "
  "curriculum used up until that point."
)
print(translated["translation_text"])

📚 詳細文檔

評估

評估分數使用Python庫 SacreBLEU 和 torchmetrics 生成。

模型信息

許可證

本模型使用Apache-2.0許可證。