Roberta Go

🚀 roberta-go

このプロジェクトは、Golang のマスク言語モデルタスク用に CodeSearchNet データセット で事前学習された roberta のバージョンです。

🚀 クイックスタート

モデルの読み込み

必要なパッケージ: !pip install transformers sentencepiece

from transformers import AutoTokenizer, AutoModelWithLMHead, pipeline
tokenizer = AutoTokenizer.from_pretrained("dbernsohn/roberta-go")
model = AutoModelWithLMHead.from_pretrained("dbernsohn/roberta-go")

fill_mask = pipeline(
    "fill-mask",
    model=model,
    tokenizer=tokenizer
)

モデルの使用

このモデルを使用して、Javaコード内のマスクされた単語を埋めることができます。

code = """
package main

import (
	"fmt"
	"runtime"
)

func main() {
	fmt.Print("Go runs on ")
	switch os := runtime.<mask>; os {
	case "darwin":
		fmt.Println("OS X.")
	case "linux":
		fmt.Println("Linux.")
	default:
		// freebsd, openbsd,
		// plan9, windows...
		fmt.Printf("%s.\n", os)
	}
}
""".lstrip()

pred = {x["token_str"].replace("Ġ", ""): x["score"] for x in fill_mask(code)}
sorted(pred.items(), key=lambda kv: kv[1], reverse=True)
[('GOOS', 0.11810332536697388),
 ('FileInfo', 0.04276798665523529),
 ('Stdout', 0.03572738170623779),
 ('Getenv', 0.025064032524824142),
 ('FileMode', 0.01462600938975811)]

📚 ドキュメント

トレーニングプロセス全体とハイパーパラメータについては、GitHubリポジトリ を参照してください。

📄 ライセンス

このプロジェクトは Dor Bernsohn によって作成されました。