項目	内容
総トークン数	20,037,381,711（約 20.04B トークン）
形式	Raw binary (uint16, little-endian)
シャード構成	`part_01.bin` ~ `part_20.bin`（各約 1.002B トークン ≈ 1.87 GB）
Validation Split	`val.bin`（1,008,089 トークン ≈ 1.92 MB、Train と非重複）
言語	日本語 (85%) + Python コード (15%)
平均ドキュメント長	約 1,088 トークン（最大 652,807 トークン）

ソース構成

ソース	比率	ライセンス
FineWeb-Edu Japanese (`hotchpotch/fineweb-2-edu-japanese`)	55%	ODC-By 1.0 / Common Crawl ToU
日本語 Wikipedia	25%	CC BY-SA 4.0 / GFDL
CodeParrot (`codeparrot/codeparrot-clean`, permissive only)	15%	MIT / Apache-2.0 / BSD / CC0 / Unlicense
青空文庫	5%	パブリックドメイン

各シャードはこの比率で均一にインターリーブされています。

トークナイザー

カスタム SentencePiece BPE トークナイザーです。tokenizer.model を同梱しています。

設定	値
ライブラリ	SentencePiece
モデルタイプ	BPE (`byte_fallback=true`)
語彙サイズ	28,000
`pad_id`	0
`unk_id`	1
`bos_id`	2
`eos_id`	3
`character_coverage`	1.0

データ形式

.bin ファイルはトークン ID を uint16 (little-endian) で連続して格納したフラットバイナリです。 HuggingFace Dataset Viewer には対応していません。

HuggingFace からダウンロードして使う

hf_hub_download でシャードを1つずつキャッシュに落とし、memmap で読みます。 2GB のファイルも RAM にはほぼ乗りません（OS がページ単位で管理します）。

import numpy as np
import torch
from huggingface_hub import hf_hub_download

REPO = "rsu/japanese-pretrain-20b"

def get_shard_path(shard_idx: int) -> str:
    # HF キャッシュからシャードのローカルパスを返します (未ダウンロードなら自動取得)
    return hf_hub_download(
        repo_id=REPO,
        filename=f"part_{shard_idx:02d}.bin",
        repo_type="dataset",
    )

シャード・トークン位置を指定して読み出す

任意のシャード・オフセットから開始できます。チェックポイントからの再開に使用します。

def iter_from(start_shard: int = 1, end_shard: int = 20,
              start_token: int = 0, seq_len: int = 2048):    
    """
    指定シャード・トークン位置から順にデータをストリーミング生成します。

    Returns:
        x (torch.Tensor): 入力トークン列 (shape: [seq_len], dtype: torch.int64)
        y (torch.Tensor): ターゲットトークン列 (shape: [seq_len], dtype: torch.int64, x を1トークン分シフトしたもの)
        shard_idx (int): 現在読み出しているシャード番号 (1〜20)
        pos (int): 現在のシャード内でのトークン先頭位置 (チェックポイント保存・再開用)
    """
    for shard_idx in range(start_shard, end_shard + 1):
        path = get_shard_path(shard_idx)
        data = np.memmap(path, dtype=np.uint16, mode="r")
        offset = start_token if shard_idx == start_shard else 0

        for pos in range(offset, len(data) - seq_len, seq_len):
            chunk = data[pos : pos + seq_len + 1].astype(np.int32)
            x = torch.from_numpy(chunk[:-1]).long()
            y = torch.from_numpy(chunk[1:]).long()
            yield x, y, shard_idx, pos

# 実行例
for x, y, shard_idx, pos in iter_from(start_shard=5, end_shard=10, start_token=204800):
    # x : tensor([15679,   263, 18357, ...]) -> 入力 (seq_len 長)
    # y : tensor([  263, 18357, 18794, ...]) -> ラベル (x を 1 トークン右シフト)
    # shard_idx : 5 -> 現在のシャード番号
    # pos : 204800 -> シャード内のトークンオフセット

    # トークンをテキストに戻して確認する場合
    # text = tokenizer.decode(x.tolist())
    ...

チェックポイントと組み合わせる

import torch

# 保存: 現在のシャード番号とトークン位置を記録
torch.save({"shard": shard_idx, "pos": pos, "step": step}, "ckpt.pt")

# 再開: 保存した位置から再開
ckpt = torch.load("ckpt.pt")
for x, y, shard_idx, pos in iter_from(
    start_shard=ckpt["shard"],
    start_token=ckpt["pos"],
):
    ...

テキストの確認（デコード）

同梱の tokenizer.model を読み込んで、トークン列を日本語テキストに戻して内容を確認する例です。

import sentencepiece as spm
from huggingface_hub import hf_hub_download

tok_path = hf_hub_download(repo_id="rsu/japanese-pretrain-20b", filename="tokenizer.model", repo_type="dataset")
sp = spm.SentencePieceProcessor(model_file=tok_path)

# ストリーミングから先頭100トークンをデコードして表示
for x, y, shard_idx, pos in iter_from(end_shard=1):
    text = sp.decode(x[:100].tolist())
    print(f"--- Decoded Sample (Shard {shard_idx}, Pos {pos}) ---")
    print(text)
    break

ビルド & クリーニング

クリーンアップ: 2段階ストリーミングクリーナーによる SEO・スパム・広告・ナビゲーションテンプレートの除去と、doc-level / paragraph-level の重複排除を適用済みです。
ドキュメント境界の完全保護: 1Bトークン境界での強制切断を排除し、完全なドキュメント単位（記事・ファイル末尾にのみ <eos>）で書き出しています。
長文コンテキスト保持: 日本語 Wikipedia の段落ぶつ切りを全廃し、記事全体を1ドキュメントとして収録。平均ドキュメント長約 1,088 トークン（最大 652,807 トークン）を実現しています。
完全ドキュメントシャッフル: 各シャード内、および val.bin は <eos> 境界のドキュメント単位でシャッフルされており、先頭トークンから Web / Wiki / Code / 青空文庫が均一にインターリーブされています。

ライセンスについて

このコーパスは複数のソースを合成したものであり、単一のライセンスでは配布されません。各ソースの元のライセンス条件が引き続き適用されます。詳細は license.md を参照してください。

モデル学習に関する注意

このデータセットは機械学習・事前学習目的での使用を意図しています。

このデータセットで学習したモデルの重みのライセンス上の取り扱いは、適用される法域・使用した素材・モデルアーキテクチャ・学習プロセスその他の事情によって異なる場合があります。学習済みモデルおよびその派生物に適用されるライセンス・法的要件の判断は、利用者自身の責任において行ってください。

目標とするソース比率を実現するため、一部のソースデータセットからは繰り返しサンプリングを行っています。

再配布・商用利用を行う場合は、各ソースのライセンス条件を各自でご確認ください。

Downloads last month: 115

Total file size:

40.1 GB

Models trained or fine-tuned on rsu/japanese-pretrain-20b

rsu/AnchorMass-Attention

Text Generation • Updated 3 days ago • 10