jp-jitsumu-calc-qwen3-4b-GGUF

jp-jitsumu-calc-qwen3-4b（日本語業務の多段計算特化・期日計算/複数書類突合）のGGUF版です。llama.cppでWindows/Linux/MacのCPU・GPUで動作します。

ファイルと実測

ファイル	サイズ	期日計算(dev)	書類突合(dev)	備考
Q8_0	4.0GB	1.000	1.000	推奨。MLXアダプタ版と同値
Q4_K_M	2.3GB	0.875	0.975	省メモリ。軽い劣化あり
f16	7.5GB	—	—	参照用

検証セット（各40問・学習と分離）での正答率。本体repoのテスト値（期日計算0.925・書類突合0.975、ベース比+0.575/+0.425）はMLXアダプタ構成での測定です。

使い方

# llama.cpp（brew install llama.cpp 等で導入）
llama-server -m jp-jitsumu-calc-qwen3-4b-Q8_0.gguf --port 8080 --jinja --reasoning-format none

--reasoning-format none を推奨します。 既定のパーサだと本モデルの計算過程がreasoning_content側に分離され、contentが空になる場合があります。出力冒頭に迷いトークン（<think>等）が現れることがありますが、最終行のJSON（{"answer": ...}）をパースする運用で機械処理できます。

プロンプトは学習時の定型をそのまま使ってください（形式を変えると精度が下がります）:

あなたは日本企業の経理・総務担当者です。以下の指示を読み、規程に従って正確に計算し、答えを求めてください。

# 指示
（ここに期日計算・書類突合の問題文）

# 出力形式
最終的な答えのみを、次のJSON1行で出力してください（説明文・単位・カンマは付けない）。
{"answer": <答え>}

- 日付を問われた場合: "answer" は "YYYY-MM-DD" 形式の文字列にすること（例: {"answer": "2026-03-02"}）
- 金額・個数・数値を問われた場合: "answer" は数値のみにすること（カンマ・「円」「箱」等の単位を付けない。例: {"answer": 35000}）

データと帰属

• 学習データ: プログラム生成した業務計算問題（正解既知）に対する DeepSeek-V4-Flash の検証済み解答軌跡（DeepSeek Open Platform利用規約は蒸留を明示的に許可）
• ベース: Qwen/Qwen3-4B-Instruct-2507（Apache-2.0）

---

Developed by tokimoa — データを外に出さないAI活用を支援しています