README.md

---
license: apache-2.0
---

# construct_text_correction

使用程序自动构造文本纠错数据集，包含拼写和语法纠错数据，可用于中文校对模型的训练。

## Data Fields

| Field  | Type   | Description                   |
| ------ | ------ | ----------------------------- |
| source | string | 可能包含拼写/语法错误的源句子               |
| target | string | 纠错后的目标句子                      |
| label  | int    | 源句子中是否包含错误，若为1，则包含错误，否则不包含错误。 |

```json
{
    "source": "健全国有林区经营管理体制，完散集体林权制度改革。",
    "target": "健全国有林区经营管理体制，完善集体林权制度改革。",
    "label": 1
}
```

## Construction

安装 [ltp](https://github.com/HIT-SCIR/ltp):

```shell
pip install ltp ltp-core ltp-extension
```

生成 4k 条纠错句子对 `4k.jsonl`：

```shell
python finetune_data.py \
    --input sentences/4k.txt \
    --output 4k.jsonl \
    --ltp_model LTP/legacy \
    --basic_hanzi confusion/basic_hanzi_2500.txt \
    --shape_confusion confusion/shape_confusion.txt \
    --sound_confusion confusion/pinyin.txt \
    --same_ratio 0.1 \
    --repeat_ratio 0.15 \
    --delete_ratio 0.15 \
    --sound_ratio 0.5 \
    --shape_ratio 0.1
```

生成 20k 条纠错句子对 `20k.jsonl`：

```shell
python finetune_data.py \
    --input sentences/20k.txt \
    --output 20k.jsonl \
    --ltp_model LTP/legacy \
    --basic_hanzi confusion/basic_hanzi_2500.txt \
    --shape_confusion confusion/shape_confusion.txt \
    --sound_confusion confusion/pinyin_expand.txt \
    --same_ratio 0.1 \
    --repeat_ratio 0.15 \
    --delete_ratio 0.15 \
    --sound_ratio 0.5 \
    --shape_ratio 0.1
```