moganai/mogan-turkish-web

Mogan Turkish Web

A large-scale Turkish web corpus derived from monthly Common Crawl snapshots covering the period from January 2025 to June 2026. The corpus was constructed by extracting Turkish-language content from raw Common Crawl WARC/WET dumps, followed by language filtering, PII masking, and near-duplicate removal.

Dataset Summary

This dataset contains 32,462,870 documents and roughly 23 billion tokens, drawn from monthly Common Crawl acquisitions.

Data Collection and Processing

1. Acquisition: Turkish-language pages were extracted from monthly Common Crawl snapshots (commoncrawl_aws source).
2. Language filtering: each document carries a lang_score reflecting confidence in Turkish-language identification; low-confidence documents were excluded upstream.
3. PII masking: documents were scanned for personally identifiable information (national ID numbers, phone numbers, email addresses, IBANs, and card numbers); detected instances were masked prior to release. The had_pii_masked field indicates whether any masking was applied to a given document.
4. Near-duplicate removal: a MinHash + LSH pipeline (126 permutations, 14 bands of 9 rows each, approximate Jaccard similarity threshold of 0.75) was applied to remove near-duplicate documents.

Data Fields

Field	Type	Description
text	string	Document text
id	string	Document identifier
url	string	Source URL
lang_score	float	Confidence score for Turkish-language identification
source	string	Acquisition source label (e.g. commoncrawl_aws)
had_pii_masked	bool	Whether PII masking was applied to this document

Intended Use

This dataset is intended for pretraining or continued pretraining of Turkish (or multilingual) language models. As with any web-derived corpus, it may contain noisy, low-quality, or offensive content despite the filtering steps described above; downstream users should apply additional quality or safety filtering appropriate to their use case.

License

Released under ODC-BY. Common Crawl data is subject to Common Crawl's Terms of Use.

Citation

@misc{moganturkishweb2026,
      title={Mogan Turkish Web},
      author={Furkan Yılmaz and Aleyna Taşdemir and Faruk Gözay and Bekir Top},
      year={2026},
      publisher={Hugging Face},
      howpublished={\url{https://huggingface.co/datasets/moganai/mogan-turkish-web}}
}

---

Mogan Turkish Web (Türkçe)

Ocak 2025 ile Haziran 2026 arasındaki dönemi kapsayan aylık Common Crawl anlık görüntülerinden türetilmiş büyük ölçekli bir Türkçe web korpüsü. Bu korpüs, ham Common Crawl WARC/WET dökümlerinden Türkçe içeriğin çıkarılmasının ardından dil filtreleme, kişisel veri (PII) maskeleme ve yakın-kopya (near-duplicate) temizliği adımlarından geçirilerek oluşturulmuştur.

Veri Kümesi Özeti

Bu veri kümesi, aylık Common Crawl toplamalarından elde edilmiş 32.462.870 belge ve kabaca 23 milyar token içermektedir.

Veri Toplama ve İşleme Süreci

1. Toplama: Türkçe sayfalar, aylık Common Crawl anlık görüntülerinden (commoncrawl_aws kaynağı) çıkarılmıştır.
2. Dil filtreleme: her belge, Türkçe dil tespitindeki güven düzeyini yansıtan bir lang_score değeri taşır; düşük güvenilirlikli belgeler önceki aşamada elenmiştir.
3. PII maskeleme: belgeler kişisel veri (T.C. kimlik numarası, telefon numarası, e-posta adresi, IBAN ve kart numarası) açısından taranmış, tespit edilen bilgiler yayınlanmadan önce maskelenmiştir. had_pii_masked alanı, ilgili belgeye herhangi bir maskeleme uygulanıp uygulanmadığını belirtir.
4. Yakın-kopya temizliği: yakın-kopya belgeleri kaldırmak için bir MinHash + LSH pipeline'ı (126 permütasyon, 14 bant x 9 satır, ~0.75 Jaccard benzerlik eşiği) uygulanmıştır.

Alan Şeması

Alan	Tip	Açıklama
text	string	Belge metni
id	string	Belge kimliği
url	string	Kaynak URL
lang_score	float	Türkçe dil tespiti güven skoru
source	string	Toplama kaynağı etiketi (örn. commoncrawl_aws)
had_pii_masked	bool	Bu belgeye PII maskeleme uygulanıp uygulanmadığı

Kullanım Amacı

Bu veri kümesi, Türkçe (veya çok dilli) dil modellerinin ön-eğitimi ya da sürdürülen ön-eğitimi için tasarlanmıştır. Web kökenli her korpüste olduğu gibi, yukarıda açıklanan filtreleme adımlarına rağmen gürültülü, düşük kaliteli veya sakıncalı içerik barındırabilir; alt görevlerde çalışan kullanıcıların kendi kullanım senaryolarına uygun ek kalite veya güvenlik filtrelemesi uygulaması önerilir.

Lisans

ODC-BY lisansı ile yayınlanmıştır. Common Crawl verisi, Common Crawl'ın Kullanım Koşullarına tabidir.

Atıf

@misc{moganturkishweb2026,
      title={Mogan Turkish Web},
      author={Furkan Yılmaz and Aleyna Taşdemir and Faruk Gözay and Bekir Top},
      year={2026},
      publisher={Hugging Face},
      howpublished={\url{https://huggingface.co/datasets/moganai/mogan-turkish-web}}
}