Hugging Face's logo

Datasets:
procesaur
/
sr-tokenizer-test

Modalities:
Text
Formats:
json
Languages:
Serbian
Size:
100K - 1M
Libraries:
Datasets
Dask
Polars
License:
Dataset card Data Studio Files
xet
 Community
Dataset Viewer (First 5GB)
Auto-converted to Parquet Duplicate
id
stringlengths
7
12
text
stringlengths
54
3.47M
enauka_3439
Филолошки факултет Универзитета у Београду Катедра за српски језик са јужнословенским језицима За издавача: Prve reči i kako ih odrediti: teorijsko-metodološki problemi u proučavanju ranog leksičkog razvoja.143 Примена на компоненцијално-семантичката анализа врз материјал од македонскиот јазик (во знак на благодарност ...
enauka_5954
Savremeni pristup ranim intervencijama u centar svog interesovanja stavlja razumevanje deteta i porodice na holistički i kontekstualni način, usmeravajući se na obezbeđivanje povoljnih mogućnosti i prilika za detetovo učenje i napredovanje u svakodnevnim porodičnim aktivnostima. Osnovne karakteristike ovog modela su: i...
enauka_7942
Socijalna patologija u principu proizlazi iz dubqih, strukturnih konflikata, bilo da su oni unutar ličnosti aktera, bilo u društvu koje je kontekst za formirawe i ispoqavawe takve patologije.Treba imati u vidu da se pod „socijalnom patologijom” u kriminološkom i opštijem sociološkom rečniku podrazumeva svako znatno ods...
enauka_10067
Abstract: Malnutrition is a global problem, hitting both, people and animals.Due to the many factors, such as climate change, soil depletion, anthropogenic impact, including irresponsible soil management, high fertilization rates with macro-nutrients, crops lack in essential nutrients, particularly minerals, Mg, Fe, Zn...
enauka_9490
Зборник радова под насловом Транзиција и економски криминал II настао је као резултат реализације два интерна научноистраживачка пројекта Криминали стичкополицијске академије у Београду: 1) пројекат под насловом Транзиција и економски криминал, који се реа лизује на основу одлуке Наставнонаучног већа Академије 18 б...
enauka_5496
Isidora Popović,* Tijana Nikitović, Ksenija Krstić Filozofski fakultet, Univerzitet u Beogradu Uvod.Predmet rada je lični doživljaj telesnosti momaka i devojaka adolescentskog uzrasta koji se bave brejkdensom.U pristupu temi služile smo se pojmovnim okvirom teorije o modalitetima femininog kretanja i prostornosti Iris ...
enauka_6516
"Проф. др Мирко Филиповић, Универзитет у Београду – Фак(...TRUNCATED)
enauka_3692
"С а ж е т а к. – У расправи је указано на креативне обли(...TRUNCATED)
enauka_3445
"кре нули Љубомир Стојановић и Александар Белић, члано(...TRUNCATED)
enauka_10007
"Tanki oralni filmovi predstavljaju noviji farmaceutski oblik leka, koji sadrži jednu ili više akt(...TRUNCATED)
End of preview. Expand in Data Studio

Sr Tokenizer test

This dataset provides a large Serbian text corpus designed for training and evaluating of tokenizers for Serbian language models. It combines multiple sources of Serbian text in both Cyrillic and Latin scripts, unified into a consistent JSONL format with id and text fields.

Dataset Structure

Metadata has been stripped; Each record is a JSON object with:

  • id: unique identifier
  • text: raw Serbian text

Source coprora

total 11.3 GB with 1.3 billion words

Splits:

  • train.jsonl (75%)
  • test.jsonl (25%)
from datasets import load_dataset
dataset = load_dataset("procesaur/sr-tokenizer-test", split="train")
Editor
Mihailo Škorić

Citation:

soon
Downloads last month
69
Number of rows:
193,521
Estimated number of rows:
197,362
Total file size:
11.3 GB

Models trained or fine-tuned on procesaur/sr-tokenizer-test