Til Web, Crawls and Archive
Collection
Web text, crawls and archived sources for pretraining corpora. Веб-тексты, обходы сайтов и архивные источники для корпусов предобучения. • 11 items • Updated
Datasets:
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.
Log in or Sign Up to review the conditions and access this dataset content.
Til-Web-KK
Қазақ тіліндегі білім беру веб-корпусы · Образовательный веб-корпус на казахском языке · Kazakh educational web corpus
Қазақша
Til-Web-KK — қазақ тіліндегі білім беру және анықтамалық сайттардан алынған, көлемі 1.49 ГБ веб-мәтіндер жинағы. Ол тіл модельдерін оқытуға дайындалған мәтін мен бастапқы өңделген материалды бөлек ұсынады.
Құрамы
| Конфиг | Мазмұны |
|---|---|
processed |
Негізгі бет мәтіні, сапа бағасы, санат, тіл, қазақша мәтін үлесі және деңгей |
raw |
Сапа моделінің бағалауына дейінгі мәтін |
Дереккөздерге okulyk.kz, mektep.kz, emektep.kz, referat.resurs.kz, surak.baribar.kz, ref-kaz999, almatykitap.kz, expert.study-inn.kz және mhelp.kz кіреді. Өңдеу барысында trafilatura негізгі мәтінді бөліп, навигацияны, жарнаманы және басқа бет элементтерін алып тастайды. Qwen негізіндегі бағалаушы әр мәтінге сапа, санат және тіл белгілерін береді.
Қалай жүктеуге болады
from datasets import load_dataset
ds = load_dataset("TilQazyna/Til-Web-KK", "processed", split="train", streaming=True)
print(next(iter(ds)))
raw материалын бөлек оқу үшін конфиг атауы raw болып ауыстырылады.
Қолжетімділік
Карточка мен файлдар тізімі ашық көрінеді. Файлдарды жүктеу үшін репозиторий бетіндегі «Request access» батырмасы арқылы өтінім жіберу керек; оны TilQazyna командасы қарайды.
Байланысты репозиторийлер
Бастапқы веб-айна: Til-Web-Raw-KK-v1. Бұл жинақтың материалдары Til-Corpus-Additions-v2 корпус құрастыру репозиторийіне беріледі.
Русский
Til-Web-KK — корпус веб-текстов на казахском языке с образовательных и справочных сайтов, объём — 1.49 ГБ. В нём отдельно доступны подготовленный для обучения текст и материал до оценки качества.
Что внутри
| Конфиг | Содержимое |
|---|---|
processed |
Основной текст страницы, оценка качества, категория, язык, доля казахского текста и уровень |
raw |
Текст до оценки моделью качества |
Источники охватывают okulyk.kz, mektep.kz, emektep.kz, referat.resurs.kz, surak.baribar.kz, ref-kaz999, almatykitap.kz, expert.study-inn.kz и mhelp.kz. В ходе обработки trafilatura выделяет основной текст и убирает навигацию, рекламу и другие элементы страницы. Модель-судья на основе Qwen присваивает тексту оценку качества, категорию и язык.
Как загрузить
from datasets import load_dataset
ds = load_dataset("TilQazyna/Til-Web-KK", "processed", split="train", streaming=True)
print(next(iter(ds)))
Для чтения материала до оценки вместо processed выбирается конфиг raw.
Доступ
Карточка и перечень файлов видны всем. Скачивание открывается после одобрения заявки, отправленной кнопкой «Request access»; заявки рассматривает команда TilQazyna.
Связанные репозитории
Исходное веб-зеркало хранится в Til-Web-Raw-KK-v1. Материалы корпуса поступают в сборку Til-Corpus-Additions-v2.
English
Til-Web-KK is a 1.49 GB collection of Kazakh web text from educational and reference sites. It separates training-oriented processed text from material captured before quality judging.
Contents
| Config | Contents |
|---|---|
processed |
Main page text, quality score, category, language, Kazakh-text ratio, and tier |
raw |
Text before model-based quality judging |
Sources cover okulyk.kz, mektep.kz, emektep.kz, referat.resurs.kz, surak.baribar.kz, ref-kaz999, almatykitap.kz, expert.study-inn.kz, and mhelp.kz. The processing pipeline uses trafilatura to extract main content and remove navigation, advertising, and other page furniture. A Qwen-based judge assigns quality, category, and language labels.
Loading the data
from datasets import load_dataset
ds = load_dataset("TilQazyna/Til-Web-KK", "processed", split="train", streaming=True)
print(next(iter(ds)))
Select the raw config instead of processed to read the pre-judge material.
Access
The dataset card and file listing are public. File downloads require approval through the repository's “Request access” button, and the TilQazyna team reviews each application.
Related repositories
The source web mirror is Til-Web-Raw-KK-v1. This collection also feeds the Til-Corpus-Additions-v2 corpus build.
Лицензия · License: other · TilQazyna
- Downloads last month
- 11