Instructions to use ESPRIT-Group/ESPRIT-Derja-8B-v1 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use ESPRIT-Group/ESPRIT-Derja-8B-v1 with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="ESPRIT-Group/ESPRIT-Derja-8B-v1")

# Load model directly
from transformers import AutoModel
model = AutoModel.from_pretrained("ESPRIT-Group/ESPRIT-Derja-8B-v1", dtype="auto")

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use ESPRIT-Group/ESPRIT-Derja-8B-v1 with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "ESPRIT-Group/ESPRIT-Derja-8B-v1"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "ESPRIT-Group/ESPRIT-Derja-8B-v1",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker

docker model run hf.co/ESPRIT-Group/ESPRIT-Derja-8B-v1

SGLang

How to use ESPRIT-Group/ESPRIT-Derja-8B-v1 with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "ESPRIT-Group/ESPRIT-Derja-8B-v1" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "ESPRIT-Group/ESPRIT-Derja-8B-v1",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "ESPRIT-Group/ESPRIT-Derja-8B-v1" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "ESPRIT-Group/ESPRIT-Derja-8B-v1",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Docker Model Runner
How to use ESPRIT-Group/ESPRIT-Derja-8B-v1 with Docker Model Runner:
```
docker model run hf.co/ESPRIT-Group/ESPRIT-Derja-8B-v1
```

ESPRIT-Derja-8B-v1

ESPRIT-Derja-8B-v1 est un modèle de langage spécialisé dans le dialecte tunisien (Derja), développé par la Direction de l'IA d'ESPRIT (École Supérieure Privée d'Ingénierie et de Technologies, Tunisie).

Le modèle est issu d'un fine-tuning LoRA de Qwen/Qwen3-8B, entraîné sur un corpus de dialecte tunisien afin d'améliorer la compréhension et la génération en Derja, qu'il soit écrit en caractères arabes ou en arabizi (latin).

Détails du modèle

Développé par : Direction de l'IA - ESPRIT
Modèle de base : Qwen/Qwen3-8B (8 milliards de paramètres)
Méthode : Fine-tuning LoRA (Low-Rank Adaptation)
Langues : Arabe standard, dialecte tunisien (Derja), arabizi
Licence : Apache 2.0
Infrastructure d'entraînement : NVIDIA DGX A100

Cas d'usage

Ce modèle est conçu pour :

La génération de texte en dialecte tunisien
La compréhension et la réponse à des requêtes en Derja
Les assistants conversationnels destinés au public tunisien
La recherche en TAL sur les langues sous-dotées (low-resource NLP)

Utilisation

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "ESPRIT-Group/ESPRIT-Derja-8B-v1"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")

messages = [
    {"role": "user", "content": "أهلا، شنوة الأخبار اليوم؟"}
]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

Déploiement

Le modèle est déployable via vLLM pour une inférence à haut débit :

vllm serve ESPRIT-Group/ESPRIT-Derja-8B-v1 \
  --served-model-name ESPRIT-Derja-8B \
  --max-model-len 8192

Données d'entraînement

Le modèle a été affiné sur un corpus de dialecte tunisien comprenant des sources textuelles variées (conversations, contenus écrits en Derja arabe et arabizi). Le détail du corpus sera précisé dans une version ultérieure de cette fiche.

Limites et biais

Le modèle peut produire des réponses inexactes ou inappropriées, comme tout modèle de langage.
La couverture du dialecte peut varier selon les régions de Tunisie.
Le modèle hérite des biais potentiels de son modèle de base (Qwen3-8B) et de son corpus de fine-tuning.
Il n'est pas conçu pour des usages critiques sans supervision humaine.

Citation

@misc{esprit-derja-8b-2026,
  title  = {ESPRIT-Derja-8B-v1: A Tunisian Dialect Language Model},
  author = {Direction de l'IA, ESPRIT},
  year   = {2026},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/ESPRIT-Group/ESPRIT-Derja-8B-v1}}
}

Contact

Direction de l'Intelligence Artificielle - ESPRIT École Supérieure Privée d'Ingénierie et de Technologies, Tunisie

Downloads last month: -; Downloads are not tracked for this model. How to track

Model tree for ESPRIT-Group/ESPRIT-Derja-8B-v1

Base model

Qwen/Qwen3-8B-Base

Finetuned

Qwen/Qwen3-8B

Adapter

(1462)

this model