|
--- |
|
language: |
|
- ar |
|
metrics: |
|
- Accuracy |
|
library_name: transformers |
|
pipeline_tag: text2text-generation |
|
tags: |
|
- t5 |
|
- text2text-generation |
|
- text2text |
|
- Classification and Generation |
|
- Classification |
|
- Generation |
|
- ArabicT5 |
|
- Text Classification |
|
- Text2Text Generation |
|
widget: |
|
- example_title: الرياضة |
|
- text: | |
|
عصام عبدالفتاح: الاتحاد لا يستحق ركلة جزاء أمام النصر |
|
--- |
|
|
|
# # ArabicT5 Model for Arabic News Classification and Generation |
|
- In this model focus on classifying and generating news Arabic. |
|
|
|
# # The number in the generated text represents the category of the news, as shown below: |
|
category_mapping = { |
|
|
|
'Political':1, |
|
'Economy':2, |
|
'Health':3, |
|
'Sport':4, |
|
'Culture':5, |
|
'Technology':6, |
|
'Art':7, |
|
'Accidents':8 |
|
} |
|
|
|
# # Training parameters |
|
|
|
| | | |
|
| :-------------------: | :-----------:| |
|
| Training batch size | `8` | |
|
| Evaluation batch size | `8` | |
|
| Learning rate | `1e-4` | |
|
| Max length input | `64` | |
|
| Max length target | `200` | |
|
| Number workers | `4` | |
|
| Epoch | `5` | |
|
| | | |
|
|
|
# # Results |
|
|
|
| | | |
|
| :---------------------: | :-----------: | |
|
| Training Loss | `3.20` | |
|
| Classification Accuracy | `95.7%` | |
|
| Generation Accuracy | `88.87%` | |
|
| | | |
|
|
|
# # Example usage |
|
```python |
|
|
|
from transformers import T5ForConditionalGeneration, T5Tokenizer, pipeline |
|
|
|
model_name = "Hezam/ArabicT5-49GB-small-classification-generation" |
|
model = T5ForConditionalGeneration.from_pretrained(model_name) |
|
tokenizer = T5Tokenizer.from_pretrained(model_name) |
|
generation_pipeline = pipeline("text2text-generation",model=model,tokenizer=tokenizer) |
|
|
|
text = " خسارة مدوية لليفربول امام تولوز وفوز كبير لبيتيس" |
|
|
|
output= generation_pipeline(text, |
|
num_beams=10, |
|
max_length=200, |
|
top_p=0.9, |
|
repetition_penalty = 3.0, |
|
no_repeat_ngram_size = 3)[0]["generated_text"] |
|
|
|
output |
|
|
|
``` |
|
category: 4 article: كتبت لبني عبد الله خسر فريق ليفربول بقياده البرتغالي جوسفالدو فيريرا نظيره تولوز بهدف نظيف ضمن منافسات الجوله ال عمر مسابقه الدوري الانجليزي الممتاز بهدفين مقابل هدف المباراه جمعتهما اليوم الاحد استاد |
|
```bash |
|
category: 4 article: كتبت لبني عبد الله خسر فريق ليفربول بقياده البرتغالي جوسفالدو فيريرا نظيره تولوز بهدف نظيف ضمن منافسات الجوله ال عمر مسابقه الدوري الانجليزي الممتاز بهدفين مقابل هدف المباراه جمعتهما اليوم الاحد استاد``` |