Datasets:
Data not in english when downloading wikipedia dataset in english
#52
by
kolling
- opened
Hi,
I used the following command to download the english wikipedia dataset:
ds = load_dataset("wikimedia/wikipedia", "20231101.en", split="train",
download_mode="reuse_dataset_if_exists",
ignore_verifications=True,
cache_dir="/home/test/.cache/")
However, once I access the content of the variable ds
, the information does not seem to be in english
{'id': '807', 'url': 'https://ab.wikipedia.org/wiki/%D0%90%D4%A5%D1%81%D1%83%D0%B0%20%D0%B1%D1%8B%D0%B7%D1%88%D3%99%D0%B0', 'title': 'Аԥсуа бызшәа', 'text': 'А́ԥсуа бызшәа́, аԥсшәа (, ) — Аԥсны ҳәынҭқарра бызшәас иамоуп. Ихалхно — 125 000 ҩык.\n\nАԥсуа бызшәа амш — жьҭаарамза 27.\n\nАкодқәа\nISO 639-1:ab\nISO 639-2:abk\nISO 639-3:abk\n\nАԥсуа алфавит\n\nАграматика\n\nАбжьыҟатә шьҭыбжьаҟәа\n [ā] аа ← [ʕ]\n [a] а\n [ə] ы\n [ø̞] ы ← [ə] ы (ажәа аԥхьа)\n [ʏ] ы ← [ɥˤʏ] ҩы ← [ɥˤə] ҩы\n [e̞] е ← [je̞] ие ← [ja] иа\n [e̞] е ← [e̞j] еи ← [aj] аи\n [i] и ← [əj] и\n [i] и ← [jə] и\n [o̞] о ← [wo̞] уо ← уа [wa] уа\n [o̞] о ← [o̞w] оу ← ау [aw] ау\n [u] у ← [əw] у / [wə] у\n\nАҵыбжьыҟатә шьҭыбжьаҟәа\n\nАцыбжьыҟақәа уԥылоит бзыԥтәи адиалект мцараҿ, аиеҵәа ԥшшәыла иазгәаҭо бзыԥтәи, асаӡтәи диалектқәа — аиаҵәала, абжьауатәи\xa0— ҟаԥшьыла. \nАвелиартә фрикатақәа иреиԥшхаӡом ахархәара аҭыԥ зеиԥшро ала, авелиартәи ма аувелиартәи, иахьатәи аамҭаз бзыԥтәы адиалект аҿы ахархәара амоуп афрингалтә шьҭабжьқәа /χˁ χˁʷ/.\nАхәлымшәытә еидылара [ʔ] ицәырнагоит, актәи ахархәаратә феномен аҟынтә /q’/, аҩбатәи, иара убас иуԥылоит ажәаҿ /ʔaj/ «мап». /ɥ/ уи иахылҵуеит аҟырҟы еиҵалара /ʕʷ/, иара убас уи уаҳауеит анхарҭа ҭыԥқәакырҿ. \nАфонологиатә қәиӷәӷәара аҵакы амоуп.\n\nАҩышьаԥҟарақәа\n\nАзхьарԥшқәа\n Аԥсуа интернет-библиотека\n Корпус абхазского языка\n\nАхьарԥшқәа'}
Is there something wrong in what I did or is this a bug?
Thanks in advance!
Hi @kolling ,
I guess you have an old version of datasets. Could you please check it?
import datasets
print(datasets.__version__)
If that is the case, you should update datasets
:
pip install -U datasets