Datasets:

ArXiv:
License:
yodas / meta.py
xinjianl's picture
Upload meta.py with huggingface_hub
f3843b9 verified
lang2shard_cnt = {
'aa000': 8,
'ab000': 8,
'af000': 8,
'ak000': 8,
'am000': 8,
'ar000': 32,
'as000': 8,
'ay000': 8,
'az000': 8,
'ba000': 8,
'be000': 8,
'bg000': 8,
'bh000': 2,
'bi000': 1,
'bm000': 3,
'bn000': 8,
'bo000': 4,
'br000': 8,
'bs000': 8,
'ca000': 9,
'co000': 4,
'cr000': 3,
'cs000': 20,
'cy000': 8,
'da000': 8,
'de000': 302,
'de100': 500,
'de101': 500,
'de102': 96,
'dz000': 6,
'ee000': 4,
'el000': 16,
'en000': 500,
'en001': 500,
'en002': 500,
'en003': 500,
'en004': 500,
'en005': 398,
'en100': 500,
'en101': 500,
'en102': 500,
'en103': 500,
'en104': 500,
'en105': 500,
'en106': 500,
'en107': 500,
'en108': 500,
'en109': 500,
'en110': 500,
'en111': 500,
'en112': 500,
'en113': 500,
'en114': 500,
'en115': 500,
'en116': 500,
'en117': 500,
'en118': 500,
'en119': 500,
'en120': 500,
'en121': 500,
'en122': 500,
'en123': 500,
'en124': 500,
'en125': 500,
'en126': 500,
'en127': 237,
'eo000': 8,
'es000': 379,
'es100': 500,
'es101': 500,
'es102': 500,
'es103': 500,
'es104': 500,
'es105': 500,
'es106': 255,
'et000': 8,
'eu000': 8,
'fa000': 8,
'ff000': 5,
'fi000': 24,
'fj000': 5,
'fo000': 7,
'fr000': 242,
'fr100': 500,
'fr101': 500,
'fr102': 500,
'fr103': 318,
'fy000': 3,
'ga000': 8,
'gd000': 5,
'gl000': 8,
'gn000': 8,
'gu000': 8,
'ha000': 8,
'hi000': 52,
'hi100': 10,
'ho000': 3,
'hr000': 8,
'ht000': 7,
'hu000': 23,
'hy000': 8,
'ia000': 7,
'id000': 143,
'id100': 500,
'id101': 363,
'ie000': 6,
'ig000': 5,
'ik000': 3,
'is000': 8,
'it000': 148,
'it100': 500,
'it101': 426,
'iu000': 4,
'iw000': 19,
'ja000': 112,
'ja100': 322,
'jv000': 8,
'ka000': 8,
'ki000': 1,
'kk000': 8,
'kl000': 3,
'km000': 8,
'kn000': 8,
'ko000': 278,
'ko100': 500,
'ko101': 500,
'ko102': 500,
'ko103': 257,
'ks000': 5,
'ku000': 8,
'ky000': 8,
'la000': 8,
'lb000': 6,
'lg000': 2,
'ln000': 8,
'lo000': 6,
'lt000': 8,
'lv000': 8,
'mg000': 7,
'mi000': 8,
'mk000': 8,
'ml000': 8,
'mn000': 8,
'mr000': 8,
'ms000': 8,
'my000': 8,
'na000': 5,
'nd000': 1,
'ne000': 8,
'nl000': 45,
'nl100': 274,
'no000': 16,
'nv000': 3,
'oc000': 4,
'om000': 8,
'or000': 8,
'pa000': 8,
'pl000': 78,
'ps000': 8,
'pt000': 164,
'pt100': 500,
'pt101': 500,
'pt102': 500,
'pt103': 353,
'qu000': 3,
'rm000': 7,
'rn000': 3,
'ro000': 16,
'ru000': 500,
'ru001': 63,
'ru100': 500,
'ru101': 500,
'ru102': 500,
'ru103': 500,
'ru104': 500,
'ru105': 500,
'ru106': 333,
'rw000': 8,
'sa000': 7,
'sc000': 3,
'sd000': 6,
'sg000': 1,
'sh000': 2,
'si000': 8,
'sk000': 8,
'sl000': 8,
'sm000': 2,
'sn000': 3,
'so000': 8,
'sq000': 8,
'sr000': 8,
'st000': 3,
'su000': 7,
'sv000': 17,
'sw000': 8,
'ta000': 9,
'te000': 8,
'tg000': 8,
'th000': 52,
'th100': 2,
'ti000': 7,
'tk000': 7,
'tn000': 5,
'to000': 1,
'tr000': 64,
'tr100': 430,
'ts000': 1,
'tt000': 4,
'ug000': 6,
'uk000': 42,
'uk100': 65,
'ur000': 8,
'uz000': 8,
've000': 4,
'vi000': 80,
'vi100': 500,
'vi101': 429,
'vo000': 1,
'wo000': 7,
'xh000': 3,
'yi000': 6,
'yo000': 8,
'zh000': 33,
'zu000': 8,
}