Update README.md
Browse files
README.md
CHANGED
@@ -1,5 +1,5 @@
|
|
1 |
---
|
2 |
-
license:
|
3 |
task_categories:
|
4 |
- question-answering
|
5 |
language:
|
@@ -12,33 +12,71 @@ tags:
|
|
12 |
size_categories:
|
13 |
- 1K<n<10K
|
14 |
---
|
15 |
-
|
|
|
16 |
|
17 |
-
|
18 |
-
Este es un dataset creado a partir de blogs de internet y páginas en abierto sobre lingüística computacional. Contiene algunos temas de estadística, lingüística e informática
|
19 |
-
(especialmente cuestiones relacionadas con Python, el principal lenguaje de programación para el procesamiento del lenguaje natural).
|
20 |
|
21 |
-
|
22 |
|
23 |
-
|
|
|
24 |
|
25 |
-
|
26 |
-
Este dataset tiene la intención de ser educativo, explicando ciertos conceptos o respondiendo preguntas relacionadas con la evolución de la disciplina o de las funciones y aspectos
|
27 |
-
básicos de Python y algunos paquetes como Wordnet o NLTK. También responde algunas cuestiones de lingüística de corpus y, por tanto, de estadística, especialmente cuestiones
|
28 |
-
de explicación de conceptos. Actualmente tiene 1004 pares de pregunta-respuesta.
|
29 |
|
|
|
30 |
|
31 |
-
|
32 |
-
(Universidad de Cádiz, Instituto de Lingüística Aplicada)
|
33 |
-
- [Jorge Zamora Rey] (https://huggingface.co/reddrex)
|
34 |
-
- [Isabel Moyano Moreno] (https://huggingface.co/issyinthesky)
|
35 |
-
- [Mario Crespo Miguel] (https://huggingface.co/MCMiguel)
|
36 |
-
|
37 |
-
- **Language(s) (NLP):** Spanish
|
38 |
-
- **License:** Creative Commons Attribution Non Commercial Share Alike 4.0
|
39 |
|
40 |
-
|
41 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
42 |
|
43 |
```json
|
44 |
[
|
@@ -57,52 +95,113 @@ El dataset tiene la siguiente forma:
|
|
57 |
{...}
|
58 |
]
|
59 |
```
|
|
|
60 |
|
61 |
-
|
62 |
-
Nuestra intención principal de cara al futuro es aumentarlo con otras fuentes de información y emplearlo para crear un agente conversacional que ayude a los alumnos
|
63 |
-
de las asignaturas de Lingüística computacional e Ingeniería del Lenguaje del grado de Lingüística y lenguas aplicadas, además de otras personas interesadas en este ámbito,
|
64 |
-
aunque nuestro foco principal son lingüistas, toda persona interesada es bienvenida.
|
65 |
|
66 |
-
###
|
67 |
|
68 |
-
<!--
|
69 |
-
- **Repositorio:** https://github.com/reddrex/lingcomp_QA/tree/main
|
70 |
-
<!-- Paper [optional]:** [More Information Needed] -->
|
71 |
|
72 |
-
|
73 |
-
Para este dataset hemos empleado los apuntes de la asignatura de Lingüística computacional del grado de Lingüística y lenguas aplicadas de la universidad de Cádiz, y algunas
|
74 |
-
cuestiones de la asignatura de Ingeniería del lenguaje. Además, hemos añadido la información que ha aparecido en páginas web en español, especialmente blogs, encontradas a través de Bootcat
|
75 |
-
al realizar una búsqueda de términos de la lingüística computacional. Estos términos los hemos elegido de los principales temas tratados en libros específicos como el de Jurafsky y Martin de Speech and Language Processing.
|
76 |
|
77 |
-
|
78 |
-
|
79 |
-
### Fuentes de información
|
80 |
|
81 |
<!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
|
82 |
-
|
83 |
-
|
84 |
-
|
85 |
-
|
86 |
-
|
87 |
-
|
88 |
-
|
89 |
-
|
90 |
-
|
91 |
-
|
92 |
-
|
93 |
-
-
|
94 |
-
|
95 |
-
|
96 |
-
|
97 |
-
|
98 |
-
|
99 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
100 |
|
101 |
<!-- This section is meant to convey both technical and sociotechnical limitations. -->
|
102 |
-
Ha habido cierto límite de tiempo en el que es especialmente difícil recabar tanta información como la que puede haber en un campo como la lingüística computacional, así que
|
103 |
-
nos hemos limitado a cubrir ciertos temas básicos relacionados con este ámbito. Además, otro problema es la escasez de información en abierto disponible para crear un corpus,
|
104 |
-
ya que la mayoría de información que hemos encontrado en relación a estos temas pertenecía a artículos científicos.
|
105 |
|
106 |
-
<!--
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
107 |
|
108 |
-
<!--
|
|
|
|
1 |
---
|
2 |
+
license: apache-2.0
|
3 |
task_categories:
|
4 |
- question-answering
|
5 |
language:
|
|
|
12 |
size_categories:
|
13 |
- 1K<n<10K
|
14 |
---
|
15 |
+
<!--
|
16 |
+
Esta plantilla de Dataset Card es una adaptación de la de Hugging Face: https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/templates/datasetcard_template.md
|
17 |
|
18 |
+
¿Cómo utilizar esta plantilla? Copia el contenido en el README.md del repo de tu dataset en el Hub de Hugging Face y rellena cada sección.
|
|
|
|
|
19 |
|
20 |
+
Para más información sobre cómo rellenar cada sección ver las docs: https://huggingface.co/docs/hub/datasets-cards y https://huggingface.co/docs/datasets/dataset_card
|
21 |
|
22 |
+
Para más información sobre la dataset card metadata ver: https://github.com/huggingface/hub-docs/blob/main/datasetcard.md?plain=1
|
23 |
+
-->
|
24 |
|
25 |
+
# Dataset Card for LingComp_QA, un corpus educativo de lingüística computacional en español
|
|
|
|
|
|
|
26 |
|
27 |
+
<!-- Suele haber un nombre corto ("pretty name") para las URLs, tablas y demás y uno largo más descriptivo. Para crear el pretty name podéis utilizar acrónimos. -->
|
28 |
|
29 |
+
<!-- Resumen del corpus y motivación del proyecto (inc. los ODS relacionados). Esta sección es como el abstract. También se puede incluir aquí el logo del proyecto. -->
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
30 |
|
31 |
+
<!-- Si queréis incluir una versión de la Dataset Card en español, enlazarla aquí al principio (e.g. `README_es.md`).-->
|
32 |
+
|
33 |
+
## Dataset Details
|
34 |
+
|
35 |
+
### Dataset Description
|
36 |
+
|
37 |
+
<!-- Resumen del dataset. -->
|
38 |
+
|
39 |
+
- **Curated by:** Jorge Zamora Rey (https://huggingface.co/reddrex), Isabel Moyano Moreno (https://huggingface.co/issyinthesky), Mario Crespo Miguel (https://huggingface.co/MCMiguel) <!-- Nombre de los miembros del equipo -->
|
40 |
+
- **Funded by:** SomosNLP, HuggingFace, Argilla, Universidad de Cádiz <!-- Si contasteis con apoyo de otra entidad (e.g. vuestra universidad), añadidla aquí -->
|
41 |
+
- **Language(s) (NLP):** es-ES <!-- Enumerar las lenguas en las que se ha entrenado el modelo, especificando el país de origen. Utilizar códigos ISO. Por ejemplo: Spanish (`es-CL`, `es-ES`, `es-MX`), Catalan (`ca`), Quechua (`qu`). -->
|
42 |
+
- **License:** apache-2.0 <!-- Elegid una licencia lo más permisiva posible teniendo en cuenta la licencia del model pre-entrenado y los datasets utilizados -->
|
43 |
+
|
44 |
+
### Dataset Sources
|
45 |
+
|
46 |
+
- **Repository:** https://github.com/reddrex/lingcomp_QA/tree/main <!-- Enlace al `main` del repo donde tengáis los scripts, i.e.: o del mismo repo del dataset en HuggingFace o a GitHub. -->
|
47 |
+
- **Paper:** Comming soon! <!-- Si vais a presentarlo a NAACL poned "WIP", "Comming soon!" o similar. Si no tenéis intención de presentarlo a ninguna conferencia ni escribir un preprint, eliminar. -->
|
48 |
+
|
49 |
+
<!-- ### Dataset Versions & Formats [optional] -->
|
50 |
+
|
51 |
+
<!-- Si tenéis varias versiones de vuestro dataset podéis combinarlas todas en un mismo repo y simplemente enlazar aquí los commits correspondientes. Ver ejemplo de https://huggingface.co/bertin-project/bertin-roberta-base-spanish -->
|
52 |
+
|
53 |
+
<!-- Si hay varias formatos del dataset (e.g. sin anotar, pregunta/respuesta, gemma) las podéis enumerar aquí. -->
|
54 |
+
|
55 |
+
## Uses
|
56 |
+
|
57 |
+
<!-- Address questions around how the dataset is intended to be used. -->
|
58 |
+
This dataset is intended for educational purposes.
|
59 |
+
|
60 |
+
### Direct Use
|
61 |
+
|
62 |
+
<!-- This section describes suitable use cases for the dataset. -->
|
63 |
+
|
64 |
+
|
65 |
+
[More Information Needed]
|
66 |
+
|
67 |
+
### Out-of-Scope Use
|
68 |
+
|
69 |
+
<!-- This section addresses misuse, malicious use, and uses that the dataset will not work well for. -->
|
70 |
+
|
71 |
+
[More Information Needed]
|
72 |
+
|
73 |
+
## Dataset Structure
|
74 |
+
|
75 |
+
<!-- This section provides a description of the dataset fields, and additional information about the dataset structure such as criteria used to create the splits, relationships between data points, etc. -->
|
76 |
+
|
77 |
+
<!-- En esta sección podéis enumerar y explicar cada columna del corpus. Para cada columna que sea de tipo "categoría" podéis indicar el porcentaje de ejemplos. -->
|
78 |
+
|
79 |
+
The dataset's structure looks like this:
|
80 |
|
81 |
```json
|
82 |
[
|
|
|
95 |
{...}
|
96 |
]
|
97 |
```
|
98 |
+
We have a "pregunta" or question column, and a "respuesta" or answer column, where each question has an answer associated.
|
99 |
|
100 |
+
## Dataset Creation
|
|
|
|
|
|
|
101 |
|
102 |
+
### Curation Rationale
|
103 |
|
104 |
+
<!-- Motivation for the creation of this dataset. -->
|
|
|
|
|
105 |
|
106 |
+
[More Information Needed]
|
|
|
|
|
|
|
107 |
|
108 |
+
### Source Data
|
|
|
|
|
109 |
|
110 |
<!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
|
111 |
+
|
112 |
+
#### Data Collection and Processing
|
113 |
+
|
114 |
+
<!-- This section describes the data collection and processing process such as data selection criteria, filtering and normalization methods, tools and libraries used, etc. -->
|
115 |
+
|
116 |
+
<!-- Enlazar aquí los scripts y notebooks utilizados para generar el corpus. -->
|
117 |
+
|
118 |
+
[More Information Needed]
|
119 |
+
|
120 |
+
#### Who are the source data producers?
|
121 |
+
|
122 |
+
<!-- This section describes the people or systems who originally created the data. It should also include self-reported demographic or identity information for the source data creators if this information is available. -->
|
123 |
+
|
124 |
+
[More Information Needed]
|
125 |
+
|
126 |
+
### Annotations [optional]
|
127 |
+
|
128 |
+
<!-- If the dataset contains annotations which are not part of the initial data collection, use this section to describe them. -->
|
129 |
+
|
130 |
+
#### Annotation process
|
131 |
+
|
132 |
+
<!-- This section describes the annotation process such as annotation tools used in the process, the amount of data annotated, annotation guidelines provided to the annotators, interannotator statistics, annotation validation, etc. -->
|
133 |
+
|
134 |
+
<!-- Enlazar aquí el notebook utilizado para crear el espacio de anotación de Argilla y la guía de anotación. -->
|
135 |
+
|
136 |
+
[More Information Needed]
|
137 |
+
|
138 |
+
#### Who are the annotators?
|
139 |
+
|
140 |
+
<!-- This section describes the people or systems who created the annotations. -->
|
141 |
+
The annotators are the members of our team: Jorge Zamora, Isabel Moyano and Mario Crespo.
|
142 |
+
|
143 |
+
#### Personal and Sensitive Information
|
144 |
+
|
145 |
+
<!-- State whether the dataset contains data that might be considered personal, sensitive, or private (e.g., data that reveals addresses, uniquely identifiable names or aliases, racial or ethnic origins, sexual orientations, religious beliefs, political opinions, financial or health data, etc.). If efforts were made to anonymize the data, describe the anonymization process. -->
|
146 |
+
|
147 |
+
[More Information Needed]
|
148 |
+
|
149 |
+
## Bias, Risks, and Limitations
|
150 |
|
151 |
<!-- This section is meant to convey both technical and sociotechnical limitations. -->
|
|
|
|
|
|
|
152 |
|
153 |
+
<!-- Aquí podéis mencionar los posibles sesgos heredados según el origen de los datos y de las personas que lo han anotado, hablar del balance de las categorías representadas, los esfuerzos que habéis hecho para intentar mitigar sesgos y riesgos. -->
|
154 |
+
|
155 |
+
[More Information Needed]
|
156 |
+
|
157 |
+
### Recommendations
|
158 |
+
|
159 |
+
<!-- This section is meant to convey recommendations with respect to the bias, risk, and technical limitations.
|
160 |
+
|
161 |
+
Example:
|
162 |
+
|
163 |
+
Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations. -->
|
164 |
+
|
165 |
+
[More Information Needed]
|
166 |
+
|
167 |
+
## License
|
168 |
+
|
169 |
+
<!-- Indicar bajo qué licencia se libera el dataset explicando, si no es apache 2.0, a qué se debe la licencia más restrictiva (i.e. herencia de los datos utilizados). -->
|
170 |
+
Apache 2.0
|
171 |
+
|
172 |
+
## Citation
|
173 |
+
|
174 |
+
<!-- If there is a paper or blog post introducing the dataset, the APA and Bibtex information for that should go in this section. -->
|
175 |
+
|
176 |
+
**BibTeX:**
|
177 |
+
|
178 |
+
```
|
179 |
+
@software{LingComp_QA,
|
180 |
+
author = {Zamora Rey, Jorge and Crespo Miguel, Mario and Moyano Moreno, Isabel},
|
181 |
+
title = {LingComp_QA, un corpus educativo de lingüística computacional en español},
|
182 |
+
month = March,
|
183 |
+
year = 2024,
|
184 |
+
url = {https://huggingface.co/datasets/somosnlp/LingComp_QA}
|
185 |
+
}
|
186 |
+
```
|
187 |
+
|
188 |
+
<!-- ## Glossary [optional] -->
|
189 |
+
|
190 |
+
<!-- If relevant, include terms and calculations in this section that can help readers understand the dataset or dataset card. -->
|
191 |
+
|
192 |
+
## More Information
|
193 |
+
|
194 |
+
<!-- Indicar aquí que el marco en el que se desarrolló el proyecto, en esta sección podéis incluir agradecimientos y más información sobre los miembros del equipo. Podéis adaptar el ejemplo a vuestro gusto. -->
|
195 |
+
|
196 |
+
This project was developed during the [Hackathon #Somos600M](https://somosnlp.org/hackathon) organized by SomosNLP. The dataset was created using `distilabel` by Argilla and endpoints sponsored by HuggingFace.
|
197 |
+
|
198 |
+
**Team:**
|
199 |
+
|
200 |
+
- [Jorge Zamora Rey](https://huggingface.co/reddrex)
|
201 |
+
- [Mario Crespo Miguel](https://huggingface.co/MCMiguel)
|
202 |
+
- [Isabel Moyano Moreno](https://huggingface.co/issyinthesky)
|
203 |
+
|
204 |
+
## Contact
|
205 |
|
206 |
+
<!-- Email de contacto para posibles preguntas sobre el dataset. -->
|
207 |
+
mario.crespo@uca.es
|