First version of the model

README.md

@@ -6,7 +6,7 @@ tags:
 datasets:
 - jrc-acquis
 widget:
-- text: "LA COMISIÓN DE LAS COMUNIDADES EUROPEAS, Visto el Tratado constitutivo de la Comunidad Europea, Visto el Reglamento (CE) no 1255/1999 del Consejo, de 17 de mayo de 1999, por el que se establece la organización común de mercados en el sector de la leche y de los productos lácteos [1] y, en particular, su artículo 10, Considerando lo siguiente: (1) En virtud de lo dispuesto en el artículo 26 del Reglamento (CE) no 2799/1999 de la Comisión, de 17 de diciembre de 1999, por el que se establecen las disposiciones de aplicación del Reglamento (CE) no 1255/1999 del Consejo en relación con la concesión de una ayuda a la leche desnatada y a la leche desnatada en polvo destinadas a la alimentación animal y con la venta de dicha leche desnatada en polvo [2], los organismos de intervención han puesto en licitación permanente ciertas cantidades de leche desnatada en polvo que obran en su poder. (2) En virtud de lo dispuesto en el artículo 30 de dicho Reglamento (CE) no 2799/1999, teniendo en cuenta las ofertas recibidas para cada licitación específica, se fijará un precio mínimo de venta o se decidirá no dar curso a la licitación. (3) El estudio de las ofertas recibidas lleva a la decisión de no dar curso a la licitación. (4) Las medidas previstas en el presente Reglamento se ajustan al dictamen del Comité de gestión de la leche y de los productos lácteos. HA ADOPTADO EL PRESENTE REGLAMENTO: Artículo 1 En lo que respecta a la 79a licitación específica efectuada con arreglo al Reglamento (CE) no 2799/1999 y para la cual el plazo de presentación de ofertas expiró el 22 de marzo de 2005, no se dará curso a la licitación. Artículo 2 El presente Reglamento entrará en vigor el 24 de marzo de 2005. El presente Reglamento será obligatorio en todos sus elementos y directamente aplicable en cada Estado miembro. Hecho en Bruselas, el 23 de marzo de 2005. Por la Comisión Mariann Fischer Boel Miembro de la Comisión [1] DO L 160 de 26.6.1999, p. 48. Reglamento modificado por el Reglamento (CE) no 186/2004 de la Comisión (DO L 29 de 3.2.2004, p. 6). [2] DO L 340 de 31.12.1999, p. 3. Reglamento cuya última modificación la constituye el Reglamento (CE) no 2250/2004 (DO L 381 de 28.12.2004, p. 25). -------------------------------------------------- "
+- text: "EL CONSEJO DE LA UNIÓN EUROPEA, Visto el Tratado constitutivo de la Comunidad Europea y, en particular, su artículo 113, en relación con la primera frase del apartado 2 del artículo 228 y con el apartado 4 del artículo 228, Vista la propuesta de la Comisión, Considerando que, el 25 de septiembre de 1995, el Consejo autorizó a la Comisión para negociar, en nombre de la Comunidad, acuerdos para el control de precursores y sustancias químicas con los Estados miembros de la Organización de los Estados Americanos; Considerando que la Comisión, basándose en esta autorización, concluyó las negociaciones con los Estados Unidos Mexicanos el 25 de octubre de 1996; Considerando que conviene que el Consejo autorice a la Comisión, mediante consultas con un comité especial nombrado por el Consejo, a aprobar modificaciones en nombre de la Comunidad en los supuestos en los que el Acuerdo prevé que sean adoptadas por el Grupo mixto de seguimiento; que, no obstante, esta autorización se limitará a la modificación de los Anexos del Acuerdo siempre que se refiera a sustancias ya reguladas por la legislación comunitaria sobre precursores y sustancias químicas, DECIDE: Artículo 1 Queda aprobado, en nombre de la Comunidad, el Acuerdo entre la Comunidad Europea y los Estados Unidos Mexicanos para la cooperación en materia de control de los precursores y sustancias químicas utilizados con frecuencia en la fabricación ilícita de estupefacientes o de sustancias sicotrópicas. El texto del Acuerdo se adjunta a la presente Decisión. Artículo 2 El Presidente del Consejo podrá, en nombre de la Comunidad, comunicar al Gobierno de los Estados Unidos Mexicanos el instrumento previsto en el artículo 12 (1). Artículo 3 1. La Comunidad estará representada en el Grupo Mixto de Seguimiento previsto en el artículo 9 del Acuerdo por la Comisión, asistida por los representantes de los Estados miembros. 2. La Comisión está autorizada para aprobar, en nombre de la Comunidad, las modificaciones de los Anexos del presente Acuerdo adoptadas por el Grupo mixto de seguimiento mediante el procedimiento establecido en el artículo 10 del Acuerdo. La Comisión estará asistida en esta tarea por un comité especial nombrado por el Consejo y encargado de establecer una posición común. 3. La autorización mencionada en el apartado 2 se limitará a aquellas sustancias que ya están reguladas por la legislación comunitaria pertinente en materia de precursores de estupefacientes y de sustancias químicas. Artículo 4 La presente Decisión será publicada en el Diario Oficial de las Comunidades Europeas. Hecho en Bruselas, el 13 de marzo de 1997. Por el Consejo El Presidente M. PATIJN (1) La Secretaría General del Consejo se encargará de publicar la fecha de entrada en vigor del Acuerdo en el Diario Oficial de las Comunidades Europeas. "
 
 ---
 
@@ -38,7 +38,7 @@ tokenizer=AutoTokenizer.from_pretrained(pretrained_model_name_or_path = "SEBIS/l
     device=0
 )
 
-es_text = "LA COMISIÓN DE LAS COMUNIDADES EUROPEAS, Visto el Tratado constitutivo de la Comunidad Europea, Visto el Reglamento (CE) no 1255/1999 del Consejo, de 17 de mayo de 1999, por el que se establece la organización común de mercados en el sector de la leche y de los productos lácteos [1] y, en particular, su artículo 10, Considerando lo siguiente: (1) En virtud de lo dispuesto en el artículo 26 del Reglamento (CE) no 2799/1999 de la Comisión, de 17 de diciembre de 1999, por el que se establecen las disposiciones de aplicación del Reglamento (CE) no 1255/1999 del Consejo en relación con la concesión de una ayuda a la leche desnatada y a la leche desnatada en polvo destinadas a la alimentación animal y con la venta de dicha leche desnatada en polvo [2], los organismos de intervención han puesto en licitación permanente ciertas cantidades de leche desnatada en polvo que obran en su poder. (2) En virtud de lo dispuesto en el artículo 30 de dicho Reglamento (CE) no 2799/1999, teniendo en cuenta las ofertas recibidas para cada licitación específica, se fijará un precio mínimo de venta o se decidirá no dar curso a la licitación. (3) El estudio de las ofertas recibidas lleva a la decisión de no dar curso a la licitación. (4) Las medidas previstas en el presente Reglamento se ajustan al dictamen del Comité de gestión de la leche y de los productos lácteos. HA ADOPTADO EL PRESENTE REGLAMENTO: Artículo 1 En lo que respecta a la 79a licitación específica efectuada con arreglo al Reglamento (CE) no 2799/1999 y para la cual el plazo de presentación de ofertas expiró el 22 de marzo de 2005, no se dará curso a la licitación. Artículo 2 El presente Reglamento entrará en vigor el 24 de marzo de 2005. El presente Reglamento será obligatorio en todos sus elementos y directamente aplicable en cada Estado miembro. Hecho en Bruselas, el 23 de marzo de 2005. Por la Comisión Mariann Fischer Boel Miembro de la Comisión [1] DO L 160 de 26.6.1999, p. 48. Reglamento modificado por el Reglamento (CE) no 186/2004 de la Comisión (DO L 29 de 3.2.2004, p. 6). [2] DO L 340 de 31.12.1999, p. 3. Reglamento cuya última modificación la constituye el Reglamento (CE) no 2250/2004 (DO L 381 de 28.12.2004, p. 25). -------------------------------------------------- "
+es_text = "EL CONSEJO DE LA UNIÓN EUROPEA, Visto el Tratado constitutivo de la Comunidad Europea y, en particular, su artículo 113, en relación con la primera frase del apartado 2 del artículo 228 y con el apartado 4 del artículo 228, Vista la propuesta de la Comisión, Considerando que, el 25 de septiembre de 1995, el Consejo autorizó a la Comisión para negociar, en nombre de la Comunidad, acuerdos para el control de precursores y sustancias químicas con los Estados miembros de la Organización de los Estados Americanos; Considerando que la Comisión, basándose en esta autorización, concluyó las negociaciones con los Estados Unidos Mexicanos el 25 de octubre de 1996; Considerando que conviene que el Consejo autorice a la Comisión, mediante consultas con un comité especial nombrado por el Consejo, a aprobar modificaciones en nombre de la Comunidad en los supuestos en los que el Acuerdo prevé que sean adoptadas por el Grupo mixto de seguimiento; que, no obstante, esta autorización se limitará a la modificación de los Anexos del Acuerdo siempre que se refiera a sustancias ya reguladas por la legislación comunitaria sobre precursores y sustancias químicas, DECIDE: Artículo 1 Queda aprobado, en nombre de la Comunidad, el Acuerdo entre la Comunidad Europea y los Estados Unidos Mexicanos para la cooperación en materia de control de los precursores y sustancias químicas utilizados con frecuencia en la fabricación ilícita de estupefacientes o de sustancias sicotrópicas. El texto del Acuerdo se adjunta a la presente Decisión. Artículo 2 El Presidente del Consejo podrá, en nombre de la Comunidad, comunicar al Gobierno de los Estados Unidos Mexicanos el instrumento previsto en el artículo 12 (1). Artículo 3 1. La Comunidad estará representada en el Grupo Mixto de Seguimiento previsto en el artículo 9 del Acuerdo por la Comisión, asistida por los representantes de los Estados miembros. 2. La Comisión está autorizada para aprobar, en nombre de la Comunidad, las modificaciones de los Anexos del presente Acuerdo adoptadas por el Grupo mixto de seguimiento mediante el procedimiento establecido en el artículo 10 del Acuerdo. La Comisión estará asistida en esta tarea por un comité especial nombrado por el Consejo y encargado de establecer una posición común. 3. La autorización mencionada en el apartado 2 se limitará a aquellas sustancias que ya están reguladas por la legislación comunitaria pertinente en materia de precursores de estupefacientes y de sustancias químicas. Artículo 4 La presente Decisión será publicada en el Diario Oficial de las Comunidades Europeas. Hecho en Bruselas, el 13 de marzo de 1997. Por el Consejo El Presidente M. PATIJN (1) La Secretaría General del Consejo se encargará de publicar la fecha de entrada en vigor del Acuerdo en el Diario Oficial de las Comunidades Europeas. "
 
 pipeline([es_text], max_length=512)
 ```
@@ -48,11 +48,13 @@ pipeline([es_text], max_length=512)
 The legal_t5_small_summ_es model was trained on [JRC-ACQUIS](https://wt-public.emm4u.eu/Acquis/index_2.2.html) dataset consisting of 23 Thousand texts.
 
 ## Training procedure
+An unigram model trained with 88M lines of text from the parallel corpus (of all possible language pairs) to get the vocabulary (with byte pair encoding), which is used with this model.
 
+The model was trained on a single TPU Pod V3-8 for 250K steps in total, using sequence length 512 (batch size 64). It has a total of approximately 220M parameters and was trained using the encoder-decoder architecture. The optimizer used is AdaFactor with inverse square root learning rate schedule for pre-training.
 ### Preprocessing
 
 ### Pretraining
-An unigram model with 88M parameters is trained over the complete parallel corpus to get the vocabulary (with byte pair encoding), which is used with this model.
+
 
 
 ## Evaluation results
@@ -67,3 +69,5 @@ Test results :
 
 
 ### BibTeX entry and citation info
+
+> Created by [Ahmed Elnaggar/@Elnaggar_AI](https://twitter.com/Elnaggar_AI) | [LinkedIn](https://www.linkedin.com/in/prof-ahmed-elnaggar/)