Update app.py

app.py

@@ -1,30 +1,51 @@
 import gradio as gr
-from transformers import AutoTokenizer, AutoModelWithLMHead, AutoModelForSeq2SeqLM
+import torch
+from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
 
+model_dir = "crrodrvi/modelo_simplificacion_bart"
+
+# Cargar tokenizer y modelo desde Hugging Face
+tokenizer = AutoTokenizer.from_pretrained(model_dir)
+model = AutoModelForSeq2SeqLM.from_pretrained(model_dir)
+
+# Función de inferencia para simplificación de texto
+def inference(input_text):
+    inputs = tokenizer(input_text, return_tensors="pt", max_length=512, truncation=True, padding="max_length")
+    
+    # Generar la secuencia de salida del modelo
+    with torch.no_grad():
+        outputs = model.generate(**inputs)
+    
+    # Decodificar la secuencia generada en texto legible
+    output_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
+    
+    return output_text
+    
 title = "Spanish Text Simplification"
 description = "Simplificación de noticias en español"
 examples = [
     ["""
-  El lanzamiento corresponde al alcalde de Vitoria-Gasteiz, aunque delega en los grupos políticos por rotación el lanzamiento del cohete. El turno se delega a cada grupo, de más a menos representación. Una tradición que implantó en 1999 Alfonso Alonso, ya que José Ángel Cuerda prendió año tras año el cohete durante sus 20 años como alcalde. Antes, en el Franquismo, los sucesivos alcaldes lanzaron el cohete, aunque también en otras ocasiones lo fue el responsable de la comisión de festejos.
-"""],
+    El lanzamiento corresponde al alcalde de Vitoria-Gasteiz, aunque delega en los grupos políticos por rotación el lanzamiento del cohete. El turno se delega a cada grupo, de más a menos representación. Una tradición que implantó en 1999 Alfonso Alonso, ya que José Ángel Cuerda prendió año tras año el cohete durante sus 20 años como alcalde. Antes, en el Franquismo, los sucesivos alcaldes lanzaron el cohete, aunque también en otras ocasiones lo fue el responsable de la comisión de festejos.
+    """],
     ["""
-La semana comienza con un descenso de las temperaturas en la mitad norte el lunes y el martes, 
-según la predicción del portavoz de la Agencia Estatal de Meteorología (AEMET), Rubén del Campo. 
-En concreto, este lunes la bajada será de hasta 10ºC en el Cantábrico con respecto a los valores del domingo. 
-Además, los vientos del norte serán intensos en la costa gallega, Valle del Ebro y Ampurdán catalán durante el martes, 
-jornada en la que el norte de Oviedo, Santander o Pamplona no llegarán a superar los 15ºC. 
-Ya el miércoles, habrá una bajada de temperaturas más generalizada
-"""]
+    La semana comienza con un descenso de las temperaturas en la mitad norte el lunes y el martes, 
+    según la predicción del portavoz de la Agencia Estatal de Meteorología (AEMET), Rubén del Campo. 
+    En concreto, este lunes la bajada será de hasta 10ºC en el Cantábrico con respecto a los valores del domingo. 
+    Además, los vientos del norte serán intensos en la costa gallega, Valle del Ebro y Ampurdán catalán durante el martes, 
+    jornada en la que el norte de Oviedo, Santander o Pamplona no llegarán a superar los 15ºC. 
+    Ya el miércoles, habrá una bajada de temperaturas más generalizada
+    """]
 ]
 
-# Cargar los modelos desde Hugging Face
-demo = gr.Interface.load("crrodrvi/modelo_simplificacion_bart",
-                         theme='huggingface', 
-                         inputs="textbox", 
-                         # outputs="textbox",
-                         title = title,
-                         description=description, 
-                         examples=examples)
+# Crear la interfaz de Gradio
+demo = gr.Interface(
+    fn=inference,
+    inputs=gr.Textbox(label="Input Text", placeholder="Enter text here...", lines=10),
+    outputs=gr.Textbox(label="Output Simplified Text", placeholder="Simplified text will appear here..."),
+    title=title,
+    description=description,
+    examples=examples
+)
 
 # Lanzar la aplicación
-demo.launch(share=True)
+demo.launch(share=True)