app.py

import gradio as gr
from inference import generate
examples = [
    ["С помощью круглых тензоров"],
    ["gpt40 это"],
]
demo = gr.Interface(
    fn=generate,
    title="Генератор ебаных идей для резерча.",
    inputs=gr.inputs.Textbox(lines=5, label="Ввод"),
    outputs=gr.outputs.Textbox(label="Генерация"),
    examples=examples
)    
if __name__ == "__main__":
    demo.launch()