cnmoro/TeenyTinyLlama-460m-Summarizer-PTBR

Finetuned from nicholasKluge/TeenyTinyLlama-460m on 80.000 high quality PTBR text/summary pairs for 6 epochs.

On each epoch a new subset of parameters was selected for finetuning (instead of performing full finetuning or using just a fixed subset)

This is the raw template (the delimiter tokens and their positions were selected carefully based on the base model tokenizer):

<s>Faça o resumo do texto a seguir:

<code> {text_to_summarize} </code>

Resumo:

<p> {summary} </p></s>

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")

model_path = f"cnmoro/TeenyTinyLlama-460m-Summarizer-PTBR"

model = AutoModelForCausalLM.from_pretrained(model_path).to(device)
tokenizer = AutoTokenizer.from_pretrained(model_path)

def count_tokens(text):
    return len(tokenizer(text, return_tensors="pt")["input_ids"][0])

text_to_summarize = """
Limpar o vaso sanitário é uma tarefa que não interessa às pessoas. No entanto, muitos rezam por tecnologia que possa poupá-los dessa missão desagradável. Aparentemente, essas preces foram atendidas: um grupo de cientistas chineses desenvolveu o conceito de um vaso sanitário autolimpante e conseguiu torná-lo realidade. Graças à impressão 3D, pesquisadores da Universidade de Ciência e Tecnologia de Huazhong conseguiram revolucionar a tarefa doméstica desagradável. O vaso sanitário autolimpante, conhecido como "ARSFT", sigla para "descarga de vaso sanitário super escorregadia resistente à abrasão" — a tecnologia que permite a limpeza automática — surgiu de uma combinação complexa de plástico e grãos de areia que repelem a água. Em termos simples, a tecnologia garante que nenhuma substância grude na superfície. Portanto, além de ser uma salvação para muitos, isso pode ser uma alternativa mais sustentável aos vasos sanitários convencionais. O site New Scientist entrevistou um dos cientistas do projeto, Yike Li, que criou o vaso sanitário autolimpante. Segundo Li, os chineses utilizaram, além da combinação de plástico e grãos de areia, um laser para unir as partículas, criando assim o vaso sanitário autolimpante impresso em 3D. Após a impressão, os pesquisadores usaram óleo de silicone para lubrificar a superfície do vaso sanitário, conseguindo penetrá-lo devido à estrutura do modelo. Isso gerou a capacidade de autolimpeza do vaso sanitário, com os seguintes materiais não deixando marcas após a descarga: Leite; Iogurte; Mel; Água suja; Gel de amido misturado com mingau. Os cientistas chineses também testaram o vaso sanitário autolimpante com fezes sintéticas, usando uma mistura de miso, fermento, óleo de amendoim e água, conseguindo imitar as fezes humanas. Embora possa parecer estranho que cientistas trabalhem para criar tecnologias de vaso sanitário, várias inovações aparentemente "desnecessárias" podem ter um grande impacto global. O vaso sanitário autolimpante criado por pesquisadores chineses pode reduzir consideravelmente o desperdício de água. Segundo os cientistas chineses, o vaso sanitário autolimpante pode resistir a mil ciclos de raspagem graças à sua capacidade super escorregadia. Portanto, o vaso sanitário autolimpante possui um novo método de descarga que minimiza o consumo de água — e o desperdício. O Daily Mail destaca que, desde sua invenção no século 18, embora o vaso sanitário tenha aumentado a higiene, uma quantidade significativa de água é necessária devido à aderência entre a superfície do vaso sanitário e as fezes e urina humanas. Em todo o mundo, as descargas de vasos sanitários correspondem a 141 bilhões de litros de água por dia. Portanto, além de economizar um recurso valioso para a humanidade, o vaso sanitário autolimpante também tem outro benefício ambiental. Em locais como banheiros públicos e químicos, especialmente onde não há conexão com o sistema de saneamento, o vaso sanitário autolimpante aparece como uma solução ideal.
""".replace('\n', ' ').strip()

prompt = f"""<s>Faça o resumo do texto a seguir:

<code> {text_to_summarize} </code>

Resumo:

<p> """

inputs = tokenizer(prompt, return_tensors="pt")

completions = model.generate(
    **inputs.to(device),
    temperature=0.5,
    top_p=0.5,
    top_k=50,
    max_new_tokens=2243-count_tokens(prompt)
)

result = f'{tokenizer.decode(completions[0][len(inputs["input_ids"][0]):])}'

summary = result.split("</p>")[0].strip()

# O vaso sanitário autolimpante foi desenvolvido pela Universidade de Ciência e Tecnologia de Huazhong, sendo capaz de limpar automaticamente a sujeira sem causar danos ao meio ambiente. A tecnologia consiste em plástico e grãos de areia que repelem a água, tornando-a uma opção mais sustentável para aqueles que buscam soluções ecológicas. Um dos pesquisadores, Yike Li utilizou o laser para unir partículas de leite e mel para criar o vaso sanitário autolimpante, resultando em uma forma única de autolimpeza. Apesar das preocupações ambientais relacionadas ao uso excessivo de água, o vaso sanitário autolimpante continua sendo uma inovação inovadora que ajuda a reduzir significativamente o desperdício de água.