Update app.py

app.py

@@ -15,7 +15,7 @@ MAX_MAX_NEW_TOKENS = 1536
 DEFAULT_MAX_NEW_TOKENS = 1024
 MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "8192"))
 
-model_id = "BramVanroy/GEITje-7B-ultra"
+model_id = "BramVanroy/fietje-2b-sft"
 model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.bfloat16, device_map="auto")
 model = model.to("cuda" if torch.cuda.is_available() else "cpu")
 tokenizer = AutoTokenizer.from_pretrained(model_id)
@@ -51,7 +51,7 @@ def generate(
     conversation = [
         {
             "role": "system",
-            "content": f"Je bent 'GEITje Ultra', of 'Ultra' in het kort, een behulpzame en enthousiaste AI-assistent."
+            "content": f"Je bent Fietje, een behulpzame, efficiënte en enthousiaste AI-assistent die in het Nederlands communiceert."
                        f" Je werd gemaakt door Bram Vanroy, een onderzoeker aan de KU Leuven en het Instituut voor de Nederlandse Taal (INT)."
                        f" De huidige datum en tijd is {now_str}."
         }
@@ -91,9 +91,9 @@ def generate(
 chat_interface = gr.ChatInterface(
     fn=generate,
     chatbot=gr.Chatbot(height=450,
-                      label="GEITje-7B-ultra",
+                      label="Fietje",
                       show_share_button=True,
-                      avatar_images=(None, 'geitje-ultra-avatar.png')),
+                      avatar_images=(None, 'fietje-2b-avatar.png')),
     additional_inputs=[
         gr.Slider(
             label="Max new tokens",
@@ -146,10 +146,10 @@ chat_interface = gr.ChatInterface(
         ["Ik wil in Python een nieuwe abstracte klasse aanmaken die `Dier` heet en die een abstracte methode `geluid_maken` heeft. Maak daarnaast ook een subklasse `Geit` aan, met een passende invulling van `geluid_maken` voor dit mekkerende dier."],
         ["Wat is het belang van open-source taalmodellen?"],
     ],
-    title="🐐 GEITje ultra 🤖",
+    title="Fietje",
     description="""\
 <div style="float: left; margin-right: 1em; margin-bottom: 0.48em; max-width: 96px;">
-    <img src="https://huggingface.co/spaces/BramVanroy/GEITje-7B-ultra/resolve/main/geitje-ultra-avatar.png" style="display: inline-block; width: auto; height: auto;border-radius:50%">
+    <img src="fietje-2b-banner.png" style="display: inline-block; width: auto; height: auto;border-radius:50%">
     <div style="clear: both"></div>
 </div>
 
@@ -170,12 +170,10 @@ with gr.Blocks(css="style.css") as demo:
 
 Hoewel dit model gealigneerd is met AI feedback (van gpt-4-turbo), kan en zal het nog steeds fouten maken, leugens verzinnen, redeneringsfouten maken, en misschien wel stoute dingen vertellen. Gebruik dit model dus op eigen risico en controleer de output zelf!
 
-Als je problemen ondervindt, [rapporteer die dan gerust](https://huggingface.co/spaces/BramVanroy/GEITje-ultra/discussions), al zal ik er waarschijnlijk niet veel aan kunnen verhelpen! Toch is het goed om een verslag bij te houden van mogelijke vooroordelen of problemen die het model heeft, zodat daar in toekomstige ontwikkelingen rekening mee gehouden kan worden. 
+Als je problemen ondervindt, [rapporteer die dan gerust](https://huggingface.co/spaces/BramVanroy/fietje-2b/discussions), al zal ik er waarschijnlijk niet veel aan kunnen verhelpen! Toch is het goed om een verslag bij te houden van mogelijke vooroordelen of problemen die het model heeft, zodat daar in toekomstige ontwikkelingen rekening mee gehouden kan worden. 
 In deze demo wordt gebruik gemaakt van deze system message:
 
-> Je bent 'GEITje Ultra', of 'Ultra' in het kort, een behulpzame en enthousiaste AI-assistent. Je werd gemaakt door Bram Vanroy, een onderzoeker aan de KU Leuven en het Instituut voor de Nederlandse Taal (INT). De huidige datum en tijd is {huidige_tijd}.
-
-<small>Deze demo is gebaseerd op de originele <a href="https://huggingface.co/spaces/Rijgersberg/GEITje-7B-chat">Geitje Chat</a> demo, die dan weer op deze [mistral demo](https://huggingface.co/spaces/hysts/mistral-7b) gebaseerd is.</small>
+> Je bent Fietje, een behulpzame, efficiënte en enthousiaste AI-assistent die in het Nederlands communiceert. Je werd gemaakt door Bram Vanroy, een onderzoeker aan de KU Leuven en het Instituut voor de Nederlandse Taal (INT). De huidige datum en tijd is {huidige_tijd}.
 """)
 
 if __name__ == "__main__":