wiklif commited on
Commit
440c906
·
1 Parent(s): 26cfd85

fix history

Browse files
Files changed (1) hide show
  1. app.py +9 -5
app.py CHANGED
@@ -12,11 +12,14 @@ def generate_response(chat, kwargs):
12
  output += response.token.text
13
  return output
14
 
15
- def function(prompt):
16
- chat = f"<s>[INST] {prompt} [/INST]</s>"
 
 
 
17
  kwargs = dict(
18
- temperature=0.5,
19
- max_new_tokens=4096,
20
  top_p=0.95,
21
  repetition_penalty=1.0,
22
  do_sample=True, # Upewnij się, że używasz próbkowania
@@ -50,4 +53,5 @@ interface = gr.ChatInterface(
50
  clear_btn=None
51
  )
52
 
53
- interface.launch(show_api=True)
 
 
12
  output += response.token.text
13
  return output
14
 
15
+ def function(prompt, history=[]): # Tutaj dodajemy history jako opcjonalny parametr
16
+ chat = "<s>"
17
+ for user_prompt, bot_response in history:
18
+ chat += f"[INST] {user_prompt} [/INST] {bot_response}</s> "
19
+ chat += f"[INST] {prompt} [/INST]</s>"
20
  kwargs = dict(
21
+ temperature=0.80,
22
+ max_new_tokens=2048,
23
  top_p=0.95,
24
  repetition_penalty=1.0,
25
  do_sample=True, # Upewnij się, że używasz próbkowania
 
53
  clear_btn=None
54
  )
55
 
56
+ # Ustawienie share=True pozwala na stworzenie publicznego linku do aplikacji
57
+ interface.launch(show_api=True, share=True)