dromerosm commited on
Commit
cf70d81
·
1 Parent(s): 4dcca54

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +13 -1
app.py CHANGED
@@ -6,6 +6,7 @@ import json
6
  import re
7
  from transformers import GPT2Tokenizer
8
  import requests
 
9
 
10
 
11
  # define the text summarizer function
@@ -16,6 +17,8 @@ def text_prompt(page_url, contraseña, temp):
16
  2. Actividades sospechosas o inusuales descritas en el texto"""
17
 
18
  system_role = "Actua como analista de riesgos especializado en cumplimiento normativo y CSC. Tendrás una sólida formación en finanzas, derecho o gestión, y estaría familiarizado con la normativa local e internacional relacionada con la prevención del blanqueo de capitales y la financiación del terrorismo. Poseerás avanzadas capacidades analíticas y de investigación, lo que te permitirá evaluar eficazmente la información facilitada en las noticias y determinar el nivel de riesgo asociado a las partes implicadas. También tendrás excelentes dotes de comunicación escrita y verbal para presentar de forma clara y concisa las conclusiones en un informe accesible a los ejecutivos y otras partes interesadas de la organización. Además, estarás al día de las tendencias y novedades en el ámbito del cumplimiento de la normativa y la gestión de riesgos."
 
 
19
 
20
  try:
21
  headers = {'User-Agent': 'Chrome/83.0.4103.106'}
@@ -29,6 +32,10 @@ def text_prompt(page_url, contraseña, temp):
29
  except Exception as e:
30
  return "", f"--- An error occurred while processing the URL: {e} ---", ""
31
 
 
 
 
 
32
  tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
33
  sentences = page.text.split('.')
34
 
@@ -45,12 +52,15 @@ def text_prompt(page_url, contraseña, temp):
45
 
46
  # Delete the last space
47
  page_text = page_text.strip()
48
-
49
  num_tokens = len(tokens)
50
 
 
 
 
51
  if num_tokens > 10 and contraseña.startswith("sk-"):
52
  openai.api_key = contraseña
53
  # get the response from openai API
 
54
  try:
55
  response = openai.ChatCompletion.create(
56
  model="gpt-3.5-turbo",
@@ -71,6 +81,8 @@ def text_prompt(page_url, contraseña, temp):
71
  response_text = f"#### [{page.title}]({page_url})\n\n{response_text.strip()}"
72
  total_tokens_str = str(total_tokens) + " (${:.2f} USD)".format(total_tokens/1000*0.002)
73
 
 
 
74
 
75
  return page.text, response_text, total_tokens_str
76
  except Exception as e:
 
6
  import re
7
  from transformers import GPT2Tokenizer
8
  import requests
9
+ import time
10
 
11
 
12
  # define the text summarizer function
 
17
  2. Actividades sospechosas o inusuales descritas en el texto"""
18
 
19
  system_role = "Actua como analista de riesgos especializado en cumplimiento normativo y CSC. Tendrás una sólida formación en finanzas, derecho o gestión, y estaría familiarizado con la normativa local e internacional relacionada con la prevención del blanqueo de capitales y la financiación del terrorismo. Poseerás avanzadas capacidades analíticas y de investigación, lo que te permitirá evaluar eficazmente la información facilitada en las noticias y determinar el nivel de riesgo asociado a las partes implicadas. También tendrás excelentes dotes de comunicación escrita y verbal para presentar de forma clara y concisa las conclusiones en un informe accesible a los ejecutivos y otras partes interesadas de la organización. Además, estarás al día de las tendencias y novedades en el ámbito del cumplimiento de la normativa y la gestión de riesgos."
20
+
21
+ start_time = time.time()
22
 
23
  try:
24
  headers = {'User-Agent': 'Chrome/83.0.4103.106'}
 
32
  except Exception as e:
33
  return "", f"--- An error occurred while processing the URL: {e} ---", ""
34
 
35
+ url_processing_time = time.time() - start_time
36
+ print(f"URL processing time: {url_processing_time:.4f} seconds")
37
+
38
+ start_time = time.time()
39
  tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
40
  sentences = page.text.split('.')
41
 
 
52
 
53
  # Delete the last space
54
  page_text = page_text.strip()
 
55
  num_tokens = len(tokens)
56
 
57
+ tokenization_time = time.time() - start_time
58
+ print(f"Tokenization time: {tokenization_time:.4f} seconds")
59
+
60
  if num_tokens > 10 and contraseña.startswith("sk-"):
61
  openai.api_key = contraseña
62
  # get the response from openai API
63
+ start_time = time.time()
64
  try:
65
  response = openai.ChatCompletion.create(
66
  model="gpt-3.5-turbo",
 
81
  response_text = f"#### [{page.title}]({page_url})\n\n{response_text.strip()}"
82
  total_tokens_str = str(total_tokens) + " (${:.2f} USD)".format(total_tokens/1000*0.002)
83
 
84
+ api_processing_time = time.time() - start_time
85
+ print(f"API processing time: {api_processing_time:.4f} seconds")
86
 
87
  return page.text, response_text, total_tokens_str
88
  except Exception as e: