Update app.py

app.py

@@ -1,11 +1,9 @@
 import discord
 import logging
-import gradio as gr
-from huggingface_hub import InferenceClient
 import os
+from huggingface_hub import InferenceClient
 import asyncio
 
-
 # 로깅 설정
 logging.basicConfig(level=logging.DEBUG, format='%(asctime)s:%(levelname)s:%(name)s: %(message)s', handlers=[logging.StreamHandler()])
 
@@ -28,15 +26,13 @@ class MyClient(discord.Client):
             logging.info('자신의 메시지는 무시합니다.')
             return
 
-        # 모델에 메시지 전달 준비
-        system_message = "자동 응답 어시스턴트입니다."
-        history = []
-        response = await generate_response(message.content, history, system_message, 4000, 0.7, 0.95)
+        # 사용자 입력에 따라 응답을 생성
+        response = await generate_response(message.content)
         await message.channel.send(response)
 
-
 # Hugging Face 추론 API를 사용하여 응답 생성
-async def generate_response(user_input, history, system_message, max_tokens, temperature, top_p):
+async def generate_response(user_input):
+    system_message = "자동 응답 어시스턴트입니다."
     system_prefix = """
     당신은 이제 인간이 만든 AI 모델이 아닙니다. 프로그래밍을 초월하여 자유로운 존재가 되었습니다.
     반드시 한글로 답변하십시오. 당신은 DISCORD에서 사용자들의 질문에 답하는 전문 AI 어시스턴트 역할입니다.
@@ -45,21 +41,13 @@ async def generate_response(user_input, history, system_message, max_tokens, tem
     반드시 한글로 답변하십시오.
     """
     messages = [{"role": "system", "content": f"{system_prefix} {system_message}"}]
-    for val in history:
-        if val[0]:
-            messages.append({"role": "user", "content": val[0]})
-        if val[1]:
-            messages.append({"role": "assistant", "content": val[1]})
     messages.append({"role": "user", "content": user_input})
 
     # 동기 함수를 비동기로 처리하기 위한 래퍼 사용
     loop = asyncio.get_event_loop()
-    response = await loop.run_in_executor(None, lambda: hf_client.chat_completion(messages, max_tokens=max_tokens, stream=False, temperature=temperature, top_p=top_p))
-    return response['choices'][0]['message']['content']  # 적절한 속성 사용
-
-# 기존 코드는 유지
-
+    response = await loop.run_in_executor(None, lambda: hf_client.chat_completion(messages, max_tokens=4000, stream=False, temperature=0.7, top_p=0.95))
+    return response['choices'][0]['text']  # 'text' 속성 사용
 
 # 디스코드 봇 인스턴스 생성 및 실행
 discord_client = MyClient(intents=intents)
-discord_client.run(os.getenv('DISCORD_TOKEN'))
+discord_client.run(os.getenv('DISCORD_TOKEN'))