Update app.py

app.py

@@ -15,10 +15,29 @@ import gradio as gr
 import os
 import random
 import gc
-# 메모리 관리 설정 추가
-import torch.backends.cuda
-torch.backends.cuda.max_split_size_mb = 128  # 메모리 분할 크기 제한
 
+# 상수 정의 (맨 앞으로 이동)
+MAX_SEED = 2**32 - 1
+BASE_MODEL = "black-forest-labs/FLUX.1-dev"
+MODEL_LORA_REPO = "Motas/Flux_Fashion_Photography_Style"
+CLOTHES_LORA_REPO = "prithivMLmods/Canopus-Clothing-Flux-LoRA"
+
+# 메모리 관리 설정
+torch.cuda.empty_cache()
+gc.collect()
+os.environ['PYTORCH_CUDA_ALLOC_CONF'] = 'max_split_size_mb:128'
+torch.backends.cudnn.benchmark = True
+torch.backends.cuda.matmul.allow_tf32 = True
+torch.backends.cuda.max_split_size_mb = 128
+
+# Hugging Face 토큰 설정
+HF_TOKEN = os.getenv("HF_TOKEN")
+if HF_TOKEN is None:
+    raise ValueError("Please set the HF_TOKEN environment variable")
+login(token=HF_TOKEN)
+
+# CUDA 설정
+device = "cuda" if torch.cuda.is_available() else "cpu"
 
 # 전역 변수로 모델들을 선언
 fashion_pipe = None
@@ -30,6 +49,12 @@ pt_model = None
 vt_inference = None
 pt_inference = None
 
+def clear_memory():
+    if torch.cuda.is_available():
+        torch.cuda.empty_cache()
+        torch.cuda.synchronize()
+    gc.collect()
+
 # 초기화 함수
 def initialize_models():
     global fashion_pipe
@@ -41,20 +66,10 @@ def initialize_models():
         )
         fashion_pipe.to(device)
 
-# 앱 시작 시 모델 초기화
+# 여기서 initialize_models 호출
 initialize_models()
 
-# 메모리 관리 설정
-torch.cuda.empty_cache()
-gc.collect()
-os.environ['PYTORCH_CUDA_ALLOC_CONF'] = 'max_split_size_mb:128'
-torch.backends.cudnn.benchmark = True
-torch.backends.cuda.matmul.allow_tf32 = True
-def clear_memory():
-    if torch.cuda.is_available():
-        torch.cuda.empty_cache()
-        torch.cuda.synchronize()
-    gc.collect()
+
 
 # 모델 사용 후 메모리 해제
 def unload_models():
@@ -66,11 +81,6 @@ def unload_models():
     vt_model = None
     pt_model = None
     clear_memory()
-# 상수 정의
-MAX_SEED = 2**32 - 1
-BASE_MODEL = "black-forest-labs/FLUX.1-dev"
-MODEL_LORA_REPO = "Motas/Flux_Fashion_Photography_Style"
-CLOTHES_LORA_REPO = "prithivMLmods/Canopus-Clothing-Flux-LoRA"
 
 # Hugging Face 토큰 설정
 HF_TOKEN = os.getenv("HF_TOKEN")